実験中の取り組み
システムの脆弱性を、
AIが調べる。
Sovereign GaiXer(ソブリンガイザー)は、社内に置いて使うオンプレミス生成AIアプライアンス(専用の機器)です。AIは、この本体の中で動きます。
AIがソースコードのファイルを1つずつ読み、認証の抜けや入力の確かめ忘れなどを探します。
システムは更新されるのに、点検は年に数回になりがちです。
ISSUE 01
クラウドのAIや診断サービスに渡せば手早く調べられます。ただ、契約や社内の規程で、ソースコードを社外へ送れない会社があります。
ISSUE 02
専門家の診断は予約から報告まで数週間かかり、費用もかかります。システムを更新するたびに頼むことはできません。
ISSUE 03
決まったパターンを探す道具は、問題のない箇所まで大量に挙げます。仕分けているうちに、本当の問題が埋もれます。
オープンソースの診断ツール Clearwing(MITライセンス)を、Sovereign GaiXerの中のAIで動かし、ソースコードの脆弱性を調べる実験です。
Sovereign GaiXerの上で動きます。
調べるリポジトリを選び、範囲を決めて流します。外から届く入口・認証・決済のように、重要な所から先に調べられます。途中の進み具合と、見つかった指摘はその場で画面に出ます。
AIはファイルを1つずつ読み、処理の流れを追って問題を探します。指摘には、該当するファイルと場所、重要度、修正方法の案がつくので、開発者はそのままコードを開いて確かめられます。
探す問題の例
認証署名やトークンを確かめていない、権限の確認が抜けている
入力外から届く値を確かめずに、SQL・ファイルの場所・転送先に使っている
手順支払いや承認の順番を飛ばせる、同じ処理を二重に通せる
速いAIで全ファイルを一通り調べ、慎重なAIで重要なファイルを重ねて調べます。AIごとに見つける問題の種類が違うため、重ねると1つのAIだけでは残る見落としが埋まります。複数のAIが挙げた指摘は、優先して確かめる印が付きます。
診断の結果は、SARIF・Markdown・JSONで書き出せます。SARIFはコード管理の画面で行ごとに表示でき、Markdownはそのまま報告書に使えます。
ソースコードは、Sovereign GaiXerの中のAIが読みます。
POINT 01
ソースコードを、社外のAIサービスへ送ることはありません。
POINT 02
診断は、インターネットにも社内の網にも出られない区画の中で動きます。始める前に、外へ出られないことを確かめます。
POINT 03
ビルドや問題の再現は、ネットワークを切った使い捨ての環境の中だけで行い、終わったら捨てます。
DONE
Sovereign GaiXerで、ソースコードの診断ができました。
複数AIで調べる仕組みを使って、診断を行えます。
取り組みについての疑問にお答えします
送られません。AIはSovereign GaiXerの中で動き、診断は外へ出られない区画の中で行います。
指摘は、担当者がコードと照らして確かめてから扱ってください。AIの指摘には、手前の処理で防がれているものも含まれます。指摘にはファイルと場所がつくので、確かめる手間は小さく済みます。
調べ方とファイルの数で変わります。重要な所から先に調べることや、本体を増やして手分けすることで短くできます。
できません。この実験で調べるのはソースコードです。動いているサーバーへの侵入テストや、見つかった問題を実際に悪用できるかの実証は行いません。