実験中の取り組み

システムの脆弱性を、
AIが調べる。

Clearwingを使った
AIによる脆弱性診断の実験

Sovereign GaiXer(ソブリンガイザー)は、社内に置いて使うオンプレミス生成AIアプライアンス(専用の機器)です。AIは、この本体の中で動きます。

AIがソースコードのファイルを1つずつ読み、認証の抜けや入力の確かめ忘れなどを探します。

  • 指摘に、ファイルと場所と修正方法の案を添えます
  • 得意分野の違う複数のAIで調べる
  • ソースコードをSovereign GaiXerで調べる
動作イメージ
受注管理システム > 指摘 4件重要度で絞る
外部からの通知の署名を確かめていない高
決済後の戻り先URLを確かめずに使う中
形の崩れた入力でエラーになる低
開発用の設定で利用者をヘッダから取る低
指摘を選ぶと、右側に根拠のコードが出ます
指摘の詳しい内容
場所
api/webhooks/billing.py 42〜48行
根拠のコード
token = request.headers["Authorization"] claims = jwt.decode(token, options={ "verify_signature": False}) apply_payment(claims["order_id"])
内容
外部から届く支払いの通知で、トークンの署名を確かめずに中身を使っています。偽の通知で、支払い済みの扱いにされるおそれがあります。
修正方法の案
発行元の公開鍵で署名を確かめてから、中身を使う。
※ 診断の結果を画面にしたイメージです。

ソースコードの点検で、起きていること

システムは更新されるのに、点検は年に数回になりがちです。

ISSUE 01

ソースコードを
社外に出せない

クラウドのAIや診断サービスに渡せば手早く調べられます。ただ、契約や社内の規程で、ソースコードを社外へ送れない会社があります。

ISSUE 02

外部の診断は
頻繁に頼めない

専門家の診断は予約から報告まで数週間かかり、費用もかかります。システムを更新するたびに頼むことはできません。

ISSUE 03

決まった型を探す道具は
指摘が多すぎる

決まったパターンを探す道具は、問題のない箇所まで大量に挙げます。仕分けているうちに、本当の問題が埋もれます。

この実験について

オープンソースの診断ツール Clearwing(MITライセンス)を、Sovereign GaiXerの中のAIで動かし、ソースコードの脆弱性を調べる実験です。

できること

Sovereign GaiXerの上で動きます。

Scan

リポジトリと範囲を選んで、
診断を流す

調べるリポジトリを選び、範囲を決めて流します。外から届く入口・認証・決済のように、重要な所から先に調べられます。途中の進み具合と、見つかった指摘はその場で画面に出ます。

Findings

指摘に、ファイルと場所と
修正方法の案を添える

AIはファイルを1つずつ読み、処理の流れを追って問題を探します。指摘には、該当するファイルと場所、重要度、修正方法の案がつくので、開発者はそのままコードを開いて確かめられます。

探す問題の例

認証署名やトークンを確かめていない、権限の確認が抜けている

入力外から届く値を確かめずに、SQL・ファイルの場所・転送先に使っている

手順支払いや承認の順番を飛ばせる、同じ処理を二重に通せる

@router.post("/webhooks/billing") def billing_webhook(request): token = request.headers["Authorization"] claims = jwt.decode(token, options={ "verify_signature": False}) apply_payment(claims["order_id"])
※ コードは説明用に作った例です。
Two models

得意分野の違う
複数のAIで調べる

速いAIで全ファイルを一通り調べ、慎重なAIで重要なファイルを重ねて調べます。AIごとに見つける問題の種類が違うため、重ねると1つのAIだけでは残る見落としが埋まります。複数のAIが挙げた指摘は、優先して確かめる印が付きます。

Export

結果を、いつもの道具で
読める形で書き出す

診断の結果は、SARIF・Markdown・JSONで書き出せます。SARIFはコード管理の画面で行ごとに表示でき、Markdownはそのまま報告書に使えます。

安心のセキュリティ

ソースコードは、Sovereign GaiXerの中のAIが読みます。

POINT 01

AIは本体の中で
動く

ソースコードを、社外のAIサービスへ送ることはありません。

POINT 02

外とつながらない
区画で動かす

診断は、インターネットにも社内の網にも出られない区画の中で動きます。始める前に、外へ出られないことを確かめます。

POINT 03

動かして確かめるのは
使い捨ての環境

ビルドや問題の再現は、ネットワークを切った使い捨ての環境の中だけで行い、終わったら捨てます。

ここまでの結果

DONE

Sovereign GaiXerで動作

Sovereign GaiXerで、ソースコードの診断ができました。
複数AIで調べる仕組みを使って、診断を行えます。

各種お問い合わせ

取り組みに関心をお持ちの方は、お気軽にご相談ください

15分オンライン相談

取り組みの内容や、ここまでの状況を
ご説明します。

相談する >

よくあるご質問

取り組みについての疑問にお答えします

ソースコードは、社外のAIサービスに送られますか?

送られません。AIはSovereign GaiXerの中で動き、診断は外へ出られない区画の中で行います。

AIの指摘は、そのまま信じてよいですか?

指摘は、担当者がコードと照らして確かめてから扱ってください。AIの指摘には、手前の処理で防がれているものも含まれます。指摘にはファイルと場所がつくので、確かめる手間は小さく済みます。

どのくらいの時間がかかりますか?

調べ方とファイルの数で変わります。重要な所から先に調べることや、本体を増やして手分けすることで短くできます。

動いているサーバーに攻撃を試す診断もできますか?

できません。この実験で調べるのはソースコードです。動いているサーバーへの侵入テストや、見つかった問題を実際に悪用できるかの実証は行いません。