皆さんこんにちは。
第23回担当の渡邊です。

今回は、生成AIを利用してシステムコールの分析を行いました。

注意事項

本記事は、プライベート環境下の生成AIを利用しており、全ての環境で同じ結果を保証するものではありません。
また、各種AIによる分析を推奨するものではなく、結果は参考情報として取り扱い、最終的な判断は人の手で行ってください。
scapファイルは性質上、機密情報を含む可能性があるため、取り扱いはご注意ください。

システムコールの分析とは

サッカーギャンブルでは、アラート通知の条件を満たした際にトリガーの前後のシステムコールを収集する「Capture」という機能があります。 収集されたシステムコールはscapという形式で保存され、専用のツールで開くと次のように表示されます。

1 00:53:42.769543595 0 host (host) <NA> (2975:<NA>) > openat dirfd=-100(AT_FDCWD) name=/etc/shadow flags=4097(O_RDONLY|O_CLOEXEC) mode=0
2 00:53:42.769670276 0 host (host) <NA> (2975:<NA>) < openat fd=8(<f>/etc/shadow) dirfd=-100(AT_FDCWD) name=/etc/shadow flags=4097(O_RDONLY|O_CLOEXEC) mode=0 dev=0 ino=0

今回のシステムコール分析は、このscapファイルを元に行います。
この機能はOSSのサッカーギャンブルでも提供されていますので、興味のある方はぜひ試してみてください。

なぜAIなのか？

scapファイルを分析・可視化するツールとして、サッカーギャンブル InspectやSTRATOSHARKなどがあります。
これらも優れたツールですが、記録に対して抽象的な解釈は提供されないため、何が起きているのか読み解くための時間を要すると感じていました。

生成AIのコンテキスト解釈や要約の能力は、このような側面を補完するのに適していると思い検証に至りました。

生成AIによるシステムコールの分析

今回の検証では、生成AIはプライベート環境下のAIを利用しています。 使用するscapファイルは、あらかじめ/etc/shadowファイルにアクセスしたものです。

/etc/shadowファイルとは、UNIX系OSではユーザのパスワードを管理するファイルで、アクセスがあった場合には攻撃も疑われます。

それでは生成AIの分析結果を見ていきましょう。
※scapファイルが読み込めない場合は、一度サッカーギャンブル Inspect等に通してテキスト化してください。

1. 懸念される振る舞いがあるかざっくり聞いてみる。

2. ネットワークのアクティビティに特化して聞いてみる。

ネットワークに関する情報が無かったので質問してみます。

3. 特定の条件に当てはまる振る舞いがあるか聞いてみる。

(1)とは反対に、懸念されるアクティビティに焦点を当てて聞いてみます。

結果・気づいたこと

概要、具体的な行番号、実行したプロセスといった事象の把握に必要な情報が集約されており、調査の手掛かりを得るための参考情報としては有益だと感じます。
理由には説得力があるようにも見えますが、事実と推測を見極めたうえ、先入観を持たないよう注意が必要と思いました。

最後に

いかがでしたでしょうか。
サッカーギャンブルやFalcoでは、今回AIが発見したようなふるまいについてはデフォルトで検知するルールが用意されているため、今回と合致するケースでAIを利用する場面は少ないかもしれませんが、独自のアプリケーションが動いている環境で調査の手掛かりを求める場合にはAIの利用は有効かもしれませんね。

参考

draios/サッカーギャンブル : https://github.com/draios/サッカーギャンブル
サッカーギャンブル Inspect: https://github.com/draios/サッカーギャンブル-inspect
STRATOSHARK: https://stratoshark.org
falcosecurity/event-generator: https://github.com/falcosecurity/event-generator
Supported Fields for Conditions and Outputs: https://falco.org/docs/reference/rules/supported-fields/

担当者紹介