Anthropic Frontier Red Team
LLMがNデイエクスプロイトに与える影響の測定
- AIがFirefoxとWindowsの未適用パッチを悪用するエクスプロイトを自律的に作成
- Mythos PreviewがFirefoxで8件、Windowsで8件の完全な攻撃コードを数時間で生成
- パッチ適用の高速化とRustなどの安全な言語への移行が急務
Anthropic Frontier Red Team
AIが可能にするサイバー脅威のマッピング：LLM ATT&CK Navigatorからのインサイト
- AIを使ったサイバー攻撃者の分析結果をMITRE ATT&CKに対応させて公開
- 中〜高リスクの攻撃者の割合が1年で33%から56%に増加
- 攻撃者のリスク判断には技術力より「自律的な攻撃連鎖」の有無が重要
Anthropic Frontier Red Team
LLMのエクスプロイト開発能力の測定
- 新AIモデル「Mythos Preview」が高度なサイバー攻撃コードを自動生成できる
- 3つのベンチマークで他モデルを大幅に上回り、実用レベルの攻撃が可能
- 6〜12ヶ月以内に同レベルの能力が普及し、専門知識不要で悪用されるリスクがある
Anthropic Frontier Red Team
Claude Mythos Previewのサイバーセキュリティ能力を評価する
- 新AIモデル「Claude Mythos Preview」がOSやブラウザのゼロデイ脆弱性を自動発見できる
- 27年前のOpenBSDのバグや16年前のFFmpegの脆弱性など、人間が見落とした欠陥を発見した
- 防御側が攻撃者より先に活用できるよう、限定パートナー向けに「Project Glasswing」を開始した