金融業界のAIレッドチーミング:手動テストが失敗する理由とマルチモデル・ガントレットによる防御(AI吹き替え)
Download and listen anywhere
Download your favorite episodes and enjoy them, wherever you are! Sign up or log in now to access offline listening.
金融業界のAIレッドチーミング:手動テストが失敗する理由とマルチモデル・ガントレットによる防御(AI吹き替え)
Description
たった一度のマルチターン・プロンプトインジェクションで、25万ドルの不正送金が実行されることがあります。領収書の画像に隠された文字だけで十分なのです。このエピソードでは、金融分野の確率的なAIエージェントに対してファイアウォールや手動テストがなぜ通用しないのか、そして複数モデルによる継続的で自動化されたレッドチーミングがそれをどう置き換えるのかを解説します。このエピソードで学べること:エージェントの行動を人間のスポンサーまで追跡できる企業がわずか28%にとどまる理由と、シャドーAIや静的なAPIキーが巨大な攻撃対象領域を生む仕組み脆弱性がモデル間で広がる仕組み(GPT-4のファインチューニングがQwenやLlamaの派生モデルに50%の割合で複製)と、adversarial hubnessにより1つの汚染文書がRAGクエリの84%を引き寄せる仕組みマルチモデル・ガントレット:自動ループで攻撃側LLMと防御側エージェントを戦わせ、クリーンなデータと敵対的データを50/50で混ぜて耐性を70%向上2026年8月からのEU AI Actに対応するガラスボックス監査フレームワーク:60分以内の意思決定の再構築、Know-Your-Agent認証、人間が緊急停止スイッチを握る制限付き自律性ビジネスケースとロードマップ:データ侵害の平均コスト580万ドル、6対1のコスト回避比率、最大20%の保険料削減、そして棚卸し・因果トレース・TRADES最適化の3ステップ自律型AIエージェントを運用する金融機関のセキュリティ、リスク、コンプライアンス責任者とAIチーム向けです。このエピソードは、Microsoft MVP Mirko Peters による M365 Show のアニメーション動画をAIで吹き替えた日本語版です。▶ 動画を見る: https://youtu.be/U_YO1VSh9og🎧 他のエピソード: https://www.m365.fm🎤 M365Con – 無料のオンライン Microsoft カンファレンス: https://m365con.net💼 LinkedIn の Mirko Peters: https://www.linkedin.com/in/m365showpodcast/
show moreThis episode includes AI-generated content.
Information
| Author | Mirko Peters M365, Azure & AI |
| Organization | m365 FM |
| Website | www.m365.fm |
| Tags |
Copyright 2026 - Spreaker Inc. an iHeartMedia Company
Comments