AI-generated content
Transcribed

金融業界のAIレッドチーミング:手動テストが失敗する理由とマルチモデル・ガントレットによる防御(AI吹き替え)

Nov 15, 2026 · 18m 48s
金融業界のAIレッドチーミング:手動テストが失敗する理由とマルチモデル・ガントレットによる防御(AI吹き替え)
Description

たった一度のマルチターン・プロンプトインジェクションで、25万ドルの不正送金が実行されることがあります。領収書の画像に隠された文字だけで十分なのです。このエピソードでは、金融分野の確率的なAIエージェントに対してファイアウォールや手動テストがなぜ通用しないのか、そして複数モデルによる継続的で自動化されたレッドチーミングがそれをどう置き換えるのかを解説します。このエピソードで学べること:エージェントの行動を人間のスポンサーまで追跡できる企業がわずか28%にとどまる理由と、シャドーAIや静的なAPIキーが巨大な攻撃対象領域を生む仕組み脆弱性がモデル間で広がる仕組み(GPT-4のファインチューニングがQwenやLlamaの派生モデルに50%の割合で複製)と、adversarial hubnessにより1つの汚染文書がRAGクエリの84%を引き寄せる仕組みマルチモデル・ガントレット:自動ループで攻撃側LLMと防御側エージェントを戦わせ、クリーンなデータと敵対的データを50/50で混ぜて耐性を70%向上2026年8月からのEU AI Actに対応するガラスボックス監査フレームワーク:60分以内の意思決定の再構築、Know-Your-Agent認証、人間が緊急停止スイッチを握る制限付き自律性ビジネスケースとロードマップ:データ侵害の平均コスト580万ドル、6対1のコスト回避比率、最大20%の保険料削減、そして棚卸し・因果トレース・TRADES最適化の3ステップ自律型AIエージェントを運用する金融機関のセキュリティ、リスク、コンプライアンス責任者とAIチーム向けです。このエピソードは、Microsoft MVP Mirko Peters による M365 Show のアニメーション動画をAIで吹き替えた日本語版です。▶ 動画を見る: https://youtu.be/U_YO1VSh9og🎧 他のエピソード: https://www.m365.fm🎤 M365Con – 無料のオンライン Microsoft カンファレンス: https://m365con.net💼 LinkedIn の Mirko Peters: https://www.linkedin.com/in/m365showpodcast/

show more
たった一度のマルチターン・プロンプトインジェクションで、25万ドルの不正送金が実行されることがあります。領収書の画像に隠された文字だけで十分なのです。このエピソードでは、金融分野の確率的なAIエージェントに対してファイアウォールや手動テストがなぜ通用しないのか、そして複数モデルによる継続的で自動化されたレッドチーミングがそれをどう置き換えるのかを解説します。このエピソードで学べること:エージェントの行動を人間のスポンサーまで追跡できる企業がわずか28%にとどまる理由と、シャドーAIや静的なAPIキーが巨大な攻撃対象領域を生む仕組み脆弱性がモデル間で広がる仕組み(GPT-4のファインチューニングがQwenやLlamaの派生モデルに50%の割合で複製)と、adversarial hubnessにより1つの汚染文書がRAGクエリの84%を引き寄せる仕組みマルチモデル・ガントレット:自動ループで攻撃側LLMと防御側エージェントを戦わせ、クリーンなデータと敵対的データを50/50で混ぜて耐性を70%向上2026年8月からのEU AI Actに対応するガラスボックス監査フレームワーク:60分以内の意思決定の再構築、Know-Your-Agent認証、人間が緊急停止スイッチを握る制限付き自律性ビジネスケースとロードマップ:データ侵害の平均コスト580万ドル、6対1のコスト回避比率、最大20%の保険料削減、そして棚卸し・因果トレース・TRADES最適化の3ステップ自律型AIエージェントを運用する金融機関のセキュリティ、リスク、コンプライアンス責任者とAIチーム向けです。このエピソードは、Microsoft MVP Mirko Peters による M365 Show のアニメーション動画をAIで吹き替えた日本語版です。▶ 動画を見る: https://youtu.be/U_YO1VSh9og🎧 他のエピソード: https://www.m365.fm🎤 M365Con – 無料のオンライン Microsoft カンファレンス: https://m365con.net💼 LinkedIn の Mirko Peters: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.
show less
Information
Author Mirko Peters M365, Azure & AI
Organization m365 FM
Website www.m365.fm
Tags

Looks like you don't have any active episode

Browse Spreaker Catalogue to discover great new content

Current

Podcast Cover

Looks like you don't have any episodes in your queue

Browse Spreaker Catalogue to discover great new content

Next Up

Episode Cover Episode Cover

It's so quiet here...

Time to discover new episodes!

Discover
Your Library
Search