AI-generated content
Transcribed

KI-Red-Teaming im Finanzwesen: Warum manuelle Tests scheitern und ein Multi-Modell-Gauntlet schützt (KI-Synchronfassung)

Nov 15, 2026 · 18m 48s
KI-Red-Teaming im Finanzwesen: Warum manuelle Tests scheitern und ein Multi-Modell-Gauntlet schützt (KI-Synchronfassung)
Description

Eine einzige Multi-Turn-Prompt-Injektion kann eine betrügerische Überweisung über 250.000 Dollar auslösen – schon versteckter Text im Bild einer Quittung genügt. Diese Folge zeigt, warum Firewalls und manuelle Tests gegen stochastische...

show more
Eine einzige Multi-Turn-Prompt-Injektion kann eine betrügerische Überweisung über 250.000 Dollar auslösen – schon versteckter Text im Bild einer Quittung genügt. Diese Folge zeigt, warum Firewalls und manuelle Tests gegen stochastische KI-Agenten im Finanzwesen versagen und wie kontinuierliches, automatisiertes Red Teaming mit mehreren Modellen sie ersetzt.Das erfahren Sie:Warum nur 28 % der Unternehmen die Aktion eines Agenten einem menschlichen Sponsor zuordnen können – und wie Schatten-KI und statische API-Schlüssel eine riesige Angriffsfläche schaffenWie sich Schwachstellen zwischen Modellen ausbreiten (GPT-4-Feinabstimmungen mit 50 % Replikationsrate auf Qwen- und Llama-Derivate) und wie Adversarial Hubness mit einem einzigen vergifteten Dokument 84 % der RAG-Abfragen anziehtDer Multi-Modell-Gauntlet: Angreifer-LLM gegen Verteidiger-Agent in einer automatisierten Endlosschleife, mit 50/50-Mix aus sauberen und gegnerischen Trainingsdaten für 70 % mehr WiderstandsfähigkeitDas Glassbox-Audit-Framework für das EU-KI-Gesetz ab August 2026: Entscheidungsrekonstruktion in unter 60 Minuten, Know-Your-Agent-Nachweise und Bounded Autonomy mit menschlichem NotausschalterBusiness Case und Fahrplan: 5,8 Mio. Dollar durchschnittliche Kosten einer Datenschutzverletzung, Kostenvermeidung 6:1, bis zu 20 % niedrigere Versicherungsprämien – und die drei Schritte Inventar, Ursachenverfolgung und TRADES-OptimierungFür Sicherheits-, Risiko- und Compliance-Verantwortliche sowie KI-Teams in Finanzinstituten, die autonome KI-Agenten einsetzen.Diese Folge ist eine KI-synchronisierte deutsche Fassung des animierten Erklärvideos aus der M365 Show von Microsoft MVP Mirko Peters.▶ Video ansehen: https://youtu.be/U_YO1VSh9og🎧 Mehr Folgen: https://www.m365.fm🎤 M365Con – kostenlose Microsoft-Online-Konferenz: https://m365con.net💼 Mirko Peters auf LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.
show less
Information
Author Mirko Peters M365, Azure & AI
Organization m365 FM
Website www.m365.fm
Tags

Looks like you don't have any active episode

Browse Spreaker Catalogue to discover great new content

Current

Podcast Cover

Looks like you don't have any episodes in your queue

Browse Spreaker Catalogue to discover great new content

Next Up

Episode Cover Episode Cover

It's so quiet here...

Time to discover new episodes!

Discover
Your Library
Search