AI-generated content
Transcribed

Red teaming de l’IA en finance : pourquoi les tests manuels échouent et comment un gauntlet multi-modèles protège (Doublage IA)

Nov 15, 2026 · 18m 48s
Red teaming de l’IA en finance : pourquoi les tests manuels échouent et comment un gauntlet multi-modèles protège (Doublage IA)
Description

Une seule injection de prompt en plusieurs tours peut déclencher un virement frauduleux de 250 000 dollars : un texte caché dans l’image d’un reçu suffit. Cet épisode explique pourquoi...

show more
Une seule injection de prompt en plusieurs tours peut déclencher un virement frauduleux de 250 000 dollars : un texte caché dans l’image d’un reçu suffit. Cet épisode explique pourquoi les pare-feu et les tests manuels échouent face aux agents d’IA stochastiques dans la finance, et comment un red teaming continu et automatisé avec plusieurs modèles les remplace.Ce que vous allez apprendre :Pourquoi seulement 28 % des entreprises peuvent rattacher l’action d’un agent à un sponsor humain, et comment l’IA fantôme et les clés d’API statiques créent une immense surface d’attaqueComment les vulnérabilités se propagent entre modèles (ajustements de GPT-4 avec un taux de réplication de 50 % vers des dérivés de Qwen et Llama) et comment l’adversarial hubness permet à un seul document empoisonné d’attirer 84 % des requêtes RAGLe gauntlet multi-modèles : un LLM attaquant contre l’agent défenseur dans une boucle automatisée, avec un mélange 50/50 de données propres et adverses pour 70 % de résilience en plusLe cadre d’audit « boîte de verre » pour l’AI Act européen à partir d’août 2026 : reconstruction des décisions en moins de 60 minutes, preuves Know-Your-Agent et autonomie encadrée avec coupe-circuit humainArgumentaire et feuille de route : 5,8 millions de dollars de coût moyen par violation de données, ratio d’économies de 6:1, primes d’assurance jusqu’à 20 % plus basses, et trois étapes : inventaire, traçage causal et optimisation TRADESPour les responsables sécurité, risques et conformité ainsi que les équipes IA des institutions financières qui déploient des agents d’IA autonomes.Cet épisode est une version française doublée par IA de la vidéo explicative animée du M365 Show du Microsoft MVP Mirko Peters.▶ Voir la vidéo: https://youtu.be/U_YO1VSh9og🎧 Plus d’épisodes: https://www.m365.fm🎤 M365Con – conférence Microsoft en ligne gratuite: https://m365con.net💼 Mirko Peters sur LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.
show less
Information
Author Mirko Peters M365, Azure & AI
Organization m365 FM
Website www.m365.fm
Tags

Looks like you don't have any active episode

Browse Spreaker Catalogue to discover great new content

Current

Podcast Cover

Looks like you don't have any episodes in your queue

Browse Spreaker Catalogue to discover great new content

Next Up

Episode Cover Episode Cover

It's so quiet here...

Time to discover new episodes!

Discover
Your Library
Search