AI-generated content
Transcribed

Red teaming de IA en finanzas: por qué fallan las pruebas manuales y cómo protege un gauntlet multimodelo (Doblaje IA)

Nov 15, 2026 · 18m 48s
Red teaming de IA en finanzas: por qué fallan las pruebas manuales y cómo protege un gauntlet multimodelo (Doblaje IA)
Description

Una sola inyección de prompt de varios turnos puede desencadenar una transferencia fraudulenta de 250.000 dólares: basta con texto oculto en la imagen de un recibo. Este episodio explica por...

show more
Una sola inyección de prompt de varios turnos puede desencadenar una transferencia fraudulenta de 250.000 dólares: basta con texto oculto en la imagen de un recibo. Este episodio explica por qué los firewalls y las pruebas manuales fracasan frente a agentes de IA estocásticos en el sector financiero y cómo el red teaming continuo y automatizado con varios modelos los sustituye.Lo que aprenderás:Por qué solo el 28 % de las empresas puede vincular la acción de un agente con un patrocinador humano, y cómo la IA en la sombra y las claves de API estáticas crean una enorme superficie de ataqueCómo se propagan las vulnerabilidades entre modelos (ajustes de GPT-4 con una tasa de replicación del 50 % en derivados de Qwen y Llama) y cómo la adversarial hubness hace que un solo documento envenenado atraiga el 84 % de las consultas RAGEl gauntlet multimodelo: un LLM atacante contra el agente defensor en un bucle automatizado, con una mezcla 50/50 de datos limpios y adversarios que aumenta la resiliencia un 70 %El marco de auditoría «caja de cristal» para la Ley de IA de la UE desde agosto de 2026: reconstrucción de decisiones en menos de 60 minutos, credenciales Know-Your-Agent y autonomía acotada con interruptor de emergencia humanoCaso de negocio y hoja de ruta: 5,8 millones de dólares de coste medio por brecha, relación de ahorro 6:1, primas de seguro hasta un 20 % más bajas y tres pasos: inventario, trazabilidad causal y optimización TRADESPara responsables de seguridad, riesgo y cumplimiento y equipos de IA de entidades financieras que utilizan agentes de IA autónomos.Este episodio es una versión en español doblada con IA del video explicativo animado del M365 Show del Microsoft MVP Mirko Peters.▶ Ver el video: https://youtu.be/U_YO1VSh9og🎧 Más episodios: https://www.m365.fm🎤 M365Con – conferencia online gratuita de Microsoft: https://m365con.net💼 Mirko Peters en LinkedIn: https://www.linkedin.com/in/m365showpodcast/

Este episodio incluye contenido generado por IA.
show less
Information
Author Mirko Peters M365, Azure & AI
Organization m365 FM
Website www.m365.fm
Tags

Looks like you don't have any active episode

Browse Spreaker Catalogue to discover great new content

Current

Podcast Cover

Looks like you don't have any episodes in your queue

Browse Spreaker Catalogue to discover great new content

Next Up

Episode Cover Episode Cover

It's so quiet here...

Time to discover new episodes!

Discover
Your Library
Search