AI-generated content
Transcribed

Red teaming de IA em finanças: por que testes manuais falham e como um gauntlet multimodelo protege (Dublagem IA)

Nov 15, 2026 · 18m 48s
Red teaming de IA em finanças: por que testes manuais falham e como um gauntlet multimodelo protege (Dublagem IA)
Description

Uma única injeção de prompt em vários turnos pode disparar uma transferência fraudulenta de 250 mil dólares – basta um texto oculto na imagem de um recibo. Este episódio mostra...

show more
Uma única injeção de prompt em vários turnos pode disparar uma transferência fraudulenta de 250 mil dólares – basta um texto oculto na imagem de um recibo. Este episódio mostra por que firewalls e testes manuais falham contra agentes de IA estocásticos no setor financeiro e como o red teaming contínuo e automatizado com vários modelos os substitui.O que você vai aprender:Por que apenas 28% das empresas conseguem vincular a ação de um agente a um patrocinador humano, e como a IA paralela (shadow AI) e chaves de API estáticas criam uma enorme superfície de ataqueComo vulnerabilidades se espalham entre modelos (ajustes finos do GPT-4 com taxa de replicação de 50% em derivados de Qwen e Llama) e como a adversarial hubness faz um único documento envenenado atrair 84% das consultas RAGO gauntlet multimodelo: um LLM atacante contra o agente defensor em um loop automatizado, com mistura 50/50 de dados limpos e adversariais para 70% mais resiliênciaO framework de auditoria “caixa de vidro” para o AI Act da UE a partir de agosto de 2026: reconstrução de decisões em menos de 60 minutos, credenciais Know-Your-Agent e autonomia limitada com botão de desligamento humanoCaso de negócio e roteiro: custo médio de US$ 5,8 milhões por violação, relação de economia de 6:1, prêmios de seguro até 20% menores e três passos: inventário, rastreamento causal e otimização TRADESPara líderes de segurança, risco e compliance e equipes de IA em instituições financeiras que usam agentes de IA autônomos.Este episódio é uma versão em português dublada por IA do vídeo explicativo animado do M365 Show, do Microsoft MVP Mirko Peters.▶ Assistir ao vídeo: https://youtu.be/U_YO1VSh9og🎧 Mais episódios: https://www.m365.fm🎤 M365Con – conferência online gratuita da Microsoft: https://m365con.net💼 Mirko Peters no LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.
show less
Information
Author Mirko Peters M365, Azure & AI
Organization m365 FM
Website www.m365.fm
Tags

Looks like you don't have any active episode

Browse Spreaker Catalogue to discover great new content

Current

Podcast Cover

Looks like you don't have any episodes in your queue

Browse Spreaker Catalogue to discover great new content

Next Up

Episode Cover Episode Cover

It's so quiet here...

Time to discover new episodes!

Discover
Your Library
Search