AI-generated content
Transcribed

Red teaming ИИ в финансах: почему ручное тестирование не работает и как защищает мультимодельный гантлет (ИИ-дубляж)

Nov 15, 2026 · 18m 48s
Red teaming ИИ в финансах: почему ручное тестирование не работает и как защищает мультимодельный гантлет (ИИ-дубляж)
Description

Всего одна многоходовая prompt-инъекция может запустить мошеннический перевод на 250 000 долларов — достаточно скрытого текста на изображении чека. В этом выпуске разбирается, почему файрволы и ручные тесты бессильны против...

show more
Всего одна многоходовая prompt-инъекция может запустить мошеннический перевод на 250 000 долларов — достаточно скрытого текста на изображении чека. В этом выпуске разбирается, почему файрволы и ручные тесты бессильны против стохастических ИИ-агентов в финансах и как их заменяет непрерывный автоматизированный red teaming с несколькими моделями.Из выпуска вы узнаете:Почему лишь 28% компаний могут связать действие агента с конкретным ответственным человеком и как теневой ИИ и статические API-ключи создают огромную поверхность атакиКак уязвимости распространяются между моделями (дообучение GPT-4 с 50% репликацией на производные Qwen и Llama) и как adversarial hubness позволяет одному отравленному документу перехватывать 84% RAG-запросовМультимодельный гантлет: атакующая LLM против агента-защитника в автоматическом цикле и смесь 50/50 чистых и состязательных данных, повышающая устойчивость на 70%Фреймворк аудита «стеклянный ящик» для EU AI Act с августа 2026 года: реконструкция решения менее чем за 60 минут, удостоверения Know-Your-Agent и ограниченная автономия с аварийным выключателем у человекаЭкономика и дорожная карта: в среднем 5,8 млн долларов ущерба от утечки, соотношение предотвращённых затрат 6:1, страховые премии ниже до 20% и три шага — инвентаризация, причинная трассировка и оптимизация TRADESДля руководителей по безопасности, рискам и комплаенсу, а также ИИ-команд финансовых организаций, которые используют автономных ИИ-агентов.Этот выпуск — русская версия анимированного обучающего видео из M365 Show от Microsoft MVP Мирко Петерса, озвученная с помощью ИИ.▶ Смотреть видео: https://youtu.be/U_YO1VSh9og🎧 Другие выпуски: https://www.m365.fm🎤 M365Con – бесплатная онлайн-конференция по Microsoft: https://m365con.net💼 Мирко Петерс в LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.
show less
Information
Author Mirko Peters M365, Azure & AI
Organization m365 FM
Website www.m365.fm
Tags

Looks like you don't have any active episode

Browse Spreaker Catalogue to discover great new content

Current

Podcast Cover

Looks like you don't have any episodes in your queue

Browse Spreaker Catalogue to discover great new content

Next Up

Episode Cover Episode Cover

It's so quiet here...

Time to discover new episodes!

Discover
Your Library
Search