AI-generated content
Transcribed

Red teaming ШІ у фінансах: чому ручне тестування не працює і як захищає мультимодельний гантлет (ШІ-дубляж)

Nov 15, 2026 · 18m 48s
Red teaming ШІ у фінансах: чому ручне тестування не працює і як захищає мультимодельний гантлет (ШІ-дубляж)
Description

Лише одна багатокрокова prompt-ін’єкція може запустити шахрайський переказ на 250 000 доларів — досить прихованого тексту на зображенні чека. У цьому випуску пояснюється, чому файрволи й ручні тести безсилі проти...

show more
Лише одна багатокрокова prompt-ін’єкція може запустити шахрайський переказ на 250 000 доларів — досить прихованого тексту на зображенні чека. У цьому випуску пояснюється, чому файрволи й ручні тести безсилі проти стохастичних ШІ-агентів у фінансах і як їх замінює безперервний автоматизований red teaming із кількома моделями.Що ви дізнаєтеся:Чому лише 28% компаній можуть пов’язати дію агента з конкретною відповідальною людиною і як тіньовий ШІ та статичні API-ключі створюють величезну поверхню атакиЯк вразливості поширюються між моделями (донавчання GPT-4 з 50% реплікацією на похідні Qwen і Llama) і як adversarial hubness дає змогу одному отруєному документу перехоплювати 84% RAG-запитівМультимодельний гантлет: атакувальна LLM проти агента-захисника в автоматичному циклі та суміш 50/50 чистих і змагальних даних, що підвищує стійкість на 70%Фреймворк аудиту «скляна скринька» для EU AI Act із серпня 2026 року: реконструкція рішення менш ніж за 60 хвилин, посвідчення Know-Your-Agent та обмежена автономія з аварійним вимикачем у людиниЕкономіка й дорожня карта: у середньому 5,8 млн доларів збитків від витоку, співвідношення відвернених витрат 6:1, страхові премії нижчі до 20% і три кроки — інвентаризація, причинне трасування та оптимізація TRADESДля керівників із безпеки, ризиків і комплаєнсу, а також ШІ-команд фінансових установ, що використовують автономних ШІ-агентів.Цей випуск — українська версія анімованого пояснювального відео з M365 Show від Microsoft MVP Мірко Петерса, озвучена за допомогою ШІ.▶ Дивитися відео: https://youtu.be/U_YO1VSh9og🎧 Більше випусків: https://www.m365.fm🎤 M365Con – безкоштовна онлайн-конференція з Microsoft: https://m365con.net💼 Мірко Петерс у LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.
show less
Information
Author Mirko Peters M365, Azure & AI
Organization m365 FM
Website www.m365.fm
Tags

Looks like you don't have any active episode

Browse Spreaker Catalogue to discover great new content

Current

Podcast Cover

Looks like you don't have any episodes in your queue

Browse Spreaker Catalogue to discover great new content

Next Up

Episode Cover Episode Cover

It's so quiet here...

Time to discover new episodes!

Discover
Your Library
Search