AI-generated content
Transcribed

Red teaming AI w finansach: dlaczego testy ręczne zawodzą i jak chroni gauntlet wielu modeli (Dubbing AI)

Nov 15, 2026 · 18m 48s
Red teaming AI w finansach: dlaczego testy ręczne zawodzą i jak chroni gauntlet wielu modeli (Dubbing AI)
Description

Jedna wieloetapowa iniekcja promptu może wywołać oszukańczy przelew na 250 000 dolarów – wystarczy ukryty tekst na zdjęciu paragonu. Ten odcinek pokazuje, dlaczego zapory sieciowe i testy ręczne zawodzą wobec...

show more
Jedna wieloetapowa iniekcja promptu może wywołać oszukańczy przelew na 250 000 dolarów – wystarczy ukryty tekst na zdjęciu paragonu. Ten odcinek pokazuje, dlaczego zapory sieciowe i testy ręczne zawodzą wobec stochastycznych agentów AI w finansach i jak zastępuje je ciągły, zautomatyzowany red teaming z użyciem wielu modeli.Czego się dowiesz:Dlaczego tylko 28% firm potrafi powiązać działanie agenta z ludzkim sponsorem i jak shadow AI oraz statyczne klucze API tworzą ogromną powierzchnię atakuJak podatności rozprzestrzeniają się między modelami (dostrajanie GPT-4 z 50-procentowym wskaźnikiem replikacji na pochodne Qwen i Llama) i jak adversarial hubness sprawia, że jeden zatruty dokument przyciąga 84% zapytań RAGGauntlet wielu modeli: atakujący LLM przeciwko agentowi-obrońcy w zautomatyzowanej pętli, z mieszanką 50/50 czystych i adwersarialnych danych, która zwiększa odporność o 70%Framework audytu „szklanej skrzynki” pod unijny AI Act od sierpnia 2026: rekonstrukcja decyzji w mniej niż 60 minut, poświadczenia Know-Your-Agent i ograniczona autonomia z ludzkim wyłącznikiem awaryjnymUzasadnienie biznesowe i plan działania: średnio 5,8 mln dolarów kosztu naruszenia danych, wskaźnik unikniętych kosztów 6:1, do 20% niższe składki ubezpieczeniowe oraz trzy kroki: inwentaryzacja, śledzenie przyczynowe i optymalizacja TRADESDla liderów bezpieczeństwa, ryzyka i compliance oraz zespołów AI w instytucjach finansowych, które wdrażają autonomicznych agentów AI.Ten odcinek to polska wersja animowanego filmu objaśniającego z M365 Show autorstwa Microsoft MVP Mirko Petersa, zdubbingowana przez AI.▶ Obejrzyj wideo: https://youtu.be/U_YO1VSh9og🎧 Więcej odcinków: https://www.m365.fm🎤 M365Con – bezpłatna konferencja Microsoft online: https://m365con.net💼 Mirko Peters na LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.
show less
Information
Author Mirko Peters M365, Azure & AI
Organization m365 FM
Website www.m365.fm
Tags

Looks like you don't have any active episode

Browse Spreaker Catalogue to discover great new content

Current

Podcast Cover

Looks like you don't have any episodes in your queue

Browse Spreaker Catalogue to discover great new content

Next Up

Episode Cover Episode Cover

It's so quiet here...

Time to discover new episodes!

Discover
Your Library
Search