AI-generated content
Transcribed

Red teaming AI di sektor keuangan: mengapa pengujian manual gagal dan gauntlet multi-model melindungi (Sulih Suara AI)

Nov 15, 2026 · 18m 48s
Red teaming AI di sektor keuangan: mengapa pengujian manual gagal dan gauntlet multi-model melindungi (Sulih Suara AI)
Description

Satu prompt injection multi-giliran saja bisa memicu transfer palsu senilai 250.000 dolar – cukup dengan teks tersembunyi di gambar sebuah kuitansi. Episode ini menjelaskan mengapa firewall dan pengujian manual gagal...

show more
Satu prompt injection multi-giliran saja bisa memicu transfer palsu senilai 250.000 dolar – cukup dengan teks tersembunyi di gambar sebuah kuitansi. Episode ini menjelaskan mengapa firewall dan pengujian manual gagal menghadapi agen AI yang stokastik di sektor keuangan, dan bagaimana red teaming berkelanjutan dan otomatis dengan beberapa model menggantikannya.Yang akan Anda pelajari:Mengapa hanya 28% perusahaan yang dapat menelusuri tindakan agen ke sponsor manusia, dan bagaimana shadow AI serta kunci API statis menciptakan permukaan serangan yang sangat besarBagaimana kerentanan menyebar antarmodel (fine-tuning GPT-4 dengan tingkat replikasi 50% ke turunan Qwen dan Llama) dan bagaimana adversarial hubness membuat satu dokumen beracun menarik 84% kueri RAGGauntlet multi-model: LLM penyerang melawan agen pembela dalam loop otomatis, dengan campuran 50/50 data bersih dan adversarial untuk ketahanan 70% lebih tinggiKerangka audit “kotak kaca” untuk EU AI Act mulai Agustus 2026: rekonstruksi keputusan dalam waktu kurang dari 60 menit, kredensial Know-Your-Agent, dan otonomi terbatas dengan tombol darurat manusiaKasus bisnis dan peta jalan: biaya rata-rata pelanggaran data 5,8 juta dolar, rasio penghindaran biaya 6:1, premi asuransi hingga 20% lebih rendah, serta tiga langkah: inventaris, penelusuran kausal, dan optimisasi TRADESUntuk pemimpin keamanan, risiko, dan kepatuhan serta tim AI di lembaga keuangan yang menjalankan agen AI otonom.Episode ini adalah versi bahasa Indonesia dengan sulih suara AI dari video penjelasan animasi M365 Show karya Microsoft MVP Mirko Peters.▶ Tonton video: https://youtu.be/U_YO1VSh9og🎧 Episode lainnya: https://www.m365.fm🎤 M365Con – konferensi Microsoft online gratis: https://m365con.net💼 Mirko Peters di LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.
show less
Information
Author Mirko Peters M365, Azure & AI
Organization m365 FM
Website www.m365.fm
Tags

Looks like you don't have any active episode

Browse Spreaker Catalogue to discover great new content

Current

Podcast Cover

Looks like you don't have any episodes in your queue

Browse Spreaker Catalogue to discover great new content

Next Up

Episode Cover Episode Cover

It's so quiet here...

Time to discover new episodes!

Discover
Your Library
Search