AI-generated content
Transcribed

금융 분야 AI 레드팀: 수동 테스트가 실패하는 이유와 멀티 모델 건틀릿의 방어 전략 (AI 더빙)

Nov 15, 2026 · 18m 48s
금융 분야 AI 레드팀: 수동 테스트가 실패하는 이유와 멀티 모델 건틀릿의 방어 전략 (AI 더빙)
Description

단 한 번의 멀티턴 프롬프트 인젝션으로 25만 달러 규모의 사기 송금이 실행될 수 있습니다. 영수증 이미지에 숨겨진 텍스트만으로도 충분합니다. 이번 에피소드는 금융 분야의 확률적 AI 에이전트 앞에서 방화벽과 수동 테스트가...

show more
단 한 번의 멀티턴 프롬프트 인젝션으로 25만 달러 규모의 사기 송금이 실행될 수 있습니다. 영수증 이미지에 숨겨진 텍스트만으로도 충분합니다. 이번 에피소드는 금융 분야의 확률적 AI 에이전트 앞에서 방화벽과 수동 테스트가 왜 무력한지, 그리고 여러 모델을 활용한 지속적이고 자동화된 레드팀이 이를 어떻게 대체하는지 설명합니다.이번 에피소드에서 배울 내용:에이전트의 행동을 인간 스폰서까지 추적할 수 있는 기업이 28%에 불과한 이유, 그리고 섀도 AI와 정적 API 키가 거대한 공격 표면을 만드는 방식취약점이 모델 간에 퍼지는 방식(GPT-4 파인튜닝이 Qwen·Llama 파생 모델에 50% 비율로 복제)과 adversarial hubness로 오염된 문서 하나가 RAG 쿼리의 84%를 끌어당기는 원리멀티 모델 건틀릿: 자동화된 루프에서 공격자 LLM과 방어자 에이전트를 대결시키고, 깨끗한 데이터와 적대적 데이터를 50/50으로 섞어 복원력을 70% 높이는 방법2026년 8월부터 시행되는 EU AI Act 대응 글래스박스 감사 프레임워크: 60분 이내 의사결정 재구성, Know-Your-Agent 자격 증명, 사람이 비상 정지 스위치를 쥔 제한된 자율성비즈니스 사례와 로드맵: 데이터 유출 평균 비용 580만 달러, 6:1 비용 회피 비율, 최대 20% 보험료 인하, 그리고 인벤토리·인과 추적·TRADES 최적화의 3단계자율 AI 에이전트를 운영하는 금융기관의 보안·리스크·컴플라이언스 책임자와 AI 팀을 위한 에피소드입니다.이 에피소드는 Microsoft MVP Mirko Peters의 M365 Show 애니메이션 설명 영상을 AI로 더빙한 한국어판입니다.▶ 동영상 보기: https://youtu.be/U_YO1VSh9og🎧 더 많은 에피소드: https://www.m365.fm🎤 M365Con – 무료 온라인 Microsoft 콘퍼런스: https://m365con.net💼 LinkedIn의 Mirko Peters: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.
show less
Information
Author Mirko Peters M365, Azure & AI
Organization m365 FM
Website www.m365.fm
Tags

Looks like you don't have any active episode

Browse Spreaker Catalogue to discover great new content

Current

Podcast Cover

Looks like you don't have any episodes in your queue

Browse Spreaker Catalogue to discover great new content

Next Up

Episode Cover Episode Cover

It's so quiet here...

Time to discover new episodes!

Discover
Your Library
Search