Чат-бот, призванный помогать сотрудникам, уже через несколько минут может предлагать предвзятые или вводящие в заблуждение действия, а одной скрытой фразы в запросе достаточно, чтобы сбить ИИ-ассистента с курса. В этом выпуске — как работает prompt injection и какие шаги по управлению ИИ применить в Power Platform и Microsoft 365.Что вы узнаете:Что такое prompt injection: почему базовые модели считают любую грамотно сформулированную инструкцию допустимой и как скрытые команды обходят правила безопасностиДетерминированные и недетерминированные системы: потоки Power Platform на правилах против генеративных копилотов и как дрейф меняет кредитное решение с «одобрено» на «отказано»Закон ЕС об ИИ (EU AI Act): уровни риска — минимальный, ограниченный, высокий и неприемлемый — и требования к высокорисковым сценариям, таким как подбор персонала и кредитный скорингЗащита в экосистеме Microsoft: Responsible AI Dashboard, предотвращение утечки данных, журналы аудита, тесты в песочнице и red teamingКак создать совет по управлению ИИ: кросс-функциональная команда, регулярные аудиты справедливости и первым шагом — инвентаризация всех сценариев использования ИИДля ИТ-руководителей, разработчиков Power Platform и специалистов по комплаенсу и защите данных, которые хотят безопасно внедрять ИИ в Microsoft 365.Этот выпуск — русская версия с ИИ-дубляжом анимированного видео из M365 Show от Microsoft MVP Мирко Петерса.▶ Смотреть видео: https://youtu.be/RFZWknaGX8M🎧 Другие выпуски: https://www.m365.fm🎤 M365Con — бесплатная онлайн-конференция по Microsoft: https://m365con.net💼 Мирко Петерс в LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.