צ׳טבוט שאמור לעזור לעובדים עלול בתוך דקות להציע פעולות מוטות או מטעות, ומשפט נסתר אחד בבקשה מספיק כדי להסיט עוזר AI ממסלולו. הפרק מסביר איך פועלת הזרקת פרומפטים (Prompt Injection) ואילו צעדי ממשל אפשר ליישם ב-Power Platform וב-Microsoft 365.מה תלמדו:הזרקת פרומפטים בהסבר פשוט: למה מודלי בסיס מתייחסים לכל הוראה מנוסחת היטב כלגיטימית ואיך פקודות נסתרות עוקפות כללי אבטחהדטרמיניסטי מול לא-דטרמיניסטי: תהליכי Power Platform מבוססי כללים מול קופיילוטים גנרטיביים, ואיך סחיפה הופכת החלטת אשראי מ״אושר״ ל״נדחה״חוק ה-AI של האיחוד האירופי: רמות הסיכון מינימלי, מוגבל, גבוה ובלתי קביל, ומה נדרש בשימושים בסיכון גבוה כמו גיוס עובדים ודירוג אשראימגנים באקוסיסטם של Microsoft: Responsible AI Dashboard, מניעת אובדן מידע, יומני ביקורת, בדיקות בסביבת ארגז חול ו-Red Teamingהקמת ועדת ממשל: צוות רב-תחומי, ביקורות הוגנות סדירות וכצעד ראשון מיפוי של כל מקרי השימוש ב-AIמתאים למנהלי IT, ליוצרי Power Platform ולצוותי ציות והגנת מידע שרוצים להטמיע AI בבטחה ב-Microsoft 365.הפרק הזה הוא גרסה עברית בדיבוב AI של הסרטון המונפש מתוך M365 Show של Microsoft MVP מירקו פטרס.▶ לצפייה בסרטון: https://youtu.be/RFZWknaGX8M🎧 פרקים נוספים: https://www.m365.fm🎤 M365Con – כנס Microsoft מקוון בחינם: https://m365con.net💼 מירקו פטרס ב-LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.