ממשל AI: סיכונים, פרטיות ומדיניות שימוש

התשובה הקצרה

מהם ארבעת הסיכונים שהנהלה חייבת להכיר?

• דליפת מידע. עובד מדביק חוזה, רשימת לקוחות או תיק רפואי בכלי ציבורי. במרבית הכלים החינמיים המידע עלול לשמש לאימון המודל. בחשבונות ארגוניים בדרך כלל לא, וזה ההבדל שהמדיניות חייבת לקבוע.
• תוצר שגוי שיצא החוצה. מכתב ללקוח עם מספר שגוי, הצעת מחיר עם סעיף שהומצא, תשובה משפטית מוטעית. הסיכון הזה נפתר בבדיקה אנושית בנקודות מוגדרות, לא באיסור.
• הטיה ואפליה. סינון מועמדים או דירוג לקוחות על סמך מודל שלמד מנתונים מוטים. תהליכים שנוגעים באנשים דורשים בדיקה נפרדת ותיעוד.
• תלות בספק. תהליך קריטי שבנוי על כלי אחד, בלי דרך להחליף אותו. הפתרון: לתעד את הפרומפטים ואת התהליך, לא רק את הכלי.

איך כותבים מדיניות שימוש של עמוד אחד?

חמישה סעיפים, בשפה שעובד קורא בשתי דקות:

1. מה אסור לשלוח לשום כלי AI: רשימה מפורשת. פרטים מזהים של לקוחות, מידע רפואי, סודות מסחריים, נתוני שכר, קוד קנייני. כל ארגון מוסיף את שלו.
2. אילו כלים מאושרים ובאיזה חשבון: שמות הכלים, וההוראה שמשתמשים רק דרך החשבון הארגוני.
3. מתי חובה בדיקה אנושית: כל תוצר שיוצא ללקוח, כל מסמך משפטי או כספי, כל החלטה על אדם.
4. איך מסמנים תוצר של AI: האם ומתי מציינים ללקוח או לעמית שהטקסט נוצר בעזרת מודל.
5. למי פונים בשאלה: שם של אדם, לא של מחלקה.

המדיניות מתעדכנת פעם ברבעון, יחד עם דוח ההחזר שמתואר במדריך המדידה.

רשימת בדיקה לדירקטוריון ולהנהלה

הרשימה נשמרת בדפדפן בלבד ואינה נשלחת לשום מקום.

מי אחראי על מה?

ההנהלה מחליטה על ארבע ההחלטות ומאשרת את המדיניות. מנהל כל מחלקה אחראי על התהליכים שרצים אצלו ועל כך שהצוות שלו מכיר את המדיניות. הצוות הטכני או מומחה חיצוני אחראי על התצורה: שהחשבונות ארגוניים, שההרשאות של סוכנים מינימליות, שיש ניטור. הדירקטוריון מקבל פעם ברבעון עמוד אחד: אילו תהליכים רצים, מי אחראי, מה שיעור הטעויות, ואם היה אירוע.

ארגון שרוצה לעבור על התצורה עם מישהו שכבר עשה את זה יכול להיעזר בליווי הטמעת AI של יעקב צדק. הנהלה שרוצה לפתוח את הדיון בישיבת דירקטוריון אחת יכולה להתחיל בהרצאת AI לדירקטוריון, ובעמוד מומחה בינה מלאכותית, יעקב צדק מופיעים כל הפורמטים.