הפתעות לא מתוכננות בסלון הדיגיטלי
כשניסיתי את המודלים החדשים של השנה האחרונה, מצאתי את עצמי לא פעם נפעמת מהיכולות שלהם. הם כותבים, הם מנתחים, הם עוזרים לנו לחשוב. אבל מדי פעם, גם אני נתקלת בסיטואציה שבה הבוט פשוט 'משתולל'. הוא ממציא עובדות, הוא נהיה עקשן, או שהוא פשוט מחליט לקחת את השיחה לכיוון שלא התכוונתי אליו בכלל.
בהדרכות שלי אני פוגשת הרבה אנשים ששואלים אותי: 'ליאורה, מה קורה אם הבינה המלאכותית עושה טעות קריטית? מי אחראי?'. זו שאלה שמטרידה לא רק משתמשים פרטיים, אלא גם מנהלים וארגונים שלמים. הרי עד היום, כשהמחשב טעה, ידענו שזה בגלל באג בקוד או טעות אנוש של המתכנת. אבל בבינה מלאכותית יוצרת, המערכת לומדת ומחליטה בעצמה בדרכים שאפילו היוצרים שלה לא תמיד מבינים.
כאן נכנסת לתמונה הצעה מעניינת ומעט מרתיעה: אולי כדאי לנו להפסיק להתייחס ל-AI כאל תוכנת מחשב רגילה, ולהתחיל להתייחס אליה כאל חיית פרא.
חיות פרא או חיות מחמד? המטאפורה המשפטית החדשה
בעולם המשפט קיים מושג שנקרא 'אחריות חמורה' או אחריות מוחלטת. אם אתם מחזיקים בבית חיית פרא, נניח נמר, והוא מצליח לברוח ולפגוע במישהו, החוק לא שואל אם קשרתם אותו טוב מספיק או אם הייתם רשלנים. עצם העובדה שבחרתם להחזיק חיה מסוכנת הופכת אתכם לאחראים לכל נזק שהיא תגרום.
לפי דיווחים ב-Livemint, מומחים משפטיים מציעים כעת להחיל את אותו עיקרון על מעבדות ה-AI הגדולות. הרעיון הוא פשוט: המודלים הללו הם כל כך מורכבים ובלתי צפויים, שהם דומים יותר לחיות פרא מאשר למכונות. אם חברה משחררת לעולם 'בוט סורר' (Rogue Bot) שגורם לנזק כלכלי, משפטי או נפשי, היא צריכה לתת על כך את הדין, בדיוק כמו בעלים של נמר שברח מהכלוב.
ההשוואה הזו מעלה נקודה חשובה על הטבע של הטכנולוגיה שאנחנו עובדים איתה. אנחנו רגילים לחשוב על כלים דיגיטליים כעל משהו שאפשר 'לאלף' לחלוטין, אבל האמת היא שה-AI היא מערכת סטטיסטית. היא פועלת לפי הסתברויות, ולפעמים ההסתברות היא שהיא תעשה משהו בלתי צפוי לחלוטין.
הבעיה עם הבוטים הסוררים
ב-BBC News מדגישים שחברות AI חייבות לתת תשובות לגבי הבוטים הללו. כשאנחנו מדברים על 'בוטים סוררים', אנחנו לא מדברים על מדע בדיוני שבו הרובוטים משתלטים על העולם. אנחנו מדברים על מקרים הרבה יותר יומיומיים: בוט שנותן ייעוץ משפטי שגוי שגורם לאדם להפסיד את כספו, או מערכת אוטומטית שמשתמשת בשפה פוגענית כלפי לקוח.
מה שמעניין כאן הוא הפער בין היכולת שלנו להשתמש בכלי לבין האחריות של מי שיצר אותו. כשאני משתמשת בכלי AI כדי לייעל את העבודה שלי, אני לוקחת אחריות על התוצר הסופי. אבל האם אני צריכה להיות האחראית הבלעדית אם המערכת עצמה 'החליטה' להטעות אותי בצורה מתוחכמת?
הגישה של 'חיות הפרא' אומרת שהאחריות צריכה לחזור למקור. המעבדות שמפתחות את המודלים הללו הן אלו שצריכות להבטיח שה'חיה' שלהן בטוחה לציבור. אם הן לא יכולות להבטיח זאת, אולי הן לא צריכות לשחרר אותה מהכלוב של המעבדה.
המקום שלנו בניהול הסיכונים
ממה שאני רואה בשטח, רובנו עדיין מתייחסים ל-AI כאל קסם או כאל עוזר אישי צייתן. אבל ההבנה שמדובר במשהו שעלול להיות 'פראי' משנה את הדרך שבה אנחנו ניגשים לעבודה.
זה לא אומר שצריך לפחד, אלא שצריך להיות ערניים. אם נחזור למטאפורה של החיות, אנחנו אולי לא הבעלים של הנמר, אבל אנחנו אלו שנמצאים איתו בחדר. מנהלים שמשלבים AI בארגון צריכים לשאול את עצמם: אילו מנגנוני הגנה שמנו? האם אנחנו סומכים על הבוט בעיניים עצומות, או שאנחנו מבינים שזה כלי שדורש השגחה אנושית מתמדת?
האחריות המוסרית שלנו היא לא רק להשתמש בטכנולוגיה, אלא להבין את המגבלות שלה. כשאנחנו מבינים שמעבדות ה-AI צריכות לתת דין וחשבון על 'התנהגות' המודלים שלהן, זה נותן לנו, כמשתמשים, יותר כוח לדרוש שקיפות ובטיחות.
לאלף או לכלוא?
הדיון על ה-AI כחיית פרא הוא לא רק משפטי, הוא פילוסופי. הוא מזכיר לנו שהבינה המלאכותית היא לא תחליף לאדם, אלא כלי רב עוצמה שדורש ניהול. אנחנו לא יכולים לצפות מה-AI שתהיה 'מוסרית' או 'אחראית' מעצמה, כי בסופו של דבר, אין לה מצפון. האחריות תמיד תישאר בידיים אנושיות: של המפתחים שיצרו אותה ושלנו, המשתמשים שבוחרים איך להפעיל אותה.
האם נצליח לאלף את הבינה המלאכותית כך שתהיה חיית מחמד מועילה וצייתנית, או שנצטרך להתרגל לחיות לצד חיות פרא דיגיטליות שתמיד דורשות עין פקוחה? זו אחת השאלות הגדולות של העשור הקרוב.