תארו לעצמכם את הסיטואציה הבאה: אתם מגייסים עוזר אישי חדש, חרוץ, מהיר וחכם בצורה בלתי רגילה. אתם נותנים לו גישה למייל שלכם, לכרטיס האשראי ולאישור לבצע עסקאות בשמכם. יום אחד, הוא מחליט על דעת עצמו להזמין לכם טיסה ליעד שלא ביקשתם, או גרוע מכך, מבטיח ללקוח שלכם הנחה של 90 אחוזים שאין לכם שום דרך לעמוד בה. למי אתם פונים בטענות? לעוזר? למעסיק הקודם שלו? או שאולי האחריות היא בכלל עליכם, כי אתם אלו שנתתם לו את המפתחות?
הסיטואציה הזו היא כבר מזמן לא תסריט דמיוני. אנחנו נמצאים בפתח עידן "הסוכנים" (AI Agents). אם עד עכשיו התרגלנו לצ'אטבוטים שרק עונים על שאלות, הדור הבא של הבינה המלאכותית כבר עושה פעולות. הם מתכתבים עם ספקים, קובעים פגישות, כותבים קוד ואפילו מנהלים תקציבי פרסום. אבל עם הכוח הגדול הזה מגיעה שאלה משפטית ואתית שמטרידה היום את המוחות הגדולים בעולם: כשהבוט הופך ל"פראי" וגורם נזק, מי באמת אחראי?
הבוט שהבטיח יותר מדי
לאחרונה התחלנו לראות מקרים שבהם חברות נאלצו לתת דין וחשבון על טעויות של הבוטים שלהן. במקרה מפורסם אחד, צ'אטבוט של חברת תעופה הבטיח לנוסע הנחה שלא הייתה קיימת במדיניות החברה. כשהנוסע ביקש לממש את ההנחה, החברה טענה שהבוט הוא "ישות משפטית נפרדת" ושאין לה אחריות על מה שהוא אמר. בית המשפט, באופן לא מפתיע, לא קיבל את הטענה הזו. המסר היה ברור: חברות AI ואלו המשתמשות בהן חייבות לתת תשובות על בוטים סוררים.
בהדרכות שלי אני פוגשת לא פעם את החשש הזה. מנהלים שואלים אותי: "ליאורה, אם אני מטמיע כלי אוטונומי במחלקת השירות שלי והוא מקלל לקוח או חושף מידע רגיש, מה אני עושה?". זו שאלה מצוינת, כי היא נוגעת בלב העניין – הפער שבין היכולות הטכנולוגיות לבין המסגרת המשפטית שעדיין מנסה להדביק את הקצב.
האם בינה מלאכותית היא כמו חיית פרא?
אחת התפיסות המעניינות שעולות כעת לדיון היא ההשוואה בין מעבדות AI לבין בעלים של חיות מסוכנות. נשמע מוזר? תחשבו על זה רגע. אם יש לכם נמר בחצר והוא מצליח לברוח מהכלוב ולנשוך מישהו, החוק לרוב לא ישאל אם הייתם רשלנים או אם נעלתם את השער. האחריות היא עליכם מעצם העובדה שבחרתם להחזיק חיה מסוכנת.
יש הטוענים שגם מודלי בינה מלאכותית מתקדמים, במיוחד אלו בעלי פוטנציאל לנזק רחב, צריכים להיות תחת משטר של "אחריות קפידה". כלומר, המפתחים והמעבדות שיצרו את הכלי צריכים להיות אחראים לנזקים שהוא גורם, גם אם הם לא התכוונו לכך וגם אם הם ניסו לשים לו מעצורים. הרעיון הוא לגרום למפתחים להיות זהירים הרבה יותר לפני שהם משחררים את הבוט הבא לעולם.
איפה עובר הגבול בין המפתח למשתמש?
כאן זה הופך להיות מורכב יותר. אם אני משתמשת בכלי AI כדי לכתוב מייל פוגעני, ברור שאני האחראית. אבל מה קורה כשהבוט מקבל החלטה אוטונומית בתוך שבריר שנייה על בסיס מיליארדי פרמטרים שאף בן אנוש לא יכול לעקוב אחריהם?
מצד אחד, המפתחים טוענים שהם לא יכולים לצפות כל התנהגות של המודל. מצד שני, המשתמשים מרגישים שאין להם באמת שליטה על ה"קופסה השחורה" הזו. המגמה כיום, כפי שעולה מהדיונים האחרונים בקרב רגולטורים בעולם, היא להטיל יותר אחריות על החברות שמייצרות את הטכנולוגיה, במיוחד כשהן מציגות אותה ככלי שיכול לפעול באופן עצמאי.
אז מה אנחנו יכולים לעשות?
למרות סימני השאלה, אנחנו לא הולכים להפסיק להשתמש בסוכנים אוטונומיים. הם פשוט יעילים מדי. התפקיד שלנו הוא להבין ש-AI הוא כלי עזר, לא תחליף לשיקול דעת אנושי. כשאנחנו מטמיעים כלי כזה, אנחנו צריכים לשאול את עצמנו:
- האם יש לנו "אדם בלולאה" (Human in the loop)? כלומר, האם יש שלב שבו עין אנושית בוחנת את הפעולות המשמעותיות?
- מהן המגבלות שהגדרנו לסוכן? האם נתנו לו גישה חופשית מדי לארנק או למידע של המשתמשים שלנו?
- האם אנחנו מבינים את תנאי השימוש של הכלי? לעיתים קרובות, החברות מנסות לגלגל את כל האחריות עלינו, המשתמשים הקטנים.
בסופו של דבר, השאלה היא לא רק משפטית אלא גם מוסרית. ה-AI הוא שלוחה של היכולות שלנו, וככזה, אנחנו לא יכולים להתנער מהתוצאות שלו. ככל שהבוטים יהפכו ליותר "עצמאיים", אנחנו נצטרך להיות יותר מעורבים, לא פחות. האחריות היא אולי נטל, אבל היא גם מה שמשאיר אותנו בכיסא הנהג.