הפיתוי שבנוחות
כולנו מכירים את הרגע הזה: אנחנו שואלים את ה-AI שאלה, מקבלים תשובה מנוסחת היטב, בביטחון עצמי גבוה, ופשוט ממשיכים הלאה. זה חוסך זמן, זה מרגיע, וזה גורם לנו להרגיש יעילים. אבל מתחת לפני השטח של הנוחות הזו, מסתתרת תופעה פסיכולוגית מרתקת ומטרידה כאחד, שאני פוגשת יותר ויותר במפגשים שלי עם אנשים וארגונים. קוראים לזה 'הסתמכות יתר' (Over-reliance).
במהלך השנים האחרונות ראינו איך הבינה המלאכותית הופכת מצעצוע נחמד לכלי עבודה מרכזי. אבל ככל שהכלים האלו הופכים ליותר 'סוכנים' – כלומר, כאלו שלא רק עונים לנו, אלא גם מבצעים פעולות ומקבלים החלטות עבורנו – השאלה היא כבר לא רק 'האם ה-AI מדויק?', אלא 'מה קורה לשיקול הדעת שלנו כשהוא לא?'.
כשרופאים מפסיקים להטיל ספק
לאחרונה נחשפתי למחקר מטלטל שפורסם ב-AI Weekly, שעוסק באחת הקבוצות שאנחנו הכי מצפים מהן לשיקול דעת עצמאי: רופאים. המחקר הראה מציאות מדאיגה: רופאים המשיכו לסמוך על המלצות של מערכת AI גם כשהיא טעתה באופן ברור, ואפילו כשהיו בפניהם ראיות רפואיות שסתרו את דברי המכונה.
תחשבו על זה רגע. מדובר באנשים עם שנות לימוד רבות, ניסיון קליני ואחריות לחיי אדם. אם הם נופלים במלכודת הזו, מה זה אומר על כולנו כשאנחנו מבקשים מה-AI לנתח עבורנו נתונים עסקיים, לכתוב מייל רגיש או לתכנן אסטרטגיה?
הבעיה היא לא שהמערכת טעתה. מערכות תמיד יטעו מדי פעם. הבעיה היא הקלות שבה המוח האנושי מוותר על הביקורת שלו לטובת הסמכות הדיגיטלית. אנחנו נוטים להניח שאם המכונה עיבדה מיליארדי נתונים, היא בטח יודעת משהו שאנחנו לא רואים.
מה קורה לנו כשה-AI הופך ל'סוכן'?
השלב הבא של המהפכה הזו הוא המעבר מצ'אטבוטים לסוכנים אוטונומיים. אלו כבר לא רק כלים שמחכים לפקודה, אלא מערכות שיכולות לקחת יוזמה. סוכן כזה יכול לקבוע לכם פגישות, לנהל משא ומתן ראשוני או לסנן מועמדים לעבודה.
כאן הסכנה גדלה. כשמשהו קורה באופן אוטומטי 'מאחורי הקלעים', נקודות המגע שלנו עם ההחלטה הולכות ופוחתות. אם לא נהיה זהירים, אנחנו עלולים למצוא את עצמנו במצב שבו אנחנו רק 'חותמת גומי' לשרשרת של החלטות אלגוריתמיות שמעולם לא באמת בחנו.
בהדרכות שלי אני תמיד אומרת ש-AI הוא שותף מצוין לסיעור מוחות, אבל הוא שותף גרוע מאוד לקבלת החלטות סופית. כשסוכן ה-AI הופך להיות חלק מהשגרה, קל מאוד להירדם בשמירה.
איך שומרים על המצפן האנושי?
אז איך נהנים מהיכולות המדהימות של ה-AI בלי לאבד את עצמנו בדרך? הנה כמה תובנות שאספתי מהשטח:
- חובת הספק כברירת מחדל: אל תניחו שה-AI צודק. תניחו שהוא מציע טיוטה ראשונה שחייבת לעבור דרך העיניים המקצועיות שלכם.
- שאילת 'למה?': אם ה-AI מציע כיוון מסוים, בקשו ממנו לנמק. לפעמים כשמפרקים את ההיגיון שלו, קל יותר לראות איפה הוא נשען על 'הזיות' או על חוסר הבנה של ההקשר האנושי.
- הבנת המגבלות: הבינה המלאכותית חזקה בסטטיסטיקה ובדפוסים, אבל היא חלשה בהבנת ניואנסים, רגשות ואתיקה. אלו בדיוק המקומות שבהם אתם חייבים להיות נוכחים.
- שימור המיומנות: אם ניתן ל-AI לעשות הכל עבורנו, אנחנו עלולים 'לנוון' את השריר המחשבתי שלנו. חשוב להמשיך לבצע משימות מסוימות באופן עצמאי רק כדי לוודא שאנחנו עדיין יודעים איך לעשות אותן.
המקום שלנו בעולם של סוכנים
בסופו של דבר, הבינה המלאכותית לא באה להחליף את החשיבה שלנו, אלא להעצים אותה. אבל העצמה דורשת מנהיגות. כשאנחנו משתמשים בסוכן AI, אנחנו המנהלים שלו. מנהל טוב לא סומך בעיניים עצומות על העובדים שלו, אלא בוחן, מכוון ושואל שאלות קשות.
האם אנחנו מוכנים לסוכן ה-AI שיחליף את שיקול הדעת שלנו? התשובה צריכה להיות 'לא' מהדהד. אנחנו צריכים להיות מוכנים לעבוד איתו, להשתמש בו ככלי עזר רב עוצמה, אבל תמיד להשאיר את המילה האחרונה – ואת האחריות – בידיים שלנו.