המעבר מכלי עזר לשותף פעיל
אני זוכרת את הפעם הראשונה שהשתמשתי ב-ChatGPT. זה הרגיש כמו סוג של קסם, אבל קסם מאוד מנומס. הוא חיכה שאני אשאל, הוא ענה, ואז הוא שוב חיכה בסבלנות לפקודה הבאה. רובנו התרגלנו למערכת היחסים הזו: אנחנו הבוסים, וה-AI הוא העוזר החכם שמחכה להוראות. אבל בשטח, הדברים מתחילים להשתנות מהר מאוד. אנחנו עוברים מהשלב של "בינה מלאכותית יוצרת" (Generative AI) לשלב של "סוכנים אוטונומיים" (Agentic AI).
מה זה אומר בעצם? דמיינו שלא רק ביקשתם מה-AI לתכנן לכם טיול, אלא שהוא גם נכנס לאתרים, השווה מחירים, הזמין את הטיסות, סגר מלון ושלח לכם לו"ז מעודכן ליומן, הכל בלי שאישרתם כל צעד בדרך. לפי התחזיות שראינו בכנס ה-AI Summit בלונדון, המהפכה האוטונומית הזו היא כבר לא מדע בדיוני, היא המגמה המרכזית שנראה כאן בשנתיים הקרובות. השאלה היא לא רק האם הטכנולוגיה קיימת, אלא האם אנחנו, כבני אדם, מוכנים לשחרר את המושכות.
כשהמכונה מתחילה לקבל החלטות
בכל הדרכה שאני מעבירה, עולה השאלה של האמון. כשאנחנו מדברים על סוכנים אוטונומיים, אנחנו מדברים על מערכות שיכולות לפרק משימה גדולה לתת-משימות, לתעדף אותן ולבצע אותן בעולם האמיתי. זה נשמע כמו חלום של כל מנהל או עובד עמוס, אבל כאן בדיוק נכנסת האתיקה.
כשה-AI רק כותב לנו מייל, האחריות היא עלינו: אנחנו קוראים, עורכים ושולחים. אבל מה קורה כשהסוכן האוטונומי מחליט על דעת עצמו לשלוח מייל ללקוח, או גרוע מכך, לבצע רכישה או לבטל פרויקט כי הוא זיהה חוסר כדאיות? כשהמכונה מבצעת פעולות ללא פיקוח צמוד, הגבול בין "כלי עזר" ל"מקבלי החלטות" מיטשטש.
אחת הנקודות המרתקות שעלו בדיונים על מגמות ה-AI ל-2026 היא המהירות שבה הסוכנים האלו יכנסו לחיינו. זה לא יקרה בבת אחת, אלא בצעדים קטנים. בהתחלה הם ינהלו לנו את היומן, אחר כך הם יטפלו בשירות לקוחות בסיסי, ומהר מאוד הם ינהלו שרשראות אספקה שלמות. בכל שלב כזה, אנחנו צריכים לשאול את עצמנו: איפה עובר הקו האדום שלנו?
שאלת האחריות: מי אשם כשהבוט טועה?
זו אולי השאלה הכי בוערת בעידן החדש הזה. אם סוכן אוטונומי גרם לנזק כספי או פגע במוניטין של חברה, מי אחראי? המתכנת שכתב את הקוד? החברה שסיפקה את המודל? או המשתמש שנתן לסוכן את הגישה לחשבון הבנק או למערכות הארגוניות?
כרגע, אין לנו תשובות משפטיות או אתיות חד-משמעיות. אנחנו נמצאים במערב הפרוע של האוטונומיה. ממה שאני רואה, האתגר הגדול ביותר הוא לא טכני, הוא אנושי. אנחנו צריכים ללמוד איך לבנות מערכות של "Human-in-the-loop" – כלומר, להשאיר את האדם בלולאת קבלת ההחלטות, אבל בצורה שלא תעכב את היעילות שהסוכנים האלו מציעים. זה איזון עדין מאוד.
האם אנחנו מאבדים את שיקול הדעת?
מעבר לשאלות של אחריות משפטית, יש כאן שאלה עמוקה יותר על שיקול דעת. כשאנחנו נותנים למכונה לבצע משימות עבורנו, אנחנו חוסכים זמן, אבל אנחנו גם מפסיקים להתנסות בתהליך עצמו. אם הסוכן האוטונומי שלי תמיד יבחר עבורי את המקורות לקרוא או את האנשים לפגוש, אני עלולה להיכנס לתיבת תהודה (Echo Chamber) טכנולוגית שבה אני רואה רק את מה שהאלגוריתם חושב שנכון לי.
שיקול הדעת האנושי הוא לא רק היכולת לבצע משימה, הוא היכולת להבין הקשר, להפעיל אמפתיה ולזהות ניואנסים שמכונה, מתוחכמת ככל שתהיה, עדיין מתקשה להבין. כשאנחנו מאמצים סוכנים אוטונומיים, אנחנו חייבים לוודא שאנחנו לא מאצילים עליהם גם את הערכים שלנו.
המקום שלנו בעולם של סוכנים
אז האם אנחנו מוכנים? התשובה היא כנראה "עדיין לא לגמרי", וזה בסדר. המהפכה האוטונומית כבר כאן, והיא תדרוש מאיתנו לפתח מיומנויות חדשות. אנחנו נצטרך להפוך מ"מבצעים" ל"מבקרים". התפקיד שלנו ישתנה: במקום לכתוב את הקוד או את המייל, אנחנו נצטרך להגדיר את המדיניות, את גבולות הגזרה ואת הערכים שלאורם הסוכנים שלנו יפעלו.
ה-AI הוא כלי מדהים שעוזר לנו לחשוב ולעבוד טוב יותר, הוא לא תחליף לזהות שלנו או לאחריות שלנו. בסופו של יום, גם בעולם שבו סוכנים אוטונומיים רצים סביבנו ומבצעים אלף משימות בדקה, המילה האחרונה חייבת להישאר שלנו. לא רק כי זה בטוח יותר, אלא כי זה מה שהופך את העבודה ואת היצירה שלנו לאנושית.