כשהבינה מפסיקה לעזור

יש נקודה שבה AI מפסיק לעזור ומתחיל להפריע. עד הנקודה הזו התוצרים משתפרים, מעבר לה הם מתחילים להחליש. זו נקודה שקופה, לא טכנולוגית, ערכית, שלרוב לא מזהים אותה. כאשר ארגונים מודדים אימוץ טכנולוגיה חדשה, המדד הבסיסי לרוב בנוי סביב שאלה אחת, אחוזי שימוש. ככל שהמספר עולה, נדמה שאנחנו מצליחים. אבל הבינה המלאכותית היא לא סתם עוד טכנולוגיה, היא עובדת לצד העובדים. אחוזי שימוש זה יפה אבל אפשר להחמיץ דבר עדין יותר, עובדים שאיבדו את הביטחון בעצמם. זה שעובד מתייעץ עם הצ'אט על כל החלטה לא עושה אותו בהכרח לעובד טוב יותר. השיפוט העצמאי שלו מתעמעם, תחושת הבעלות על התוצר שהוציא נחלשת, וכל סבב נוסף מול הכלי עולה לו בזמן ובקשב. שלושת הדברים האלה לא מופיעים בדיווח השוטף על השימוש.

הנחה זו, שיותר שימוש שווה יותר הצלחה, מתערערת בשני מחקרים שפורסמו לאחרונה. הם הגיעו ממקומות שונים, השתמשו בשיטות שונות, אבל הצביעו על אותו דפוס.

המחקר הראשון, שנערך ב USC, השווה בין שלוש דרכים של שימוש ב-AI במשימות כתיבה מתחום העיסוק של המשתתפים: עובדים שלא השתמשו בו כלל, עובדים שהשתמשו בו פסיבית (העתק-הדבק של מה שהכלי הציע, בלי שינויים), ועובדים שעבדו איתו במשותף (כתבו טיוטה ראשונית בעצמם וביקשו מהכלי לערוך ולחדד אותה). הממצאים היו ברורים. הקבוצה הפסיבית דיווחה על ירידה בביטחון להתמודד עם משימות דומות לבד, על תחושת בעלות חלשה יותר על התוצר (זה באמת שלי?), ועל פחות משמעות שהיא מוצאת במשימה (מה אני עושה כאן?). הירידות בביטחון ובמשמעות נמשכו גם אחרי שהקבוצה חזרה לעבוד באופן עצמאי, בלי הכלי (תחושת הבעלות, התאוששה ברגע שחברי הקבוצה יצרו תוצרים בעצמם). לעומתה, הקבוצה ששיתפה פעולה באופן פעיל לא חוותה את הירידות האלה, ודיווחה על תוצאות דומות לאלו של הקבוצה שלא השתמשה ב-AI כלל. 

המחקר השני, של Microsoft Research, בחן עובדי ידע המשתמשים בכלי AI לפחות פעם בשבוע, וביקש מהם לתאר דוגמאות אמיתיות מהעבודה היום-יומית שלהם. החוקרים בדקו את הקשר בין הביטחון של העובד בכלי, הביטחון של העובד בעצמו במשימה, לבין החשיבה הביקורתית שהוא מפעיל. הממצא המרכזי, ככל שהעובד סומך יותר על הכלי, הוא נוטה להפעיל פחות חשיבה ביקורתית, פחות עוצרים כדי לבדוק, להעריך ולערער על מה שהמכונה הציעה. מצד שני, ככל שהעובד בטוח בעצמו ובכישוריו במשימה, הוא נוטה להפעיל יותר חשיבה ביקורתית. נמצא גם דפוס נוסף, דווקא במשימות הנתפסות כשוליות או שגרתיות, העובדים נוטים לוותר על חשיבה ביקורתית. ההסבר ההגיוני, הם חושבים שהמכונה בטוח יודעת להתמודד עם האתגר הפשוט. החוקרים מזהירים שזה תרחיש מסוכן, חשיבה ביקורתית היא שריר, וכשמפסיקים להפעיל אותה ביום-יום, היא מתעמעמת ברגעים שבאמת צריך אותה.

שני המחקרים מצביעים על אותו דפוס מנקודות מבט שונות. הראשון בוחן את מה שהעובד מרגיש, השני את מה שהעובד עושה. ושניהם מגיעים לאותה מסקנה, אופן השימוש מכריע יותר מכמות השימוש. עובד שעובד עם הכלי באופן פעיל שומר על עצמו. עובד שמתמסר לכלי באופן פסיבי, מאבד משהו בדרך, גם בלי שהוא שם לב. השורה התחתונה, לא הכלי הוא הבעיה, אלא איך משתמשים בו.

ארגונים משקיעים בשנתיים האחרונות בפעולות להניע עובדים לאמץ AI. ההכשרות מצליחות, האימוץ עולה, הסיפור נראה טוב. ואז מגלים שהתוצרים של חלק מהעובדים דווקא נחלשו. זה מה שקורה כשמודדים את המדד הלא נכון. השאלה של 2024 הייתה כמה אנשים משתמשים בכלי. השאלה של 2026 היא איך הם משתמשים בו. עובד אחד מגיש את הטיוטה שהמכונה הציעה בלי לקרוא אותה לפני, ומסיים את המשימה עם תוצר שהוא לא שלו. עובד שני כותב גרסה משלו, מבקש מהכלי לחדד, ומסיים את המשימה עם תוצר שהוא בעליו. אותם אחוזי שימוש, אותו ארגון, שני סיפורים שונים. אופן השימוש הוא לא חלוקה חד משמעית, הוא ספקטרום של החלטות. גם אצל העובדים הסיפור משתנה ממשימה למשימה. אבל ההבדל בין הקצוות הוא מה שמכריע את התנהלות הארגון. ההבדל לא מופיע בדיווח השוטף, אבל הוא זה שיכריע אם הארגון יוצא מתהליך אימוץ ה-AI חזק יותר או חלול יותר. התהליך הזה מתרחש בעקבות המון החלטות קטנות של עובדים שלעיתים הארגון לא שם לב שהם הפסיקו לחשוב.