חשש: שימוש מוגזם בצ’אט-GPT עלול להחמיר בדידות

במהלך חודש מרץ השנה, שבוע לפני שהרשתות החברתיות הוצפו בתמונות בסגנון אנימה שיוצרו באמצעות צ’אט-GPT, חברת OpenAI שפיתחה את הבוט פרסמה שני מאמרים שנדמה כי הם עברו מתחת לרדאר. המאמרים, שנכתבו בשיתוף חוקרים מהמכון הטכנולוגי של מסצ’וסטס (MIT) ועדיין לא עברו בדיקה מקצועית של מומחים בלתי תלויים (ביקורת עמיתים), בוחנים את ההשלכות הרגשיות של השימוש בבוט, במיוחד על משתמשים כבדים, שמבלים זמן רב בתקשורת עם הבוט.

מחקר אחד נוהל כמעין מחקר שטח, כלומר ניתח שיחות רגילות שמתנהלות באתר באופן שגרתי בין משתמשים לבוט. החוקרים ניתחו כשלושה מיליוני שיחות בין משתמשים לצ’אט באמצעות מנגנון אוטומטי שמשאיר את זהות המשתמשים ואת תוכן השיחות חסויים לחוקרים. בנוסף ביקשו מכ-4,000 מהמשתמשים למלא שאלון בנוגע למצבם הרגשי. המחקר השני היה ניסוי מבוקר שבו כאלף משתתפים הונחו לשוחח עם הבוט מדי יום במשך כחודש בנושאים אישיים, נושאים לא אישיים ונושאים חופשיים לבחירתם, ובתוך כך גם לדווח על מצבם הרגשי. שני המחקרים נועדו להשלים זה את זה: האחד סקר את השימוש השגרתי בבוט כפי שהוא משתקף משיחות שגרתית בפלטפורמה והשני נועד לבדוק בתנאים מבוקרים את השפעותיהם של מצבים משתנים.

החוקרים בדקו את השפעת השיחות על ארבעה תחומים הנוגעים לרווחה הנפשית של המשתמשים: תחושת בדידות, רמת המעורבות החברתית שלהם בפעילות עם בני משפחה וחברים, פיתוח תלות רגשית בבוט ושימוש בעייתי בבוט. השימוש הבעייתי מוגדר לפי סולם שאומד בין היתר הופעת תסמיני גמילה בהיעדר גישה לבוט, אובדן שליטה במינון השימוש בבוט ושינויים במצב הרוח עקב השימוש בו. החוקרים בדקו גם הבדלים בין השימוש בגרסה הכתובה של הצ’אט, בגרסה קולית ניטרלית שלו ובגרסה קולית מתקדמת שבה הקול מפגין גם ניואנסים רגשיים.

אזהרת צריכה

משני המחקרים עולה כי קיים קשר בין שימוש ממושך בבוט לפיתוח תלות רגשית מוגברת, ירידה ברמת המעורבות החברתית ועלייה בשימוש הבעייתי בצ’אט-GPT, כפי שאלה באים לידי ביטוי בדיווחי המשתמשים עצמם.

החוקרים בחרו להתמקד באנשים שמשקיעים זמן רב במיוחד בשיחות עם הצ’אט הקולי המתקדם. הם הראו שהמשתמשים האלה נוטים יותר מאחרים להתייחס לצ’אט כחבר. כמו כן רבים מהם מעידים כי נוח להם יותר לדבר עם הבוט מאשר לתקשר פנים אל פנים עם אנשים אחרים, וחשים כי יחוו תסכול אם יחולו שינויים בתכונות של הצ’אט.

החוקרים ניתחו גם את תוכן השיחות עצמן ובחנו דרכן מגמות בהתנהגות של המשתמשים, למשל משתמשים שחיפשו בצ’אט תמיכה נפשית או שהביעו כלפיו חיבה. כמו כן הם בחנו את ההשלכות של סגנון הדיבור של הצ’אט: האם הוא הביע עניין במשתמש, האם שאל שאלות אישיות או קרא למשתמש בשמות חיבה. כלומר נראה כי לא רק המשתמשים מניעים את התוכן הרגשי בשיחה, אלא הבינה המלאכותית עצמה מעורבת בכך באופן פעיל.

מסקנות החוקרים בנוגע לצורת התקשורת עם הצ’אט – כתובה, קולית ניטרלית או קולית מתקדמת – היו מעורבות. נמצא כי שימוש קצר בצ’אט קולי היה קשור לרווחה נפשית טובה יותר של המשתמשים לעומת אלה שהשתמשו בצ’אט הכתוב. לעומת זאת, בשימוש ממושך המגמה התהפכה. נראה שגם המצב הנפשי המקורי של המשתמשים ממלא כאן תפקיד: משתמשים שדיווחו מראש על תחושות בדידות הציגו גם מדדי רווחה נפשית נמוכים יותר בסוף הניסוי המבוקר.

עם הכוח מגיעה אחריות

שני המחקרים האלה הם גישושים ראשוניים בלבד להערכת ההשפעה הנפשית של השימוש בבוטים מבוססי בינה מלאכותית. ניתוח הנתונים מגלה שיש קשר בין מצב המשתמשים לאופי השימוש שלהם בבוט, אבל לא מציע קשר סיבתי. כל הנתונים בהם נאספו ממשתמשים בגירים, כך שההשפעות על בני נוער ידרשו התייחסות נוספת. כמו כן, המחקר המבוקר נמשך חודש בלבד, אולם צ’אט-GPT ובינות מלאכותיות דומות מלווים אותנו כבר יותר משנתיים ואין כל סיבה להאמין שהם עומדים להיעלם. על כן יידרשו בהמשך מחקרים נוספים שיבחנו את ההשפעות שיש לשימוש ממושך יותר בבוט, וכן את ההשפעת שעשויות להיות לו בטווח הרחוק.

החוקרים ציינו בדיווחיהם כי ההתנהגויות המדאיגות שנמצאו מאפיינות רק קבוצה מצומצמת וחריגה של משתמשים, או לפי ניסוחם – המתנער מאחריותם לתופעה – מדובר ב”פעילות לא פרופורציונלית של מעט משתמשים”. לטוב ולרע, לחברות כמו OpenAI, עם כ-400 מיליון משתמשים בשבוע, יש השפעה משמעותית על החברה האנושית. הגישה היומיומית לכמות עצומה כזאת של משתמשים מטילה עליה אחריות לחתור לשימוש בטוח בבוטים, להגדיר קווים מנחים לאופי שיחה שייטיב עם המשתמשים ולנקוט מדיניות של ניטור התנהגויות בעייתיות. עד שזה יקרה, אל תיתנו לאיורי אנימה מקסימים להסיח את הדעת מהשלכות מדאיגות שעלולות להיות לשימוש בבינות מלאכותיות.