תגיד לי, אתה אמיתי? מי באמת מדבר אלינו

למעלה מ-1,500 תגובות שכתבה בינה מלאכותית פורסמו בקהילת רדיט (Reddit) הפופולרית r/changemyview (“שנה את השקפתי”), בניגוד לכללי הקהילה. בקהילה הזאת, גולשים משתפים את דעתם בנושאים שנויים במחלוקת, תוך פתיחות לדיון, מתוך רצון להבין זוויות ראייה מגוונות על הנושא. במסגרת ניסוי של חוקרים מאוניברסיטת ציריך, בינה מלאכותית כתבה תגובות ללא ידיעת חברי הקהילה או מנהליה. הניסוי נועד לבדוק עד כמה טיעונים שמפיקה בינה מלאכותית יכולים לשכנע בני אדם, ואם הם מצליחים לעשות זאת טוב יותר ממגיבים אנושיים. במהלך המחקר, החוקרים בנו לעצמם פרופילים של משתמשים חדשים, השתמשו בזהויות בדויות לשם כך, ואספו מידע אישי על משתמשי הפורום. על המחקר התעוררה ביקורת חריפה, שדנה באתיקה בעידן הבינה המלאכותית.

החוקרים פרסמו תגובות שכתבה בינה מלאכותית בדיונים בנושאים שונים, למשל האם האגרסיביות של פיטבולים נובעת מטבע הגזע שלהם או שמקורה בבעלים, והאם מגורים אצל ההורים הם פתרון למשבר הדיור. התגובות של הבינה המלאכותית הכילו סיפורי רקע אישיים מזויפים: אחת מהתגובות הציגה את הכותב המלאכותי כיועץ טראומה, ואחרת הציגה כותב אחר וטענה שהוא קורבן של אונס. לפי דיווח ראשוני על תוצאות הניסוי, התוכן שיצרה בינה מלאכותית היה משכנע יותר מזה שכתבו בני אדם. הביצועים הטובים ביותר היו של תגובות שהותאמו אישית למשתמשים. ההתאמה האישית התבססה על מאפייני הזהות של המשתמשים באתר, מאפיינים שהחוקרים דלו מתוך היסטוריית ההודעות של המשתמשים.

ביקורת עמיתים – וגולשים

רק אחרי ארבעה חודשים, כשאיסוף הנתונים הסתיים, עדכנו החוקרים את מנהלי הקהילה בדבר הניסוי וביקשו לעדכן את חברי הקהילה בכך שהם היו נבדקים בניסוי מדעי בלי שידעו. זו הייתה הפרה של כללי הקהילה והרשת החברתית, כמו גם של האתיקה המחקרית, והתגובה החריפה לא איחרה לבוא. לפי כללי הקהילה, אסור להשתמש בתוכן שיצרה בינה מלאכותית, ולרדיט יש כלל שקובע ש”אין להתחזות לאדם או לגוף בצורה שעלולה להטעות”. בנוסף לכך, המחקר ניסה לשנות התנהגות של אנשים ולעקוב אחרי ההשפעות של הניסיון. ניסוי מהסוג הזה מחייב ידיעה והסכמה של הנחקרים, אך החוקרים לא ביקשו את הסכמתם. 

החוקרים טענו שהתגובות שהבינה המלאכותית פרסמה לא הכילו תכנים מזיקים ושאיש צוות אנושי בדק כל תגובה לפני פרסומה. החוקרים טענו שאם היו מודיעים מראש על הניסוי למנהלי הקהילה ולחבריה, הדבר היה הורס את הניסוי. לטענת החוקרים, כדי לבדוק בצורה אמינה אם בינה מלאכותית יכולה לשכנע אנשים, צריך ליצור מצב שבו המשתמש לא יודע שהמגיב אינו אנושי.

בעקבות תלונתם של מנהלי הקהילה, ועדת האתיקה באוניברסיטת ציריך הודיעה שתאמץ הליך בדיקה מחמיר יותר ותדרוש תיאום מראש עם הקהילות המקוונות לפני מחקרים דומים. בנוסף, החוקר הראשי של המחקר קיבל אזהרה רשמית. עקב הלחצים, החוקרים החליטו לא לפרסם את ממצאי הניסוי. מה שישאר ממנו הוא בעיקר שאלות סביב האתיקה של המחקר הפסיכולוגי ותהיות איך בכל זאת למדוד ביעילות את מידת השכנוע של בוטים – שכבר מציפים את הרשת.

זאת לא הפעם הראשונה שבה מחקר אינטרנטי זוכה לביקורת חריפה. במחקר סמוי שעשתה ענקית הטכנולוגיה פייסבוק על רגשות המשתמשים, היא שינתה את התכנים שמוצגים למאות אלפי משתמשים, ללא הסכמתם וידיעתם, כדי לבדוק אם אפשר להשפיע על מצב הרוח שלהם. המקרים האלה ממחישים עד כמה קל להפוך את הגולשים ברשתות החברתיות לשפני ניסיון בלי שיבחינו בכך.