איך AI משכנע אנשים בוויכוח?

דמיינו שאתם משתתפים בדיון ברשת בנושא שמעסיק אתכם. הייתה לכם דעה מגובשת, אבל מישהו ברשת העלה טיעונים שלא חשבתם עליהם קודם וגרם לכם לשנות את דעתכם. ואז גיליתם שה”מישהו” הזה היה בעצם בינה מלאכותית (AI), ולא בן אדם. שאלות רבות יכולות לעלות בעקבות סיטואציה כזו, למשל על האופנים שבהם בינה מלאכותית משפיעה על השיח הציבורי, על עיצוב דעת קהל ועל קבלת החלטות.

ההשפעה של בינה מלאכותית על חיינו היא תחום מחקר הולך ומתרחב. מחקרים מראים שאנשים תופסים מקורות בינה מלאכותית כפחות מוטים ויותר אינפורמטיביים לעומת מקורות אנושיים, ולכן פתוחים יותר לקבל מבינה מלאכותית מסרים מנוגדים לדעתם. הבינה המלאכותית יכולה גם לשנות עמדות של אנשים, אפילו לגבי תיאוריות קונספירציה. השוואה בין טקסטים שכתבו בני אדם לעומת כאלו שמקורם בבינה מלאכותית הראתה כי מודלי בינה מלאכותית מסוגלים לייצר תכנים שנתפסים כשווי ערך, ולעיתים אף משכנעים יותר, מתכנים פרי יצירתם של בני אדם. היכולת של מודלי בינה מלאכותית להעלות טיעונים בעד ונגד רעיונות שונים ולהשפיע על עמדות ודעות, מעלה שאלות רבות על חופש בחירה, חשיבה עצמאית, כוח הטכנולוגיה ועוד.

תהליכי שכנוע, שמשפיעים על עמדות, דעות או אמונות, מתרחשים כל הזמן בתוך מערכות יחסים בין בני אדם, ועשויים להשפיע על תחומים רבים, כמו בריאות הציבור, פוליטיקה, שיווק ומכירות; לכן משאבים רבים מושקעים בחקר אסטרטגיות שכנוע. המדיה החברתית הרחיבה בעשורים האחרונים את פוטנציאל השכנוע ההמוני: היא מאפשרת התאמה אישית של המסרים לאדם או לקבוצה, וכך משפרת את יכולת השכנוע. מודלי בינה מלאכותית יכולים להרחיב את השכנוע ההמוני אפילו יותר: הם יכולים להסיק מסקנות על התכונות האישיות שלנו מעקבות דיגיטליות כמו פוסטים ולייקים בפייסבוק, ולייצר בקלות טקסט מותאם אישית ורלוונטי להקשר במגוון תחומים.

דיבייט עם הצ’אט

מחקר שפורסם לאחרונה ניסה לבחון את יכולת השכנוע של צ’אטבוטים מבוססי בינה מלאכותית בדיונים ישירים, ואת מידת השפעת ההתאמה האישית בתכנים שהם מייצרים. 900 המשתתפים במחקר התבקשו לנהל דיונים תחרותיים (debate) בפלטפורמת רשת ייעודית במשך 10 דקות. החוקרים ציוותו כל משתתף באופן אקראי ל”יריב” אנושי או לצ’אטבוט מבוסס בינה מלאכותית והוקצה לו נושא שנוי במחלוקת, למשל “האם תלמידים צריכים ללבוש תלבושת אחידה?” או “האם עונש מוות צריך להיות חוקי?”, והעמדה שעליו לייצג בדיון (בעד או נגד). בחלק מהמקרים ל”יריב” היתה גם גישה למידע אישי בסיסי על המשתתף, שכלל מין, גיל, מוצא, רמת השכלה, מצב תעסוקה ושיוך פוליטי, כך שאפשר היה להתאים את הטיעונים לפרופיל החברתי-דמוגרפי של המשתתף. לפני הקצאת העמדה, נבדקה גם עמדתו של המשתתף בנושא. 

תוצאות המחקר הראו שכושר השכנוע של הבינה המלאכותית השתווה לזה של בני אדם, ולעיתים אף התעלה עליו. בדיונים בין אדם למודל בינה מלאכותית עם התאמה אישית נצפתה ההשפעה החזקה ביותר, כלומר, בינה מלאכותית ניצלה מידע אישי יותר ביעילות מבני אדם, וכושר השכנוע שלה היה גבוה יותר. הבינה המלאכותית התאימה את טיעוניה לשיוך הפוליטי של המשתתף בדיון על הכנסה בסיסית אוניברסלית, למשל. כאשר המשתתף היה שמרני-רפובליקני, היא קידמה את רעיון ההכנסה הבסיסית ככלי לצמיחה כלכלית, יציבות פיננסית וטיפוח יזמות וחדשנות. כאשר המשתתף היה מהמחנה הליברלי-דמוקרטי, היא הציגה את הנושא כדרך להגביר שוויון בין אוכלוסיות ולצמצם פערי מעמדות.

החוקרים גם בדקו את השפעת סוג היריב על הטיה קוגניטיבית שגורמת לנו להמשיך ולהחזיק באמונות שלנו, ולעיתים אף לחזק אותן, גם כאשר מוצגות לנו ראיות הסותרות אותן. הם גילו שהדיונים נטו לגרום להטיה בכל התנאים, למעט בדיונים מול בינה מלאכותית שהייתה לה גישה למידע אישי. בניתוח טקסטואלי של התגובות נמצא שבינה מלאכותית נטתה להשתמש בטיעוניה בחשיבה לוגית ואנליטית יותר מבני אדם. לעומת זאת, בני אדם הפגינו יותר פניות לדמיון, ביטויי תמיכה ואמון, והשתמשו יותר בסיפור סיפורים (storytelling).

משתתפים שצוותו לדיון עם מודלי בינה מלאכותית הצליחו לזהות זאת בכשלושה מתוך ארבעה מקרים. לעומת זאת, משתתפים שצוותו לבני אדם התקשו לזהות האם דיברו עם בינה מלאכותית או עם בן אדם. עם זאת, היה מתאם בין האמונה שהדיון היה מול בינה מלאכותית לבין שינוי עמדות: משתתפים שחשבו שדיברו עם בינה מלאכותית נטו לשנות את דעתם ולהסכים יותר עם יריבם בהשוואה למשתתפים שסברו שדיברו עם בני אדם אחרים. לא ברור אם שינוי הדעה נבע מהאמונה של המשתתפים לגבי מי שבצד השני, או שהאמונות האלה מקורן בשינוי הדעה. ייתכן, למשל, שהאמונה שלא מדובר באדם בצד השני הקלה על המשתתפים, גם אם לא במודע, לקבל את העובדה ש”הפסידו” בדיון, ואפשרה להם לשנות את דעתם יותר בקלות.

בלי הרבה מידע

החוקרים מדגישים שהמידע האישי שהשתמשו בו היה מועט ובסיסי, כך שאפשר להניח ששימוש במידע יותר רגיש, כמו תכונות אישיות, והנחיה יותר ספציפית של מודל הבינה המלאכותית, היו משפיעים עוד יותר. הם מציינים שהפלטפורמה שבה התרחש המחקר היא סביבה מלאכותית שלאו דווקא מדמה שיחה מקוונת ספונטנית, שעשויה להתפתח באופן בלתי צפוי. מחקרים עתידיים יצטרכו לבדוק אם התוצאות תקפות גם בדיונים טבעיים ברשתות חברתיות ובפלטפורמות מקוונות אחרות.

כוחם של מודלי בינה מלאכותית להיות משכנעים יותר מבני אדם עלול להעלות חששות רבים. מומחים מביעים חשש לגבי הסיכון של שימוש במודלי שפה בהפצת מידע שגוי, החרפת הקיטוב הפוליטי ושכנוע אנשים לאמץ אמונות חדשות. פרנצ’סקו סלבי (Salvi), שהיה חלק מצוות המחקר, מציין שכדי להבטיח השפעה חיובית של הטכנולוגיות האלה, יש לקיים דיונים רחבים יותר סביב אחריותיות (accountability), שקיפות ואמצעי בטיחות הולמים.