הזמנת כרטיסים
heb
הזמנת כרטיסים
arrow heb
בינה מלאכותית גחלילית

בקרת איכות להוכחות

פיתוחים טכנולוגיים מסייעים באימות תמונות במאמרים מדעיים, ומקדמים שקיפות ומהימנות במדע
Getting your Trinity Audio player ready...

מהימנות היא מעמודי התווך המרכזיים של כל מחקר. ידע נבנה בהדרגה, כך שכמעט כל תגלית חדשה היא עוד נדבך בפירמידה של גילויים קודמים. לכן חשוב שכל מדרגה בדרך תהיה כמה שיותר יציבה. כשנמצא בדיעבד פגם במאמר שכבר פורסם, הוא חשוף לביקורת מצד הקהילה המדעית, והמוניטין של חוקרים עלול להיפגע עקב כל טעות, גם אם נעשתה בתום לב. לפני שמאמר יתפרסם בכתב עת מדעי – הבמה המקובלת לפרסום ממצאי מחקרים, עליו לעבור שורה של משוכות שתפקידן לבדוק עד כמה שאפשר שהתוכן שלו תקין. בתהליך הזה המאמרים עוברים אישורים של עורכים ותהליך ביקורת עמיתים, שבו חוקרים אחרים המומחים בתחום מתבקשים להעלות תהיות וספקות בעילום שם על איכות המחקר. 

לפחות זה האידיאל. במציאות מנגנוני פרסום המאמרים לוקים בשלל כשלים. כמות הפרסומים של חוקרת או חוקר היא אחד המדדים המרכזיים להצלחה אקדמית, ולאור זאת בולטים בשנים האחרונות תחקירים שמתריעים על תופעות שחותרות תחת אמינות המחקר המדעי. בין השאר התחקירים האלה מצביעים על חוקרים שמפגינים פוריות יתר ומפרסמים מאמרים חדשים בקצב לא הגיוני, על תעשיות של זיוף מאמרים וגם על מכירת קרדיט על מאמרים לאנשים שלא היו מעורבים בכתיבתם.

גם בנוגע למאמרים אותנטיים עולים לעיתים ספקות בנוגע לאמינות התוכן ואמיתות הממצאים, במיוחד בתחומי מדעי החיים ובמחקר רפואי. כדי להבטיח את אמינות הפרסומים, חוקרים נדרשים לצרף תמונות מצולמות שימחישו בכלים חזותיים את ממצאיהם בעת הגשת המאמרים לכתבי עת, למשל צילומים של רקמות שמדגימות את התופעה הנדונה במאמר או תמונות של תספיגים – כלי מחקרי שיכול לאשר את הימצאותה של מולקולה מסוימת במערכת הניסוי, כגון DNA ,RNA או חלבון. 

מאמרים פגומים פוגעים גם במדע וגם במדענים שחיברו אותם. ערימת מאמרים ועליהם סטטוסקופ | Shutterstock, Micolas
מאמרים פגומים פוגעים גם במדע וגם במדענים שחיברו אותם. ערימת מאמרים ועליהם סטטוסקופ | Shutterstock, Micolas

אנו נוטים להתייחס לתמונות מצולמות כאל ייצוג נאמן של המציאות, אולם גם הן יכולות לעבור מניפולציות. קל לחתוך מהן החוצה ממצאים שסותרים את התוצאות הצפויות של המחקר, או להדביק בתוכן בעריכה פשוטה פרטים שלא היו קיימים בתמונה המקורית. שינויים כאלה יכולים לנבוע מכוונות זדון שמטרתן להטות את הממצאים המוצגים במאמר, אך גם משגיאות שנעשו בתום לב.

הסתרת מידע או סילופו עלולים לפגוע באופן משמעותי בעתיד המחקר בתחום בו עוסק המאמר. לאחרונה נמשך מפרסום מאמר ותיק על מחלת אלצהיימר, שתיאר את הקשר בין החלבון עמילואיד בטא למחלה. המאמר זכה לאלפי ציטוטים במאמרים אחרים, מעבדות מחקר התבססו על ממצאיו במשך שנים בחיפוש אחרי טיפולים שיסייעו בהתמודדות עם המחלה ותקציבי מחקר עצומים הוזרמו לחוקרים שבחרו להמשיך בקו המחקר הזה, אך אלו לא הובילו לתוצאות הרצויות. תחקיר משנת 2022 העלה כי חלק מהתמונות במאמר המקורי, ובעוד כשבעים מאמרים אחרים של אותו חוקר, נערכו באופן שסילף מידע והתאים את הממצאים טוב יותר להשערת החוקרים.

גם כשטעות בתמונות נעשית ללא ידיעת החוקר, המחיר עלול להיות גבוה. בשנת 2023 נשיא אוניברסיטת סטנפורד, מהמוסדות האקדמיים החשובים בארצות הברית, מרק טסייה-לאבין (Tessier-Lavigne), נאלץ להתפטר עקב גילוי פגמים שנפלו בדיווח על מחקרים שבהם הוא היה שותף, אף על פי שלא נמצאה כל ראיה לכך שהיה מודע לפגמים בעת פרסום המאמרים.

סימנים שמעידים כי תמונה עברה עריכה, או הצגה חוזרת של תמונה או של חלקים ממנה באותו מאמר בלי להצהיר על כך, מעוררים חשד מיידי – גם אם העריכה נעשתה למטרות אסתטיות, כדי להדגיש מסר או שאירעה טעות כלשהי בהיסח הדעת. מאמרים מכילים אינספור פרטים זעירים, נערכים לפני הגשה שוב ושוב והסבירות שתיפול טעות אינה זניחה, אפילו אצל חוקרים מיומנים. לכל המעורבים בהבאת מאמר לדפוס, בהנחה שהם ישרים, יש אינטרס לוודא את אמינות תוכן המאמרים, והתמונות בפרט. הבסיס המשותף הוא השאיפה לשמור על האמון: המפרסמים צריכים לדאוג שלמחקרים איכותיים יהיה המשך, וחוקרים לא רוצים ששמם יוכתם עקב שגיאה תמימה. 

סוכני אמת

יש חוקרים שמקדישים את עיקר זמנם לבדיקת התמונות במאמרים. צוות חוקרים בראשות אליזבת’ ביק (Bik) בחן כעשרים אלף מאמרים ביו-רפואיים, ומצא בכארבעה אחוזים מהם תמונות שחוזרות על עצמן. בחלק מהמקרים התעורר ספק של ממש בנוגע לתום ליבם של כותבי המאמר, כיוון שאותה תמונה מופיעה בכמה צורות, כגון תמונת מראה, או תמונה מסובבת. הכפילות החמקמקה הזאת יכולה לשוות לממצאים שבמאמר מראית עין חזקה יותר מכפי שנצפתה בפועל.

ניתוחים נוספים דיווחו כי באחד מכל ארבעה מאמרים נמצאו תמונות ערוכות. בבלוג המוקדש לחשיפת הונאות במחקר מדעי פורסמה סקירה על מוסד ששייך לאוניברסיטת הרווארד, שנמצא כי במשך כעשרים שנה התפרסמו במסגרתו קרוב לחמישים מאמרים שהופיעו בהם תמונות שככל הנראה נערכו, נחתכו והודבקו באופן שיוצר פער בין הממצאים האמיתיים לבין המשמעות שמיוחסת להם במאמר. בעקבות הפרסום רבים מהמאמרים הללו נדרשו לעבור תיקונים או שפרסומם נמשך לחלוטין.

בדיקה ידנית מדוקדקת יכולה לעלות על חלק מהתמונות הערוכות, אולם בקצב נמוך ובמחיר גבוה. אדם סוקר מאמר עם זכוכית מגדלת | Shutterstock, Tiko Aramyan
בדיקה ידנית מדוקדקת יכולה לעלות על חלק מהתמונות הערוכות, אולם בקצב נמוך ובמחיר גבוה. אדם סוקר מאמר עם זכוכית מגדלת | Shutterstock, Tiko Aramyan

מעבר לגופים שסוקרים מאמרים מיוזמתם, קיימים גם פורומים שמאפשרים ביקורת פומבית וזמינה לציבור על מאמרים. באתר PubPeer מתנהלת מעין ביקורת עמיתים פומבית למאמרים שכבר פורסמו. משתמשים יכולים להעלות לאתר מאמרים עם הפניות לחלקים שעוררו אצלם סימני שאלה, והחוקרים מתבקשים להגיב ולהסביר את עצמם. במקרים רבים החוקרים מספקים הסבר מתקבל על הדעת שמבטל את כל החששות, אך לפעמים נחשפות כך גם בעיות מהותיות. לפלטפורמות כאלה יש גם חסרונות: האפשרות להגיב באופן אנונימי מעודדת לעיתים שיח תוקפני או בריוני מיותר.

הטכנולוגיה בשירותי האיתור

חלק ניכר ממלאכת בדיקת התמונות נעשה באופן ידני, בידי עורכים מדעיים וחוקרים שעוברים בקפידה מאמר אחרי מאמר ומחפשים תמונות שנראות דומות במידה בלתי סבירה או שיש בהן סימנים שעשויים להעיד על עריכה. הבדיקה הזאת איטית, יקרה ומוגבלת. על כן יותר ויותר כתבי עת, אוניברסיטאות וחוקרים עוברים בהדרגה להשתמש בתוכנות שמחלצות באופן אוטומטי תמונות ממאמרים ובודקות אותן.

את הפגמים הפוטנציאליים אפשר לחלק לכמה סוגים עיקריים. הם כוללים עריכה של תמונות שנועדה להדגיש ממצאים או לטשטש אותם, למשל על ידי גזירה החוצה של חלקים מהתמונה או הדבקת פרטים שלא הופיעו בה במקור; תמונות כפולות או חופפות חלקית שמופיעות כמה פעמים ברחבי המאמר בלי שהוצהר במפורש שהמקור שלהן משותף; תמונות שהועתקו ממקורות אחרים; ולאחרונה גם תמונות שנוצרו על ידי בינה מלאכותית.

תוכנות מחלצות באופן אוטומטי תמונות ממאמרים ובודקות אותן.דוגמאות לזיהוי של תמונה משוכפלת בסיבוב (מימין) או משוכפלת בהיפוך (משמאל) באמצעות כלי הזיהוי של  Proofig AI | התמונות באדיבות Proofig AI
תוכנות מחלצות באופן אוטומטי תמונות ממאמרים ובודקות אותן.דוגמאות לזיהוי של תמונה משוכפלת בסיבוב (מימין) או משוכפלת בהיפוך (משמאל) באמצעות כלי הזיהוי של  Proofig AI | התמונות באדיבות Proofig AI

זיהוי כל אחד מסוגי הבעיות האלה דורש שיטת טיפול נפרדת. מערכות עיבוד תמונה מבוססות בינה מלאכותית משמשות לניתוח תמונות וזיהוי אוטומטי של בעיות. כלי זיהוי ניגשים למאגרים של מיליוני מאמרים קיימים ומאפשרים להשוות תמונות ממאמר חדש לתמונות שהופיעו במאמרים קודמים כדי לזהות העתקות, וגם לחפש תמונות משוכפלות בתוך המאמר עצמו.

כשרוצים להשוות תמונה למאגר של מיליוני תמונות אחרות, צריך למצוא דרכים מהירות ויעילות לבצע את ההשוואה. אחת הדרכים היא לחלץ מתוך תמונה מעין חתימה ייחודית שלה, שמסכמת כמה מהמאפיינים שמייחדים אותה, ואז לחפש חתימה דומה במאגר של חתימות קודמות. חיפוש כזה הוא מהיר יותר ובמובנים רבים יעיל יותר מהשוואה מלאה של כל הנקודות (פיקסלים) שבה, ולפעמים החתימה עשויה להישאר דומה אפילו בתמונות שעברו עריכה.

החברה הישראלית Proofig AI מפתחת כלי זיהוי שכבר אומץ על ידי חוקרים שמבקשים לבדוק את עצמם, וגם על ידי כתבי עת בינלאומיים שבודקים את המאמרים המועמדים לפרסום. הכלי מסוגל להצביע על אזורים בתמונה שיש סיבה לחשוד שעברו עריכה, מקומות שהודבקה בהם חתיכה מתמונה אחרת או כאלה שנמחק בהם מידע. הכלי גם מזהה תמונות וחלקי תמונות ששוכפלו בתוך המאמר ומשווה תמונות למאגרים קיימים כדי לשלול העתקות לא מוצהרות של מידע וגניבות ממאמרים אחרים.

על בסיס ניתוח התמונות החברה מנגישה מערכת זיהוי שמאפשרת לחוקרים או למבקרים מטעם כתב העת לבחון לעומק את התמונות במאמר, באמצעות שורה של כלים שמצביעים על חששות לליקויים. כך יכול כל מי שבודק את המאמר לבחון באופן ביקורתי את מהימנות הממצאים, וגם החוקרים עצמם יכולים לוודא שלא נפלה שגיאה בתמונות שלהם לפני שהם שולחים את המאמר לפרסום.

בתמונה מופיע לכאורה דגימה היסטולוגית שמתארת מבנה של רקמה. הגוונים והמרקמים השונים בתמונות כאלה מציגים סוגי תאים שונים. למעשה התמונה יוצרה באמצעות מחולל תמונות מבוסס בינה מלאכותית | התמונה באדיבות Proofig AI
בתמונה מופיע לכאורה דגימה היסטולוגית שמתארת מבנה של רקמה. הגוונים והמרקמים השונים בתמונות כאלה מציגים סוגי תאים שונים. למעשה התמונה יוצרה באמצעות מחולל תמונות מבוסס בינה מלאכותית | התמונה באדיבות Proofig AI

האפשרות לייצר תמונות מלאכותיות למאמרים מעורר חשש הולך וגובר מפני ניצול לרעה של הטכנולוגיות החדשות. זיהוי התוצרים של מחולל תמונות המבוסס על בינה מלאכותית היא בעיה מאתגרת גם מחוץ להקשר המדעי והמחקרי, ונעשים מאמצים לפתח כלים שיידעו לזהות תוצרים כאלה. Proofig AI מפתחת כלי משלה שנועד לזהות תמונות של תוצרי מחקר ביולוגי שחוללה בינה מלאכותית. בסקר שערכה החברה בהשתתפות מאות חוקרים, התבקשו הנבדקים לזהות מתוך מבחר של תמונות ביולוגיות אילו מהן אמיתיות ואילו יוצרו על ידי בינה מלאכותית. מחצית מהחוקרים שהשתתפו בסקר נכשלו וקטלגו בצורה שגויה לפחות חצי מהתמונות. אתם מוזמנים לבחון את האתגר בעצמכם.

יש מה לעשות

המודעות הגוברת לבעיה עוררה מוסדות וכתבי עת לחדד נהלים. בהחלטה משותפת של כמה מגופי ההוצאה לאור הגדולים בעולם המדע נקבע כי אם חוקרים לא מספקים לכתב עת הסבר ראוי לגבי תמונה שהתעוררו חששות לגביה, המאמר יידחה. אם הוא יתפרסם לאחר מכן במקום אחר, כתב העת ישתף את הגוף המפרסם בחששותיו. נוסף על מערכת הדיווח הזאת, כתבי עת החלו לדרוש מחוקרים להגיש בנפרד גם תמונות גולמיות שיאפשרו השוואה יעילה. 

מערכות סריקת מאמרים אוטומטיות יעילות יותר מבני אדם בזיהוי תמונות חשודות, ואף מזהות מניפולציות שבוחנים אנושיים נוטים לפספס. עם זאת, קיים בהן חשש לזיהוי יתר, כלומר מצב שבו מערכת אוטומטית תצביע על פגמים אפשריים במאמר שנעשה ביושרה מלאה. עקב הבעיה הבלתי נמנעת הזאת, חיוני להשאיר בתמונה את שיקול הדעת של בודק אנושי. מעבר לתמונות, חוקרים מפתחים כלים לבדיקה אוטומטית של סוגי מידע נוספים שמתועדים במאמרים בצורה טקסטואלית – למשל רצפי נוקלאוטידים – אבני הבניין של החומר התורשתי.

אוטומציית אימות המאמרים היא כלי מתבקש לכתבי העת שמקבלים מאמר לפרסום, וגם לחוקרים שמגישים מאמרים שמסכמים מאמצים מחקריים שנמשכו שנים רבות. כפי שבדיקות איות אוטומטיות הן כלי שגרתי ושימושי, כך בדיקות של תמונות ואמצעי העברת מידע אחרים במאמר צריכות להפוך לשגרה שמועילה לכל הצדדים.

תכנים נוספים עבורך

היקום המוזר של מכחישי המדע

בעידן הרשתות החברתיות, קל לחסידי קונספירציות ולגורמים דומים אחרים להפיץ פסאודו-מדע ולהקים מהאוב תיאוריות שנדחו לפני מאות שנים

calendar 15.5.2025
reading-time 11 דקות

הטיית ההישרדות

מה קורה כשבוחנים לעומק את הנתונים שלפנינו – אבל מתעלמים מנתונים רבים אחרים, פשוט משום שהם לא שרדו? כתבה שישית בסדרה

calendar 9.8.2025
reading-time 3 דקות

הבעיה עם המדע-שמדע הזה שלכם!

פעם הכול היה הרבה יותר פשוט. עם כוח רצון חזק מספיק היה אפשר אפילו לעוף, עד שניוטון קלקל את הכול עם ה”פרינקיפיה” שלו

calendar 1.4.2025
reading-time 3 דקות