כשהפקיד פוגש אלגוריתם: הטיית אוטומציה והיצמדות סלקטיבית לעצה
שלושה ניסויי סקר בהולנד לא מצאו ציות אוטומטי לאלגוריתם, אך הראו שהטיות אנושיות עלולות לקבוע מתי עצה — אנושית או חישובית — זוכה לאמון.
לא נמצא ציות אוטומטי לאלגוריתם, אך עצה התואמת סטריאוטיפ זכתה ליותר משקל גם כשהגיעה ממערכת חישובית — ולכן ״אדם בלולאה״ אינו מספיק.
מושגי יסוד בקצרה
הטיית אוטומציה היא נטייה להעדיף ברירת מחדל של מערכת ממוכנת גם לנוכח אותות אזהרה או מידע סותר. היצמדות סלקטיבית היא קבלת עצה לא באופן אוטומטי, אלא כאשר היא מאשרת אמונה או סטריאוטיפ שכבר קיימים אצל מקבל ההחלטה.
מהי שאלת המחקר?
החוקרים שואלים אם מקבלי החלטות ציבוריות מעניקים לעצה אלגוריתמית משקל גדול יותר מעצה מספרית שקולה של מומחים אנושיים, גם כאשר מידע איכותני סותר אותה. הם בודקים בנפרד אם מקור העצה משנה את הנטייה לפעול לפי ציון שמתיישב עם סטריאוטיפ על האדם הנבחן.
כיצד נראה תרחיש ההחלטה?
המשתתפים התבקשו לשמש חברי ועד של בית ספר תיכון הולנדי ולבחור אחד משלושה מורים שחוזהו לא יחודש. לכל מורה הוצגו ציון מספרי והערכת משאבי אנוש איכותנית, ולמורה בעל הציון הנמוך ניתנה הערכה איכותנית חיובית או מעורבת שסתרה את ההמלצה.
מדוע ההשוואה למומחה אנושי חשובה?
השוואת אלגוריתם למצב ללא עצה הייתה מערבבת בין השפעת האוטומציה לבין ההשפעה הכללית של המלצה מקצועית. עיצוב המחקר מחזיק את תוכן הציון קבוע ומשנה רק אם הוא מיוחס למודל אלגוריתמי או לצוות מומחים, וכך מבודד טוב יותר את מקור העצה.
מה מצא המחקר הראשון?
בקרב 605 אזרחים, 11.5 אחוזים ממקבלי העצה האלגוריתמית בחרו במורה בעל הציון הנמוך, לעומת 11.9 אחוזים ממקבלי עצת המומחה. ההבדל היה זעיר ולא מובהק, ורוב גדול בשני התנאים העדיף את ההערכה האיכותנית הסותרת על פני הציון.
כיצד נבדקה היצמדות סלקטיבית במחקר השני?
במחקר השני הוחלף שמו של המורה בעל הציון הנמוך בין שם הולנדי טיפוסי לשם הולנדי־מרוקאי, קבוצה הנתונה לסטריאוטיפים שליליים בהולנד. המדגם כלל 904 אזרחים, ומתוכם 792 משיבים ממוצא הולנדי שימשו לניתוח המניפולציה של זהות המורה.
מה נמצא לגבי סטריאוטיפ וזהות המורה?
המשתתפים נטו יותר לפעול לפי הציון הנמוך כאשר הוא הוצמד למורה הולנדי־מרוקאי: 12.3 אחוזים לעומת 8.6 אחוזים למורה בעל שם הולנדי. יחס הסיכויים היה 1.50 במבחן חד־צדדי, ממצא התומך בהיצמדות סלקטיבית אך מחייב זהירות בגלל גודל ההבדל והקשר התרחיש.
האם האלגוריתם החריף את ההיצמדות הסלקטיבית?
לא נמצא הבדל מובהק בין עצה אלגוריתמית לעצת מומחה אנושי בעוצמת האפקט של שם המורה. המשמעות היא שהטיה סלקטיבית שרדה כאשר מקור העצה הוחלף באלגוריתם, אך המחקר אינו מראה שהאלגוריתם עצמו יצר או החריף אותה.
מה היה מיוחד במחקר עובדי הציבור?
המחקר השלישי כלל 1,345 עובדי ציבור מרמות שלטון ומתחומי מדיניות שונים ונערך בפברואר 2021, מיד לאחר פרשת קצבאות הטיפול בילדים. בפרשה השתמשו רשויות המס במערכת סיכון שכללה לאום כמאפיין והפעילו בדיקות אנושיות מפלות, ולכן המשתתפים נחשפו בזמן אמת לדיון ציבורי על אלגוריתמים ואפליה.
כיצד הגיבו עובדי הציבור לעצה האלגוריתמית?
רק 4.8 אחוזים ממקבלי העצה האלגוריתמית פעלו לפי הציון הנמוך, לעומת 8.6 אחוזים ממקבלי עצת המומחה, וההבדל היה מובהק בכיוון של פחות אמון באלגוריתם. בקרב מי שלא הכירו שימוש ציבורי באלגוריתמים הפער נעלם, ממצא התואם את הסבר המודעות לשערורייה אך אינו מוכיח אותו.
האם עובדי הציבור הפגינו אותה הטיה כלפי המורה ההולנדי־מרוקאי?
בקרב עובדי הציבור לא נמצא דפוס ההיצמדות הסלקטיבית שהופיע במדגם האזרחים. בקרב 1,203 עובדי ציבור ממוצא הולנדי, המשתתפים נטו דווקא פחות שלא לחדש את חוזה המורה ההולנדי־מרוקאי, והבדל זה לא השתנה באופן מובהק לפי מקור העצה.
כיצד החוקרים מפרשים את ההבדל בין האזרחים לעובדי הציבור?
הם מציעים שהחשיפה הגבוהה לאפליה בפרשת הקצבאות הגבירה זמנית את מודעות עובדי הציבור לסכנת פרופיילינג והניעה אותם לתקן הטיה. עם זאת, ייתכנו גם הכשרה מקצועית, הבדלי מדגם או לחץ לתת תשובה לא מפלה, והעיצוב אינו יכול להכריע בין ההסברים או לומר כמה זמן אפקט כזה נמשך.
מה המשמעות של ״אדם בתוך הלולאה״?
פיקוח אנושי נועד לאפשר לעובד לבדוק, לדחות או לתקן פלט בעייתי של מערכת, ובניסויים רוב המשיבים אכן דחו את הציון הנמוך לנוכח המידע האיכותני הסותר. אך אם האדם מעניק משקל לעצה דווקא כשהיא מתאימה לסטריאוטיפ שלו, עצם נוכחותו אינה מבטיחה ביקורת אפקטיבית או יחס שוויוני.
מה המחקר אינו מוכיח?
המחקר משתמש בתרחיש היפותטי אחד בתחום החינוך ובהקשר הולנדי, והמדגמים אינם מייצגים באופן מלא כל אוכלוסייה או כל שירות ציבורי. הוא אינו בוחן שימוש ממושך במערכת, החלטות בעלות השלכות אישיות ממשיות או אלגוריתמים ברמות דיוק שונות, ולכן אין להסיק שאין הטיית אוטומציה בתעופה, ברפואה, ברווחה או במשטרה.
אילו מסקנות מדיניות עולות בזהירות?
רשות ציבורית צריכה לבדוק לא רק אם המודל עצמו מפלה, אלא גם מתי עובדים נוטים לקבל או לדחות את המלצותיו, ולבנות בקרה שמחפשת פערים בין קבוצות. שקיפות, הכשרה וחשיפה לכשלים עשויות להגביר ערנות, אך המאמר אינו בוחן ישירות איזו חבילת פיקוח תבטיח הוגנות לאורך זמן.
היכן אפשר לקרוא את המקור המלא?
נוסח מלא של המאמר זמין במאגר arXiv ברישיון CC BY-NC-SA 4.0. הרשומה הקבועה של המאמר שפורסם ופרטיו הביבליוגרפיים זמינים דרך DOI 10.1093/jopart/muac007.
התקציר שלעיל הוא תקציר עצמאי בעברית, שנכתב בסיוע כלי בינה מלאכותית ובעריכה אנושית, על בסיס המאמר המקורי. הוא אינו תרגום רשמי של התקציר או של המאמר, אינו מטעם המחברים או כתב העת, ואינו מחליף קריאה במקור
עודכן לאחרונה: 26 ביולי 2026