.svg){kind=small}
.svg){kind=small}
.svg){kind=small}
מחקרים שנערכו לאחרונה הדגישו תופעה מעניינת: קיים קשר "דו-כיווני" בין ההטיות הקיימות במודלים של בינה מלאכותית לבין אלו של המחשבה האנושית.
אינטראקציה זו יוצרת מנגנון הנוטה להגביר עיוותים קוגניטיביים בשני הכיוונים .
מחקר זה מדגים כי מערכות בינה מלאכותית לא רק יורשות הטיות אנושיות מנתוני אימון, אלא שכאשר הן נפרסות, הן יכולות להעצים אותן, ובכך להשפיע על תהליכי קבלת ההחלטות של אנשים. מצב זה יוצר מעגל שאם לא ינוהל כראוי, עלול להחמיר בהדרגה את ההטיות הראשוניות.
תופעה זו בולטת במיוחד במגזרים חשובים כגון:
- שירותי בריאות ואבחונים רפואיים
- תהליכי מיון כוח אדם
- מערכות זיהוי פנים וניתוח סיכונים
בסביבות אלה, הטיות ראשוניות קטנות יכולות להתעצם באמצעות אינטראקציות חוזרות ונשנות בין מפעילים אנושיים למערכות אוטומטיות, ולהפוך בהדרגה להבדלים משמעותיים בתוצאות .
מקורותיהן של דעות קדומות
במחשבה האנושית
המוח האנושי משתמש באופן טבעי ב"קיצורי דרך למחשבה" שיכולים להכניס טעויות שיטתיות לשיפוטינו. תיאוריית ה"חשיבה הכפולה " מבחינה בין:
- חשיבה מהירה ואינטואיטיבית (נוטה לסטריאוטיפים)
- חשיבה איטית ורפלקטיבית (מסוגלת לתקן דעות קדומות)
לדוגמה, בתחום הרפואי, רופאים נוטים לתת משקל רב מדי להשערות ראשוניות, ולהתעלם מראיות סותרות. תופעה זו, המכונה "הטיית אישור", משוכפלת ומוגברת על ידי מערכות בינה מלאכותית שאומנו על נתוני אבחון היסטוריים.
במודלים של בינה מלאכותית
מודלים של למידת מכונה משמרים הטיות בעיקר באמצעות שלושה ערוצים:
- נתוני הכשרה לא מאוזנים המשקפים אי-שוויונים היסטוריים
- בחירת מאפיינים המשלבים מאפיינים מוגנים (כגון מגדר או מוצא אתני)
- לולאות משוב הנובעות מאינטראקציות עם החלטות אנושיות שכבר מוטות
מחקר שנערך ב-UCL בשנת 2024 הראה כי מערכות זיהוי פנים שאומנו על סמך שיפוטים רגשיים אנושיים ירשו נטייה של 4.7% לתייג פנים כ"עצובות", רק כדי להגביר נטייה זו ל-11.3% באינטראקציות עוקבות עם משתמשים.
איך הם מעצימים אחד את השני
ניתוח נתונים מפלטפורמות גיוס עובדים מראה שכל סבב של שיתוף פעולה בין אדם לאלגוריתם מגביר את ההטיה המגדרית ב-8-14% באמצעות מנגנוני משוב המחזקים זה את זה.
כאשר אנשי מקצוע בתחום משאבי אנוש מקבלים רשימות מועמדים מבוססות בינה מלאכותית שכבר הושפעו מהטיות היסטוריות, האינטראקציות הבאות שלהם (כגון בחירת שאלות ראיון או ביקורות ביצועים) מחזקות את הייצוגים המוטים של המודל.
מטא-אנליזה משנת 2025 של 47 מחקרים מצאה כי שלושה סבבים של שיתוף פעולה בין בני אדם לבינה מלאכותית הגדילו את הפערים הדמוגרפיים פי 1.7-2.3 בתחומים כמו שירותי בריאות, הלוואות וחינוך.
אסטרטגיות למדידה ומיתון הטיה
כימות באמצעות למידת מכונה
מסגרת מדידת ההטיה שהוצעה על ידי דונג ואחרים (2024) מאפשרת לנו לזהות הטיה ללא צורך בתוויות של "האמת הכל" על ידי ניתוח פערים בדפוסי קבלת החלטות בין קבוצות מוגנות.
התערבויות קוגניטיביות
טכניקת "המראה האלגוריתמית" שפותחה על ידי חוקרי UCL הפחיתה את ההטיה המגדרית בהחלטות קידום ב-41%, בכך שהראתה למנהלים כיצד ייראו הבחירות ההיסטוריות שלהם אם היו נעשות על ידי מערכת בינה מלאכותית.
פרוטוקולי אימון המתחלפים בין סיוע בבינה מלאכותית לקבלת החלטות אוטונומית מראים פוטנציאל מיוחד, ומפחיתים את השפעות העברת ההטיה מ-17% ל-6% במחקרי אבחון קליניים.
השלכות על החברה
ארגונים המיישמים מערכות בינה מלאכותית מבלי להתחשב באינטראקציות עם הטיות אנושיות מתמודדים עם סיכונים משפטיים ותפעוליים מוגברים.
ניתוח תביעות אפליה בתעסוקה מראה כי תהליכי גיוס בסיוע בינה מלאכותית מגדילים את שיעורי ההצלחה של התובעים ב-28% בהשוואה לתיקים מסורתיים המובלים על ידי בני אדם, שכן עקבות של החלטות אלגוריתמיות מספקות ראיות ברורות יותר להשפעה שונה.
לקראת בינה מלאכותית המכבדת חופש ויעילות
המתאם בין הטיות אלגוריתמיות למגבלות על חופש הבחירה מחייב אותנו לחשוב מחדש על פיתוח טכנולוגי מנקודת מבט של אחריות אישית ושמירה על יעילות השוק. חיוני להבטיח שבינה מלאכותית תהפוך לכלי להרחבת הזדמנויות, לא להגבלתן.
כיוונים מבטיחים כוללים:
- פתרונות שוק המעודדים פיתוח אלגוריתמים אובייקטיביים
- שקיפות רבה יותר בתהליכי קבלת החלטות אוטומטיים
- דה-רגולציה שמעודדת תחרות בין פתרונות טכנולוגיים שונים
רק באמצעות רגולציה עצמית אחראית של התעשייה, בשילוב עם חופש הבחירה של המשתמשים, נוכל להבטיח שחדשנות טכנולוגית תמשיך להיות מנוע של שגשוג והזדמנויות עבור כל אלה שמוכנים לבחון את כישוריהם.
