מהי הטיה (Bias) במודלים?

פתיחה יומיומית

אתם מבקשים מהצ’אט-בוט להציע רעיון לחופשה, והוא מקפיץ שוב ושוב יעדים יקרים באירופה, אפילו אם רמזתם שאתם בתקציב מוגבל. נשמע כמו חבר שלא מפסיק להמליץ על המסעדה השכונתית שלו? בדיוק כך נראית הטיה בחיים האמיתיים – והמודל פשוט מחקה אותה.

הגדרה פשוטה

הטיה (Bias) במודל היא נטייה עקבית להעדיף סוג מסוים של תשובות או להתעלם מאחרות, בגלל האופן שבו המודל “גדל” על הנתונים. אם בקובץ האימונים הופיעו יותר דוגמאות של חופשות יוקרה ופחות טיולי תרמילאים, המודל ילמד ש”חופשה” שווה “יוקרתי”. לכן, גם בלי כוונה רעה, הוא מחזק סטראוטיפים או הסתכלות צרה של המציאות.

כמו להכין סלט בבית

דמיינו שאתם מכינים סלט ממה שיש במקרר. אם יש המון עגבניות וכמעט אין מלפפונים, הסלט ייצא אדום במיוחד, גם אם לא תכננתם. כך גם מודל: הוא “קוצץ” תשובות מתוך החומרים שקיבל, ואם במקרר-הנתונים חסרים מרכיבים או שיש עודף של אחרים, הטעם הסופי יהיה מוטה. אין כאן קסם – רק הרכב חומרים שמכתיב את התוצאה.

למה זה קורה ומה זה עושה

הטיה מתחילה בדרך שבה אוספים מידע: אתרים פופולריים, קבוצות רועשות ברשת או פורומים בשפה מסוימת מקבלים ייצוג יתר, בעוד קולות שקטים או שפות נדירות נכנסים פחות. כשהמודל לומד, הוא פשוט סופר הופעות ומשקלל, ולכן הדעות החוזרות מקבלות “נפח” רב יותר. התוצאה: המלצות, תיאורים ואפילו תמונות שמבליטות קבוצות מסוימות ומתעלמות מאחרות.

ההשפעה בפועל יכולה להיות תמימה – הצעות חופשה יקרות מדי – אבל גם רצינית: מודל גיוס שממיין קורות חיים עלול להעדיף פרופיל מגדרי או אתני מסוים, או יישום רפואי שעלול לפספס תסמינים שכיחים באוכלוסייה פחות מיוצגת. בהיעדר בדיקה אנושית, ההטיה “ממוחזרת” שוב ושוב, והמשתמשים מרגישים שהתוכנה לא מבינה אותם באמת.

טיפים לשימוש מודע

שאלו את המודל “על סמך אילו מקורות ענית?” – לפעמים הוא יספק רמזים למגבלות. נסו לגוון את השאילתות: החלפת ניסוח או ציון מפורש של קבוצה אחרת מאזנות את התוצאה. כשאתם חולקים תוכן רגיש, חפשו חוות-דעת נוספת (אנושית) ולא הסתמכות בלעדית על המודל. לבסוף, זכרו: מודל הוא מראה של הנתונים, לא של האמת המלאה, ואתם מחזיקים ביד את הזכות – והאחריות – לשאול עוד שאלה.

על המסך שלכם זה מרגיש כמו “תפריט מצומצם”

ב-ChatGPT אתם מבקשים השראה ללוגו ופעם אחר פעם מקבלים הצעות בגוני כחול-לבן, כאילו כל המותגים בארץ הם חברות ביטוח. אותו הדבר קורה ב-Midjourney כשמקלידים “רחוב ישראלי” ומקבלים דימוי שנראה כמו פריים אחד מטיול מאורגן בירושלים – הרבה אבנים ירושלמיות ומעט גיוון תרבותי. התחושה החוזרת שהמודל “די ברור” לגבי מה שנכון, היא בסך הכול ההטיה עטופה במילים יפות: הדוגמאות שהוזנו לו בעבר צמצמו את טווח הדמיון שהוא מאפשר לכם בהווה.

כשהמודל מתעקש – זו לא עצלנות, זו מתמטיקה

מאחורי כל תשובה יש נוסחה שמחשבת מה ההמשך “הסביר” למשפט. אם רוב נתוני האימון סימנו שמפתח תוכנה הוא בדרך כלל גבר, הסיכוי שהמודל יכתוב “הוא” ולא “היא” מזנק. במילים אחרות, החזרה העיקשת על דפוס מוכר נולדת משכיחות סטטיסטית ולא מחוסר רצון להיות יצירתי. לכן, גם אם אתם מרגישים שהמודל “מתווכח” אתכם – למשל, Claude שממשיך לטעון שהמלתחה העסקית היא חליפה כהה בלבד – זהו למעשה חישוב קר של הסתברויות שעוּות על ידי נתוני העבר.

הטקסט נתקע בלופ? הסיפור המאוזן פשוט לא קיים במידע

בפניות מורכבות, כמו בקשה לסקר היסטורי על תרבויות מיעוט, המודל לעיתים חוזר על אותן שתי פסקאות או מסיים באמצע רעיון. הסיבה: המקטעים הרלוונטיים במאגר שלו דלילים, ולכן הוא “נגמר” מהר ועובר לאוטומט מילוי חורים. משתמשים מפרשים זאת כתקלה בתוכנה, אך בעצם זו אינדיקציה לכמה מעט קולות שוליים נשמרו בתעודת הזיהוי של המודל. ברגע שהנתון הנדיר לא מופיע די פעמים, האלגוריתם מאבד את חוט הסיפור ומתחיל להסתחרר סביב עצמו.

“סליחה, אני לא מבין” – קריאה לעדכון ההקשר

אם המודל מצהיר שהוא זקוק להבהרה, זו לא התחמקות אלא איתות לכך שהחיזוי הסטטיסטי אינו בטוח. במסרים רפואיים למשל, ההודעה הזו מצילה אתכם מתשובה חלקית שמבוססת על מידע משוחד לטובת אוכלוסייה אחת. במקום לראות בכך כישלון, קחו זאת כהזדמנות להזין פרטים חסרים: הדגישו גיל, מיקום גיאוגרפי או סגנון חיים. אתם בעצם מרחיבים את “מערך הדגימה” ומחלישים את ההטיה שמובנית בברירת המחדל.

להחזיר שליטה – בלי דוקטורט במדעי הנתונים

כשאתם מכתיבים במפורש ניקוד שונה – “תן שלוש חלופות שלא כוללות מערב אירופה”, או “השתמש בלשון ניטרלית מגדרית לכל אורך הטקסט” – אתם מכריחים את המודל לחפש מסלולים פחות צפויים ולכן פחות מוטים. אותו עיקרון עובד גם בדימויים: במידג׳רני הוסיפו “inspired by local street art from multiple regions” ותראו איך הצבעים והסגנונות נפתחים. ההנחיה הברורה לא מוחקת את ההטיה ב-100%, אך היא מצמצמת את מרחב הטעות ומחזירה לכם את הבעלות על התוצאה – צעד קטן שמצטבר, לאורך זמן, להבדל גדול באיכות ובדיוק של העבודה.