למה זה קורה?

ה-AI שלנו הוא קצת כמו ילד שגדל על דיאטה של סטריאוטיפים ישנים. הוא לא מתכוון להיות מפלה, הוא פשוט לא יודע אחרת.

1. אפקט המראה הדיגיטלית : מחקר שפורסם ב-Nature Machine Intelligence ב-2021 הראה איך AI משקף ומעצים הטיות חברתיות קיימות. לדוגמה: החוקרים גילו שמערכות AI שאומנו על תמונות מהאינטרנט נטו להציג נשים במטבח פי 1.6 יותר מגברים, למרות שבמציאות הפער קטן בהרבה. ומה לגבי צבע עור? ובכן, ה-AI נטה להציג אנשים לבנים בתפקידי ניהול פי 3 יותר מאשר אנשים לא-לבנים.
2.  "Garbage In, Garbage Out" או בקצרה "GIGO" :  ה- AI לומד מהנתונים שאנחנו מזינים לו. אם הנתונים האלה משקפים הטיות חברתיות היסטוריות הוא ילמד ויחזור על אותן הטיות. מחקר מאוניברסיטת וושינגטון ב-2022 בחן את מאגרי המידע המשמשים לאימון AI, וגילה שמאגרים פופולריים מכילים ייצוג יתר של תכנים סטריאוטיפיים. למשל, בתמונות של "מנהל" 89% היו של גברים לבנים. כשחיפשו "עובד" רק 20% מהתמונות הציגו אנשים לא-לבנים, למרות שהם מהווים חלק הרבה יותר גדול מכוח העבודה העולמי.
3. ייצוג חסר בצוותי פיתוח: כשצוותי הפיתוח של AI אינם מגוונים מספיק, הם עלולים שלא לזהות הטיות מסוימות או לא לתת להן מספיק חשיבות. מחקר של MIT ב-2023 הראה איך גיוון בצוותי פיתוח AI מוביל לתוצאות מאוזנות יותר. הם השוו צוותים הומוגניים לצוותים מגוונים וגילו שצוותים מגוונים זיהו 29% יותר הטיות אפשריות במערכות שפיתחו. זה כולל הטיות על בסיס מגדר, צבע עור, גיל ועוד.

לכל אלה מתווספת גם תופעת 'סטריאוטיפ ההשלמה': כשלמודל חסר מידע, הוא נוטה להשלים פרטים על בסיס הדפוסים הנפוצים ביותר שלמד, מה שמוביל להעצמת סטריאוטיפים ודימויים 'טיפוסיים'.

למה כל כך חשוב שנהיה מודעים להטיות הללו דווקא במשאבי אנוש?

בינה מלאכותית (AI) היא ללא ספק מנוף אסטרטגי בתחום משאבי אנוש! היא מאפשרת קפיצת מדרגה משמעותית בתהליכי גיוס, פיתוח הון אנושי והערכת ביצועים, מספקת כלים מתקדמים לחיזוי מגמות תעסוקה, אופטימיזציה של תהליכי עבודה, והתאמה מדויקת יותר בין כישורי העובדים לדרישות התפקיד. עם זאת, עלינו להיות מודעים כל הזמן לפערים ולסיכונים בשימוש בכלים המתקדמים:

1. הטיות בבינה מלאכותית משפיעות משמעותית על תהליכי גיוס, במיוחד כשהמגייסים והמגייסות אינם מודעים למנגנונים מאחורי האלגוריתמים. AI עלול לסנן מועמדים על בסיס מאפיינים לא רלוונטיים, לשמר דפוסי העדפה היסטוריים מוטים, ולהיות מוטה בניתוח ראיונות וידאו או בבחינת ההתאמה. בנוסף, ניתוח שגוי של רשתות חברתיות ומבחני אישיות ממוחשבים עלולים להוביל להחלטות גיוס לא מדויקות, לאפליה לא מכוונת ולהחמצת כישרונות מגוונים.
2. הטיות במערכות AI המשמשות להערכת ביצועים ולזיהוי פוטנציאל עלולות ליצור "תקרת זכוכית" בפיתוח קריירה. הן עשויות להוביל להערכות ביצועים מוטות, זיהוי פוטנציאל לא מאוזן, המלצות קידום לא הוגנות, והקצאה לא שוויונית של משאבי פיתוח.
3. מערכות AI המייצרות תוכן ויזואלי וטקסטואלי לשימוש ארגוני (תקשורת פנים ארגונית, חומרי הדרכה, מודעות דרושים, תוכן למיתוג מעסיק ברשתות חברתיות, תוכן לאירועי חברה וכדומה), עלולות להנציח ולחזק סטריאוטיפים קיימים, ליצור תרבות ארגונית מוטה, להשפיע באופן שלילי על גיוס מגוון, ואפילו לפגוע בתדמית הציבורית.

לסיכום – מה בכל זאת אפשר לעשות?

• להיות מודעים  להטיות ולהבין כיצד הן עשויות להשפיע על התוצרים וההחלטות שלנו. במקביל חשוב להמשיך להשקיע בהכשרות של צוותי גיוס, מנהלות ומנהלים בנושא זיהוי והתמודדות עם הטיות
• לבדוק ולוודא שאנחנו עושים שימוש במערכות אמינות ככל הניתן
• לגוון את צוותי הפיתוח ובדיקות המערכות
• להשתמש ב-  AI בתבונה ותמיד לשלב שיקול דעת אנושי

בעידן הדיגיטלי, תפקידנו כנשות ואנשי משאבי אנוש הוא לא רק לאמץ טכנולוגיות חדשניות, אלא גם להבטיח שהשימוש בהן מקדם סביבת עבודה הוגנת, מכילה ומגוונת, ולעשות כל שביכולתנו כדי ליצור עתיד תעסוקתי שבו הטכנולוגיה משרתת את כולן ואת כולם!