מדוע הפסיקה אמזון בפיתוח כלי לגיוס עובדים מבוסס AI?

בינה מלאכותית הופכת לאט לאט לחלק משמעותי מחיינו ומסייעת לנו בפעולות שדרשו עד כה כוח אדם גדול וכללו הרבה טרחה. היכולת המתפתחת של תחום למידת המכונה פשוט מייעלת משמעותית תהליכים מורכבים, וכלי שפיתחה אמזון התיימר לעשות בדיוק את זה גם במחלקות משאבי האנוש של ארגונים. אבל אפשר שכשמדובר בסוג כזה של פעולה – מיון מועמדים למשרות שונות – הגורם האנושי הוא בכל זאת מכריע.

כלי הבינה המלאכותית של אמזון פותח בכדי להעריך קורות חיים ששלחו מועמדים להצעות עבודה ולסווג את המתאימים מביניהם לתפקידים הנכונים בתוך החברה, וזאת לפני שהמועמד הגיע בכלל לשלב הערכה מטעם אדם. ה-AI הפגין יכולות מוצלחות במשימה הזו, אבל אז הסתבר שיש לו משהו נגד בנות המין היפה.

כלי הגיוס מבוסס הבינה המלאכותית של אמזון התגלה כמפלה נגד נשים ואז הוא פשוט נגנז, כך דיווחה סוכנות הידיעות רויטרס אתמול (ד').

גם נגד ה-AI – מאבק לשבור את תקרת הזכוכית בתעשייה

על פי הכתבה, ובה צוטטו חמישה מקורות המכירים את תוכנית קורות החיים, הצוות של תחום הלמידה הממוחשבת עסק משנת 2014 בפיתוח התוכנה, שתדע לבחון את קורות החיים של המועמדים במטרה למכן את החיפוש אחר טלנטים ראויים. ה-AI הוכשר על ידי בחינת קורות חיים שנאספו על ידי החברה. עם זאת, נשים עדיין שקועות במאבק לשבור את תקרת הזכוכית בתעשיית הטכנולוגיה, ולפיכך – רוב קורות החיים שהוגשו לאמזון במהלך 10 השנים האחרונות היו של הגברים.

האלגוריתם של כלי הבינה המלאכותית למד לזהות דפוסים בקורות החיים של גברים, ופיתח העדפה למילים ומושגים כמו "להוציא לפועל" (executed) או "שנתפסו" (captured), אשר הוכח כי הן משמשות יותר מועמדים זכרים, ובנוסף, לפי הסבר המקורות, הוא בחר לפסול קורות חיים שבהן נעשה שימוש במילים כמו "נשים" (women’s), למשל אם מועמדת ציינה ברזומה שלה שהייתה שייכת למועדון כדורסל נשים.

אבל, לדברי המרואינים, ב-2015 החברה הבינה שהמערכת החדשה שלה אינה מאוזנת באופן מגדרי כשהיא מדרגת מועמדים למשרות מפתחי תוכנה ולעמדות טכניות אחרות.

לימדה את עצמה כי המועמדים הגברים עדיפים

ה"אשמה" במה שהתרחש אינה בצוות, כיוון שלמעשה המערכת של אמזון לימדה את עצמה כי המועמדים הגברים עדיפים. אמזון עשתה שינוי בכלי במטרה להפוך אותו לניטרלי, אבל המהלך לא היווה ערובה לכך שה-AI לא תמציא דרכים אחרות למיון מועמדים שעלולות להפגין אפליה, כך לפי הדוברים.

בסופו של דבר החליטה החברה על הפסקת העבודה על הכלי בתחילת השנה שעברה, משום שהמנהלים איבדו את התקווה לפרויקט, כך לדברי האנשים, שדיברו עם רויטרס בעילום שם, ושהדגישו שהמגייסים של אמזון, באגף כוח האדם של החברה, בחנו את ההמלצות שנוצרו על ידי הכלי בחיפוש אחר עובדים חדשים, אך מעולם לא הסתמכו על הדירוגים של ה-AI בלבד.

אמזון סירבה להגיב על הדיווח אודות כלי הגיוס או על האתגרים שלה בפיתוחו, אבל כן הדגישה שהיא מחויבת למגוון ולשוויון בשורותיה.