חוקרים טוענים: זיהוי הפנים של אמזון מוטה מגדרית וגזעית

טכנולוגיית זיהוי הפנים, Face Rekognition, מבוססת הבינה המלאכותית, אשר אמזון פיתחה ומשווקת לרשויות אכיפת החוק בארצות הברית, טועה לעתים קרובות בזיהוי, במיוחד כשהמדובר בנשים בעלות עור כהה, כך על פי חוקרים מ-MIT ומאוניברסיטת טורונטו. החוקרים ציינו עם זאת כי לא בדקו את הגרסה האחרונה של ה-Rekognition.

העמותה המכונה American Civil Liberties Union, ה-ACLU, חשפה בנוסף כי תוכנת זיהוי הפנים התבקשה להשוות תמונות של 535 חברי הבית והסנאט למסד נתונים של 25,000 עבריינים. ל-28 מנציגי הקונגרס של ארצות הברית הותאמו בטעות על ידי התכונה תצלומים מתוך המאגר של הפושעים. בכ-40 אחוזים מהזיהוי השגוי, המחוקקים היו גברים ונשים צבעוניים, בעוד שרק 20 אחוזים מחברי הקונגרס אינם לבנים.

התוצאות הפוטנציאליות של זיהוי לא נכון בגופים כמו המשטרה עלולות להיות דרמטיות. ובכל זאת, לפי הדיווחים, משרד השריף של מחוז וושינגטון יצר בסיס נתונים שכולל 300,000 עבריינים וצייד בכירים ביישום סלולרי לזיהוי פנים, בתוך השוואה לדטה בייס הנ"ל.

משטרת אורלנדו יצרה גם היא, לפי הדיווחים, שותפות עם אמזון בכדי להתנסות עם יישומו בזמן אמת של השירות לזיהוי הפנים של אמזון, במטרה לקשור את הפלטפורמה למצלמות אבטחה ציבוריות.

ב-31 אחוז מהמקרים – מזהה נשים כהות עור כגברים

עוד סיפרו החוקרים שבבדיקות שלהם הטכנולוגיה של אמזון סימנה נשים כהות עור כגברים ב-31 אחוז מהמקרים. נשים בעלות עור בהיר יותר זוהו בטעות כגברים רק ב-7 אחוזים מהמקרים. גברים כהי עור זוהו בשוגג רק באחוז בודד מהמקרים, בעוד שבמקרה של גברים בהירי עור לא היו לתכונה שגיאות כלל.

במלים אחרות, תוצאות המחקר, שפורסמו על ידי MIT Media Lab ביום ה', מעידות שטכנולוגיית זיהוי הפנים מתקשה לזהות נשים כהות עור. ככלל, תוכנת ה-Rekognition של אמזון זיהתה נשים באופן לא מדויק כגברים ב-19% מהמקרים, כך דווח במחקר. לשם השוואה, תוכנת זיהוי הפנים של מיקרוסופט זיהתה נשים בעלות עור כהה כגברים רק ב-1.5 אחוזים מהמקרים.

כתוצאה מהממצאים, מספר גופים העוסקים בשמירת זכויות הפרט והאזרח קראו לאמזון להפסיק את שירות ה-Rekognition שלה, בשל דאגות לגבי אפליה נגד מיעוטים על בסיס גזע ומגדר. בנוסף, מספר משקיעים אמזון ביקשו גם הם שהחברה תחדל משיווק היכולות לזיהוי פנים, וזאת מחשש שהפרסומים על ההטיה אשר גלומה בהן עלולה לחשוף את אמזון לתביעות.

אמזון התכחשה לתוצאות המחקר.