משטרת ארה"ב נתבעת: טכנולוגיית זיהוי הפנים זיהתה גבר שחור כפושע לשווא

השימוש של רשויות אכיפת החוק של ארה"ב בטכנולוגיית זיהוי פנים, המכונה FRT (ר"ת Facial recognition technology), עומד לבחינה בארצות הברית במשפט מעניין במיוחד, אחרי מאסרו בניו ג'רזי של גבר חף מפשע – ושחור עור, מן הסתם – בגין פשע שלא ביצע.

ניג'יר פארקס בן ה-33 תובע את המשטרה האמריקנית, לאחר שמנגנון זיהוי הפנים שלה שלח אותו לכלא על לא עוול בכפו. בשנת 2019, פארקס הואשם באופן שגוי בגניבה מחנות של מלון, ובניסיון לפגוע בקצין משטרה עם מכוניתו, וזאת למרות שבאותו זמן היה במרחק של 30 קילומטרים ממקום ההתרחשות. 

השוטרים הוזעקו למלון המפטון-אין, שם הגנב מהחנות, לכאורה, הציג בפניהם רישיון נהיגה מטנסי, שהתגלה בדיעבד כמזויף. אלא שהרשויות השתמשו במערכות זיהוי הפנים, כדי לנתח את התצלום מתעודת הזהות, ומצאו את מה שנראה כהתאמה בינה לבין תצלום תעודת הזהות של פארקס, והוא נעצר. עקב הזיהוי השגוי פארקס "בילה" 10 ימים בכלא, ושילם אלפי דולרים בהוצאות משפט, כשלבסוף התיק נגדו נסגר מחוסר ראיות. כעת הוא תובע, כאמור, את המשטרה המקומית ואת העיר וודברידג' שבניו ג'רזי, בגין הפרת זכויות האזרח שלו, מעצר שווא ומאסר שלא בצדק.

כשלים בזיהוי עקב הטיה גזעית

פארקס הוא האדם השלישי שנעצר שלא כדין בארה"ב, בהתבסס על טכנולוגיית זיהוי פנים שכשלה בביצועיה. גם בשני המקרים האחרים מדובר על גברים שחורים, מייקל אוליבר ורוברט וויליאמס, שניהם תושבי אזור דטרויט – שנעצרו בחשד לביצוע פשעים שלא באמת ביצעו, על בסיס התאמות גרועות שביצע מנגנון זיהוי הפנים. אוליבר, כמו פארקס, גם הוא תבע את המשטרה על מעצרו שלא כדין.

מבקרים ומחקרים טוענים כי הטכנולוגיה אינה מדויקת ופוגעת באופן לא פרופורציונלי באנשים שחורים ובמיעוטים אחרים.

יחידות משטרה בכל רחבי ארצות הברית משתמשות בטכנולוגיית זיהוי פנים מזה מספר שנים. ואולם, מחקר פדרלי משנת 2019, שבחן יותר מ-100 אלגוריתמים לזיהוי פנים, מצא שרוב התוכנות לזיהוי פנים הנפוצות בשימוש כיום מבצעות את ניתוחיהן על בסיס הטיה גזעית, עם שיעורי זיהוי-שווא גבוהים יותר במקרים של פנים של אנשים שחורים ואסיאתיים, בהשוואה לפנים של לבנים.

עוד קודם לכן, ב-2018, התגלו לא מעט טעויות והטיות גזעיות בעת השימוש בטכנולוגיה זו. המגזין Wired חשף כי גוגל (Google) חסמה את הבינה המלאכותית שלה מלתייג תמונות בתגיות "קוף", "שימפנזה" ו-"גורילה" – שני סוגי קופים שדומים למדי לבני אנוש. הסיבה לכך היא ששנתיים וחצי קודם לפני כן החברה נאלצה להתנצל לאחר שהתברר שהבינה המלאכותית שלה תייגה את מפתח התוכנה ג'קי אלקין מניו-יורק, ואת חברתו, כגורילות. גוגל הואשמה בזמנו בכך שה-AI שלה גזענית, והבטיחה לנקוט בצעדים כדי למנוע מקרים כאלה בעתיד. אולם אז הסתבר כי במקום ללמד את אלגוריתם זיהוי העצמים בתמונות להבדיל בין אנשים כהי עור לקופי אדם, גוגל הורתה לתוכנה לא לתייג כלל הן את אלה והן את אלה.

מאבק שעורר מודעות ככלית לאפליה גזעית. תנועת BLM. צילום: BigStock

חברות הטכנולוגיה לוקחות צעד אחורה

את הטכנולוגיה מפתחות כיום חברות היי-טק מובילות ואולם יש לציין כי באחרונה יותר ויותר מהללו נסוגות בהן מלהציע את היכולות למשטרה ולרשויות אכיפת החוק, בגלל המוניטין הבעייתי שיצא לה.

ביולי 2018 פנתה מיקרוסופט (Microsoft) מיוזמתה ובאופן חסר תקדים אל הקונגרס האמריקני בבקשה לחקור את היכולת החדשנית ולפקח אחר השימוש בה, ובכך הייתה לענקית הטכנולוגיה הראשונה לדרוש רגולציה על התחום. 

ביוני האחרון יבמ (IBM) הודיעה במכתב לקונגרס כי לא תציע יותר תוכנות לזיהוי פנים וניתוחים הקשורים לתחום. ארווינד קרישנה, המנכ"ל החדש של החברה ציין במכתב שנדרשעים "מאמצים חדשים למרדף אחר צדק ושוויון גזעי".

"החברה תפסיק להציע תוכנה לזיהוי פנים, והיא מתנגדת לכל שימוש בטכנולוגיה שכזו למטרות פיקוח ומעקב על ההמונים ובניית פרופיל גזעי", כתב קרישנה. הוא קרא לחקיקת חוקים פדרליים חדשים ש-"יביאו לכך שהמשטרה תנהג ביותר אחריות על התנהגות בלתי הולמת".

קרישנה, במכתבו למחוקקים, לא קשר את הפסקת הפיתוח של הטכנולוגיה לזיהוי פנים על ידי הענק הכחול לרצח ג'ורג' פלויד על ידי שוטר לבן במיניאפוליס, ולפעילות תנועת BLM בעקבותיו, שהתרחשה באותם ימים, אך ציין כי "כעת הגיע הזמן להתחיל שיח לאומי בשאלה האם וכיצד צריך להשתמש בטכנולוגיית זיהוי פנים על ידי גורמי אכיפת החוק".

באותו חודש גם אנדי ג'סי, מנכ"ל AWS, הודיע על הקפאה לשנה של שימוש משטרות בארה"ב ב-Amazon Rekognition – שירות זיהוי הפנים של החברה, וזאת אחרי שבפברואר עוד גונן עליו באדיקות.

יצוין כי גם באירופה ההתנגדות לשימוש ב-FRT הולכת וגואה. בפברואר חשפה הנציבות האירופית שהיא שוקלת את האפשרות לחסום את השימוש בטכנולוגיית זיהוי פנים באזורים ציבוריים למשך של עד חמש שנים.

אפילו האפיפיור פרנציסקוס, הביע חששות מהפצת הטכנולוגיות המתבססות על AI, והוותיקן הראה את תמיכתו בדברים בנאום בשמו של האפיפיור, שהוקרא באירוע בו השתתפו נשיא מיקרוסופט, בראד סמית', וסגן נשיא יבמ, ג'ון קלי, השותפים כולם בהתחייבות המכונה "קריאת רומא לאתיקה של AI", שעיקר תביעה שהבינה המלאכותית תכבד את הפרטיות ותעבוד ללא משוא פנים, תוך התחשבות בזכויות אדם.