ברקע הרצח של ג'ורג' פלויד: יבמ יוצאת מתחום התוכנות לזיהוי פנים

יבמ לא תציע יותר תוכנות לזיהוי פנים וניתוחים הקשורים לתחום, כך הודיע הענק הכחול במכתב לקונגרס האמריקני. ארווינד קרישנה, המנכ"ל החדש של יבמ, קרא במכתב ל-"מאמצים חדשים למרדף אחר צדק ושוויון גזעי".

"החברה תפסיק להציע תוכנה לזיהוי פנים, והיא מתנגדת לכל שימוש בטכנולוגיה שכזו למטרות פיקוח ומעקב על ההמונים ובניית פרופיל גזעי", כתב קרישנה. הוא קרא לחקיקת חוקים פדרליים חדשים ש-"יביאו לכך שהמשטרה תנהג ביותר אחריות על התנהגות בלתי הולמת".

יבמ לא הסבירה את העיתוי להחלטתה לצאת מתחום הפיתוח של תוכנות לזיהוי פנים. קרישנה, במכתבו למחוקקים לא קשר את הפסקת הפיתוח של הטכנולוגיה לזיהוי פנים על ידי הענק הכחול לרצח ג'ורג' פלויד על ידי שוטר לבן במיניאפוליס ולהפגנות שמציפות בעקבותיו את ארצות הברית בימים האחרונים, אך ציין במכתב כי "כעת הגיע הזמן להתחיל שיח לאומי בשאלה האם וכיצד צריך להשתמש בטכנולוגיית זיהוי פנים על ידי גורמי אכיפת החוק".

ההודעה של הענק הכחול מגיעה לאחר כשבועיים שבהם מתקיימות בארצות הברית, לאורכה ולרוחבה, הפגנות בגין הרצח של פלויד והאפליה המתמשכת במדינה נגד אפרו-אמריקנים. הן כוללות קריאות הולכות וגוברות לרפורמות במשטרות המקומיות השונות. הירצחו של פלויד לעיני המצלמות הביא לחידוש מחאת ה-Black Lives Matter (חיי השחורים חשובים), ועורר מחדש את הדיונים על שיטור יתר ועל הטכנולוגיות שבהן מסתייעות רשויות האכיפה.

"אסור להשתמש בטכנולוגיה לקידום אפליה"

"יבמ מתנגדת בתוקף ולא תתיר שימוש בטכנולוגיה כלשהי, כולל טכנולוגיית זיהוי פנים המוצעת על ידי ספקיות IT אחרות, לצורך מעקב ופיקוח על המונים, שרטוט פרופיל גזעי, הפרות זכויות אדם וחירויות בסיסיות", כתב קרישנה. לדבריו, "טכנולוגיה יכולה להגביר את השקיפות ולעזור למשטרה להגן על קהילות – אך אסור לקדם על בסיסה אפליה או אי צדק גזעי".

ארווינד קרישנה, מנכ"ל יבמ. צילום: יח"צ

קרישנה, איש המפתח ברכישת הענק הכחול את רד-האט תמורת 34 מיליארד דולר, נכנס לתפקיד מנכ"ל החברה לפני כחודשיים.

על פי רשת CNBC, עסקי התוכנות לזיהוי הפנים של יבמ לא הניבו לה הכנסות משמעותיות. גורם שמכיר את הנושא אמר לרויטרס כי ההחלטה לצאת מהתחום התקבלה במהלך דיונים בנושא בחודשיים האחרונים. החברה כבר לא תשווק, תמכור או תעדכן את המוצרים שכבר מכרה – אלא רק תתמוך בלקוחות לפי הצורך.

בעבר התגלו לא מעט טעויות והטיות גזעיות בעת השימוש בטכנולוגיה זו. המגזין Wired חשף ב-2018 כי גוגל חסמה את הבינה המלאכותית שלה מלתייג תמונות בתגיות "קוף", "שימפנזה" ו-"גורילה" – שני סוגי קופים שדומים למדי לבני אנוש. הסיבה לכך היא כי שנתיים וחצי קודם לכן החברה נאלצה להתנצל לאחר שהתברר שהבינה המלאכותית שלה תייגה את מפתח התוכנה ג'קי אלקין מניו-יורק ואת חברתו כגורילות. גוגל הואשמה בזמנו בכך שהבינה המלאכותית שלה גזענית, והבטיחה לנקוט בצעדים כדי למנוע מקרים כאלה בעתיד. אולם אז הסתבר כי במקום ללמד את אלגוריתם זיהוי העצמים בתמונות להבדיל בין אנשים כהי עור לקופי אדם, גוגל הורתה לתוכנה לא לתייג כלל הן את אלה והן את אלה.