מחקר שמעורר סערה: אפשר לזהות נטייה מינית – באמצעות AI
חוקרים מסטנפורד גילו שבינה מלאכותית יכולה לזהות האם אדם הוא סטרייט או גיי על פי תמונה אחת בלבד - בדיוק של כ-80% ● המחקר מעורר תרעומת, ואפילו החוקרים מוטרדים מכך שחברות וממשלות משתמשות באלגוריתמים בכדי לזהות תכונות ומאפיינים של אנשים
מחקר חדש מאוניברסיטת סטנפורד מצא כי בינה מלאכותית יכולה לקרוא את הנטייה המינית של האדם בדייקנות מדהימה. החוקרים פיתחו אלגוריתם שיכול, ברוב המקרים, לזהות אם אדם הוא הומו או סטרייט רק על ידי קריאת תמונה אחת של הפנים שלו, או שלה. תוצאות המחקר מעוררות סערה בקהילת הלהט"ב ובקהילה האקדמית כאחד.
בימי קדם עשו שימוש בפיזיונומיה – תורת הפנים העתיקה – במטרה להסיק על אישיותו של האדם לפי תווי פניו. גם אריסטו השתמש בתורה זו. היא צברה פופולריות רבה במאות ה-18 וה-19, ואנשים נהגו אפילו לשאת מדריכי כיס מאוירים שאפשרו לאבחן זרים ולהתנבא האם מדוב באדם טוב לב או לא. בחלוף השנים, ועם התקדמות המחקר בד בבד עם העמקת ההבנה לרב-רובדיות של בני האדם ולשאר שיקולים מוסריים ובעיקר אתיים, זכו שיטות אלה לאפיון בני האדם לבוז והמחקר הפנה להן עורף.
אלא שכעת מגיע עידן הבינה המלאכותית ומעלה שוב את היכולת לאפיין אדם, ואת נטייתו המינית, לפי תווי הפנים בלבד, ולא סתם, אלא שאלגוריתם ה-AI היה מדויק ב-81% מהמקרים לגבי גברים וב-74% לגבי נשים. הדיוק קפץ ל-91% ו-83%, בהתאמה, אם ניתנו למחשב חמש תמונות של האדם. לשם השוואה, אנשים שניסו במסגרת המחקר לקבוע את הנטייה המינית של בן אדם אחר על פי תמונות דייקו רק ב-61% מהפעמים עם גברים וב-54% מהפעמים עם נשים. יצוין שבמחקר לא נכללו משתתפים שאינם לבני עור, ולא הייתה בו כל התחשבות בטרנסג'נדרים או בביסקסואלים.
הבעיה המרכזית באלגוריתם, שבחן את תכונות הפנים ואת מידת הטיפוח שלהן, היא שהוא מצביע על כך שיש גורמים גנטיים שעשויים להבחין בין הומואים לסטרייטים. לדברי החוקרים, "בהתאם לתיאוריה של ההורמון הטרום לידתי הקובע את הנטייה המינית, גברים ונשים גאים נטו להיות בעלי מורפולוגיה, הבעות וסגנונות טיפוח פנים הטיפוסיים למגדרם".
כלי מסוכן מאוד אם יגיע לידיים לא נכונות
חשוב לשים לב שהמחקר עצמו מציין שהטכנולוגיה המסוימת עלולה להיות מסוכנת אם תתגלגל אל הידיים הלא נכונות. "לאור העובדה שחברות וממשלות משתמשות יותר ויותר באלגוריתמים של ראיית מחשב בכדי לזהות תכונות אינטימיות של אנשים, הממצאים שלנו חושפים איום על הפרטיות והבטיחות של גברים ונשים הומוסקסואליים", כתבו החוקרים.
ההשלכות על הבינה המלאכותית ויכולותיה הספציפיות עצומות ומפחידות. מיליארדי תמונות פנים של אנשים מאוחסנות באתרי המדיה החברתיים ובמאגרי המידע הממשלתיים. החוקרים למעשה הביעו את חששם כי ניתן יהיה להשתמש בנתונים הציבוריים הללו בכדי לאתר את הנטייה המינית של אנשים ללא הסכמתם.
בראיון שהעניק לגרדיאן (Guardian) הביע גם ניק רולה, פרופסור לפסיכולוגיה באוניברסיטת טורונטו, שפרסם מחקר על הגיידאר, כלומר: ה-"יכולת" לזהות אנשים בעלי נטייה מינית הומוסקסואלית, חששות מהממצאים אודות היכולות הספציפיות של הבינה המלאכותית. "זה בהחלט מטריד. כמו כל כלי חדש, אם הוא מגיע לידיים הלא נכונות, הוא יכול לשמש למטרות רעות", אמר פרופ' רולה.
"אם אתה יכול להתחיל לנתח פרופיל של אנשים על פי המראה שלהם, ואז לזהות אותם ולעשות להם דברים איומים, זה ממש רע", הוא ציין והוסיף ש-"מה שהמחברים עשו כאן הוא להצהיר בצורה מאוד אמיצה כמה עוצמתי זה יכול להיות. עכשיו אנחנו יודעים שאנחנו צריכים הגנות".
ומה עם מבנה הגולגולת? האם מבנה הפנים והגולגולת מעיד גם על היכולת השיכלית? האם אפשר לנבא מי יהיה פושע ומי יהיה XYZ לפי מבנה פנים? למה רק נטייה מינית? חזרנו לתורת הגזע לפי מבנה גולגולת ומבנה פנים? מה עוד צפוי לנו?
עידית, המקרה שאת מתארת יקרה כאשר הניסוי כולל ייצוג "אמיתי" של האוכלוסיה, כלומר אחד מכל עשרה משתתפים בניסוי יהיה הומוסקסואל. במצב כזה למכונה שמזהה את כולם כהטרוסקסואלים יהיה 90 אחוזי הצלחה. הניסוי שעשו כולל מספר רב יותר של הומוסקסואלים ולכן מכונה שמזהה את כולם כסטרייטים לא תביא תוצאות טובות.
איך משיגים את הטכנולוגיה הזאת?
לא ברור. אם הסיכוי לכך שאדם יהיה גאה הוא 10 אחוז, אז אלגוריתם שקובע שכולם סטרייטים אמור לקבל 90 אחוז דיוק. זו תוצאה יותר טובה מהניסויים עם המחשב או עם האנשים.
2 דברים. 1. עכשיו רואים שתרבות הpc ומקדימותיה מנעו מחקרים מדעיים נקיים בנושא שדי היה ברור לכולם שאפשרי - זיהוי תכונות לפי הפנים. 2. השאלה הבאה אם כך היא - מה השינוי שאדם שלא רוצה שיזהו את נטייתו צריך לעשות כדי להסתיר זאת. ניתוח פלסטי? איפור שונה?