כלי AI של גוגל יסייע במאבק בניצול מיני של ילדים

חברת גוגל (Google) פרסמה ומציעה לשימוש חינמי כלי בינה מלאכותית חדש, שמטרתו לסייע לארגונים בזיהוי והסרה של תוכן שעניינו ניצול מיני של ילדים המתפרסם באינטרנט.

תופעת הפדופיליה ברחבי האינטרנט חמורה מאוד והמאבק כנגדה סיזיפי. בכל זמן נתון מועלות אינספור תמונות לרשת בכלל ולפלטפורמות החברתיות בפרט, והיכולת לסרוק את מסת התכנים הללו באמצעות גורמים אנושיים מצומצמת במיוחד.

ממשק תכונות היישומים לבטיחות התוכן (Content Safety API) שמציעה גוגל הוא למעשה ערכת כלים המשתמשת ברשתות עצביות עמוקות לעיבוד תמונה. הכלי החדשני יודע לזהות את החומר הלא חוקי במהירות, בתוך צמצום הצורך בבדיקות אנושיות ספציפיות שלו, שמתבצעות כיום ונחשבות כתהליך מסורבל, שלעתים קרובות כרוך בצורך בהעסקת סוקרים שנדרשים לעבור על אלפי תמונות באופן ידני.

מהירות איתור והסרה גדולה ב-700 אחוזים

"זיהוי מהיר של תמונות חדשות פירושו שילדים שעוברים ניצול מיני כיום סביר יותר שיאותרו ויהיו מוגנים מפני התעללות נוספת", כתבו ניקולא טודורוביץ', מנהל ההנדסה של גוגל, ומנהל המוצר שלה, אבהי צ'אודהורי, בפוסט שפרסמו בבלוג החברה.

"אנו הופכים את זה (הכלי – ג"פ) לחינמי לארגונים לא ממשלתיים ולשותפים בתעשייה באמצעות ה-API שלנו בנושא בטיחות תוכן, ערכת כלים להגדלת היכולת לבחון תוכן באופן שדורש פחות אנשים שיהיו חשופים אליו", הסבירו השניים בתוך התייחסות לא רק לקושי הטכני שבסקירת תכנים הנחשדים כפדופיליים, אלא גם הקושי הרגשי שהפעולה מסבה לבוחנים, וכן הרצון לגונן על המצולמים ככל שניתן מעוד חשיפה מיותרת.

לפי הדיווחים, בשלב הבחינה הציג הכלי שיפור מדהים במהירות תהליכי הסקירה של חומרים לא חוקיים פוטנציאליים. זמן הסקירה – זה הנדרש לחוקרים אנושיים בכדי למצוא ולהסיר את החומר הלא ראוי – היה מהיר יותר בעד 700 אחוזים בעת השימוש בכלי ה-AI של גוגל.

מה לכלי ולחזרה לסין?

על פי ה-VentureBeat הודעתה של גוגל על אפשור השימוש בכלי החכם באה זמן קצר לאחר שזו חטפה ביקורת משר החוץ של ארה"ב, ג'רמי האנט, על שאינה עושה מספיק, באופן מוזר בצירוף הקבלה להחלטתה השנויה במחלוקת של ענקית החיפוש מתחילת אוגוסט לחזור לסין ולהציע שם מנוע חיפוש מצונזר.

"נראה שגוגל שוקלת לצנזר את התוכן שלה בכדי להיכנס לסין", כתב הנט והטיח בענקית שהיא לא מוכנה לשתף פעולה עם בריטניה, ארה"ב ומדינות אחרות בהסרת תוכן של ניצול ילדים. "בעבר הם היו מתגאים בהיותם מונעים מערכים", עקץ השר בנוגע למניעים של גוגל למהלך הנוכחי.

אבל היו גם מי שהתייחסו בחיוביות לבשורה של גוגל. "אנחנו, ובמיוחד האנליסטים המומחים שלנו, מתרגשים מההתפתחות של כלי בינה מלאכותית שיכול לעזור למומחים האנושיים שלנו לסקור חומר בקנה מידה גדול יותר ולעמוד בקצב של העבריינים, על ידי מיקוד תמונות שלא סומנו קודם לכן כחומר בלתי חוקי", אמרה סוזי הארגרייבס מה-Internet Watch Foundation, ארגון בריטי שנלחם נגד חומר פוגעני ברשת. "על ידי שיתוף טכנולוגיה חדשה זו, זיהוי התמונות יכול להיות מואץ, מה שעשוי להפוך את האינטרנט למקום בטוח יותר בעבור הניצולים והמשתמשים גם יחד".

בכל מקרה, הכלי – המוצע ללא תשלום הן לשותפים עסקיים והן לארגונים לא ממשלתיים באמצעות ערכת התכנים של גוגל בנושא בטיחות תוכן – אמנם לא יפחית בוודאות באופן דרמטי את נפח התמונות המזוויעות שעוסקות בניצול מיני של ילדים ושעולות חדשות לבקרים באינטרנט, אבל הוא יכול כנראה לעזור לגורמים בעלי משאבים מוגבלים לזהות ולדווח על התעללות בילדים ברשת, וגם זו התקדמות.