בריטניה פיתחה כלי AI שמסוגל לחסום סרטוני תעמולה של דאעש

ממשלת בריטניה הודיעה כי פיתחה תוכנת בינה מלאכותית שלטענתה יכולה לאתר 94% מסרטוני התעמולה של דאעש בדיוק של 99.995%, ולחסום אותם.

משרד הפנים בלונדון פרסם אתמול (ג') את הידיעה על הטכנולוגיה שתסייע, לטענתו, לפלטפורמות קטנות להגן על עצמן מפני הפצת חומר קיצוני. התוכנה פותחה על ידי ASI Data Science – סטארט-אפ שפועל מהבירה הבריטית, שקיבל מהמדינה סכום של 600 אלף ליש"ט (כשלושה מיליון שקלים) לצורך פיתוח הפרויקט.

הממשלה הבריטית פרסמה את תכניותיה להשיק את הכלי, שיגרום לאיתור תכנים ג'יהאדיסטיים וקיצוניים, ויחסום את הפצתם. שרת הפנים, אמבר ראד, אמרה שייתכן שהממשלה תגרום לכך שחברות הטכנולוגיה יחויבו להשתמש בכלי. "אנחנו לא שוללים נקיטת פעולה חקיקתית, אם נצטרך לעשות זאת", ציינה. ראד אמרה ל-BBC שהכלי הוכיח כי בקשת הממשלה לבחינה מחמירה יותר של תוכן קיצוני אינה בלתי סבירה. היא הבהירה ש-"הטכנולוגיה שם. יש כלים בחוץ שיכולים לעשות בדיוק את מה שאנחנו מבקשים. עבור חברות קטנות, זה יכול להיות אידאלי".

בריטניה "מובילה" את דיכוי תכני הטרור

בהצהרה לתקשורת צוטטה ראד כאומרת ש-"אנחנו יודעים שטכנולוגיה שכזו יכולה לשבש באופן משמעותי את פעולות הטרוריסטים, כמו גם למנוע מאנשים להיות מנוצלים ולהיחשף למראות הנוראיים האלה. הממשלה נוטלת את ההובלה העולמית בכל הנוגע לכך שתוכן הטרוריסטים המרושע ידוכא".

ד"ר מארק וורנר מ-ASI Data Science דיבר עם BuzzFeed על הפרויקט ואמר כי זהו אלגוריתם AI שפועל באמצעות "זיהוי תבניות מתוחכמות בווידיאו, שמקורן בגורמים קיצוניים ושמבדילות אותם מתוכן רגיל, ומשאר האינטרנט".

מפתחי הכלי החדש ציינו שלמרבית חברות הטכנולוגיה הגדולות יש כבר צוותים שעובדים על אסטרטגיות דומות, וממשרד הפנים נמסר שהוא יפנה תחילה לחברות הקטנות. האלגוריתם עדיין לא הושלם, כך שייקח עוד זמן מה עד שנראה חברות שיבחרו להשתמש בו.

ממשלת בריטניה וממשלות אירופיות אחרות מזהירות באדיקות את חברות הטכנולוגיה מפני הפצת תכני טרור או שנאה על הפלטפורמות שלהן: בספטמבר 2017 הודיעו מנהיגים פוליטיים אירופיים שקנסות כבדים יוטלו על חברות שלא יסירו תוכן קיצוני מהר מספיק; ביולי אשתקד הודיעה גרמניה שתטיל קנסות גבוהים על רשתות חברתיות שיתירו דברי שנאה; ובדצמבר האחרון אמר נציב הביטחון של האיחוד האירופי, ג'וליאן קינג, כי חל שיפור בתחום, אך ציין כי עדיין נדרשת עבודה רבה יותר מצד השחקנים בתעשייה בכדי להילחם בהצפת התעמולה הקיצונית באירופה ובעולם. "עוד לא הגענו למקום הרצוי. התחלנו את המסע לפני שנתיים אולם בכדי להגיע ליעד הסופי, יש להאיץ את העבודה שלנו", אמר קינג.

יצוין שגם ממשלת ישראל נאבקת בהפצת תכני טרור ושנאה ברשת – אולם עושה זאת באמצעות הידברות עם החברות (שמצליחה באופן חלקי ביותר) ולא באמצעות חקיקה. זאת, לאחר שהשר לביטחון פנים, גלעד ארדן, האשים לא אחת את פייסבוק (Facebook) וחברות אינטרנט אחרות ב-"אחריות ישירה להסתה לטרור".