לקראת הבחירות לנשיאות ארה"ב: מיקרוסופט נלחמת בדיפ-פייק

מיקרוסופט

מיקרוסופט (Microsoft) הציגה אתמול (ג') שתי תוכנות מחשב חדשות למאבק בתופעת הדיפ-פייק (Deepfake). החברה מסרה כי האפליקציות החדשות שלה יוכלו לזהות סרטונים מניפולטיביים, שלעתים קרובות קשה להבין שהם כאלו, ולעדכן את משתמשיהן אם התוכן שהם מסתכלים עליו אותנטי – אם לא.

דיפ-פייק היא טכנולוגיה שפרצה לחיינו בשנה-שנתיים האחרונות, אבל שעדיין לא רבים מודעים למה שהיא מאפשרת. הטכנולוגיה המתקדמת מספקת ליוצרים יומרניים וחדשניים כלים לייצר סרטונים שבהם מופיעות דמויות אמיתיות, שנראות אותנטיות לחלוטין – כולל קולן והבעותיהן המדויקים – אבל שהן בעצם זיוף שנשען על יכולות AI. באמצעות היכולת הזו ניתן להשתעשע באופן שהוא ככל הנראה לא יותר מדי מזיק, ולמשל להכניס לפיה של דמות מהמשפחה, בסרטון מוכר, דברים אחרים לגמרי משאמרה.

הבעיה היא שהדיפ-פייק יכול לשמש גם לדוגמה ליצירת סרטון שבו דונלד טראמפ או ג'ו ביידן – שני המתמודדים על נשיאות ארה"ב בבחירות הקרובות, שיתרחשו בנובמבר – אומרים או אפילו עושים דברים שיראו לכאורה לגמרי אמיתיים, אבל שהם תוצר של עבודת מחשב ובינה מלאכותית. דברים שעלולים להסית אנשים, וכמובן לרמות בוחרים ולהוליך אותם שולל. וזה – מסוכן.

הדגמה של מנגנון הזיהוי של מיקרוסופט. צילום: מיקרוסופט

תכנית שלמה להגנת הדמוקרטיה

ענקית הטכנולוגיה מבינה היטב כמה מסוכן, והעלתה אתמול פוסט בבלוג שלה, המסביר את היערכותה למאבק בתופעה.

"אין עוררין כי דיסאינפורמציה נפוצה", ציינה מיקרוסופט בפתיחת הפוסט, בו סיפרה על מחקר של פרופסור ג'ייקוב שפירו מאוניברסיטת פרינסטון, שעודכן החודש, ושאיתר כי בין השנים 2013-2019 נוהלו 96 קמפיינים נפרדים של השפעה זרה, שהיו מיועדים ל-30 מדינות. לפי מיקרוסופט "קמפיינים אלה, שבוצעו ברשתות החברתיות, ביקשו להשמיץ אנשים בולטים, לשכנע את הציבור או לקטב דיונים". בפוסט נכתב כי "כ-93% מקמפיינים אלה כללו יצירה של תוכן מקורי, 86% הדהדו תוכן שהיה קיים, ו-74% עיוותו עובדות הניתנות לאימות".

החברה הסבירה כי לפיכך, "מה שאנחנו מכריזים עליו היום הוא חלק חשוב בתכנית ההגנה על הדמוקרטיה של מיקרוסופט (Defending Democracy Program), שמלבד המאבק בדיסאינפורמציה, מסייעת בהגנה על הצבעה באמצעות ElectionGuard, ועוזרת לאבטח קמפיינים ואחרים המעורבים בתהליך הדמוקרטי באמצעות AccountGuard – Microsoft 365 for Campaigns and Election Security Advisors".

שתי תוכנות שיעשו סדר בדיפ-פייק?

בנוגע לשתי התוכנות לזיהוי דיפ-פייק עדכנה מיקרוסופט כי – התוכנה הראשונה היא מאמת הווידיאו (Microsoft Video Authenticator). מאמת זה יכול לנתח תצלום סטילס או סרטון, בכדי לספק סיכויים (באחוזים) שמדובר בתוכן ערוך באופן מלאכותי. במקרה של סרטון, הכלי יכול לספק נתון זה בזמן אמת בכל פריים, בעת שהסרטון מתנגן. הטכנולוגיה עובדת על ידי איתור גבולות המיזוג של האלמנטים המזויפים, כמו גם זיהוי גווני אפור עדינים, שככל הנראה לא ניתן יהיה לזהות בעין אנושית.

הטכנולוגיה החדשה הנוספת שהוכרזה היא כזו שיכולה גם לזהות תוכן מניפולטיבי, וגם להבטיח לאנשים שחומרים שהם צופים בהם אותנטיים. לטכנולוגיה זו שני מרכיבים. הראשון הוא כלי מובנה בתוך Microsoft Azure, המאפשר ליצרן תוכן להוסיף hashes ואישורים דיגיטליים לפיסת תוכן משלו. ה-hashes והאישורים חיים עם התוכן כמטא נתונים בכל מקום בו הוא עובר ברשת. במקביל יש לחברה קורא – שיכול להתקיים כתוסף דפדפן או בצורות אחרות – הבודק את האישורים וה-hashes, מודיע לאנשים ברמת דיוק גבוהה שהתוכן הוא אותנטי ושהוא לא שונה, כמו גם מוסר פרטים על מי שהפיק אותו.

מיקרוסופט חברה אל קרן הבינה המלאכותית (AI Foundation), אשר באמצעות יוזמת RD2020 (ר"ת Reality Defender 2020) שלה תהפוך את ה-Video Authenticator לזמין לארגונים המעורבים בתהליך הדמוקרטי, כולל למהדורות חדשות וקמפיינים פוליטיים. מאמת הווידאו יהיה זמין בתחילה רק דרך RD2020, אשר תדריך ארגונים דרך המגבלות והשיקולים האתיים הגלומים בנוגע לזיהוי טכנולוגיית הזיוף עמוק.

גם ההתארגנות המכונה יוזמת החדשות המהימנות (The Trusted News Initiative) – קונסורציום של חברות תקשורת וטכנולוגיה, הכולל בין השאר את ה-BBC, CBC והניו יורק טיימס מהצד של המדיה, וענקיות תקשורת כמו פייסבוק (Facebook), גוגל (Google) ויוטיוב (YouTube) שלה, כמו גם טוויטר (Twitter), וכמובן את מיקרוסופט עצמה – תשתף פעולה עם הפצת הכלים לזיהוי ומלחמה בתופעת הפייק ניוז באמצעות סרטוני דיפ-פייק.

אגב, למי שסבורים שהם יודעים הכל על דיפ-פייק – מיקרוסופט יצרה שאלון אונליין המאתגר אנשים בנושא הזיוף העמוק, שתוכלו למצוא כאן. בהצלחה.