טוויטר ופייסבוק הסירו רשת פרו-טראמפ שכללה פרופילים מזויפים שנוצרו ב-AI

פייסבוק וטוויטר ערכו מבצע ניקוי לפלטפורמות שלהן מחשבונות מזויפים, כפי שהן נוהגות לעשות מזה זמן, אבל הפעם הממצא חשף רשת עם פרופילים של מי שלכאורה הם תומכי הנשיא דולנד טראמפ, שהיו, ככל הנראה, בכלל תוצר של בינה מלאכותית.

לפי הדיווחים, למשתמשים שסולקו היו פנים שנראו 'אמריקנים', אך למעשה כל חשבונות המדיה החברתית הפרו-טראמפית שזוהו במקרה המסוים – כולם היו בעצם פרצופים שהם תוצר של זיוף על ידי טכנולוגיית AI או אפילו באמצעות דיפ-פייק.

פייסבוק וטוויטר בישרו כי הרשת המסוימת שהחרימו מקושרת לחברה אמריקנית בשם TheBL (ר"ת The Beauty of Life) – חברת חדשות שמרנית שנמצאת בשוליים הימניים של המפה הפוליטית ובדרך כלל מוכרת בזכות הפצת תיאוריות קונספירציה, תכנים פוליטיים חיוביים על הנשיא המכהן טראמפ וכן עוסקת בלא מעט פרובוקציות. לגוף זה יש, כך נטען, קשרים עם Epoch Media Group וגם עם הפאלון גונג, קבוצה סינית שנמצאת בקונפליקט תמידי עם הרשויות בסין ושאלו מתנכלות לה קשות.

יצוין כי NBC News הייתה מי שדיווחה לראשונה כי קבוצת Epoch Media דוחפת הודעות לתמיכה בנשיא טראמפ ברחבי פלטפורמות המדיה החברתיות, כדוגמת פייסבוק וטוויטר.

מפייסבוק דיווח על סילוק 610 חשבונות, 89 דפים, 156 קבוצות ו-72 חשבונות אינסטגרם, כולם קשורים ל-TheBL ול-Epoch Media Group. נתניאל גליכר, ראש מדיניות הביטחון בפייסבוק, אמר בסוף השבוע (ו') בהצהרה כי "The BL כעת מוחרמת מפייסבוק". הוא הוסיף וכתב כי "אנו ממשיכים לחקור את כל הרשתות המקושרות, וננקוט בפעולות המתאימות אם נקבע כי הם עוסקים בהתנהגות מטעה".

לפי הדיווחים כ-55 מיליון חשבונות עקבו אחר אחד מדפי הפייסבוק של הרשת, מרביתם לא אמריקנים כלל, ו-92,000 עקבו אחרי אחד או יותר מחשבונות האינסטגרם שלה, כך לטענת פייסבוק, שהוסיפה כי היא הרשת המסוימת הזו הוציאה כ-9.5 מיליון דולר על מודעות בפייסבוק.

לפי הפייננשל טיימס, בעוד שפייסבוק מסרה כי החלה בחקירת הנושא כבר בחודש יולי, הבשורה על הפעולה שננקטה מגיעה שבוע לאחר שבדיקת העובדות של Snopes דיווחה על השימוש בפרופילים מזויפים שעושה TheBL, והאשימה את פייסבוק כי לא נקטה בפעולה נגדה. מענקית הרשתות החברתיות נמסר כי היא ממשיכה לחקור את "כל הרשתות המקושרות" שלהם קשר לקבוצה.

דובר בטוויטר אישר ל-Mashable כי החברה הסירה 700 חשבונות מהפלטפורמה שלה בגין הפרה של כללי הרשת המצייצת, בכל הנוגע בתמרון ומניפולציה של הפלטפורמה, ובמיוחד בגלל הפצת חשבונות מזויפים וספאם.

הדובר הוסיף כי "החקירות עדיין נמשכות, אך הממצאים הראשוניים שלנו לא זיהו קשרים בין חשבונות אלה לשחקנים מגובים במדינה". עם זאת, החשבונות שהוחרמו בטוויטר מקורם בווייטנאם, ממש כמו רוב אלו שסולקו על ידי פייסבוק.

קבוצת Epoch Media הכחישה כל קשר לדברים.

דונלד טראמפ לא הגיב בינתיים לדברים.