מדאיג: אלגוריתם באינסטגרם קידם תוכן פדופילי

מחקר שבוצע עבור ה-וול סטריט ג'ורנל בידי חוקרים מאוניברסיטת אמהרסט במסצ'וסטס וממרכז התצפיות ומדיניות הסייבר והאינטרנט באוניברסיטת סטנפורד חשף כיצד האלגוריתם של אינסטגרם מקשר ומקדם חשבונות שמציגים ומוכרים תכנים של התעללות מינית בילדים.

לפי המחקר, "בשל השימוש הנרחב בהאשטאגים, חיי המדף הארוכים יחסית של חשבונות מוכרים, ובעיקר אלגוריתם ההמלצות היעיל, אינסטגרם משמשת בפועל כמנגנון הגילוי המרכזי של קהילה ספציפית זו של קונים ומוכרים של חומרים פדופיליים".

עוד טענו החוקרים שהם מצאו, כי מעבר לכך שבעצם כל אחד יכול למצוא את החשבונות שמוכרים חומרים אסורים אלו על ידי כתיבת האשטג ספציפי במנוע החיפוש של אפליקציית שיתוף התמונות של מטא, האלגוריתם של השירות מספק המלצות שמובילות לחשבונות הללו חלק מהפעילות השוטפת שלו, ובכלל שהאשטגים אלו הופיעו בחיפושים שהוא זיהה או בהפניות מכוונות שבוצעו מהחשבונות הללו כדי שהאלגוריתם יזהה ויקדם אותן.

אלקס סטמוס, קצין האבטחה הראשי לשעבר של פייסבוק ואחד ממחברי המאמר, סיפר, שההתמקדות הייתה באינסטגרם מכיוון ש-"מעמדה כפלטפורמה הפופולרית ביותר עבור בני נוער בעולם הופכת אותה לחלק קריטי באקו-סיסטם הזה".

דובר של מטא אמר, כי החברה כבר ביצעה מספר צעדים כדי למנוע את הבעיה הזו, וכן שהוקמה ועדת בדיקה פנימית כדי לחקור את הטענות ולספק להן התייחסות. "ניצול ילדים הוא פשע מחריד. אנחנו פועלים באגרסיביות כדי להילחם בזה בפלטפורמות שלנו ומחוץ להן, ולתמוך באכיפת החוק במאמציה לעצור ולהעמיד לדין את הפושעים שעומדים מאחוריה", מסרה החברה.