יוטיוב הכניסה בינה מלאכותית למנגנון סינון התכנים שלה

יוטיוב (YouTube) הכניסה טכנולוגיית למידת מכונה למנגנון סינון התכנים שלה. במהלך החודש האחרון ענקית הווידיאו העבידה קשה את המערכת החדישה ומבוססת הבינה המלאכותית (AI) בזיהוי סרטונים שונים, והגיעה לכך שיותר מ-75% מהסרטונים שהורדו מהשירות, בשל אלימות או תוכן קיצוני, הוסרו ללא עזרה אנושית אלא על ידי הבינה המלאכותית.

המערכת החדשנית הזו סייעה ליוטיוב להסיר כפליים מהסרטונים הבעייתיים וכעת טוענת גוגל (Google), הבעלים של יוטיוב, שהרובוטים שלה טובים יותר מבני אנוש בבדיקת סרטונים. ענקית הטכנולוגיה אומרת שרובוטים מסמנים שלושה מתוך ארבעה סרטונים פוגעניים ביוטיוב עוד לפני שהם מדווחים על ידי משתמשים.

"עם יותר מ-400 שעות של תוכן שמועלות ליוטיוב בכל דקה, איתור ונקיטת פעולה נגד תכנים עם אלימות קיצונית מהווים אתגר משמעותי. אבל במהלך החודש האחרון, השימוש הראשוני שלנו בלמידת מכונה יותר מהכפיל הן את מספר הסרטונים שהסרנו בגין קיצוניות אלימה, כמו גם את שיעור הסרטונים שהורדנו שכללו תוכן כזה", ציינה גוגל.

"מצב מוגבל"

אולם, לא כל התכנים הבעייתיים מוסרים מהאתר כליל. החברה מחפשת דרכים מקוריות שיסייעו לה להימנע מלהסיר תכנים שאינם מפרים את המדיניות שלה, אבל שבכל זאת עשויים להיחשב כקיצוניים או פוגעניים בעיניי חלק מהמשתמשים.

בפוסט שפורסם אתמול (ד') בבלוג שלה סיפקה החברה פרטים נוספים אודות המאמצים המתמשכים לסנן תכנים ו-"לנקות" את השירות. יוטיוב פירטה שהיא מסתייעת באותה בינה מלאכותית לא רק כדי לקבוע אילו סרטונים ראויים להסרה מוחלטת מהאתר, אלא גם לאיתור ומיון התכנים כולם כשחלקם יסווגו מעכשיו לקטגוריית "מצב מוגבל" (Limited state).

כך, למשל, סרטונים שמכילים תוכן דתי קיצוני או משיחי הם מסוג התכנים השנויים במחלוקת – מחד הם אינם מפרים את המדיניות של יוטיוב, ומאידך – הם זוכים לתלונות ומסבים לגוגל אי נוחות. תכנים שכאלה יועברו מעכשיו ל-"מצב מוגבל".

החברה מסבירה כי "הסרטונים יישארו ביוטיוב מאחורי הודעת ביניים, לא יומלצו, לא יפיקו רווחים ולא יהיו להם תכונות מפתח, כולל תגובות, סרטונים מוצעים ולייקים". יוטיוב הבהירה שהמצב המוגבל יחל לפעול בגרסאות שולחן העבודה בשבועות הקרובים ויגיע לניידים זמן קצר לאחר מכן.

נעזרת במומחים לתוכן קיצוני

במקביל, החלה ענקית הווידיאו לפעול מול מספר ארגונים לא ממשלתיים, כולל הליגה נגד השמצה, התנועה נגד דברי שנאה והמכון לדיאלוג אסטרטגי.

"ארגונים אלה מביאים ידע מקצועי בנושאים מורכבים כמו דיבור שנאה, קיצוניות וטרור, שיסייעו לנו לזהות טוב יותר תוכן המשמש לקיצוניות ולגיוס קיצונים", הבהירה יוטיוב בפוסט.

השינויים האלה, לפי יוטיוב וגוגל, הם רק ההתחלה והחברה תפרט יותר על מאמצי הסינון שלה בחודשים הקרובים. "בסך הכול נקטנו בצעדים משמעותיים במהלך החודש האחרון במאבק שלנו בטרור באינטרנט, אבל זה לא הסוף, אנחנו יודעים שתמיד צריך לעשות יותר", כתבה החברה.