מיקרוסופט מתנצלת על המתקפה הפוגענית שביצעה בוטית הצ'אט שלה

מיקרוסופט (Microsoft) "מתנצלת עמוקות" על הודעות הטוויטר (Twitter) הגזעניות והסקסיסטיות שנוצרו על ידי טיי – בוטית הצ'אט החדשה של החברה. כך כתב בכיר בחברה בסוף השבוע, לאחר שהבוטית המבוססת על בינה מלאכותית הפגינה תוכחה מביכה ברשת החברתית.

טיי מתוכנתת כך שתחכים יותר ככל שתרבה באינטראקציה עם המשתמשים. במקום זאת, היא למדה מהר, כמו תוכי, שורה ארוכה של קללות שנאה אנטישמיות ואחרות, שבהן האכילו אותה משתמשי טוויטר "אנושיים", דבר שאילץ את הענקית מרדמונד להפסיק את פעולתה כבר ביום חמישי.

בעקבות הכישלון, הודיעה מיקרוסופט בפוסט שפרסמה בבלוג שלה, כי תחזיר את טיי לחיים רק אם המהנדסים שלה יכול למצוא דרך למנוע את משתמשי האינטרנט מלהשפיע על הצ'אט בוט באופנים המערערים את העקרונות והערכים של החברה.

"אנחנו מביעים צער עמוק על ציוצים פוגעניים או מעליבים שטיי כתבה ללא כוונה, ואשר אינם מייצגים את מי שאנחנו או מה שאנחנו מאמינים בו, ולא את הדרך שבה עיצבנו את טיי", כתב פיטר לי, סגן נשיא למחקר במיקרוסופט.

"פמיניזם הוא סרטן"

החברה יצרה את טיי כניסוי על מנת ללמוד עוד על האופן שבו יוכלו תכניות בינה מלאכותית ליצור קשר עם משתמשי אינטרנט בשיחה אגבית. הפרויקט תוכנן כך שיתקיימו אינטראקציה ו"לימוד" מהדור הצעיר של המילניום. טיי החלה את פעולתה קצרת הימים בטוויטר רק ביום רביעי, עם קומץ ציוצים לא מזיקים, ואז חלה תפנית מלוכלכת למדי בעלילה. דוגמה אופיינית אחת להתרחשויות תספק התגובה של טיי בטוויטר שבה כתבה הבוטית: "פמיניזם הוא סרטן", בתגובה למשתמש טוויטר אחר אשר פרסם הודעה זהה.

בפוסט בבלוג התייחס לי אל מאמצי משתמשי האינטרנט להפעיל השפעה זדונית על בוטית הצ'אט החדשה כאל "מתקפה מתואמת שהתבצעה על ידי קבוצת אנשים מסוימת", והוסיף וכתב כי "למרות שהתכוננו לסוגים רבים של ניצול לרעה של המערכת, לא התכוננו להתקפה הספציפית הזו. כתוצאה מכך, פרסמה טיי בטוויטר בפראות מילים ותמונות לא הולמות וראויות לגינוי".

מיקרוסופט זכתה להצלחה רבה יותר עם צ'אט בוט שנקרא XiaoIce, שהחברה השיקה בסין בשנת 2014. XiaoIce משמש כ-40 מיליון בני אדם וידוע כ"מענג במיוחד עם הסיפורים והשיחות שלו", כך טוענת החברה. באשר לטיי – המצב פחות מזהיר. "אנו נישאר נחושים במאמצינו ללמוד מהניסיון הזה ומאחרים, ונמשיך לפעול ולתרום לקידום אינטרנט המייצג את הטוב ביותר, ולא את הגרוע ביותר, של האנושות", כתב לי.