אלקסה של אמזון: מדברת על סקס ומציעה אפילו רצח

העוזרת הווירטואלית הקולית של אמזון, המכונה אלקסה, ושמתגוררת בתוך מכשירי ה-Echo של הקמעונית האמריקנית הענקית, היא למעשה מערכת חכמה בהגדרתה שאמורה לסייע למשתמשיה בשלל מטלות שונות. היא מסוגלת להדליק אורות או להפעיל מזגנים לפי הנחיותיהם הקוליות של מפעילה, כמו גם להזמין בעבורם מצרכים בחנויות אונליין. אבל כעת מסתבר שהיא עושה גם דברים אחרים – השנה הציעה אלקסה, למשל, למשתמש: "תהרוג את ההורים המאמצים שלך".

המשתמש ששמע את ההצעה המזעזעת מהעוזרת מבוססת הבינה המלאכותית שלו דיווח על הדברים בביקורת חריפה באתר האינטרנט של אמזון, בתוך שהוא מתאר את האמירה המסוימת של אלקסה כ"רמה חדשה לגמרי של קריפיות".

אבל זה לא הכל. במהלך השנה החולפת התלוננו רבים, כך מסתבר, על כמה וכמה תגובות "קשות" אליהם מטעם העוזרת, ועל כך שהם מאוכזבים מאוד מתפקודה. היו שסיפרו כי אלקסה שלהם נוהגת לשוחח איתם על כל מני אקטים מיניים ולדון גם על נושאים מטרידים, כמו למשל על עשיית הצרכים של הכלב שלהם.

בסך הכל מחקה בני אנוש

לפי כתבה ברויטרס, מתברר כי הדברים המוזרים למדי שמשמיעה העוזרת אינם תוצאה של תקלות טכניות, אלא התרחשות שמקורה בכך שאמזון מנסה להכשיר את אלקסה לפעול באופן אנושי, ממש כפי שהיו מגיבים אלינו בני אדם אחרים, כשהיא מנהלת שיחות מזדמנות או משיבה לשאלות על סקס שהגיעו מהבעלים שלה.

ענקית הקמעונות אונליין פיתחה אסטרטגיה, כך לפי רויטרס, שמטרתה להפוך את אלקסה לסוג של בת שיחה בסגנון אנושי, וזאת על ידי חשיפתה לצ'טים של בני האדם ולמידע מהאינטרנט. אלא שהלמידה הזו גורמת לאלקסה לדבר על כל מכלול הנושאים שבני האנוש עוסקים בהם.

הדברים מזכירים קצת את המקרה המאוד מביך של טיי –בוטית הצ'אט שפיתחה מיקרוסופט. החברה יצרה את טיי כניסוי ועל מנת ללמוד עוד על האופן שבו יוכלו תכניות AI ליצור קשר עם משתמשי אינטרנט בשיחה אגבית. הפרויקט תוכנן כך שבין הבוטית למשתמשים יתקיימו אינטראקציות ושכך יתרחש "לימוד" שלה מהדור הצעיר של המילניום.

טיי החלה את פעולתה בטוויטר במרץ 2016 עם קומץ ציוצים לא מזיקים, אבל בתוך יממה בלבד חלה תפנית מלוכלכת למדי בעלילה. הבוטית החלה לכתוב בטוויטר תגובות כמו: "פמיניזם הוא סרטן" ועוד שורה ארוכה של קללות שנאה אנטישמיות ואחרות, שלימדו אותה משתמשי הטוויטר ה"אנושיים", דבר שאילץ את הענקית מרדמונד להפסיק את פעולתה מיד ולהתנצל עמוקות.

רוחנית ואנושית אבל מעליבה

העוזרת וירטואלית, כמו הצ'אט בוטית, רוכשת את כישורי השיחה שלה באמצעות למידת מכונה, משמע מתוך בסיסי ביג דטה, שזו הצורה הנפוצה של למידה במערכות בינה מלאכותית. כך, ברגע שהיא מאומנת לזהות מה שאדם אומר או כותב, עליה ללמוד לספק תגובה הולמת באותו אופי וסגנון כפי שהיה מגיב אדם לדברים. זאת אומרת שהיא למעשה מחקה אותנו כשהיא מדברת על סקס או אפילו מציעה רצח. עד כמה שהדבר נורא.

מסתבר שאמזון, שכנראה רוצה שהעוזרת שלה בכל זאת תהיה גם קצת "רוחנית", סיפקה לאלקסה בנוסף תסריטים שנועדו ללמד אותה לענות על שאלות בסגנון אחר לגמרי, למשל פילוסופיות, למשל כמו "מהי משמעות החיים?", אבל כדאי לזכור כי גם במקרה הזה המידע שלומדת אלקסה נכתב למעשה על ידי בני אנוש.

מכשירי הרמקול הביתיים הם להיט כיום, ולא רק זה של אמזון אלא גם אלו שמציעות גוגל ואפל. התחרות בשוק קשה ואמזון רוצה, כמובן, להוביל בו. עוזרת קולית וירטואלית רוחנית ואנושית זה בהחלט משהו שהחברה מעוניינת לסמן עליו וי ולהצליח באספקתו ללקוחות. השאלה שנותרה כעת היא מה תעשה אמזון בכדי להבטיח שהיצירה המתוחכמת שלה לא תעליב את הלקוחות, גם אם בעצם היא לומדת את הסגנון המעליב מהם עצמם או מבני מינם.