עובדים בגוגל על צ'טבוט ה-AI של החברה: "שקרן פתולוגי"

דו"ח חדש של בלומברג שהתפרסם באחרונה אפשר הצצה לדיוניהם של כמה עובדי גוגל בהווה ובעבר וכלל גם צילומי מסך של הודעות פנימיות שהחליפו ביניהם העובדים. הדיווח מתייחס בעיקר לעיסוקם של המתדיינים ב-בארד (Bard) – צ'טבוט מבוסס AI שהיה אמור לספק את התחרות מטעם הענקית ממאונטיין וויו ללהיט של המתחרה מיקרוסופט – ChatGPT מבית OpenAI.

הדיונים הפנימיים הללו שופכים אור על התחושות המוקדמות והזלזול של מועסקי החברה בכלי גוגל שהוצג לעולם בתחילת חודש פברואר באירוע חגיגי, ושאמור היה להציל את החברה מפני הבסתה בידי השירות המתחרה, ChatGPT – אך לשווא.

כבר יום למחרת ההשקה התגלה ונחשף בתקשורת כי בארד "עשה בושות" ושגה במענה בהדגמה שהחברה ערכה. הפאשלה הזו עלתה לגוגל הון – כ-100 מיליארד ד' נמחקו משווי החברה.

ה"תקרית" המאוד לא נעימה, שהתרחשה כחלק מההשקה הנחפזת של הכלי, נתפשה בציבור כמעידה על כך שהצ'טבוט של גוגל אינו בשל לפעולה ועלול לגרום לה להפסיד בקרב החיפוש מול ChatGPT, שמיקרוסופט מיהרה לשלב במנוע החיפוש שלה, בינג (Bing).

העובדים ידעו שה"מענה" של גוגל לא עונה כראוי על דבר 

כעת אנחנו מתחילים ללמוד על תחושותיהם הנבואיות של העובדים בענקית החיפוש כלפי הפיתוח היומרני. 

לדברי העובדים, כפי שצוטטו בידי בלומברג, גוגל עושה פשרות על מידע שגוי ונזקים אחרים רק משום רצונה להדביק את הקצב של ChatGPT, ולא להישאר מאחור.

הכלי החל להיות מוצע לבדיקת הציבור במרץ האחרון, אולם על פי בלומברג, מספר עובדי גוגל העלו עוד לפני כן חששות שהצ'טבוט של החברה לא מוכן לשחרור, תוך ציטוט של תשובות לא איכותיות, או שגויות ואף כאלו שעלולות להיות מסוכנות ממש למשתמשים.

בהודעות פנימיות, עובדי גוגל מתחו שוב ושוב ביקורת על בארד, תייגו את המערכת כ"שקרנית פתולוגית" והפצירו בחברה שלא להשיק אותה.

בדיווח של בלומברג נכתב בין השאר כי אחד העובדים ציין כיצד בארד היה נותן למשתמשים עצות מסוכנות לעתים קרובות, בין השאר בנושאים כמו איך להנחית מטוס או לגבי צלילה. על פי הדיווח של בלומברג, במקרה מסוים עובד שלח הודעה לקבוצת צ'אט פנימית שבה פעילים 7,000 עובדים וציין כי "בארד הוא יותר גרוע מחסר תועלת: נא לא להפעיל (אותו – ג"פ)".

בנוסף נודע כי ממש לפני ההשקה, ג'ן ג'נאי – מי שהקימה וכעת מובילה את צוות אחריות החדשנות של גוגל, שמפעיל את עקרונות ה-AI בחברה כדי להבטיח שלמוצרי גוגל יהיו תוצאות הוגנות ואתיות על יחידים וחברה – ביטלה הערכת סיכונים מתוכננת מטעם הצוות שלה, שטען כי התשובות של בארד עלולות להזיק, ואמרה שהמערכת פשוט לא מוכנה לשימוש כללי.

האם פרויקט מאגי יהפוך את תמונת המצב על פיה?

ואולם כל אלו הם כבר על תקן היסטוריה, שכן נראה כי בארד פחות או יותר נזנח בידי גוגל. במקביל, כך נודע באחרונה, בונה החברה מנוע חיפוש חדש, המופעל על ידי AI, ומשדרגת את כלי החיפוש הקיים שלה בטכנולוגיה המתקדמת ביותר בתחום, כך לפי דיווח של הניו יורק טיימס.

התכונות החדשניות שירעננו את יכולות החיפוש שמציעה הענקית ממאונטיין וויו מפותחות תחת פרויקט ששמו 'מאגי' (Project Magi), שאליו צוותו 160 מעצבים, מהנדסים ומנהלי גוגל העובדים מסביב לשעון על מנוע החיפוש הזה, שצפוי להציע למשתמשים חוויה חכמה ומותאמת אישית בהרבה ממה שמוצע להם כרגע ב-Google Search.

כידוע, מיקרוסופט, שהקדימה לזהות את הפוטנציאל הלא נתפש שיש למודל השפה התבוני של OpenAI, השכילה להשקיע במעבדת הבינה המלאכותית כסף גדול, שהסתכם כבר לכ-10 מיליארד דולר. בהתאמה, היא משלבת יותר ויותר יכולות מבוססות GPT-4 בשירותיה, כולל בענן שלה וכמובן – ביכולות החיפוש המתקדמות שהיא החלה מציעה למשתמשיה.

למרות הניסיונות לפתח מענה מהיר למיקרוסופט ובת טיפוחיה OpenAI, התבוסה של גוגל חיפוש לבינג מבוסס ה-ChatGPT כבר מתחילה להיות צורבת. השבוע נודע כי גוגל בפאניקה של ממש, וזאת לאחר שהתחוור שסמסונג רוצה לשנות את החיפוש המובנה כברירת מחדל במכשיריה לבינג-ChatGPT. הדיווחים אודות התוכניות הללו לבדם הביאו לכך שמניות החברה האם של גוגל, אלפבית, צנחו והיא הפסידה כ-57 מיליארד דולר בזמן קצר. אובדן סמסונג כלקוחה המשלבת את Google Search במכשיריה יהווה הפסד של כשלושה מיליארד ד' בשנה לגוגל, אולם הוא – כמו גם נטישה של כל משתמש שהוא לטובת בינג – יהיו כרוכים גם בהפסד נתחים שמנים מעוגת הפרסום אונליין שבה שלטה גוגל ביד רמה עד כה.