מאסק ומומחי טכנולוגיה נוספים: "השהו את פיתוח ה-AI המתקדמת"

מכתב פתוח שהחל להיות מופץ היום (ד') צפוי להסעיר את עולם הטק. תחת הכותרת: "השהו את ניסויי הענק בתחום ה-AI" משמיעים יוזמי הפנייה, בכללם עסקן הטק המפורסם אילון מאסק, קריאה ציבורית ובה פנייה לכל מעבדות הבינה המלאכותית להשהות מיידית ולמשך 6 חודשים לפחות את האימון של מערכות בינה מלאכותיות חזקות יותר מ-GPT-4.

לדברי יוזמי העצומה, "מערכות בינה מלאכותית עם אינטליגנציה אנושית-תחרותית יכולות להוות סיכונים עמוקים לחברה ולאנושות, כפי שהוכח על ידי מחקרים מקיפים, וכפי שמעבדות בינה מלאכותית מובילות הודו".

עוד לדבריהם, "כפי שנאמר בעקרונות ה-AI של Asilomar, בינה מלאכותית מתקדמת יכולה לייצג שינוי עמוק בהיסטוריה של החיים על פני כדור הארץ, ויש לתכנן ולנהל אותה תוך טיפול ומשאבים מתאימים". הכותבים מתריעים כי "לרוע המזל, רמה זו של תכנון וניהול לא מתרחשת, למרות שבחודשים האחרונים נראו מעבדות בינה מלאכותית שנלכדו במרוץ-שיצא-מכלל-שליטה לפיתוח ולפריסת מוחות דיגיטליים חזקים יותר, שאף אחד – אפילו לא היוצרים שלהם – יכול להבין, לחזות, או לשלוט בהם באופן אמין".

האם החליט סופית להתנגד ל-AI ג'נרטיבית או שהוא חושש מתחרות? אילון מאסק, מנכ"ל טוויטר, טסלה ו-SpaceX. צילום: מתוך ויקיפדיה

בין השותפים החתומים שניסחו את הפנייה נכללים הפרופסורים הבכירים לתחום הבינה המלאכותית סטיוארט ראסל ויושע בנג'יו, המייסד השותף של אפל, סטיב ווזניאק, יחד עם מייסדי פינטרסט וסקייפ, כמו גם פרופ' יובל נח הררי, מהאוניברסיטה העברית בירושלים. כמו כן שותפים לפנייה מייסדי הסטארט-אפים בתחום הבינה מלאכותית, Stability AI ו-Character.ai.

מאסק הוא אחד התומכים הגדולים של מפרסם המכתב, מכון Future of Life, והוא מובל על ידי מקס טגמרק, פרופסור ב-MIT וחוקר בינה מלאכותית מוביל.

השיבוש מטעם ChatGPT – מסוכן או פשוט איום תחרותי? 

כידוע, בחודשים האחרונים כלי הבינה המלאכותית הג'נרטיביים (Generative Artificial Intelligence) כובשים כל פיסת טק קטנה כגדולה באופן אוניברסלי כמעט חסר תקדים.

למעשה השיבוש החל בסך הכל לפני מספר חודשים, בנובמבר 2022. באותה תקופה השיקה חברת המחקר OpenAI – שמאסק היה בין מייסדיה ומשקיעיה הראשונים בשנת 2018, בצוותא עם סם אלטמן, שנשאר בחברה כמנכ"לה גם לאחר שהיזם הדרום אפריקני פרש מהיוזמה – מערכות AI חדשניות וחכמות במיוחד, שיודעות לייצר תוכן, ויז'ואל ו-וידיאו, לבצע חיפושים חכמים במיוחד באינטרנט ועוד שלל משימות, וכל זאת בדרכים חדשניות המתבססות על סקירת תועפות דאטה ויכולת ללמוד מהללו כמעט הכל.

כלי הבינה המלאכותית היוצרת המצליח ביותר. ChatGPT. צילום: BigStock

מאז המצב החדש מלהיב רבים מהגולשים ה"פשוטים", שמאות מיליונים מהם כבר הכניסו לחייהם ולשגרת יומם את השימוש בכלים מבוססי GPT של OpenAI, וכן סוחף חברות טכנולוגיות רבות לרתימת היכולות הללו לשם מינוף שירותיהן.

ענקיות הטכנולוגיה מיקרוסופט וגוגל מתחרות ביניהן על השאלה מי תצליח לספק לציבור כלי AI יותר חכמים, יעילים ומפתים, ונדמה בינתיים כי מיקרוסופט היא מובילת המירוץ, כנראה בזכות השקעתה המוקדמת ב-OpenAI, שאותה עיבתה בהשקעה נוספת המוערכת בכ-10 מיליארד דולר, אשר ביצעה אחרי שהיכולות המרשימות של ChatGPT נחשפו לציבור.

אנקדוטה מעניינת היא שבדיוק לפני חודש, בשלהיי פברואר, דווח בתקשורת העולמית כי מאסק מגייס מומחים כדי להתחרות ב-ChatGPT ו-OpenAI. כפי שגם אנחנו דיווחנו אז, היזם המולטי-מיליארדר פנה באותם ימים למומחי AI בניסיון לגייסם למעבדת מחקר חדשה שתפתח אלטרנטיבה לצ'אטבוט המצליח, וזאת על פי דיווח של המגזין The Information, שהתבסס על עדויות של אנשים בעלי ידע ישיר על היוזמה.

ממה מודאגים הפונים?

אלא שכעת, במכתב הפתוח, עולה ביקורת על הטכנולוגיה המשבשת, ביקורת שלא ממש בלטה בחודשים האחרונים ומוכרת יותר דווקא מן העבר – זו המביעה חששות מהתפתחות-יתר של יכולות ה-AI שתעלה לבני האנוש ביוקר.

במכתב הפתוח מצוין כי "מערכות עכשוויות הופכות כעת לתחרותיות במשימות כלליות, ועלינו לשאול את עצמנו: האם לתת למכונות להציף את ערוצי המידע שלנו בתעמולה ואי-אמת? האם עלינו להפוך את כל העבודות לאוטומטיות, כולל המספקות שבהן? האם עלינו לפתח מוחות לא אנושיים שעלולים בסופו של דבר לעלות עלינו במספרם ובחוכמתם ולהחליף אותנו?"

הכותבים ממשיכים ושואלים באופן דרמטי ואף מטריד: "האם עלינו להסתכן באובדן שליטה על הציוויליזציה שלנו?" וממשיכים: "אסור להאציל החלטות כאלה על מנהיגי טכנולוגיה שלא נבחרו. יש לפתח מערכות בינה מלאכותית עוצמתיות רק לאחר שאנו בטוחים שההשפעות שלהן יהיו חיוביות והסיכונים שבהן יהיו ניתנים לניהול".

בהתייחסות ישירה למובילת מהפכת ה-AI, מציינים הכותבים כי "ההצהרה האחרונה של OpenAI בנוגע לבינה כללית מלאכותית, קובעת כי 'בשלב מסוים, ייתכן שיהיה חשוב לקבל בדיקה עצמאית לפני שמתחילים להכשיר מערכות עתידיות, ולבצע מאמצים מתקדמים יותר להסכים לכל הפחות להגביל את קצב הצמיחה של המחשוב המשמש ליצירת דגמים חדשים למערכות'". הכותבים פסקו כי "אנחנו מסכימים. הנקודה הזו היא עכשיו".

בסיכום מכתבם מצויינים הפונים כי "האנושות יכולה ליהנות מעתיד פורח עם AI. לאחר שהצלחנו ליצור מערכות בינה מלאכותיות חזקות, אנו יכולים כעת ליהנות מ'קיץ AI' שבו אנו קוטפים את הפירות, מהנדסים את המערכות הללו לטובת כולם, ונותנים לחברה הזדמנות להסתגל. החברה עצרה טכנולוגיות אחרות שהיו להן השפעות קטסטרופליות עליה (הדוגמאות שסיפקו כוללות את השיבוט האנושי למשל – ג"פ). אנחנו יכולים לעשות זאת כאן. בואו נהנה מקיץ ארוך של AI, ולא נמהר לא מוכנים לסתיו".

יצוין כי במקביל ליוזמה זו, האיחוד האירופי שוקד בזמנים אלו על חוק משלו, שיסדיר את אופן השימוש בבינה מלאכותית באירופה, עם קנסות צפויים לחברות המפרות את חוקיו.

גם ממשלות ברחבי העולם נמצאות כעת במאמץ לגבש תגובה ומדיניות לתחום המתפתח במהירות. לפי הפייננשל טיימס, בריטניה עתידה לפרסם בשבוע הבא נייר לבן שיבקש מהרגולטורים לפתח גישה עקבית לשימוש ב-AI בתעשיות, שתכלול הקפדה על מערכות AI הוגנות ושקופות. עם זאת, לפי הדיווח, הממשלה לא תספק סמכויות חדשות או מימון חדש לרגולטורים לשם חיזוק פעולתם בשלב זה.