האם עלינו לפחד מבינה מלאכותית?

השאלה מה יכולות מכונות לעשות ומה אין ביכולתן לעשות מעוררת עניין רחב כבר עשרות שנים. היא מתפצלת אף לשאלות משנה כמו: האם באמת מכונה יכולה לחשוב? או האם מכונה יכולה ל"הכפיל" את עצמה? בדומה ליכולתו של אורגניזם ליצור אורגניזמים בני דמותו שנחשבת לתכונה בלעדית של יצורים חיים.

המדען והפילוסוף האמריקני גריידי בוץ׳ טען בהרצאה במסגרת TED בחודש פברואר 2017 כי טכנולוגיות חדשות מייצרות דאגות חדשות, אבל אנחנו לא צריכים לחשוש מהכוח וחוסר הרגש של הבינה המלאכותית.

בוץ׳ מרגיע את הפחדים הגדולים ביותר שלנו (כולל ממדע בדיוני) לגבי מחשבים סופר-אינטליגנטים, על ידי כך שהוא מסביר כיצד נלמד אותם – ולא נתכנת – לחלוק את הערכים שלנו. במקום לדאוג מהחשש הלא-סביר לקיומנו, הוא דוחף אותנו לראות כיצד בינה מלאכותית תשפר את חיינו.

בסרט "אודיסאה בחלל 2001" של סטנלי קובריק משנת 1968, הכרנו את המחשב 9000 HAL בעל מודעות שתוכנן להדריך את ספינת החלל דיסקברי בדרך מכדור הארץ לצדק. HAL בחר בסופו של דבר להעדיף את המשימה על פני חיי אדם. למרות ש-HAL דמות בדיונית, הוא דיבר אל הפחדים שלנו, הפחדים שלנו להיות משועבדים על ידי בינה מלאכותית, ללא רגשות שאדישה לאנושיות שלנו.

במשימות חלל לירח, אנו יכולים לסמוך על פיקוד המשימה של נאס"א (NASA) ביוסטון שיפקח על כל ההיבטים של הטיסה. אבל, המאדים רחוק פי 200, ולכן לוקח בממוצע 13 דקות לשדר לנוע מכדור הארץ למאדים.

כשיש בעיות, אין מספיק זמן. ולכן פתרון הנדסי סביר יהיה, לשים את פיקוד המשימה בתוך רכב החלל עצמו, או להנחית רובוטים דמויי אדם על פני מאדים לפני שבני האדם מגיעים, בתחילה לשם בניית תשתיות ולאחר מכן לשרת כחלק שיתופי מהצוות המדעי.

מנקודת מבט הנדסית, זוהי בינה מלאכותית חכמה, שיתופית ובעלת בינה חברתית. במילים אחרות, משהו מאוד דומה ל-HAL אבל ללא הנטיות האובדניות.

האם אפשרי באמת לבנות בינה מלאכותית כזו?

היום אנו יכולים לבנות מערכות המשוחחות עם בני אדם בשפה טבעית, מערכות שיכירו אובייקטים, יזהו רגשות, שיהיו רגשניות, ישחקו משחקים ואפילו יקראו שפתיים, ביכולתנו לבנות מערכות המציבות יעדים, ומוציאות לפועל תכניות לפי יעדים אלו ולומדות בדרך.

לבנות מערכות בעלות מודעות או לבנות מערכות בעלות בסיס מורלי ואתי אנו עדיין חייבים ללמוד לעשות.

השאלה הבאה שאנו חייבים לשאול את עצמנו היא, האם עלינו לפחד מהן?

כל טכנולוגיה חדשה מביאה איתה רמה מסוימת של חשש מהלא נודע. כשראינו לראשונה מכוניות, אנשים חזו שנראה את הרס המשפחה. כשראינו לראשונה טלפונים, אנשים חששו שזה יביא לסופו של הדיון התרבותי. כשראינו בשלב מסוים את התפשטות המילה הכתובה, אנשים חשבו שנאבד את היכולת לזכור. כל אלו נכונים במידה מסוימת, אבל טכנולוגיות אלו הביאו דברים שהרחיבו את הניסיון האנושי בדרכים עמוקות.

ניקח זאת אפילו רחוק יותר. אנחנו לא צריכים לפחד מיצירת בינה מלאכותית כזו, כיוון שבסופו של דבר היא תכיל גם כמה מהערכים שלנו. בניית מערכת קוגניטיבית היא שונה מהותית מבניית מערכת מסורתית מרובת תוכנה של העבר.

אנו לא מתכנתים אותן, אנו מלמדים אותן.

כדי ללמד מערכת לזהות פרחים, מראים לה אלפי פרחים מהסוג שאוהבים. כדי ללמד מערכת לשחק משחק, אגרום לה לשחק אלפי משחקים. אבל בתהליך אלמד אותה איך להבדיל בין משחק טוב למשחק רע, אם אני רוצה ליצור בינה מלאכותית עבור עזרה משפטית, אלמד אותה כמה ספרי משפטים, אך באותו זמן אשלב זאת עם חוש הצדק והרחמים שהם חלק מאותם חוקים. כחלק מיצירת מכונות אלו, אנו מלמדים אותן חלק מערכינו.

בהקשר זה, אני סומך על בינה מלאכותית באותה מידה, אם לא יותר, מאשר על אדם שאומן היטב.

אבל, ניתן לשאול, מה לגבי סוכנים, האקרים, טרוריסטים פורעי חוק?

בוץ' לא חושש מבינה מלאכותית בידיים של זאבים בודדים. ברור שאיננו יכולים להגן על עצמינו מכל מעשה אלימות אקראי, אבל המציאות לגבי מערכות אלו היא שהן צריכות הרבה אימון, ואימון עדין הרבה מעבר למשאבים של אדם בודד. ובנוסף, זה הרבה יותר מלהפיץ וירוס באינטרנט בלחיצת כפתור.

האם יש חשש שבינה מלאכותית כזו עלולה לאיים על האנושות כולה?

אם נתבונן בסרטים כמו ״מטריקס״, ״מטרופוליס״, ״שליחות קטלנית״, תכניות כמו ״ווסטוורלד״, כולן מדברות על חשש שכזה. בספר ״סופר אינטליגנציה״ של הפילוסוף ניק בוסטרום, הוא בוחן נושא זה ושם לב ש-"סופר אינטליגנציה" עלולה להיות לא רק מסוכנת, אלא גם יכולה להוות איום קיומי על האנושות כולה.

הטיעון הבסיסי שלו הוא שלמערכות כאלו יהיה בסופו של דבר צימאון בלתי ניתן לרוויה למידע עד שהן אולי ילמדו ללמוד ולבסוף יגלו שאולי יש להן יעדים מנוגדים לצרכי בני האדם. הוא נתמך על ידי אנשים כמו אילון מאסק וסטיבן הוקינג. ועם כל הכבוד למוחות מבריקים אלו, בוץ' מאמין שהם שוגים באופן בסיסי.

ידיעת-על היא מאוד שונה מעשיית-על

HAL היה איום לצוות הדיסקברי רק כיוון שפיקד על כל הצדדים של הדיסקברי. כך תצטרך להיות גם "סופר אינטליגנציה" בשליטה על כל עולמינו. זה מזכיר את סקיינט מהסרט ״שליחות קטלנית״ שבו יש "סופר אינטליגנציה" השולטת על רצון בני האדם, שכיוונה כל מכשיר בכל פינה של העולם.

מעשית זה לא הולך לקרות, אנחנו לא בונים בינה מלאכותית ששולטת במזג האוויר, שמכוונת את הגאות, שמפקדת עלינו. אם בינה מלאכותית כזו הייתה קיימת, היה עליה להתחרות בכלכלה האנושית, ולכן להתחרות נגדנו על משאבים. ולבסוף – אנחנו תמיד יכולים לנתק אותם.

אנחנו נמצאים במסע מופלא של אבולוציה משותפת עם המכונות שלנו. לדאוג היום מהעלייה של "סופר אינטליגנציה", זו הסחת דעת כיוון שהעלייה במחשוב עצמו מעלה מספר בעיות אנושיות וחברתיות שחייבים לטפל בהן כמו:
● איך לארגן את החברה האנושית כשהביקוש לעבודה אנושית מצטמצם?
● כיצד להביא הבנה וחינוך לכל האנושות ועדיין לכבד את השונה ביננו?
● איך להאריך ולשפר את חיינו תוך שימוש במערכת בריאות קוגניטיבית?
● כיצד להשתמש במחשוב כדי לעזור להביא אותנו לכוכבים?

ההזדמנויות להשתמש במחשוב לקידום ההתנסות האנושית הן בטווח ההשגה שלנו, כאן ועכשיו, ואנו רק מתחילים.