סטיבן הוקינג: "הבינה המלאכותית עלולה להשמיד את הציוויליזציה"

סטיבן הוקינג מזהיר מפני הבינה המלאכותית: בהרצאה שהעביר בכנס הטכנולוגי Web Summit, שמתקיים בימים אלה בליסבון, בירת פורטוגל, הזהיר האסטרופיזיקאי והתאורטיקן המפורסם, שספרו החשוב קיצור תולדות הזמן מתאר את התפתחות היקום למן המפץ הגדול, מפני עלייתן של מכונות חזקות ומודעות.

על אף שהוקינג הודה שבינה מלאכותית יכולה לשמש לעשיית טוב, הוא גם קבע שבני האדם צריכים למצוא דרך לשלוט בה, כך שלא תהפוך לחזקה יותר מהם. זאת מכיוון שלדבריו, "מחשבים יכולים, בתיאוריה, לחקות את האינטליגנציה האנושית, ואז לעלות עליה".

במבט על הצד החיובי של הדברים אמר הוקינג בן ה-75 שהבינה המלאכותית יכולה לעזור לבטל חלק מהנזק שגרמו בני האדם לעולם ולטבע, לסייע למין האנושי להתגבר על חולי ולמעשה "להפוך" כל היבט של החברה. אבל, לטענתו, יש תרחישים שליליים שמגיעים עם הקדמה הזו.

פרופ' הוקינג אמר כי "ההצלחה ביצירת בינה מלאכותית יעילה יכולה להיות האירוע הגדול ביותר בהיסטוריה של הציוויליזציה שלנו, או הגרוע ביותר. אנחנו פשוט לא יודעים. לכן, איננו מסוגלים לדעת אם ניעזר בבינה המלאכותית ללא הרף, נתעלם ממנה ונחיה לצידה, או שניהרס על ידיה".

"חובה להימנע מהסיכונים האפשריים"

"אם לא נלמד כיצד להתכונן לקראתה ולהימנע מהסיכונים האפשריים, הבינה המלאכותית יכולה להיות האירוע הגרוע ביותר בהיסטוריה של הציוויליזציה שלנו", הזהיר הוקינג את קהל שומעיו. "היא מביאה סכנות, כמו נשק אוטונומי חזק, או דרכים חדשות עבור מעטים לדכא רבים. היא יכולה להביא להפרעה גדולה לכלכלה שלנו".

אין זו הפעם הראשונה שבה הוקינג מבטא דאגה לקיום האנושות. במאי האחרון הוא אמר שלבני אדם יש בערך 100 שנים על מנת לעזוב את כדור הארץ בכדי לשרוד. "אני מאמין במיוחד שאנחנו צריכים להתחיל לחפש כוכבי לכת חלופיים למגורים אפשריים", ציין במהלך נאום באירוע של ה-Royal Society בלונדון. "המרחב על כדור הארץ מתכלה ואנחנו צריכים לפרוץ את המגבלות הטכנולוגיות המונעות מאתנו לחיות במקומות אחרים ביקום".

בדבריו בליסבון הוא הוסיף ואמר כי בכדי לוודא שהבינה המלאכותית מתואמת עם המטרות שלנו, היוצרים שלה צריכים "ליישם בה את הניהול הטוב והיעיל ביותר שניתן". אולם, למרות אזהרותיו אמר הוקינג כי הוא עדיין מלא תקווה: "אני אופטימיסט ומאמין שאנחנו יכולים ליצור בינה מלאכותית לטובת העולם".

הבינה המלאכותית מעוררת חילוקי דעות בקרב בכירים בעולם הטכנולוגיה: בעוד שאחדים, כמו מארק צוקרברג, מנכ"ל ומייסד פייסבוק (Facebook), מסתכלים על התועלת שיכולה לצמוח ממנה, אחרים, כמו אילון מאסק, מנכ"ל ומייסד טסלה (Tesla), רואים את חציה הריק של הכוס ומזהירים מפני ההשלכות השליליות שיכולות להיות לה.