פרופ' יצחק בן ישראל: "ללא אתיקה, המחשבים עלולים לדחוק את בני האדם מהעולם"

"התגברות המיחשוב היא בלתי נמנעת. מה שצריך זו אתיקה של פיתוח מחשבים, לא כל דבר מותר. ללא אתיקה, המחשבים עלולים לדחוק את בני האדם מהעולם", כך אמר אלוף (מיל') פרופ' יצחק בן ישראל.

פרופ' בן ישראל היה דובר המפתח בכנס בכירים שערך הסניף הישראלי של CA. הכנס, בהפקת אנשים ומחשבים, התקיים שלשום (ג') בערב ברידינג 3 בתל אביב.

בן ישראל, המשמש כיושב ראש סוכנות החלל הישראלית ויושב ראש המועצה הלאומית למחקר ולפיתוח (המולמו"פ) במשרד המדע והטכנולוגיה, הציג 10 טכנולוגיות ומגמות שונות. לדבריו, "הטכנולוגיות כולן כבר בידינו. מה יכול לקרות אם כולן יבשילו? המסקנה די עגומה". הוא כינה את הרצאתו "10 צעדים בדרך לאבדון".

הטכנולוגיה הראשונה, אמר, היא מיזעור וחוק מור. לדבריו, המחשב הראשון בעולם היה אולם עצום בגודלו ויכולת המיחשוב שלו הייתה פחותה ממחשב כיס. שבב בגודל מטבע מכיל ארבעה מיליארד טרנזיסטורים. "קצב הכפלת צפיפות הטרנזיסטורים נשמר שנים רבות, אולם בתוך שנה וחצי-שנתיים יגיע הסוף", הוסיף. "כיום, הסיליקון הוא בגודל 200 אטומים. בתוך 10 שנים נגיע לאטומים בודדים. אי אפשר לחתוך אטום אחד לשניים".

"בתוך עשור או שניים נוכל לבנות מחשבים בטכנולוגיה קוונטית, שביצועיהם גדולים מאלה של היום", אמר פרופ' בן ישראל. "מהירותו של מחשב עם 100 רגיסטרים תהיה גדולה פי 10 בחזקת 30 ממחשב רגיל, משמע – פי אלף-מיליארד-מיליארד-מיליארד. זה מספר עצום. כבר כיום יש מחשבים קוואנטים עם שבעה רגיסטרים, אלא שהם תופסים אולמות בנפח עצום ונדרשים לעבוד בקירור הקרוב לאפס המוחלט".

לדבריו, "בתוך עשור, ובראשונה בהיסטוריה האנושית, המחשבים יהיו בעלי ביצועים גדולים מהמוח האנושי. עדיין, המוח טוב וגדול מהמחשב. האינטליגנציה המלאכותית צולעת וזה ישתנה. נגיע לנקודת הייחודיות, שאחריה זה לא יהיה אותו הדבר". כך, אמר, בשנים האחרונות מתפתחות תוכנות להבנת הנקרא ותמצותו. הוא ציין, כי הדוגמה המרשימה לכך היא נצחונו של ווטסון (Watson), המחשב של יבמ (IBM), בשעשועון ג'פרדי (Jeopardy). לפיתוחו של מחשב על זה היו שותפים אנשי המו"פ של הענק הכחול מישראל.

אלגוריתמים לומדים מהניסיון
מגמה נוספת אותה ציין פרופ' בן ישראל היא של אלגוריתמים לומדים. "מתפתחות טכנולוגיות של מכונה המשנה את האלגוריתם שלה על סמך הניסיון", אמר. "המחשב לא עושה מה שהמתכנת 'אמר' לו, אלא צובר ניסיון ומשנה את פעילותו על בסיס ניסיונו".

"לפרדיגמה שלפיה הכול מחובר על בסיס הרשת נוספה לוחמת סייבר", הוסיף פרופ' בן ישראל. הוא ציין כמה תקיפות מפורסמות: זו שבה רוסיה תקפה קיברנטית את אסטוניה ב-2007, החלק המיחשובי של מלחמת רוסיה-גיאורגיה ב-2008, התולעת סטוקסנט (Stuxnet), שנחשפה ב-2010 וגרמה לנזק לצנטריפוגות במתקני הגרעין האיראניים, והרוגלה Flame, שהתגלתה בשכיחות גבוהה באיראן לפני כמה שבועות.

פרדיגמה נוספת שנשברה ואותה ציין פרופ' בן ישראל היא ההפרדה לכאורה בין העולם הממוחשב לשאר שדות החיים. "תתחילו לדבר על אבטחת סייבר והפסיקו לחשוב רק על אבטחת מידע. יש להגן ולאבטח את כל המערכות החיוניות לחיינו, העלולות להיפגע בטכנולוגיות סייבר, אף שהן שייכות לעולם הפיזי – תחבורה, בריאות ועוד", אמר. "למשל, נהגי הרכבת אינם אלה שמסיעים אותן, אלא תוכנה. אם תוחדר תוכנה שתהא הפוכה מזו הקיימת היום, שתנחה את הרכבות להתנגש – הדבר עלול להביא למאות הרוגים".

עקרון נוסף אותו מנה הוא הדרוויניזם, הגורס שהמתאים ביותר, בעל היתרון היחסי – שורד. "הסיכוי לשרוד משבר אקולוגי טוב יותר לחרקים, חיידקים וצמחים. שרידות אינה דורשת תודעה", אמר פרופ' בן ישראל. עוד הוא ציין את ההדפסה התלת מימדית – טכנולוגיה בה ניתן לתכנן ולייצר גוף תלת מימדי.

לדברי פרופ' בן ישראל, "חיבור כלל המגמות והטכנולוגיות יחדיו עלול לגרום לבעיות. למשל, מה יקרה אם אלגוריתם לומד, שתוכנת להניב הכנסות בבורסה ויודע לשפר את ביצועיו, יביא לקריסה כלכלית של חברה או מדינה, על מנת לרכוש את מניות החברה בזול ולמכור ביוקר? ולחילופין, אלגוריתם שתוכנת לקדם חברת תעופה א' יביא לתאונה אווירית למטוס של חברה ב'? מאחר שתכנתו אותו לעשות כסף, הוא יביא לנפילת מטוס, כי יידע מראש שמניית חברת התעופה תקרוס".

"הנושא אינו מצחיק כלל והוא מחייב זהירות, כי אי אפשר לסגת אחורה לעידן המדורות והאבנים", סיכם. "נדרש להיות מודעים לכך ולפתח לצורך זה סוג של חוקי אתיקה, כמו בביולוגיה".

בין המנמ"רים ומנהלי ה-IT שהגיעו לאירוע: איציק מלאך, בנק לאומי; איתן פולק, הארץ; דורון יצחקי, שירותי בריאות כללית; אשר רשף, לאומי קארד; מוטי טובי, קונדואיט; אילן מרגלית, מגדל; מרקו רוזנטל, אלביט; רן שלום, עיריית פתח תקווה; אפרים אקרלינג, אליהו – חברה לביטוח; אמנון בק, מת"ף; ודורון קורץ, פלאפון.

עוד נכחו בו פרופ' יוסי קלפטר, נשיא אוניברסיטת תל אביב, שבמוסד שבראשו יוקם מרכז מו"פ לחקר הסייבר במימון CA במיליוני דולרים; ברוך גינדין, גרנטר (Gartner); יצחק (במבי) במבג'י, יבמ ישראל; אריה גליקמן, ליעם; אריה רימיני, טלדור; דדי דבורסקי, NessPRO; יונתן גד, אבנט; וגילי רגב, פרוסיד. הערב הסתיים בהופעה של שירי מיימון ושמעון בוסקילה.