על היבטים מוסריים של AI ומה זו בכלל מציאות מדומה

דילמות חברתיות ומוסריות בשימוש בבינה מלאכותית הן אחד הנושאים המעסיקים את ד"ר אלון הסגל, מרצה בכיר וראש התכנית לניהול תשתיות מידע בפקולטה ללימודי היי-טק במרכז ללימודים אקדמיים באור יהודה, החוקר את השפעות הטכנולוגיה על חיינו. ד"ר הסגל הביא מתובנותיו אל כנס הפסגה הדיגיטלית של הלשכה לטכנולוגיות מידע, שנערך ביום ה' האחרון ב-LAGO בראשון לציון, בהפקת אנשים ומחשבים.

ד"ר הסגל עוסק במחקר אלגוריתם לצומת חכם – סדרי העדיפויות בצומת סואן. לדבריו, למרות העיסוק בבינה מלאכותית, מרבית הדילמות בנוגע לצומת הדרכים אינן טכנולוגיות בכלל, אבל התלבטות הגג היא למעשה השאלה האם להטמיע את הבינה המלאכותית בקצב שניתש כיום, או לעצור לצורך חשיבה והיערכות מחדש.

"מוביל אותנו הקונספט של אופטימיזם טכנולוגי – ככל שנטמיע יותר טכנולוגיה נצליח להתמודד טוב יותר עם מה שהכי מפחיד אותנו כבני אדם – עם איתני הטבע", מסביר הסגל את אחת הדילמות. התהליך של מיגור הטבע, לדבריו, כבר התחיל ומתבטא באופנים שונים, אלא שבתקופה האחרונה ההצלחה הטכנולוגית של בני האדם פוחתת – 40% מהמידע אינו מדויק עוד. "אנחנו זקוקים לעזרה, וכאן נכנסת הבינה המלאכותית", אמר.

בין היתר ציין הסגל את השימוש ב-AI לניתוח מידע משפטי – כמו למשל שירותיו של ווטסון (Watson) של יבמ (IBM) הניתנים להשכרה לכל שימוש. "הוא מאתר שופטים, יודע לסרוק כמויות מידע ומכיר את כל ההנחיות. הוא הוזיל את עלויות המשרד ומאפשר לנצח ביותר מקרים", אמר.

לדבריו, גם המהפכה התעשייתית הרביעית הולכת לכיוון הבינה המלאכותית ועומדת לשנות בצורה די קיצונית את כל האלמנטים שאנחנו מורגלים בהם. אם עד כה הכל עבד לפי אבטיפוס ופס ייצור, כעת חל היפוך לפס הייצור שמייצר אבות-טיפוס. הסגל תיאר כי הבינה המלאכותית נכנסת גם לניהול הכספים, לאיתור מועמדים ראויים במיוחד למשרות ועוד ועוד.

עדיין לא מוכנים לקבלת החלטות על ידי בינה מלאכותית

"אבל אם עד היום הטכנולוגיה נתנה המלצות והכינה בעבורנו חומרים ומידע מרוכז – מה יקרה כשהיא תצטרך לקבל החלטות". תהה הסגל ותיאר כי הבינה המלאכותית תצטרך להתמודד עם דילמות שונות – חברתיות, מוסריות ואתיות, כמו מה שמכונה דילמת הטרול – במי אני פוגע ולמי אני נותן להיפגע.

לדבריו, המצב מכתיב צורך ללמד בינה מלאכותית הלכות נימוסים. הבינה המלאכותית תבצע החלטות אוטונומיות ולכן חייבים ללמד אותה איך להתמודד עם חברת בני אדם, הוא הסביר, והמשיך ותיאר כי על פיתוחי האלגוריתמים הללו יושבים כעת אנשים רבים. "היא מתפתחת בקצב מהיר מאוד ואנחנו צריכים ללמד אותה – ללמד אותה להיות אחת מהחבר'ה, להבין שפה ותפישה חברתית".

לאחרונה, סיפר הסגל, יצא קוד אתי למיכון אוטונומי על ידי ממשלת גרמניה, וזו רק ההתחלה – בסופו של יום ובקרוב ייאלצו כולם להטביע קוד חברתי בבינה המלאכותית.

בכדי לעשות זאת ניתן ללמד AI, למשל, באמצעות קריאת סיפורי חיים אותנטיים של בני אדם – לא הסברים לוגיים, לא ענישה והטלת אשמה, אלא פשוט לקחי חיים.

לדברי הסגל בני האדם מתקשים לעכל את הרעיון של הבינה המלאכותית כמקבלת החלטות. מחקר של MIT מצא כי 80% מהנשאלים לא מוכנים שהבינה המלאכותית תעשה החלטות מוסריות בעצמה – אנשים רוצים גורם אנושי ולא מעוניינים בהטמעת החלטת המכונה.

הסגל סיפר על כך ש-116 מומחי AI מכל העולם שלחו מכתב שעליו חתמו, שמבקש מהאו"ם לפעול מול ראשי מדינות להפסקת פעילות עם כלי לוחמה מבוססי בינה מלאכותית. למרבית האבסורד, החותמים, אילון מאסק ומפתחי דיפ-בלו, ואחרים, הם מי שמפתחים אותה כבר שנים. "כולם חוששים מפניה", הבהיר הסגל והוסיף כי "יש רבים שחושבים שחובה לשלב יכולות אנושיות יחד עם פעולת הבינה המלאכותית".

חיים במציאות מדומה כבר מימי קדם

יוני מזרחי, פרופסור למערכות מידע וראש החוג לסוציולוגיה ואנתרופולוגיה במכללה האקדמית עמק יזרעאל, הוציא את הספר "מציורי המערות לטלפון החכם – האבולוציה של המציאות המדומה".

לדבריו, הוא התחיל להתעניין בשינוי הטכנולוגי שהתגעש על העולם, בתקופת ה-ICQ, כשהרגיש שמשהו משמעותי קורה, אבל החליט לבחון את הדברים וללכת אחורה במכונת הזמן.

בספרו בחן פרופ' מזרחי, להגדרתו, מערכות מידע בתוך מסע בזמן. לדבריו הספר מדבר על ההיסטוריה התרבותית של טכנולוגיות המידע והתקשורת, למן הופעת שפת הדיבור האנושית, טכנולוגיות הכתב והדפוס, הקלטת הקול והשמע, הפקסמיליה, הצילום, הרדיו, הטלוויזיה המחשבים והאינטרנט ועד לטלפון החכם בן-זמנינו.

פרופ' יוני מזרחי, מרצה במכללה האקדמית עמק יזרעאל. צילום: ניב קנטור

"לאורך השנים עלו כמה רעיונות שעברו כחוט השני – סדרת נושאים שחוזרים על עצמם", סיפר פרופ' מזרחי. הוא תיאר לשומעיו איך ההומו-ספיאנס שיקר את עצמו במציאות מקבילה ומדומה.

"למונח מציאות מדומה יצא שם רע", אמר "כי המציאות נתפשת בעיני רוב האנשים כמשהו חם ואנושי ומיוזע ואותנטי, בעוד שמציאות וירטואלית נראית כחיוורת, מרוחקת, תלושה ופחות טובה".

אבל, לדבריו, בפועל כל התבוננות על מציאות הופכת למעשה בקורטקסט שלנו לסמלים ולמציאות מדומה. גם האדם, בהצגתו את עצמו לאחרים, מייצר אימג' של עצמו במוחו. הדיבור – מחלץ צלילים מלולית באופן סמלי.

"הרי אין טוב מוחלט", הוא מסביר. "למילים כמו 'אם' אין משמעות מציאותית. הן מציאות מדומה בפעול. במילים אפשר להוליך לכל מי מקומות ומציאויות, הוא הוסיף וטען.

לדברי פרופ' מזרחי גם ספרים הם מציאות מדומה. "עד היום אנחנו מושפעים ממציאות מדומה כתובה נניח שהגידור חוקי חמורבי לפני המון שנים", אמר. מילים, כתב, תקליטים, רדיו, תמונות, סרטים – כולם מציאות מדומה, ועל הנושא הנרחב הזה ניתן ללמוד מספרו.