הדילמות המוסריות של האינטרנט של הדברים

האינטרנט של הדברים נמצא כאן ועכשיו. לפי גרטנר (Gartner), בכל יום בשנת 2016 מחוברים לאינטרנט 5.5 מיליון מכשירים חדשים.

במהלך הרצאתי בכנס IoT 2016 סקרתי את המרכיבים הרבים של מערכות האינטרנט של הדברים וחידדתי את נושא הגנת הפרטיות ואת נושא ה-Cyber Security, אשר הינם מרכיבים הכרחיים ומהותיים בעולם האינטרנט של הדברים.

האינטרנט של הדברים משתלט על כל המערכות המקיפות אותנו בחיי היומיום, וכל דבר סביבנו קיבל את תוספת המילה "חכם"; מכסחת דשא חכמה, שעון השקיה חכם, כיסא חכם, ארגז כלים חכם, מלונה חכמה לכלב, עציץ חכם, בובה חכמה, מנורה חכמה, והרשימה ארוכה עד מאוד.

רבות מדברים על האינטרנט של הדברים, אך מעטים מדברים על הבעיות והדילמות המוסריות הרבות שעולם האינטרנט של הדברים מביא איתו.

הגורם האנושי – לא מעורב בנהיגה

כדוגמה לנושא המוסריות של עולם האינטרנט של הדברים, אקח את עולם המכוניות החכמות. העובדה שמכוניות חכמות מורידות את כמות תאונות הדרכים הינה ברורה, שכן תאונות רבות הנגרמות על ידי הגורם האנושי – לא תתרחשנה כאשר הגורם האנושי לא יהיה מעורב בנהיגה.

הגורם השני לתאונות דרכים הינו תקלה טכנית ברכב עצמו. גם חלקן הגדול של תאונות דרכים הנובעות כתוצאה מתקלות אלו, ימנעו כיוון שהרכב יידע לבדוק את מערכותיו השונות, לדווח על תקלה בהן ואף לנסוע למוסך כדי לתקנן, עוד לפני שהתקלה תגרום לתאונת דרכים.

גם חלקן של תאונות השבר יפחת כיוון שגם במקרה זה, כלי הרכב יידע לזהות בצורה סטטיסטית את ההתקרבות לתקלת השבר ויפנה למוסך להחלפת החלק הנדרש.

אך מה יקרה במקרים של תקלות שבר אשר התרחשו סטטיסטית לפני שהרכב פנה למוסך להחלפת החלק? נכונה העובדה שתקלות אלו תהיינה נדירות יותר, וייתכן שאת חלקן מערכות המחשב ברכב יידעו למנוע על ידי הפעלת מנגנוני חירום כדוגמת נעילת בלמים במקרים שכאלו, אך אין ספק שתאונות דרכים לא יעלמו מהעולם, אם כי כמותן צפויה לקטון משמעותית.

האם יכול רכב לקחת החלטה על מהות התאונה?

ואכן, ב-7 במאי השנה התרחשה בפלורידה תאונת דרכים בין רכב אוטונומי של טסלה (Tesla) לבין סמיטריילר. בתאונה נהרג נהג הטסלה. הידיעה פורסמה בבלוג של טסלה, רק כשבעה שבועות לאחר מכן (ב-30 לחודש יוני), תחת הכותרת "A Tragic Loss". את הידיעה מסיימת טסלה במילים " We would like to extend our deepest sympathies to his family and friends".

זה היה רק ענין של זמן עד שרכב אוטונומי יהיה מעורב בתאונת דרכים קטלנית, תאונה שכנראה תגרום לחשיבה מחדש בענף הרכב. תאונת דרכים זו, הינה הוכחה לכך שרכב אוטונומי אינו חסין מתאונות דרכים, אך השאלה המורכבת יותר הינה האם יכול רכב לקחת החלטה על מהות התאונה? האם רכב אוטונומי, אשר מבין כי הוא בדרכו להתנגשות, יהיה מסוגל לקחת החלטה באשר למהות התאונה?

לדוגמה, האם רכב אוטונומי אשר מבין כי הוא באירוע של תאונה, יכול לקחת החלטה אם להקטין את עוצמת הפגיעה בנוסעי הרכב בתמורה לכך שיתנגש לדוגמה במסעדה בה יושבת כמות גדולה של אנשים אשר ייפגעו כתוצאה מכך?

או לחילופין, האם רכב זה יכול לעשות שיקולים כלכליים המשרתים את האינטרסים של חברות הביטוח, ולהתנגש בהולך רגל אשר אינו מבוטח במקום בהולך רגל המבוטח בביטוח חיים?

לחסל חשבונות עם יושבי הרכב

האם השיקול יכול להיות להתנגש דווקא בהולך הרגל אשר סכום הביטוח שלו נמוך יותר, או בהולך הרגל שגילו מבוגר יותר? או בהולך הרגל אשר חולה במחלה כרונית ולפיכך, ייתכן ושווי הנזקים שחברת הביטוח תהיה צריכה לשלם לחולה צפויה להיות נמוכה יותר? או אולי יעדיף הרכב ליפול לתהום ולפגוע בנוסעי הרכב במקום לפגוע במשאית שמובילה ציוד ששוויו הביטוחי גבוה?

מי שמתכנן את האלגוריתם אשר בהתאם לו הרכב יקבל החלטות במקרי קיצון, הינם ספקי הרכב. האם ייתכן וספקי הרכב יהיו מוטים בעקבות לחץ אשר יופעל עליהם על ידי חברות אשר יהיו שותפות למימון זה או אחר? וחמור מכך, האם יתכן ובעתיד, בעת שדרוג גרסת תוכנה ברכב, ייכנס, בטעות או בכוונה תחילה, אלגוריתם אשר יגרום לרכב לקחת החלטות פחות מוסריות?

והאם ייתכן ובעתיד ישתלט על התוכנה האקר, אשר יגרום לרכב לבצע תאונה כדי לחסל חשבונות עם יושבי הרכב?

אין ספק שעולם האינטרנט של הדברים, אשר נמצא כאן ועכשיו, פותח בפנינו מגוון רחב של דילמות מוסריות, שייתכן ואנו עדיין אפילו לא מסוגלים לחשוב עליהן.

הכותב הינו מנכ"ל אלתרנט, יועץ בכיר בנושא האינטרנט של עצמים ובנושאי ערים חכמות.