האם הבינה המלאכותית מסכנת אותנו?

אין ספק שהדיון בשימושים בבינה מלאכותית עלה מדרגה לאחר שכלים כמו ChatGPT, שמכונים באופן כולל 'בינה מלאכותית יוצרת תוכן', הפכו לנגישים לציבור, ומהר מאוד לפופולריים במיוחד. מעבר למה שאפשר לעשות עם הכלים הללו, וכל משתמש ברמת היכולת שלו, מתחילות לעלות שאלות רבות לגבי השימוש בהם, ולא רק לגבי השימוש בהם, אלא גם לגבי הדרך שבה הם אומנו.

בשבועות האחרונים התחילו גם לצוץ, בהתאם לכך, גם כמה תגובות נגד. זה החל במכתב הבכירים שבין החותמים עליו נמצא אילון מאסק – שבינתיים מתברר שעסוק בפיתוח חברת AI משלו – וגם ההיסטוריון הישראלי הידוע פרופ' יובל נח הררי, בין השאר. זה המשיך אחר כך לאחר שרשות ההגנה על המידע האיטלקית החליטה לחסום לפחות זמנית את ChatGPT, בגלל סוגיות של אי עמידה בתקנות ה-GDPR האירופיות.

"טוב מאוד שהנושא עולה לדיון בצורה ציבורית באמצעות ידוענים. שלא יהיה ספק שמאחורי הקלעים יש הרבה דיונים ברמה מדינית, במקומות שונים ומגוונים, בהיבטים של בינה מלאכותית יוצרת תוכן, אבל הם טכניים מאוד, משפטיים וגם משעממים. כשזה יוצא החוצה בצורה כזו, כמו המכתב, זה מגיע מהר מאוד לידיעת הציבור. אמא שלי אפילו התקשרה לשאול אם זה מסוכן כי היא קראה על זה", כך אמר השבוע ד"ר זיו קציר, ראש התוכנית הלאומית לבינה מלאכותית במפגש השני בסדרת Innovation Over Launch של רשות החדשנות.

ד"ר זיו קציר, ראש התוכנית הלאומית לבינה מלאכותית. צילום: חנה טייב עבור רשות החדשנות

עצירה של הפיתוח? "זה לא רציני"

המפגש המקוון נועד לדון בדרמות האחרונות במערכות הבינה המלאכותית היוצרת, ובשאלה שחוזרת עכשיו די בעקשנות: האם ניתן, והאם בכלל מותר, לעצור טכנולוגיה.

"החשש אכן אמיתי, ויש בעיות קשות שאי אפשר להתעלם מהן, אבל לעצור את הפיתוח? ניקח את כל עשרות החברות בתעשייה שעוסקות בפיתוח, ולאו דווקא של בינה מלאכותית יוצרת. כולן מונעות מתוך סקרנות נטו, וזה כולל לבחון את הגבולות. זה נראה לכם רציני לבקש מהן לחתום על אמנה שהן ישחקו יפה? לא זה לא רציני", אמר קציר.

וסכנות, כאמור, לא חסרות. רבים שמלווים את השוק הטכנולוגי לא ממש חיכו למכתב כדי להעלות אותן, או לפחות לשאול שאלות מאוד מהותיות שמתייחסות לשני הצדדים של המקל: מצד אחד המרוץ של חברות הטכנולוגיה ומצד שני ההבנה שצריך לעשות פה משהו שלא ישתולל.

"בעיה שאני נתקלת בה לא מעט זה עולם הפייק והדיסאינפורמציה, עליהם דובר גם במכתב הבכירים. מה שקורה בעצם הוא שמנועים לוקחים דטה ויוצרים משהו שנראה אמיתי. זה יוצר כמה רמות של בעיות: אם אני משתמש בכלי כמנוע חיפוש, אני עלולה להשתמש במשהו שהוא פשוט אינו נכון", אמרה ענבל אורפז, יועצת חדשנות אסטרטגית ומייסדת מיזם 'אישה בהייטק', שהנחתה את האירוע מטעם רשות החדשנות.

"היבט אחר הוא כל העולמות שקשורים מאוד בחיקוי של קול בו משתמשים כאמצעי ביומטרי. הבינה המלאכותית כבר יודעת לחקות את זה יותר ויותר כי זה ברשת. עוד דוגמה אנחנו חיים במרחב של הרשתות החברתיות ואחד הכלים שמסייעים לנו לבחון האם חשבון הוא אמיתי או מזויף זה התמונה. אבל כיום יש יותר ויותר שימוש בתמונות של בינה מלאכותית, ולפעמים הן נראות מאוד אמיתיות, והכמות של השימוש הזה הולכת וגדלה, ומגיעה כבר לעד שני שליש מהחשבונות המזויפים שכן נחשפים – זה עולם של בעיות עבור תחום האבטחה ושל המשתמשים בידע", היא הוסיפה.

מימין לשמאל: ענבל אורפז, יועצת חדשנות אסטרטגית ומייסדת מיזם 'אישה בהייטק', צילום: שיר שטיין
ד"ר תומר שדמי, מומחית לאתיקה ומשפט של בינה מלאכותית, האוניברסיטה העברית בי-ם (צילום: לכידת מסך מיוטיוב).

למי שייכת ה"יצירה" של ה-AI?

אחד הדברים הבעייתיים ביותר בהיבט של הבינה המלאכותית היוצרת נמצא, לדבריה של ד"ר תומר שדמי, מומחית לאתיקה ומשפט של בינה מלאכותית, האוניברסיטה העברית בירושלים, בבסיס עצמו, והוא זכויות היוצרים.

"מה קרה פה בעצם? כמה חברות לקחו את כל האינטרנט בלי לשאול אף אחד, כולל ספרים, כולל התכתבויות, כולל יצירות אומנות כולל כל דבר, סוג של המוח הקולקטיבי בשנים האחרונות, והשתמשו בו כדי ליצור דפוסים ואז ליצור טקסטים על בסיס זה. יש כאן בעיה בסיסית של זכויות יוצרים ופגיעה בפרטיות, מעצם העובדה שף אחד לא שאל אף אחד", אמרה ד"ר שדמי.

לדבריה, כבר "מתחילים לראות תביעות, כולל תביעה גדולה של Get Image על שימוש בלי רשות בתמונות שלה לצורך האימון, וגם רואים את זה במוצרים סופיים – ואני חושבת שלא מאוחר מדי להתמודד איתה", היא אמרה.

בנוסף היא טענה שעצם העובדה שכוח כזה מתנקז בידיים מעטות, של כמה חברות שיש להן את הכסף והמשאבים לעשות את זה, יוצר בעיה חמורה.

"לסטארט-אפ מפתח תקווה קשה מאוד להתחרות בתחום, והתלות של כל האקו סיסטם בתעשייה בכמה חברות בודדות – משמעותי ביותר. לא רק שהמנוע לא נמצא אצלי, אין לי שום נגישות לדאטה סט של האימון ואין לנו גם דרך לראות את המודל עצמו, ואנחנו גם לא מכריעים מה מותר או מה אסור להגיד במסגרת המודל הנוכחי. זה מטריד מאוד", היא הוסיפה.

ומה קורה בישראל בתחום, כיצד הרזולוציה מתייחסת לכוכבת הטכנולוגית החדשה? "יש הרבה יוזמות חקיקה בעולם ואפשר לסדר אותן על שני צירים: חקיקה גורפת שנוגעת לבינה מלאכותית באשר היא, ולא משנה היכן מטמיעים אותה, ומצד שני יש חקיקה ענפית כי הבטיחות שונה בתחבורה מאשר בבריאות. הציר השני הוא בין משהו מחייב למשהו שהוא יותר כמו רגולציה עצמית ולחכות לראות מה קורה, במסגרת ניהול סיכונים. האירופים הולכים לרמת החוק, האמריקנים נמצאים בפינה הנגדית – בואו נעשה גם ענפי וגם לאט לאט נראה לאן הולכים", סיפר קציר.

"המתח האמיתי הוא בין הרצון לעודד קדימה לבין הרצון להשתלט על השד, והשאלה שלא הוכרעה היא מהי נקודת האיזון הנכונה. ישראל ממוקמת יותר קרוב לקוטב האמריקני, כמו גם בריטניה וקנדה – נשאיר עין פתוחה ונבדוק האם אפשר להתאים את החוק למצב הנוכחי, והאם יכולה להיות עוד התקדמות לפני שאנחנו מכבידים את הנטל", הוא סיכם.