לא רק מחשוב צללים: הכירו את "הבינה המלאכותית של הצללים"

המונח Shadow IT – ובעברית מחשוב צללים – ידוע כבר שנים אחדות בעולמות המחשוב והתקשוב. סיסקו הגדירה את זה יפה: על פי אתר החברה, מחשוב צללים הוא "השימוש של חומרה או תוכנה מבוססות IT על ידי אדם או מחלקה מבלי ידיעת קבוצת ה-IT או האבטחה של הארגון". לצד מחשוב הצללים יש מונח פחות מוכר, אבל לא פחות מעניין: Shadow AI. כאן, התרגום לעברית יותר מסורבל – בינה מלאכותית של הצללים.

ישי רם, סמנכ"ל בכיר לענן בקבוצת סלע, דיבר על כך בכנס Future of AI של Lynx מבית אנשים ומחשבים, שנערך באחרונה בגני התערוכה שבתל אביב. לדבריו, אותו Shadow AI הוא הסיבה שבגינה חברות הביג טק כמו גוגל וסמסונג מציעות לעובדים שלהן לנקוט משנה זהירות בשימוש בבינה מלאכותית יוצרת – בוודאי בעבודה, אבל גם בחייהם הפרטיים. "רבים מאתנו מוסרים לבינה המלאכותית היוצרת את הסודות והמחשבות שלנו, מבקשים ממנה עצות איך לעשות דברים… הכול מגיע אליה. חברות מפחדות שזה יביא לדליפה של מידע, שעובדים ימסרו מידע לבינה המלאכותית היוצרת, מבלי שהם חותמים על הסכם סודיות, ומשם הוא יגיע לעולם", אמר.

"סיכוני האבטחה שנלווים לבינה המלאכותית היוצרת הם דליפת מידע בכלל ומיילים בפרט, הרעלה של מודלים וגניבה שלהם. ארגון יכול לאמן את המודל ומישהו אחר ייקח אותו וישתמש בו. אלה איומים אמיתיים על חברות", ציין.

היבט נוסף שרם עמד עליו הוא זכויות היוצרים. "בתנאי השימוש של חלק מכלי הבינה המלאכותית היוצרת נכתב שיש על התוצרים שלהם זכויות יוצרים ובחלק לא. אין כאן סטנדרט אחיד, וגם זה מהווה סיכון עבור ארגונים".

עם זאת, הוא אמר שארגונים לא צריכים שלא להשתמש בבינה המלאכותית היוצרת כליל. "הארגון צריך למצוא פתרון כיצד העובדים יכולים להשתמש בבינה מלאכותית יוצרת, אחרת המתחרים יעשו זאת", ציין. "הם יכולים להשתמש בפלטפורמות קיימות, למשל ורטקס של גוגל, שמציעה את היתרונות של הבינה המלאכותית היוצרת בלי החסרונות. הדאטה שם מוצפנת, יש לארגון שליטה בגישה אליה – הוא יכול לבחור מי יקבל אותה, וניתן לראות מי משתמש במידע. בנוסף, הכלי מאפשר לאמן את המודל על הדאטה של הארגון – מה שלא קורה בבינה מלאכותית יוצרת באופן כללי".

טובי כוכב, שותף, סמנכ"ל טכנולוגיות ויועץ טכנולוגי בדלויט. צילום: נדב כהן יונתן

טובי כוכב, שותף, סמנכ"ל טכנולוגיות ויועץ טכנולוגי בדלויט, טען בכנס ש-"כולם מדברים על בינה מלאכותית יוצרת, אף אחד לא מדבר על ארגונים".

בתחילת דבריו הוא סיפק כמה נתונים: "ההשפעה הכלכלית של הבינה המלאכותית היוצרת על העולם תעמוד ב-2024 על 4.7 טריליון דולר. חברות טכנולוגיה ירוויחו מזה 900 מיליארד דולר. בנוסף, בסקר שנערך, 79% מהמנהלים הבכירים בארגונים ציינו שהם מיישמים או עומדים ליישם בינה מלאכותית יוצרת. ניתן לראות מנתונים אלה שה-AI הג'נרטיבית היא לא העתיד, אלא היא כבר כאן".

"מנקודת המבט של דלויט אני אומר שמה שקורה הוא מהפכה ואף הפיכה", ציין כוכב. "מאז שכתבתי את הקוד הראשון שלי בשנות ה-80' הרבה דברים השתנו: הטכנולוגיה הבשילה – לימוד המכונה והענן הגיעו לעולם, ההיקפים של הדאטה נהיו עצומים והמידע הפך להיות נגיש. דלויט עוזרת לארגונים למנף את הטכנולוגיה בארגון ולהתמודד עם הסיכונים שלה, והחברה עצמה עוברת את המהפכה או ההפיכה הזאת".

כוכב הציג שלוש שאלות שלדבריו על כל ארגון שרוצה לאמץ את הבינה המלאכותית היוצרת לשאול: איך יוצרים ממנה ערך עסקי פשוט וברור? איך מוודאים שמה שעושים בטוח ואמין? וכיצד שוזרים את הטכנולוגיה עם החוויה האנושית?

הוא אמר כי "אנחנו נמצאים במהפכה והארגונים שישרדו הם אלה שיש להם חזון ותוכנית ברורים לשימוש בבינה המלאכותית – ושיישמו אותם. הבינה המלאכותית בכלל, וזו היוצרת בפרט, מהווה אתגר עסקי, טכנולוגי, ארגוני ואנושי. נשאלת השאלה: האם הארגון מבין באופן ברור את מודל הבינה המלאכותית היוצרת שעליו לאמץ ואת הערך העסקי שהיא מביאה? הרי שבאימוץ ה-AI הג'נרטיבית, ארגונים לוקחים הימור גדול, מבחינת הסיכונים. יש בה הטיה, הרבה פייק, הזיות וחוסר דיוק. ארגון לא יכול להכיל את הבינה המלאכותית היוצרת בלי לנהל את הסיכונים. לכן צריך שתהיה משילות (Governance) כמו שצריך, ולשים מנגנונים שיבטיחו שהשימוש ב-AI הג'נרטיבית יהיה בטוח ואמין".

לסיכום הוא ציין כי "ההסתכלות על הבינה המלאכותית היוצרת כאיום היא שגויה. היא יכולה וצריכה להיות השותף של הארגון. מה שהארגון צריך הוא לדעת לחיות איתה בתוך החוויה האנושית".