מה חובת ההנהלה לדעת על טכנולוגיית ה-GenAI?

חלק ג'*

זהו חלק ג' של המאמר, ובו נציג חמש נקודות של אי ודאות שעדיין קיימות ושנכון להיום עדיין התשובות עליהן לא ברורות. חשוב שמנהלים יכירו נקודות אלה טרם ההחלטה על יישום טכנולוגיית GenAI בארגון. אי הוודאות נובעת מהיות GenAI טכנולוגיה חדשה, וקיים קושי לחזות כיצד היא תתפתח ותשתלב בארגונים. אל למנהלים להקל ראש בנקודות אלה.

נקודות אלה מופיעות במאמר שפורסם ביולי 2023 ונכתב ע"י פרופ' מיכאל ד. ווטקינס מביה"ס למנהל עסקים IMD וראלף וויסבק, לשעבר CIO בקבוצת ADDECO, וכותרתו: The executive’s guide to generative AI: 10 essential truths, 5 unresolved uncertainties and one overarching imperative.

בגלל החדשנות והאי ודאות האופפת את הטכנולוגיה החדשה, שעדיין עושה את צעדיה הראשונים, יש מקום לתשומת לב מיוחדת גם למשמעויות חברתיות וכלכליות רחבות יותר, לצורך בשיתופי פעולה עם ארגונים וספקים, בלמידה מניסיונם של אחרים, ועוד. זהו מסע חדש ומאתגר שדורש תשומת לב מיוחדת

יוצרת תוכן ומשנה את העולם. ה-GenAI. צילום: אילוסטרציה. ShutterStock

חמש נקודות אי ודאות שעל המנכ"ל להכיר

עוצמת ההשפעה הכלכלית לא ברורה ויכולה לנוע בין משמעותית ועד מדהימה – טכנולוגיית GenAI רק בתחילת דרכה, אבל ברור שהיא בעלת פוטנציאל עסקי משמעותי. ברור גם שהיא תביא לשינויים משמעותיים בארגון – יופיעו תפקידים חדשים; חלק מהתפקידים הקיימים יתייתרו ויהיו בהם שינויים משמעותיים; יהיה צורך בהתאמת המבנה הארגוני; ועוד. על המנכ"ל להבין ששינויים כאלה יתרחשו, ועליו לנווט ולהכין את הארגון למסע של טרנספורמציה הנובעת משילוב הטכנולוגיה בתהליכי העבודה ובתהליכי קבלת ההחלטות. הארגון יצטרך להשקיע בהכשרת עובדים ובהכנתם לעידן החדש, לאתר ולגייס עובדים מתאימים חדשים ועוד. בגלל החדשנות והאי ודאות האופפת את הטכנולוגיה החדשה, שעדיין עושה את צעדיה הראשונים, יש מקום לתשומת לב מיוחדת גם למשמעויות חברתיות וכלכליות רחבות יותר, לצורך בשיתופי פעולה עם ארגונים וספקים, בלמידה מניסיונם של אחרים, ועוד. זהו מסע חדש ומאתגר שדורש תשומת לב מיוחדת.

ההשלכות הפיננסיות של אימוץ GenAI טרם הובהרו – הארגון חייב להבין שליישום הטכנולוגיה יש משמעויות כלכליות שטרם הובהרו – עלויות טיוב נתונים, איתור נתונים חדשים, אימון מודלים של AI, ובניית צוות מומחים, כל אלה יכולים לדרוש השקעות רציניות, בעיקר בתחילת הדרך, כאשר החזר ההשקעה עדיין לא ברור ותלוי במידה רבה בענף ובאתגרים הייחודים שלו. על המנכ"ל להיות מודע להשקעות אלה ולשקלל אותן עם התועלות הצפויות למרות אי הוודאות הקיימת. החזר ההשקעה עלול לקחת זמן ולדרוש משאבים רבים, שאת חלקם קשה לדעת ולתכנן מראש.

קשה לחזות את רמת האמון בטכנולוגיה – טכנולוגיית GenAI מצליחה לייצר תכנים הנראים ככאלה שיוצרו על ידי בני אדם, ולכן נושא האמון של המשתמשים בתוצאות שהיא מחוללת הופך למשמעותי. רמת האמון נדרשת עם כל בעלי העניין – עובדים, לקוחות, שותפים עסקיים ועוד, כאשר ברור שהקו המבדיל בין תכנים המיוצרים על ידי בני אדם לעומת תכנים המיוצרים בידי המכונות, הולך ונהיה עמום ולא ברור. היכולת של GenAI לחולל תוצאות שנראות אמינות יכולה לייצר אתגרים בתחומי האתיקה, זכויות היוצרים, הפגיעה במוניטין ואתגרים משפטיים. GenAI יכולה להפיק תוצרי דיפ-פייק (Deepfakes) שעלולים לפגוע במוניטין הארגון. על המנהל להיות מודע לסיכונים אלה ולפעול, ככל הניתן, לייצר שקיפות של שימוש בתוצאות הנובעות מהטכנולוגיה ולפעול למנוע או להקטין את הסיכונים. 

קיים קושי באיתור הטיות (Bias) – הטיות בלתי צפויות עלולות להתרחש בעקבות שימוש בנתוני האימון. לדוגמה, המערכת יכולה לזהות קבוצות אתניות מסוימות כמסוכנות, או ככאלה שלא ניתן להעניק להן הלוואות. על המנכ"ל לוודא שהנתונים המשמשים לאימון נבדקים היטב למניעת הטיות. יש לעורר מודעות ושיח עם בעלי העניין על הסיכונים האלה ולפעול באופן עקבי למניעתם.

אי בהירות לגבי התפתחות הרגולציה – הטכנולוגיה החדשה תחייב את הרגולטורים לקבוע כללי בנושאים כגון שקיפות, אחריותיות, כיצד ניתן לאכוף, לעמוד ולדווח על עמידה בכללי הרגולציה. על המנכ"ל להכיר בכך שזהו נושא חדש' הטומן בחובו אתגרים ומחייב ביצוע התאמות מעת לעת, על פי הנדרש. חשוב לראות ברגולציה גם הזדמנות – הוכחה על עמידה ברגולציה יכולה להרגיע את הלקוחות ולהגדיל את האמון שלהם.

לסיכום – אנו רק בתחילתו של המסע לאימוץ ושילוב טכנולוגיות GenAI בארגון. הפוטנציאל שלה עצום ומתפרס לנושאים רבים ומגוונים.

בסדרת המאמרים הוצגו מספר נקודות לתשומת לב הנהלת הארגון. על ההנהלה ללמוד ולהכשיר את עצמה לקליטת הטכנולוגיה החדשה ולהיות ערנית להזדמנויות אבל גם לסיכונים ולאי הוודאות הקיימת לגביה.

כמו שכבר כתבתי במאמרים קודים, לא ניתן לעצור את גלי הטכנולוגיה, אבל ניתן ללמוד לרכב על הגלים. הנהלה חייבת לפתח את המיומנויות החדשות ולהכין את הארגון ולהדריך את העובדים לקראת המסע החדש. על ההנהלה גם להבטיח שהשימוש בטכנולוגיה ישרת את היעדים האסטרטגיים של הארגון. בהצלחה!

הכותב הוא יועץ בכיר לטרנספורמציה דיגיטלית ודירקטור BDO Digital

לחלק ב' של המאמר

לחלק א'