האדם או המכונה – מי יחליף את מי?

בשנים האחרונות קשה לעמוד בקצב החידושים והפיתוחים הטכנולוגיים. ההבנה הרווחת כיום, בקרב הרוב המוחלט של ארגונים מכלל התעשיות, היא שאין מנוס מלהטמיע טכנולוגיות כאלו בארגון.

אחת הטכנולוגיות שצברה תאוצה גדולה היא הבינה המלאכותית, שמצד אחד מאפשרת פעילויות אוטומטיות רבות שמייעלות פלאים את הארגון, אך מצד שני, מנהלים רבים חוששים מאוד להטמיע אותה בארגון שלהם שמא ההסתמכות עליה, ללא מעורבות של גורם אנושי, תיצור טעויות קריטיות לארגון. החשש גובר עוד יותר כאשר מדובר על שילובה בתחומים בהם הסיכונים והנזקים עלולים להיות הרי גורל, למשל במערכות בריאות, צדק, או במערכות אשראי ופיננסים.

חברות ותעשיות שלמות עוברות הליך של 'אוטומציה חכמה', המשלבת טכנולוגיות בינה מלאכותית עם תהליכים אוטומטיים, כיוון שהיא משרתת בצורה הטובה ביותר באופן אוטומטי מצבים "פשוטים" יחסית, כמו לבנות פלייליסט לפי העדפות המאזין או מעקב מקוון של מלאים במחסנים.

ההחלטה לשלב טכנולוגיות חדשניות אינה חייבת להיות כרוכה בוויתור על מעורבות האדם אלא להיפך – הדרך הנכונה ביותר להטמיע אותה היא יחד עם הגורם האנושי.

האתגר מתגלה כאשר למשל יש צורך לתעדף באופן אוטומטי מיטות עבור חולים לפי רמות סיכון. זו החלטה מורכבת יותר הדורשת הרבה יותר מידע ממקבל החלטות אנושי, ורמת הנזק כתוצאה מהחלטה לא מדויקת עלולה להיות הרת אסון.

קשה לשפוט את אותם מנהלים שחוששים להשתלב בקדמה המורכבת הזו. הסיכון הוא אכן גדול מאוד, וחלקם אף נכוו בעבר והם למודי ניסיון. אמנם טכנולוגיות אוטומציה במרבית המקרים עובדות באופן אידיאלי אבל זה לא חייב להתנהל בצורה הזו, אם זה עולה לנו בבריאות, המלווה בלחץ וחרדה מפני טעויות של מכונה.

לארגונים רבים נדמה שהמציאות מורכבת רק מצבעי שחור ולבן, ושעליהם לבחור האם לקפוץ למים ולשחות עם הזרם או להישאר מאחור ולהסתכן בהאטה מקצועית וכלכלית לארגון שלהם. ההחלטה לשלב טכנולוגיות חדשניות אינה חייבת להיות כרוכה בוויתור על מעורבות האדם אלא להיפך – הדרך הנכונה ביותר להטמיע אותה היא יחד עם הגורם האנושי.

שיטת האדם בלופ – HITL

כאן נכנסת לתמונה טכנולוגיית ה'אדם בלופ', או בשמה המקצועי הלועזי HITL (ר"ת Human In The Loop) – שיטה המחברת בין בינה אנושית לבינה מלאכותית.

במסגרת שיטה זו האדם מעורב בהקמת המערכות והגדרתן, אחראי על הכיוון שלהן ובדיקת המודלים, ובכך מסייע למכונה לקבל החלטות שרק משתפרות עם הזמן. הוא מסייע לה גם לתקן החלטות במידת הצורך, ולמעשה מכווין אותה לאורך כל הדרך ושומר עליה שהיא עדיין תפעל בצורה אוטומטית, אבל תחת הפיקוח האנושי והליווי של מוח האדם, עד להשגת רמות הדיוק הנדרשות.

שימוש בשיטת HITL, המשלבת למידה או אימון של מכונה עם התערבות אנושית בלולאה, מסייעת לעסקים לשפר ולהרחיב את היכולות שלהם עם מערכות בינה מלאכותית אמינות יותר, בזמן שבני אדם מגדירים את רמת האוטומציה ושולטים בה.

שיטת האדם בלופ – HITL

מעורבות נכונה של האדם תהווה יתרון עסקי

קיצור זמני למידת המכונה – האתגר הגדול ביותר באימוץ בינה מלאכותית הוא שאימון המכונה לוקח זמן, וכדי להגיע לרמות דיוק מסוימות נדרש לעבד כמויות אדירות של נתוני בסיס שילמדו ויאמנו את המכונה, עד לשלב שבו ניתן לסמוך עליה לצורך קבלת החלטות באופן אוטונומי.

תהליך זה עלול לעכב עסקים המאמצים את הטכנולוגיה הזו בפעם הראשונה, וזה מהווה מכשול מהותי עבורם בדרך ליישומה.

למידת מכונה עם הליך אנושי בלולאה מעניקים לתוכנת הבינה המלאכותית את ההזדמנות לקצר הליכי למידת מכונה. בעזרת פיקוח אנושי המכונה לומדת מהאינטליגנציה האנושית וזה מסייע לה לספק תוצאות מדויקות יותר ומקצר את זמן הלימוד שלה באופן משמעותי.

סיוע במניעת טעויות – קבלת החלטה שגויה אינה מסתיימת טוב באף ארגון ותעשייה. סיבה זו מהווה זרז לאימוץ טכנולוגיות בינה מלאכותית בארגונים רבים, כדי שתסייע להם בתהליכים אלו ואף תקבל החלטות עבורם. אבל, כאשר הליך ההטמעה נעשה במהירות והמכונה מקבלת נתונים חלקיים או לא מדויקים, הארגונים לא רק מחמיצים את ההזדמנות למנף את הנתונים ואת עצמם, אלא שהם גם עלולים לסבול מירידה ברווחים ואף מהפסדים.

כאשר יש בן אנוש בתוך הלולאה הוא יכול לזהות ולגלות בעיות בטכנולוגיה כבר בשלבים הראשונים, עוד לפני שהן גורמות להחלטות שגויות או להטיית נתונים. מדובר במעורבות קריטית, מכיון שהטיית נתונים שאינה מתוקנת בזמן עלולה לייצר השלכות מזיקות לטווח ארוך, עם השפעות שליליות הרסניות.

מעורבות על פי צורך – הבינה המלאכותית היא טכנולוגיה נפלאה וכדי לאפשר לה לפעול במיטבה ארגונים חייבים לנתח מה מידת המעורבות הנדרשת מהאדם בתוכה, כדי לא להפריע לה אבל לשמור על האפשרות להשגיח עליה. על מנת לבחון באיזו מידה יש לערב את האדם בתהליך, צריך לשאול שלוש שאלות מרכזיות – עד כמה מורכב התהליך? מה רמת הנזק שיכולה להיגרם על ידי החלטה שגויה של המכונה? ואיזו רמת מומחיות אנושית נדרשת למקרה הנבחן? מענה קפדני על השאלות הללו יסייע לכם להבין כיצד ומתי עליכם לשלב את האדם בלמידת המכונה, כאשר לכל ארגון יש את השיקולים הפנימיים שלו.

כך למשל, בתעשיות כמו שירותי בריאות, הדרישה למעורבות גבוהה של האדם בתוך הלולאה תמיד תהיה קיימת, לא משנה עד כמה הטכנולוגיה תהיה יוצאת דופן ומתקדמת. הטכנולוגיה אמנם יכולה לנתח סדרי עדיפויות ואבחונים גנריים לגבי תיעדוף מיטות לחולים, אבל הסיכון הטמון בהטיה של הנתונים הוא גדול מדי ולכן עדיף שהיכולת להחליט בסופו של דבר מי "חולה במצב קשה יותר" תישאר בידיהם של רופאים אנושיים.

אז מי יחליף את מי?

שילוב האדם בתהליכי טכנולוגית הבינה המלאכותית אינו אומר שמדובר בטכנולוגיה ללא ערך, או שלא ניתן לסמוך עליה במשימות מורכבות יותר, אלא שבכך נוכל להשתמש בה לתהליכים פשוטים יותר, כאשר המוח האנושי מתפנה לנווט את המקרים המורכבים והקשים יותר, עדיין בסיוע שלה. זה מאפשר לנו ליישם את הידע האנושי שלנו באופן מהיר, יעיל ומדויק יותר, ואלו בדיוק השיפורים שניתן לראות כיום במכונות שבהם האדם נמצא בתוך הלולאה.

נוכחנו לגלות שלאדם יהיה כבר קשה לחיות ללא הטכנולוגיה וכפי שזה נראה כרגע, גם הטכנולוגיה לא תוכל לחיות ללא האדם, ולכן הם יצטרכו לחיות זה לצד זו. מערכת היחסים הסימביוטית הזו היא המייצרת את השיפור המתמיד ומניעה את החדשנות העתידית. זה גם מגשים בפועל את מה שרבים מסמנים כיעודה האמיתי של הטכנולוגיה בחיינו – להיות שלוחה טבעית של האינטליגנציה האנושית ולהתקיים במקביל לבני האדם, בכדי לסייע לנו לקבל החלטות עסקיות נבונות יותר.

הכותב הוא מנהל מכירות בחברת באבקום סנטרס, שבין היתר מעניקה שירותי HITL ליותר מ-50 חברות בישראל ובעולם