"הבעיה ב-AI – שהוא עוזר גם להאקרים"

"ככל שהבינה המלאכותית, הופכת לנגישה יותר למומחי אבטחת מידע והגנת הסייבר, שרותמים את יכולותיה לשיפור ההגנה מפני איומים, כך היא הופכת נגישה יותר גם לפושעי הסייבר. זה האתגר המשולש הניצב למול פני המשתמשים, הארגונים ומקצועני ההגנה – הנדרשים לסכל מתקפות סייבר ולהגן טוב יותר על הארגון והמשתמשים", כך אמר ג'ושוע סייקס, מדען ראשי בסופוס (Sophos).

בראיון לאנשים ומחשבים אמר סייקס כי "בשנים האחרונות, תחום הבינה המלאכותית חווה קפיצת מדרגה משמעותית: כיום, ה-AI היא הבסיס לדור הטכנולוגיות החדש והיא הופכת בהדרגה לחלק בלתי נפרד מחיינו. סקר שערכה גרטנר (Gartner) העלה כי ההשקעה בתוכנה על בסיס AI תגיע לעשרות רבות של מיליארדי דולרים כבר בשנה-שנתיים הקרובות, וזהו רק קצה הקרחון".

"לפני עשור שנים", אמר, "איש לא דמיין שפתרונות על בסיס בינה מלאכותית יגיעו לרמת המורכבות והתחכום שאנחנו רואים היום, בטח לא שהם יהפכו לחלק בלתי נפרד מחיינו. על פי התחזית של גרטנר, השלב הבא במהפכת הבינה המלאכותית, Generative AI, יוביל לכך שעד שנת 2025 הבינה המלאכותית תהיה מעורבת בעשירית מכל התוכן והמידע הנוצרים בעולם. זאת בניגוד למצב כיום, בו הנתון עומד על 1%. העמקת השימוש בלמידת מכונה והפיכת פתרונות AI לנגישים לציבור הרחב נותנות תנופה למגמה הזאת, שרק צפויה להמשיך ולגדול".

יכולות ה-AI החדשות יסייעו גם "ליצירת נוזקות באופן אוטומטי ובזול"

 לדברי סייקס, "להתפתחויות בתחום הרשתות העצביות המלאכותיות ביישומי למידת מכונה, יש תרומה מכרעת למהפכת הבינה המלאכותית. חשוב לציין את פתרון AlphaFold, שפותח על ידי Google DeepMind, הפותר את המבנה התלת-ממדי המרחבי של חלבונים, על סמך רצפי חומצות האמינו שמרכיבות אותם. הרשתות העצביות המלאכותיות הללו משמשות גם לכתיבת קוד תוכנה. במחקרים שערכו גוגל ו-OpenAI הודגם כי הבינה המלאכותית מסוגלת להפוך הוראות, בשפה פשוטה – לקוד תוכנה מתאים וכך, לשמש כלי עזר למתכנתים. אך, אליה וקוץ בה: ההנגשה של היכולות הללו למפתחים פירושה שהן הופכות נגישות גם לפושעי סייבר, שעלולים להשתמש בהן ליצירת סוג חדש של איומי סייבר – כמו למשל יצירת נוזקות באופן אוטומטי ובזול".

הוא הוסיף כי "אתגר נוסף קשור לשיפור ביכולות של רשתות עצביות מלאכותיות ליצור תוכן מתחזה, כמו למשל תמונה של אדם שלא קיים, או הודעה מתחזה. הרעים יכולים לעשות זאת בצורה שהופכת מהימנה יותר ויותר, באופן שמקשה על המשתמש הממוצע לזהות שמדובר בניסיון הונאה. כך, נסללת הדרך לסוג חדש של מתקפות, 'מתקפת בור מים', Watering hole – מונח הלקוּח בהשאלה מעולם הצייד. המתקפות האלו משתמשות בשיטות הנדסה חברתית, כמו הונאות פישינג מתוחכמות, כדי לעקוף את רוב אמצעי אבטחת הסייבר מבלי להתגלות".

המציאות החדשה מאפשרת אותן. נוזקות מבוססות ChatGPT. צילום: עיבוד ממוחשב כאילוסטרציה. מקור: BigStock

שילוב בינה מלאכותית בעולם הגנת הסייבר

סייקס ציין כי "השיפורים המסחררים ביכולות הלמידה של רשתות עצביות מלאכותיות הובילו לכך שכיום הן מסוגלות לפתור בעיות, שעד לא מזמן נחשבו לבלתי-פתירות על ידי מחשב. השילוב בין רשתות עצביות מלאכותיות למחשבי-על, עם יכולת חישוב עוצמתית כמו מחשב RSC (ר"ת Research SuperCluster) שעליו הכריזה מטא יוביל לפיתוח של יכולות חדשות בהגנת הסייבר".

ספקיות האבטחה, אמר, "נדרשות להתמקד בפיתוח יישומי ML בשתי חזיתות: למידת מכונה מכוונת משתמש, שתאפשר לבנות מוצרים שיציפו את התרעות האבטחה החשובות ביותר ויניבו למומחי הסייבר מידע מהימן ועדכני אשר יתאים לאסטרטגיית האבטחה ולאיומים בפועל; והשנייה: רתימת יכולותיהן של רשתות עצביות מלאכותיות לפתרון בעיות שבעבר נחשבו לבלתי-פתירות על ידי מחשב, ועדיין נעשות באופן ידני, כמו זיהוי אוטומטי של חולשות אבטחה או התקנה אוטומטית של עדכוני אבטחה".

"אסור לשכוח שהשיפורים בלימוד המכונה ויכולות כתיבת הקוד באופן אוטומטי, שמביאה איתה מהפכת הבינה המלאכותית, עלולים לשמש גם את פושעי הסייבר ליצירת סוגים חדשים של איומים", סיכם סייקס. "התמודדות עם האיומים החדשים האלה, של שילוב בינה מלאכותית בעולם הגנת הסייבר – הופכת לצורך חיוני אבל גם יוצרת אתגר גדול, כי היכולות והכלים האלו, מבוססי AI – זמינים גם לפושעי הסייבר".