האו"ם ויורופול מזהירים מפני גידול איומי סייבר מבוססי בינה מלאכותית

האו"ם

פושעי סייבר העלו שלב במתקפות שלהם, ועושים שימוש נרחב בניצול לרעה של בינה מלאכותית, כך על פי דו"ח חדש של האו"ם ויורופול.

על פי הדו"ח, שנעשה בשיתוף טרנד מיקרו, בינה מלאכותית תשמש בעתיד גם כווקטור התקפה וגם כמשטח תקיפה. משמעות הניתוח היא שהאקרים מחפשים דרכים להשתמש בכלי AI במהלך המתקפות, כמו גם שיטות באמצעותן ניתן לפרוץ ולחדור, או לחבל – במערכות AI קיימות, כמו אלה המשמשות לזיהוי תמונות, זיהוי קול וזיהוי נוזקות.

הדו"ח מזהיר כי בעוד שכזב עמוק, דיפ-פייק (Deepfake) הוא השימוש הנפוץ הזדוני ביותר ב-AI, עלולים להיות מקרי שימוש רבים אחרים שככל הנראה נמצאים בפיתוח. דיפ-פייק היא טכנולוגיה מבוססת בינה מלאכותית ליצירת סרטוני וידיאו, צילומים או קטעי קול מזויפים. דיפ-פייק מאפשרת ליצור תוכן מזויף, שנראה אמיתי, על ידי שילוב תמונות וסרטונים קיימים על פני תמונות וקטעי וידיאו מקוריים.

השימושים הזדוניים הנוספים בבינה מלאכותית, הזהירו החוקרים, כוללים מערכות למידה ממוחשבת, או מערכות AI – שפותחו במטרה לייצר טכניקות הונאה מבוססות הנדסה חברתית, שיהיו משכנעות ומותאמות אישית – בקנה מידה גדול, או אולי לזהות באופן אוטומטי את המערכות והנתונים בעלי הערך הגבוה ברשת הארגונית אליה חדרו ההאקרים.

נזק מול תועלת בשימוש ב-AI

היורופול

מתקפות כופרה הנתמכות על ידי AI עלולות לכלול יכולות מיקוד גדולות יותר בקורבנות, או יכולות חכמות להתחמקות, או הפצה עצמית במהירות גבוהה – או גם וגם – כדי לשבש את תפקוד רשתות הקורבנות, בטרם תהיה להם אפשרות להגיב, נטען בדו"ח. על ידי מציאת נקודות מתות (עיוורות) בשיטות של המגנים לזיהוי התוקפים והתקיפות, אלגוריתמים מסוג זה יכולים גם לסייע לתוקפים להסתתר ולהימנע מפני הגילוי שלהם.

"AI מבטיחה לעולם יעילות, אוטומציה ואוטונומיה גדולים יותר. בתקופה בה הציבור מודאג יותר ויותר מהשימוש הבלתי הולם של AI, עלינו להיות שקופים בנוגע לאיומים, אך גם לבחון את היתרונות האפשריים של טכנולוגיה זו", אמר אמר אדבארדס סילריס, ראש מרכז הפשעים הסייבר של יורופול, "דו"ח זה יעזור לנו, לא רק לחזות בשימושים זדוניים ואפשרויות זדוניות של שימוש ב-AI, אלא גם למנוע ולצמצם את האיומים הללו באופן יזום ופרואקטיבי. כך נוכל לשחרר את פוטנציאל הגלום בבינה המלאכותית, ולהפיק תועלת משימוש חיובי במערכות מבוססות AI".

בסוף הדו"ח החוקרים מציינים תחומים רבים בהם התעשייה וגורמי אכיפת החוק בעולם יכולים לפעול בשיתופי פעולה, כדי להקדים תרופה למכה לקראת הסיכונים שצוינו. אלה כוללים פיתוח של מערכות מבוססות AI ככלי למלחמה בפשע, ודרכים חדשות לבנות חוסן במערכות AI קיימות, כדי למנוע את האיום בשיבוש.