פריצת בינה מלאכותית: כיצד האקרים משתמשים בבינה מלאכותית במתקפות סייבר

פריצה מבוססת בינה מלאכותית (AI Hacking) היא שימוש בבינה מלאכותית כדי לשפר או להפוך מתקפות סייבר לאוטומטיות. היא מאפשרת לגורמי איום ליצור קוד, לנתח מערכות ולהתחמק מהגנות במאמץ ידני מינימלי. 

מודלים של בינה מלאכותית, ובמיוחד מודלים של שפה גדולה (LLM), הופכים את פיתוח התקפות למהיר, זול ונגיש יותר להאקרים פחות מנוסים. התוצאה היא קבוצה חדשה של התקפות בינה מלאכותית שהיא מהירה יותר, ניתנת להרחבה יותר, ולעתים קרובות קשה יותר לעצור אותה באמצעות הגנות מסורתיות.  

גורמי איום מבוססי בינה מלאכותית משתמשים כיום בבינה מלאכותית כדי להפעיל התקפות סייבר מהירות, חכמות וגמישות יותר. החל מיצירת תוכנות זדוניות ועד אוטומציה של פישינג, בינה מלאכותית הופכת פשעי סייבר לפעולה ניתנת להרחבה. כעת היא יכולה לייצר קוד זדוני, לכתוב תוכן פישינג משכנע ואף להנחות תוקפים דרך שרשראות תקיפה מלאות.

פושעי סייבר משתמשים בבינה מלאכותית במספר תחומים מרכזיים:

• יצירת מטען: כלים כמו HackerGPT ו- WormGPT יכולים לכתוב תוכנות זדוניות מעורפלות , להפוך טקטיקות התחמקות לאוטומטיות ולהמיר סקריפטים לקבצי הרצה. אלו הן דוגמאות להתקפות בינה מלאכותית גנרטיבית, הנראות לעתים קרובות במתקפות סייבר של סוכני בינה מלאכותית, בהן מודלים מקבלים החלטות אוטונומיות.
• הנדסה חברתית: בינה מלאכותית יוצרת מיילים מציאותיים של פישינג, משכפלת קולות ומייצרת דיפ-זייפים כדי לתמרן קורבנות בצורה יעילה יותר.
• סיור ותכנון: בינה מלאכותית מאיצה מחקר מטרות, מיפוי תשתיות וזיהוי פגיעויות.
• אוטומציה בקנה מידה גדול: תוקפים משתמשים בבינה מלאכותית כדי להשיק קמפיינים רב-שלביים עם מינימום תרומה אנושית.

על פי מכון פונמון, בינה מלאכותית כבר שימשה בקמפיינים של תוכנות כופר והתקפות פישינג שגרמו לשיבושים תפעוליים משמעותיים, כולל גניבת אישורים וסגירה כפויה של למעלה מ-300 סניפים קמעונאיים במהלך פרצה בשנת 2023. 

מספר דפוסים מתפתחים מעצבים מחדש את נוף האיומים:

• דמוקרטיזציה של מתקפות סייבר: מודלים בקוד פתוח כמו LLaMA, מכוונים היטב להתקפה, זמינים כעת לכל מי שיש לו כוח מחשוב מקומי.
• מחסום כניסה נמוך יותר: מה שבעבר דרש מיומנויות מומחיות ניתן כעת לעשות באמצעות הנחיות פשוטות וכמה לחיצות
• הצלחה מוגברת בהתחמקות: תוכנות זדוניות שנוצרות על ידי בינה מלאכותית מסתתרות טוב יותר מזיהוי סטטי, ארגזי חול ואפילו ניתוח דינמי
• מודלים של תוכנות זדוניות כשירות (MaaS): פושעי סייבר משלבים יכולות בינה מלאכותית לערכות מבוססות מנוי, מה שמקל על שיגור התקפות מורכבות בקנה מידה גדול.
• שימוש בבינה מלאכותית בפריצות בעולם האמיתי: מכון פונמון מדווח שתוקפים כבר השתמשו בבינה מלאכותית כדי להפוך את מיקוד התקפות הכופר לאוטומטי, כולל באירועים שאילצו סגירת פעולות מרכזיות.

פישינג והנדסה חברתית מבוססות בינה מלאכותית הופכות הונאות מסורתיות להתקפות מותאמות אישית וניתנות להרחבה, שקשה יותר לאתר. גורמי איום משתמשים כיום במודלים יצירתיים כדי ליצור מיילים אמינים, לשכפל קולות ואפילו לייצר שיחות וידאו מזויפות כדי לתמרן את המטרות שלהם.

בניגוד להונאות מסורתיות, הודעות דוא"ל פישינג שנוצרות על ידי בינה מלאכותית הן מלוטשות ומשכנעות. כלים כמו ChatGPT ו-WormGPT מייצרים הודעות המחקות תקשורת פנימית, פנייה לשירות לקוחות או עדכוני משאבי אנוש. כאשר הן משולבות עם נתונים שהופרצו, הודעות דוא"ל אלו הופכות מותאמות אישית ובעלות סיכוי גבוה יותר להצלחה.

בינה מלאכותית גם מניעה צורות חדשות יותר של הנדסה חברתית: 

• התקפות שיבוט קולי מחקות מנהלים המשתמשים בדגימות שמע קצרות כדי להפעיל פעולות דחופות כמו העברות בנקאיות
• מתקפות Deepfake מדמות שיחות וידאו או פגישות מרחוק עבור הונאות בעלות סיכון גבוה

בתקרית שהתרחשה לאחרונה , תוקפים השתמשו במיילים שנוצרו על ידי בינה מלאכותית במהלך תקופת הרשמה להטבות, כשהם מתחזה למשאבי אנוש כדי לגנוב אישורים ולקבל גישה לרשומות עובדים. הסכנה טמונה באשליית האמון. כאשר מייל נראה פנימי, הקול נשמע מוכר והבקשה מרגישה דחופה, אפילו צוות מיומן עלול להטעות. 

בינה מלאכותית מאיצה את האופן שבו תוקפים מוצאים ומנצלים פגיעויות תוכנה. מה שבעבר דרש ימים של בדיקה ידנית, ניתן כעת לעשות תוך דקות באמצעות מודלים של למידת מכונה שאומנו לסיור ויצירת פרצות.

גורמי איום משתמשים בבינה מלאכותית כדי להפוך סריקת פגיעויות לאוטומטית במערכות הפונות לציבור, תוך זיהוי תצורות חלשות, תוכנה מיושנת או קבצי CVE שלא תוקנו. בניגוד לכלים מסורתיים, בינה מלאכותית יכולה להעריך את הקשר החשיפה כדי לסייע לתוקפים לתעדף מטרות בעלות ערך גבוה. 

טקטיקות נפוצות של ניצול בסיוע בינה מלאכותית כוללות:

• ערפול אוטומטי לחשיפת פגיעויות אפס-יום מהר יותר
• יצירת סקריפטים מותאמים אישית להפעלת קוד מרחוק או תנועה רוחבית
• פיצוח סיסמאות והתקפות Brute Force ממוטבות באמצעות למידת תבניות ומודלים הסתברותיים 
• בוטים של סיור שסורקים רשתות אחר נכסים בסיכון גבוה עם רעש מינימלי

ניתן לכוונן מודלים גנרטיביים כמו LLaMA, Mistral או Gemma כדי לייצר מטענים מותאמים אישית, כגון התקפות shellcode או הזרקה, המבוססים על תכונות ספציפיות למערכת, תוך עקיפת אמצעי הגנה המובנים במודלים מסחריים.

המגמה ברורה: בינה מלאכותית מאפשרת לתוקפים לגלות ולפעול על פגיעויות במהירות מכונה. על פי מכון פונמון , 54% מאנשי מקצוע בתחום אבטחת הסייבר מדרגים פגיעויות שלא תוקנו כדאגה העיקרית שלהם בעידן של התקפות המונעות על ידי בינה מלאכותית.

מתקפות סייבר מבוססות בינה מלאכותית אינן עוד תיאורטיות; הן כבר שימשו לגניבת נתונים, עקיפת הגנות והתחזות לבני אדם בקנה מידה גדול.  

הדוגמאות בשלוש הקטגוריות הבולטות להלן מראות שתוקפים אינם זקוקים עוד למיומנויות מתקדמות כדי לגרום נזק חמור במתקפות סייבר. בינה מלאכותית מורידה את מחסום הכניסה תוך הגברת מהירות, קנה המידה והחמקנות של ההתקפה. מגינים חייבים להסתגל על ​​ידי בדיקה יזומה של מערכות משולבות בינה מלאכותית ופריסת אמצעי הגנה המתחשבים הן במניפולציה טכנית והן בהטעיה אנושית.

הזרקה מהירה (Prompt Injection) היא טכניקה שבה תוקפים מנצלים פגיעויות במודלי שפה גדולים (LLMs) על ידי הזנתם למודלים קלט (קלטים) בעלי מבנה מיוחד שנועדו לעקוף את ההתנהגות המיועדת. התקפות אלו מנצלות את האופן שבו מודלי LLM מפרשים ומתעדפים הוראות, לעתים קרובות עם מעט מאוד או ללא תוכנות זדוניות מסורתיות. 

במקום להשתמש בבינה מלאכותית כדי להפעיל התקפות חיצוניות, הזרקה מהירה הופכת את מערכות הבינה המלאכותית של הארגון עצמו לסוכני פגיעה לא מודעים. אם מודל LLM מוטמע בכלים כמו מוקדי תמיכה, צ'אטבוטים או מעבדי מסמכים ללא אמצעי הגנה מתאימים, תוקף יכול להטמיע פקודות נסתרות שהמודל מפרש ופועל לפיהן. זה יכול לגרום ל:

• דליפת נתונים פרטיים או מוגבלים
• ביצוע פעולות לא מכוונות (למשל, שליחת מיילים, שינוי רשומות)
• מניפולציה של פלט כדי להפיץ מידע שגוי או להפעיל פעולות המשך

סיכונים אלה מתגברים במערכות בהן מודלים מרובים מעבירים מידע זה לזה. לדוגמה, הנחיה זדונית המוטמעת במסמך עלולה להשפיע על מסכם בינה מלאכותית, אשר לאחר מכן מעביר תובנות פגומות למערכות במורד הזרם. 

ככל שבינה מלאכותית הופכת משולבת יותר בזרימות עבודה עסקיות, תוקפים מכוונים יותר ויותר למודלים אלה כדי לפגוע באמון, לחלץ נתונים או לתמרן החלטות מבפנים ומבחוץ.

מתקפות Deepfake משתמשות באודיו או וידאו שנוצרו על ידי בינה מלאכותית כדי להתחזות לאנשים בזמן אמת. בשילוב עם טקטיקות הנדסה חברתית, כלים אלה משמשים להונאה, גניבת אישורים וגישה בלתי מורשית למערכת. 

שיבוט קולי הפך למסוכן במיוחד. בעזרת שניות ספורות בלבד של דיבור מוקלט, גורמי איום יכולים לייצר אודיו המחקה טון, קצב וניבוי. לאחר מכן, הקולות המשובטים הללו משמשים ל:

• התחזות למנהלים או מנהלים בכירים במהלך שיחות דחופות
• להערים על עובדים לבצע העברות בנקאיות או איפוס סיסמה
• עקיפת מערכות אימות קולי

זיופים עמוקים לוקחים את זה צעד אחד קדימה על ידי יצירת סרטונים סינתטיים. גורמי איום יכולים לדמות מנכ"ל בשיחת וידאו המבקש נתונים סודיים - או להופיע בקטעים מוקלטים ש"מכריזים" על שינויי מדיניות המפיצים דיסאינפורמציה. מכון פונמון דיווח על מקרה שבו תוקפים השתמשו בהודעות שנוצרו על ידי בינה מלאכותית והתחזו למשאבי אנוש במהלך תקופת ההרשמה להטבות של חברה, מה שהוביל לגניבת אישורים. 

ככל שכלי בינה מלאכותית הופכים לנגישים יותר, אפילו גורמי איום קטנים יכולים לייצר התחזות באיכות גבוהה. התקפות אלו עוקפות מסנני דואר זבל מסורתיים או הגנות נקודות קצה על ידי ניצול אמון. 

התקפות מודל מסווג מניפולציות על הקלטים או ההתנהגות של מערכת בינה מלאכותית כדי לכפות החלטות שגויות מבלי בהכרח לכתוב תוכנות זדוניות או לנצל קוד. טקטיקות אלו נופלות תחת הקטגוריה הרחבה יותר של למידת מכונה עוינת.  

ישנן שתי אסטרטגיות עיקריות:

• התקפות התחמקות: התוקף יוצר קלט שמטעה מסווג ולגרום לו לזהות אותו באופן שגוי, כגון תוכנה זדונית המחקה קבצים לא מזיקים כדי לעקוף מנועי אנטי-וירוס. 
• התקפות הרעלה: מודל מאומן או מכוון במדויק על סמך נתונים מעוותים במכוון, מה שמשנה את יכולתו לזהות איומים. 

מודלים מפוקחים לעיתים קרובות "מתאימים יתר על המידה": הם לומדים דפוסים ספציפיים מנתוני אימון ומפספסים התקפות שסוטות רק במעט. תוקפים מנצלים זאת באמצעות כלים כמו WormGPT (תוכנת LLM בקוד פתוח המותאמת למשימות התקפיות) כדי ליצור מטענים ממש מחוץ לגבולות הגילוי הידועים.

זוהי גרסת למידת מכונה של פרצת יום אפס.

האקרים מבוססי בינה מלאכותית משתמשים בבינה מלאכותית כדי להפוך, לשפר ולהרחיב מתקפות סייבר מבוססות בינה מלאכותית לאוטומטיות. לעומת זאת, פריצה מסורתית דורשת לעתים קרובות כתיבה ידנית של סקריפטים, מומחיות טכנית מעמיקה והשקעת זמן משמעותית. ההבדל המהותי טמון במהירות, במדרגיות ובנגישות: אפילו תוקפים מתחילים יכולים כעת להפעיל מתקפות סייבר מתוחכמות המונעות על ידי בינה מלאכותית עם מספר הנחיות ומעבד גרפי ברמת צרכן.

ארגונים רבים פונים לצוותים אדומים בסיוע בינה מלאכותית כדי לבחון את הגנותיהם מפני שימוש לרעה ב-LLM, הזרקה מהירה (Prompt Injection) והתחמקות מסווגים. סימולציות אלו מסייעות לחשוף פגיעויות במערכות משולבות בינה מלאכותית לפני שהתוקפים עושים זאת. 

צוותים אדומים משתמשים בהנחיות עוינות, פישינג סינתטי ומטענים שנוצרו על ידי בינה מלאכותית כדי להעריך האם המערכות עמידות או ניתנות לניצול. בדיקות אבטחה של בינה מלאכותית כוללות גם: 

• מודלים מטושטשים לסיכוני הזרקה מהירה 
• הערכת האופן שבו תוכניות LLM מטפלות בקלטים מניפולטיביים או משורשרים 
• בדיקת חוסן מסווג להתנהגות התחמקות 

מובילי אבטחה מתחילים גם לסרוק את מערכות ה-LLM שלהם לאיתור דליפות מיידיות, הזיות או גישה לא מכוונת ללוגיקה פנימית, וזהו צעד מכריע ככל שבינה מלאכותית גנרית מוטמעת במוצרים ובזרימות עבודה.

במקום לנסות "להילחם בבינה מלאכותית באמצעות בינה מלאכותית" בלולאה ריאקטיבית, מרטין קאלאס טוען להגנה רב-שכבתית ופרואקטיבית. OPSWAT פתרונות משלבים טכנולוגיות המכוונות לכל מחזור החיים של האיום:

• Multiscanning של Metascan™: מפעילה קבצים דרך מנועי אנטי-וירוס מרובים כדי לזהות איומים שמערכות בעלות מנוע אנטי-וירוס יחיד החמיצו 
• MetaDefender Sandbox™‎: מנתח את התנהגות הקבצים בסביבות מבודדות, ואף מזהה מטענים שנוצרו על ידי בינה מלאכותית ועוקפים כללים סטטיים 
• Deep CDR™‎: מנטרל איומים על ידי בנייה מחדש של קבצים לגרסאות בטוחות, תוך הסרת פרצות אבטחה מוטמעות 

ערימת אבטחה רב-שכבתית זו נועדה להתמודד עם האופי הבלתי צפוי של תוכנות זדוניות שנוצרות על ידי בינה מלאכותית, כולל איומים פולימורפיים, מטענים בזיכרון ופיתויים מזויפים עמוקים שעוקפים כלים מסורתיים. מכיוון שכל שכבה מכוונת לשלב אחר בשרשרת ההתקפה, נדרשת רק שכבה אחת כדי לזהות או לנטרל את האיום ולמוות את כל הפעולה לפני שהיא יכולה לגרום נזק.

ה-FBI וסוכנויות אמריקאיות אחרות משלבות יותר ויותר בינה מלאכותית בפעולות ההגנה הקיברנטית שלהן, לא רק כדי למיין ולתעדף איומים, אלא גם כדי לשפר את ניתוח הנתונים, ניתוח הווידאו וזיהוי הקול.

על פי ה-FBI , בינה מלאכותית מסייעת בעיבוד כמויות גדולות של נתונים כדי ליצור רמזים לחקירה, כולל זיהוי כלי רכב, זיהוי שפה והמרת דיבור לטקסט. חשוב לציין, שהלשכה אוכפת פיקוח אנושי קפדני: כל התפוקות שנוצרות על ידי בינה מלאכותית חייבות להיות מאומתות על ידי חוקרים מיומנים לפני נקיטת כל פעולה. 

בינה מלאכותית אינה תחליף לקבלת החלטות אנושית. ה-FBI מדגיש כי אדם תמיד אחראי לתוצאות החקירה, וכי יש להשתמש בבינה מלאכותית באופן המכבד את הפרטיות, חירויות האזרח והסטנדרטים המשפטיים.