ההתפוצצות של קבצי ה-AI משנה את פני האבטחה בשירותים הפיננסיים

נניח שיש הוראת העברה בנקאית שמגיעה כקובץ PDF "נקי". אין בו קוד פגום, אין חתימה ידועה כפגומה, השולח נראה אמין, והמטא-נתונים עומדים בכל בדיקה אוטומטית — והוא כולו מזויף, נוצר על ידי מודל תמורת כמה סנטים כדי להיראות בדיוק כמו הדבר האמיתי. שום דבר במקורו לא מסגיר אותו, משום שמעולם לא היה לו מחבר אנושי. למדו על טכניקת שרשור קבצי PDF

רוב אמצעי אבטחת הקבצים הנמצאים בשימוש כיום מבוססים על הנחה מסורתית: שהקבצים נוצרים על ידי בני אדם. הנחה זו קובעת את קצב הגעתם, את קצב הצטברותם ואת ההגדרה של "נורמלי", שעל פיה נשפטות חריגות. הנחה זו החזיקה מעמד במשך עשרות שנים, משום שהעלות לכל קובץ הייתה קשורה למאמץ האנושי, והתקרה הנפחית נקבעה על פי מספר העובדים.

ה-AI הגנרטיבי הסיר את המגבלה הזו. נפח הנתונים העולמי גדל מ-45 זטה-בייט ב-2019 ל-175 זטה-בייט הצפויים עד 2025 (עלייה של 289%), והוא צפוי להגיע ל-527 זטה-בייט עד 2029 (IDC). אך הנפח הוא החלק הפחות חשוב בסיפור. השינוי המשמעותי יותר הוא המקור: כ-40–50% מהקבצים הארגוניים החדשים נוצרים כיום על ידי מכונות, ולעתים קרובות ללא כל סימן מהימן לכך שהם נוצרו על ידי בני אדם.

קצב הגידול מספר את אותו הסיפור. יצירת הקבצים בארגונים גדלה בקצב של כ-20–23% בשנה בתקופה שלפני עידן ה-AI. בארגונים שהטמיעו תהליכי עבודה סטנדרטיים המונעים על ידי AI, הגידול הכולל בכמות הקבצים מוערך כעת ב-55–68% בשנה. האימוץ של בינה מלאכותית גנרטיבית בארגונים כמעט הוכפל תוך שנה אחת, מ-33% ל-71% (Stanford HAI), ושני שלישים מהארגונים מדווחים על עלייה מדידה בפריון (Deloitte). יצירת הקבצים התנתקה לראשונה מגודל כוח העבודה, והפער ההולך וגדל בין שתי העקומות הללו הוא בדיוק המקום שבו טמון הסיכון הביטחוני החדש.

תחום השירותים הפיננסיים חווה את "פיצוץ הקבצים" לפני כל מגזר אחר, מכיוון שהוא מפעיל שלושה "מנועים" ליצירת קבצים, שחסרים ברוב הענפים, וה-AI הגנרטיבי האץ את שלושתם בבת אחת.

הגורם הראשון הוא נתונים סינתטיים, הגורם המשמעותי ביותר אך הפחות בולט. אימון מודלים לזיהוי הונאות, למניעת הלבנת הון (AML) ולדירוג אשראי מצריך נתונים בהיקף שהרגולציה בנושא פרטיות מגבילה; בינה מלאכותית גנרטיבית פותרת את המגבלה הזו על ידי יצירת רשומות סינתטיות ריאליסטיות מבחינה סטטיסטית, המגיעות ל-96–99% שוויון תועלת לנתוני הייצור לצורך בדיקות AML. מוסד בודד יכול לייצר מיליארדי רשומות בכל מחזור אימון, וכל אחת מהן היא אובייקט מאוחסן, מפוקח ומאובטח.

הקטגוריה השנייה היא תיעוד KYC, הקטגוריה הניתנת למדידה ביותר מכיוון שהיא מחייבת על פי חוק. הבינה המלאכותית הגדילה את התפוקה לכל אנליסט והציגה סוגי מסמכים חדשים לחלוטין: תיאורי סיכון שנוצרו על ידי מחשב, סיכומים של פרסומים שליליים בתקשורת ומפות בעלות. ההוצאות העולמיות על מערכות KYC/KYB צפויות לעלות בכ-40%, ולהגיע ל-30.5 מיליארד דולר עד 2030 (Juniper Research), ומספר בדיקות אימות הזהות שבוצעו ברחבי העולם עלה מ-75 מיליארד ב-2024 ל-86 מיליארד ב-2025 – כל אחת מהן מהווה מסמך שיש ללכוד, לאחסן ולבדוק.

הגורם השלישי הוא השימוש הישיר ב-LLM בכל תחומי הפעילות (מכירות, שיווק, מחלקת משפטית, משאבי אנוש, ניהול סיכונים) שלא היו בעבר מקור לייצור תוכן בהיקף נרחב. התפוקה בכל תחום עלתה, לפי הערכות, פי שלושה עד חמישה, וארגונים מדווחים על עלייה של 54% משנה לשנה בתוכן שהם נדרשים לייצר (Deloitte). שלושה רבעים מחברות הפיננסים בבריטניה כבר משתמשות ב-AI (בנק אנגליה / FCA), והנתח המדווח על עלייה בפריון כמעט הוכפל ל-59% תוך שנה. המוסדות המייצרים את מספר הקבצים הרב ביותר הם בדיוק אלה שמשקיעים בצורה האגרסיבית ביותר בטכנולוגיה המייצרת אותם.

זהו נקודת המפנה שבה נושא הפריון הופך לנושא אבטחה. הכלי המשמש לכתיבת מצגת מכירה זהה לזה המשמש לכתיבת תוכנה זדונית.

תופעת הדיוג המונחה על ידי בינה מלאכותית (AI) זינקה ביותר מפי עשרה (+1,265%) מאז שה-AI הגנרטיבי הפך לנפוץ, וכעת למעלה מ-82% מהודעות הדוא"ל שזוהו כמיועדות לדיוג מכילות תוכן שנוצר על ידי בינה מלאכותית. זיוף מסמכים דיגיטליים גדל ב-244% משנה לשנה בשנת 2024. קספרסקי מתעדת כ-500,000 קבצים זדוניים מדי יום. וחלקן של החברות המדווחות על ניסיונות הונאת זהות באמצעות "דיפ-פייק" עלה מ-37% ל-49% תוך שנתיים. איומים המועברים באמצעות קבצים מתפשטים באותו קצב כמו קבצים לגיטימיים, מכיוון שיכולת אחת מייצרת את שניהם.

אוצר המילים שאנו משתמשים בו לתיאור קבצים כבר אינו תואם את האופן שבו הקבצים התפתחו. קובץ כבר אינו מיכל פסיבי השוכן במקומו עד שמישהו פותח אותו. הוא הופך יותר ויותר ל- "IntelligentFILE": כל קובץ המכיל אינטליגנציה מוטמעת (כולל נתונים, הוראות, זהות או קוד) המפעילה פעולה בעלת השלכות כאשר הוא מעובד, נפתח או מועבר.

המאפיין המגדיר של IntelligentFILE הוא אופיו הכפול. אותו אובייקט יכול לשמש ככוח מניע לעסקים, לציות ולבניית אמון — או כנשק. חבילת KYC נושאת משקל משפטי והשלכות עתידיות על כל החלטה המתקבלת על פיה. מאגר נתונים סינתטי למניעת הלבנת הון (AML) הופך למקור האמת של מודל המנהל מיליוני עסקאות. דוח תאימות שנוצר על ידי בינה מלאכותית הוא לגיטימי אם הוא מנוהל כראוי, ומהווה וקטור זיהום אם לא. קובץ PDF המכיל תוכנה זדונית מתוכנן לעבור את הבדיקה השטחית ולהתבצע לאחר שהוא נכנס למערכת. הוראת העברה בנקאית שנוצרה על ידי בינה מלאכותית מדויקת מבחינה קונטקסטואלית, תואמת לצד הנגדי, ומבחינה מבנית אינה ניתנת להבחנה מהדבר האמיתי.

ההבדל בין הגרסה המסייעת לגרסה העוינת כמעט ואינו ניכר מבחוץ, וזו הבעיה המרכזית.

רוב אמצעי הבקרה הנמצאים בשימוש כיום מסיקים את רמת הסיכון מתכונה שהקובץ שנוצר על ידי מכונה כבר אינו כולל באופן מהימן. מנועי הגנה מפני תוכנות זדוניות המבוססים על חתימות מניחים שהאיום כבר זוהה בעבר, אך מודלים גנראטיביים מייצרים מטענים חדשים ללא חתימה ידועה. שערות דוא"ל מניחות שהקובץ המסוכן מגיע בדוא"ל, אך כיום קבצים נכנסים דרך העלאות לענן, ממשקי API, טפסי אינטרנט, פורטלים וכלי שיתוף פעולה. סיווג מניח שקבצים נושאים סימני מחבר ומטא-נתונים תקינים, אך לקבצים שנוצרו על ידי מכונה אין כאלה, ונתונים סינתטיים מחקים רשומות לקוחות אמיתיות.

מקור המידע מניח כי מקורו מעיד על אמינותו, אך המקור הופך יותר ויותר למודל הנמצא מחוץ לגבולות המוסד.

זהו "פער ההגנה": לא כישלון של כלי בודד, אלא חוסר התאמה ארכיטקטונית בין אמצעי בקרה שנועדו לקבצים שנוצרו על ידי בני אדם ובקצב אנושי, לבין מאגר קבצים שאינו עונה על אף אחד מהקריטריונים הללו.

אם כבר לא ניתן לסמוך על מקור הקובץ, יש להתאים את נקודת הבקרה. האבטחה צריכה לעבור מזיהוי איומים לאחר שקובץ נכנס לסביבה, לבדיקה ולטיהור של כל קובץ ברגע כניסתו, ללא תלות במקור המוצהר וללא תלות בשאלה אם מנוע כלשהו מסמן אותו כמסוכן. מקור הקובץ עובר ממצב של מסקנה למצב של אכיפה.

בפועל, משמעות הדבר היא: מניעה לפני זיהוי; התייחסות לכל ערוץ כאל נקודת כניסה; נטרול קבצים באמצעות בנייתם מחדש כדי להסיר תוכן פעיל, במקום להסתפק בזיהוי קבצים ידועים כמזיקים בלבד; הימנעות מהסתמכות על מנוע זיהוי יחיד; והתייחסות לנתונים שמקורם במכונות ולנתונים סינתטיים כאל קטגוריית נתונים מפוקחת בפני עצמה.

השוק כבר מתחיל להתאים את עצמו למגמה זו — 96% ממנהלי האבטחה רואים כיום את הבינה המלאכותית כמרכיב מרכזי בהגנה הסייברית שלהם (EY), זאת על רקע עלות ממוצעת של פרצת אבטחה המסתכמת בכ-4.4 מיליון דולר (IBM).

אמצעי אבטחה מותאמים אינם צריכים להאט את קצב הפעילות העסקית שה-AI האץ. אולם, בדיקות היקפיות מבטיחות שהגידול העצום בכמות הקבצים יגביר את הפריון מבלי להגדיל באותה מידה את שטח החשיפה לאיומים.