עתיד דיודות הנתונים

יש שינוי מבני שמתרחש בבינה מלאכותית ארגונית. מודלים של שפה גדולה (LLM) כבר אינם נצרכים רק דרך ממשקי API של ענן ציבורי. מדי יום, יותר ויותר ארגונים מיישמים באופן פעיל מודלים של שפה גדולה (LLMs) באופן מקומי, משום שבקרה, תאימות, הגנה על קניין רוחני ובקרת עלויות הופכים לשיחות ברמת הדירקטוריון. זו אינה ספקולציה. זה ניכר בשוק התשתיות ובהתנהגותן של תעשיות מפוקחות.

NVIDIA אינה ממצבת את עצמה רק כספקית של מאיצי ענן. היא מקדמת באגרסיביות מפעלי בינה מלאכותית ארגונית, מערכות DGX ותשתיות בינה מלאכותית ריבוניות שתוכננו במיוחד לפריסה מקומית.

דוגמה נוספת - דל השיקה פתרונות בינה מלאכותית יצירתיים לארגונים המתמקדים בפריסות פנימיות מאובטחות.

הצעות אלה קיימות רק משום שקיים ביקוש של ארגונים.

גם מוסדות פיננסיים נעים בכיוון זה. מורגן סטנלי השיקה עוזר מבוסס GPT, שהוכשר במחקר פנימי קנייני עבור יועצים פיננסיים, וג'יי.פי. מורגן פיתחה פלטפורמות בינה מלאכותית פנימיות, תוך בחינת שירותי בינה מלאכותית קנייניים כמו IndexGPT.

בנקים אינם חושפים נתונים פיננסיים פנימיים למערכות בינה מלאכותית ציבוריות משותפות משום שהחשיפה הרגולטורית גבוהה מדי. הפתרון הוא פריסה פרטית תחת תשתית מבוקרת.

גם ממשלות מניעות את השינוי הזה. האיחוד האירופי מממן יוזמות ריבוניות בתחום הבינה המלאכותית כדי להפחית את התלות בספקי ענן זרים, ומדינות במזרח התיכון משקיעות רבות בתשתית בינה מלאכותית מקומית כדי לשמור על שליטה בנתונים.

כאשר ממשלות דורשות ריבונות, חברות עוקבות אחריהן.

בעוד שהבאת תואר שני במשפטים (LLMs) לאתר מרכז מחקר פותר את הבעיה הקריטית של ריבונות נתונים, הוא יוצר בו זמנית אחריות נוספת - אחריות ארכיטקטונית.

כאשר אשכול הבינה המלאכותית נמצא בתוך הרשת שלך, הוא מתחבר לבסיסי נתונים רגישים, מעבד נתונים מוסדרים, מאחסן הטמעות, משתלב בזרימות עבודה תפעוליות, ומשתלב עמוקות במערכות ארגוניות. אם נפגע, רדיוס הפיצוץ הוא פנימי ועלול להיות הרסני.

ארגונים למעשה ממקמים את תכשיטי הכתר שלהם באגמי נתונים מרכזיים ומאפשרים למנהלי תואר ראשון (LLMs) לאסוף, לנתח ולמטב אותם לצורך שיפורי יעילות ופריון. הערך עצום, אך כך גם הסיכון.

השאלה האמיתית היא זו: כיצד אנו מגנים על סביבות אלה באופן דטרמיניסטי, ולא תלוי בכוונון מתמיד של הכללים?

חומות אש הן הכרחיות ויישארו חלק מתשתית הארגון, אך הן פועלות על סמך קבוצות של כללים. סביבות ארגוניות מכילות בדרך כלל אלפי כללים מצטברים, חריגים זמניים, עקיפות עסקיות, שינויי חירום שהופכים לקבועים וחשיפה לפגיעויות של יום אפס.

חומות אש מאפשרות תקשורת דו-כיוונית כאשר המדיניות מתירה זאת, ואם אשכול LLM יכול לבצע שאילתה למערכת רגישה דרך חומת אש, הוא עלול לשלוח נתונים בחזרה דרך אותו נתיב. זה בלתי מתקבל על הדעת כאשר בינה מלאכותית מחוברת למערכות פיננסיות, סביבות הגנה או תשתיות קריטיות. הגנה מבוססת כללים הופכת לשברירית בקנה מידה גדול.

דפוס ארכיטקטוני דטרמיניסטי יותר הולך ומתפתח. אזורי ארגון רגישים מזינים נתונים דרך שער חד-כיווני לאשכולות עיבוד בינה מלאכותית, ואשכול בינה מלאכותית זה נמנע מלשלוח נתונים בחזרה לאזור הרגיש דרך אותו גבול. זה מבטל נתיבי חילוץ הפוכים, מפחית את הסיכון לתנועה צידית ויוצר ודאות ארכיטקטונית שלא ניתן לשנות על ידי סטיית מדיניות או טעויות תצורה.

במודל זה, כיווניות נאכפת ברמת החומרה ולא ברמת כלל התוכנה. להבחנה זו יש חשיבות עצומה בסביבות בעלות אבטחה גבוהה.

בשלב הבא של הבגרות, כיוון לבדו לא יספיק. תואר שני במשפטים (LLM) צורכים כמויות אדירות של תוכן ארגוני לא מובנה, כולל מסמכים, קבצי PDF, קבצי CAD, יומני רישום, מיילים וקוד מקור. קבצים אלה יכולים להכיל פקודות מאקרו מוטמעות, מטא-נתונים נסתרים, ניצול משאבים, סקריפטים מעורפלים או אפילו חפצים מורעלים שנועדו להשפיע על התנהגות בינה מלאכותית. קובץ שנע בכיוון אחד עדיין יכול לשאת כוונה זדונית.

לכן, עתיד דיודות הנתונים יתפתח לעבר שערים חד-כיווניים חכמים המשלבים טכנולוגיית Deep CDR™ ‎, ארגז חול אדפטיבי, מנועי בדיקה מונעי בינה מלאכותית כגון Predictive Alin , הסרת מטא-דאטה מתקדמת וסינון נתונים מבוסס מדיניות ישירות לתוך השער עצמו. זה מבטיח שהתקשורת תהיה לא רק חד-כיוונית אלא תקשורת חד-כיוונית נקייה.

קבצים הנכנסים לסביבת LLM עוברים שחזור, ניקוי, אימות ומנורמלים לפני הטעינה. מטענים נסתרים מוסרים, תוכן פעיל מוסר, ומבנים זדוניים מנוטרלים עוד לפני שהם מגיעים למודל הבינה המלאכותית.

שינוי זה מעביר את גבול האבטחה מבקרת רשת לבקרת שלמות נתונים.