הטמעת AI Skills בארגונים יצרה שכבה חדשה של סיכונים תשתיתיים שעולם אבטחת המידע עדיין לומד למפות. מחקר מקיף שפורסם לאחרונה על ידי צוות חוקרי האיומים של TrendAI מצביע על נקודת תורפה ארגונית זו, אשר מקבלת כעת תשומת לב מיוחדת. אותן מיומנויות ארגוניות, אשר נועדו לאפשר למודלי שפה גדולים (LLMs) לבצע פעולות מורכבות בצורה אוטומטית, מתבררות כמשטח תקיפה פורה ומסוכן עבור האקרים. הבעיה האקוטית אינה נמצאת בטכנולוגיית הבינה המלאכותית עצמה, אלא באופן השקוף שבו ארגונים מטמיעים את הידע העסקי, תהליכי העבודה והמידע התפעולי הרגיש ביותר שלהם אל תוך הפקודות של מערכות אלו.
הפער שבין קוד מסורתי לשפה טבעית
מבחינה טכנולוגית, AI Skills אינם מזכירים קוד תכנות קלאסי. מדובר במבנה נתונים היברידי אשר משלב שפה טבעית, שניתנת לקריאה ולהבנה על ידי בני אדם, יחד עם לוגיקה תפעולית עמוקה שמודל הבינה המלאכותית מפרש בזמן אמת כדי לבצע פעולות. מיומנויות אלו מכילות, למעשה, את כל עץ קבלת ההחלטות של הארגון בנושאים ספציפיים. הן מתארות למערכת בצורה מדויקת כיצד יש להגיב לתרחישי קצה שונים, מהן מגבלות המערכת העסקיות, ואילו תהליכים אוטומטיים נדרש להפעיל בתגובה לאירועים מסוימים. בעוד שהערך העסקי מובהק ומאפשר סקיילביליות מהירה, הפרדוקס האבטחתי נוצר בעקבות המעבר לטקסט חופשי.
מערכות אבטחת המידע הקלאסיות הפועלות כיום בארגונים תוכננו לאתר חריגות בתעבורת רשת, לזהות חתימות של קבצים זדוניים או לנתח פקודות קוד מובנות. כלים אלו עיוורים כמעט לחלוטין כאשר מתבצע ניתוח של טקסט לא מובנה ולוגיקה סמנטית. מערכות ההגנה אינן יודעות "לקרוא" את ההנחיה המילולית שנכתבה למודל השפה, ולכן אינן מסוגלות להעריך אם הלוגיקה העסקית המפורטת בה מהווה סיכון לפגיעה בארגון.
חשיפת סודות עסקיים בסביבות פיתוח
המחקר מראה כי הסכנה כבר ממומשת בשטח. סקירה של סביבות פיתוח ומאגרי קוד פתוחים פומביים, דוגמת GitHub, העלתה תמונה מטרידה: ארגונים חושפים באופן תדיר מאות מיומנויות בינה מלאכותית הכוללות פרמטרים רגישים ביותר. בסקטור הפיננסי, מיומנויות שנועדו לבצע אוטומציה של מסחר במטבעות דיגיטליים חשפו בפומבי את הגדרות ניהול הסיכונים ואת ספי ההפעלה האוטומטיים לבלימת הפסדים. גישה למידע פנימי מסוג זה מאפשרת לגורם עוין לבצע מניפולציות פיננסיות תוך עקיפה מלאה של מנגנוני הבקרה. בתעשיות מחקר, רפואה ותעשייה כבדה, נמצאו קבצי הנחיות שחשפו אלגוריתמים של החלטות קליניות רגישות ותהליכי סימולציה הנדסיים מורכבים שהם בבחינת קניין רוחני יקר ערך.
תקיפת מרכז העצבים: סכנה למערכי ה-SOC
אחת החשיפות המדאיגות ביותר במחקר נוגעת ישירות לליבת מערך ההגנה – מרכזי פעולות האבטחה (SOC). מרכזים אלו נשענים יותר ויותר על בינה מלאכותית לצורך סינון רעשים ותעדוף התראות אבטחה. כאשר תוקף מצליח להשיג גישה למיומנויות ה-AI המשמשות את צוותי ההגנה, הוא מקבל הצצה נדירה ל"מוח" של המערכת שמגינה על הארגון. מרגע שההאקר מבין את כללי הסינון והקורלציה של המערכת, הוא יכול להנדס את וקטור התקיפה שלו כך שהפעילות הזדונית תסווג אוטומטית כ"התראת שווא" או כרעש רקע לגיטימי. במצבי קיצון, שליטה על מספר מיומנויות במקביל מאפשרת לתוקפים לייצר "תאום דיגיטלי" (Digital Twin) מלא של מערך האבטחה. בסביבה מבודדת זו, הם יכולים לערוך ניסויים, לבדוק אילו כלים מעוררים התראות, ולתכנן חדירה שקטה וחלקה ללא כל הפרעה.
שרשרת התקיפה המעודכנת והזווית המקומית
המחקר מגדיר מודל עבודה חדש של שרשרת תקיפה (Kill Chain) הכולל שמונה שלבים ייעודיים לסביבות אלו. המודל מתחיל באיסוף מודיעין על מיומנויות חשופות, ממשיך דרך חולשות בשרשרת האספקה של סביבות הפיתוח, ומגיע לשיאו בטכניקות הזרקת קוד מתקדמות. בניגוד להזרקת נתונים קלאסית במסדי נתונים, כאן התוקף מטמיע פקודות זדוניות בשפה חופשית בתוך הקלט הלגיטימי של המשתמש. מכיוון שהמודל אינו תמיד מבדיל בין הוראת הפעלה פנימית לבין הנתון המוזן מבחוץ, הפקודה הזדונית מבוצעת על ידי המערכת בהרשאות גבוהות.
בישראל, נושא זה רגיש במיוחד בתקופה הנוכחית. מחסור זמני בכוח אדם טכנולוגי בעקבות שירות מילואים ממושך אילץ ארגונים רבים לדחוף פרויקטים של אוטומציה במהירות שיא. פריסה מואצת של פתרונות AI, שלעיתים עוקפת את תהליכי הבדיקה האבטחתיים המסורתיים, משמעותה שיותר מערכות מחוברות לרשת עם לוגיקה עסקית חשופה, מה שהופך ארגונים מקומיים במגזרי התשתיות, הבריאות והביטחון ליעד פוטנציאלי מיידי לתקיפות ממוקדות.
בניית מערך הגנה פרואקטיבי
ההתמודדות עם הסיכון מחייבת התאמה של ארכיטקטורת האבטחה הארגונית. הצעד הראשון הוא התייחסות לכל AI Skill כאל קניין רוחני מסווג, החלת ניהול גרסאות קפדני ובקרת הרשאות מחמירה. בנוסף, חובה ליישם הפרדה לוגית ומבנית ברורה בין הוראות המערכת הפנימיות לבין סביבת קליטת הנתונים, על מנת להקטין את הסיכוי להצלחת מתקפות הזרקה. מעבר לכך, יש לאמץ את מודל ההרשאות המינימליות, כך שכל מיומנות תוכל לתקשר אך ורק עם המערכות ההכרחיות לפעולתה. לבסוף, ארגונים נדרשים לבצע בדיקות עמידות תכופות הכוללות סימולציות של ניצול לרעה של הלוגיקה, לצד ניטור רציף ואיתור אנומליות תפעוליות בשלב הריצה של מודל השפה. מדובר בשינוי תפיסתי מחייב עבור מנהלי אבטחת מידע בארגונים מבוססי טכנולוגיה.
