מחקר חדש מאת חוקרי אבטחת הסייבר ב-TrendAI, בהובלת קיריל גלפנד, אוונגליסט AI ואדריכל פתרונות אבטחה בכיר בישראל, יחד עם פיודור ירוצ'קין, ולדימיר קרופוטוב ודייויד תיוליס, חושף סיכוני אבטחה משמעותיים הנובעים משילוב מודלי בינה מלאכותית ישירות בדפדפן Google Chrome.
לפי הממצאים, הדפדפן מוריד אוטומטית למחשבים תואמים מודל AI מקומי מסוג Gemini Nano (בנפח של כ-4.27 גיגה-בייט) מבלי לבקש אישור מפורש. מרגע שהמודל מותקן, כל אתר מאובטח (HTTPS) יכול להפעיל אותו באמצעות JavaScript ברקע, תוך ניצול המעבד של המשתמש וללא כל חיווי ויזואלי.
שלושת סיכוני האבטחה המרכזיים:
מניפולציות על המודל (Prompt Injection): החוקרים הוכיחו כיצד הוראות נסתרות בדף אינטרנט יכולות לגרום למודל ה-AI לסטות ממשימותיו המקוריות, ואף עקפו את מנגנון זיהוי ההונאות המקומי של הדפדפן.
גניבת משאבי מחשוב (Compute Harvesting): אתרים יכולים לרתום את כוח העיבוד של גולשים לביצוע משימות AI עבור גורם חיצוני בדומה לכריית קריפטו. מערכת ההדגמה שפיתחו החוקרים (TokenHive) הראתה כי מחשב ממוצע יכול להפיק כ-108 אלף טוקנים בשעה עבור רשת חיצונית, אם כי טרם זוהה ניצול פעיל בשטח.
הפעלת כלים ופעולות: יכולת ניסיונית של הדפדפן מאפשרת למודל להפעיל פונקציות של יישומי רשת; תוקף עשוי לנצל זאת כדי לגרום למודל ליזום קריאות לכלים או לגשת למידע, הגם ששרשרת תקיפה מלאה טרם הודגמה.
האתגר החדש של ארגונים: Shadow AI דפדפני
החוקרים מדגישים כי הבעיה נובעת מתכנון הדפדפן, שאינו כולל כיום מנגנוני בקרה או הרשאות פרטניות לפעילות ה-AI המקמית.
"השיח סביב Shadow AI מתמקד בשימוש יזום של עובדים בכלים חיצוניים, אך המחקר שלנו מראה שזו רק תמונה חלקית", מציין קיריל גלפנד. "כיום, אתר שהעובד מבקר בו יכול להפעיל מודל AI מקומי ברקע ללא ידיעתו. מכיוון שהעיבוד מתבצע במחשב המקומי ללא תקשורת ענן או מפתח API, כלי ניטור מסורתיים עלולים לפספס זאת לחלוטין. ארגונים חייבים להרחיב את הבקרה שלהם גם לפעילות ה-AI שמתבצעת ישירות בדפדפן".












