סכנה שקטה בדפדפן: מחקר TrendAI מגלה כיצד אתרים מנצלים את ה-AI המובנה של Chrome ללא אישור

מחקר חדש מאת חוקרי אבטחת הסייבר ב-TrendAI, בהובלת קיריל גלפנד, אוונגליסט AI ואדריכל פתרונות אבטחה בכיר בישראל, יחד עם פיודור ירוצ'קין, ולדימיר קרופוטוב ודייויד תיוליס, חושף סיכוני אבטחה משמעותיים הנובעים משילוב מודלי בינה מלאכותית ישירות בדפדפן Google Chrome.

לפי הממצאים, הדפדפן מוריד אוטומטית למחשבים תואמים מודל AI מקומי מסוג Gemini Nano (בנפח של כ-4.27 גיגה-בייט) מבלי לבקש אישור מפורש. מרגע שהמודל מותקן, כל אתר מאובטח (HTTPS) יכול להפעיל אותו באמצעות JavaScript ברקע, תוך ניצול המעבד של המשתמש וללא כל חיווי ויזואלי.

שלושת סיכוני האבטחה המרכזיים:

  • מניפולציות על המודל (Prompt Injection): החוקרים הוכיחו כיצד הוראות נסתרות בדף אינטרנט יכולות לגרום למודל ה-AI לסטות ממשימותיו המקוריות, ואף עקפו את מנגנון זיהוי ההונאות המקומי של הדפדפן.

  • גניבת משאבי מחשוב (Compute Harvesting): אתרים יכולים לרתום את כוח העיבוד של גולשים לביצוע משימות AI עבור גורם חיצוני בדומה לכריית קריפטו. מערכת ההדגמה שפיתחו החוקרים (TokenHive) הראתה כי מחשב ממוצע יכול להפיק כ-108 אלף טוקנים בשעה עבור רשת חיצונית, אם כי טרם זוהה ניצול פעיל בשטח.

  • הפעלת כלים ופעולות: יכולת ניסיונית של הדפדפן מאפשרת למודל להפעיל פונקציות של יישומי רשת; תוקף עשוי לנצל זאת כדי לגרום למודל ליזום קריאות לכלים או לגשת למידע, הגם ששרשרת תקיפה מלאה טרם הודגמה.

האתגר החדש של ארגונים: Shadow AI דפדפני

החוקרים מדגישים כי הבעיה נובעת מתכנון הדפדפן, שאינו כולל כיום מנגנוני בקרה או הרשאות פרטניות לפעילות ה-AI המקמית.

"השיח סביב Shadow AI מתמקד בשימוש יזום של עובדים בכלים חיצוניים, אך המחקר שלנו מראה שזו רק תמונה חלקית", מציין קיריל גלפנד. "כיום, אתר שהעובד מבקר בו יכול להפעיל מודל AI מקומי ברקע ללא ידיעתו. מכיוון שהעיבוד מתבצע במחשב המקומי ללא תקשורת ענן או מפתח API, כלי ניטור מסורתיים עלולים לפספס זאת לחלוטין. ארגונים חייבים להרחיב את הבקרה שלהם גם לפעילות ה-AI שמתבצעת ישירות בדפדפן".

רוצים להתעדכן בחדשות ובסקירות המקיפות שלנו ישירות לנייד? הצטרפו אלינו לערוץ הטלגרם של טכנולוגיה ואנשים.

שתפו את הכתבה:

Facebook
Twitter
WhatsApp
Telegram

סכנה שקטה בדפדפן: מחקר TrendAI מגלה כיצד אתרים מנצלים את ה-AI המובנה של Chrome ללא אישור

מחקר חדש מאת חוקרי אבטחת הסייבר ב-TrendAI, בהובלת קיריל גלפנד, אוונגליסט AI ואדריכל פתרונות אבטחה בכיר בישראל, יחד עם פיודור ירוצ'קין, ולדימיר קרופוטוב ודייויד תיוליס,

לכתבה המלאה »

HPE מציגה את מערכת האחסון ההיברידית המהירה בעולם למחשבי-על: עד 41% יותר ביצועים וחיסכון דרמטי בעלויות

חברת HPE הכריזה על תצורות אחסון היברידיות מתקדמות למערכות מחשוב-על, המציעות את ביצועי האחסון ההיברידי המהירים בעולם. התצורות החדשות בסדרת HPE Cray Supercomputing Storage Systems

לכתבה המלאה »

כתבות נוספות

חברת אברא משיקה את Scully AI: פלטפורמה ארגונית לניהול ובקרה של סוכני בינה מלאכותית
חברת אברא משיקה את Scully AI: פלטפורמה ארגונית לניהול ובקרה של סוכני בינה מלאכותית
previous arrow
next arrow

שמרו על קשר

אנו עושים הכל על מנת לספק לכם תוכן איכותי אמין ומקורי במידה ומצאתם טעות או לכל נושא אחר אנא מלאו את הפרטים למטה ונחזור אליכם במהירות האפשרית.