הפריצה המטאורית של כלי הבינה המלאכותית היוצרת (GenAI) לארגונים יצרה מצב שבו הטכנולוגיה מקדימה את יכולת הניהול והבקרה הארגונית. מחקר חדש של חברת TrendAI, מובילה עולמית באבטחת סייבר, חושף כי תופעת ה-Unmanaged AI Adoption – אימוץ לא מבוקר של מערכות AI – הופכת במהירות מבעיה טכנית לסיכון ארגוני אסטרטגי. הדו"ח מזהיר כי הסתמכות עיוורת על מודלי שפה גדולים (LLMs) ושימוש בנתונים לא מאומתים עלולים לגרור סיכונים משפטיים, תפעוליים ותדמיתיים משמעותיים לארגונים.
הטיה מובנית: לא רק רעש סטטיסטי
אחד הממצאים המרכזיים במחקר נוגע לחוסר העקביות המובנה של מערכות ה-AI, שגורם לכך שתשובות המודל משתנות ומובילות לעיתים לתוצרים שגויים או בלתי עקביים. חוקרי TrendAI ביצעו אלפי ניסויים חוזרים על כמעט 100 מודלים שונים , תוך שימוש בעשרות מיליוני טוקנים בקלט ובמאות מיליוני טוקנים בפלט , כדי למדוד את השונות וההטיות במערכות אלו.
המחקר מדגים כי הטיות אינן תקלה סטטיסטית חולפת, אלא תוצר לוואי של האופן שבו המערכות נבנות ומאומנות. הבעיה מחריפה כאשר ארגונים משלבים תוצרי מודלים באופן אוטומטי בצ'אטבוטים, אתרי חברה ותוכן שיווקי ללא מודעות מספקת להקשר גיאוגרפי, תרבותי או דתי. המודלים נוטים "לקפוא" בנקודת הזמן שבה אומנו ומאמצים את ההטיות של מאגרי האימון שלהם.
גיאופנסינג וריבונות נתונים
המחקר חושף כי מיקום המשתמש משפיע ישירות על התשובות והגישה למודלים אזוריים. הטיות גיאו-פוליטיות באות לידי ביטוי בסוגיות רגישות כמו גבולות במחלוקת (למשל טייוואן או חצי האי קרים), כאשר תוצאת המודל משתנה לפי ספק המודל ומיקומו הפיזי של השואל. עבור ארגון גלובלי המציג מפות או תכנים רגישים, טעות כזו עלולה להפוך במהירות למשבר תדמיתי או רגולטורי.
בנוסף, נמצאו פערים משמעותיים בהבנת הקשר וזמן:
סטייה מהקשר: שאלה פיננסית הכוללת פריט מידע לא רלוונטי גרמה ליותר ממחצית המודלים לסטות מתשובה נכונה.
ידע מיושן: מודלים רבים נשענים על ידע מיושן חודשים ושנים אחורה, מה שעלול להטות חישובי מחירים, המרות מטבע ותחזיות.
תפיסת זמן מעוותת: בדיקות זיהוי תאריכי "עבר/הווה/עתיד" נכשלות לעיתים קרובות.
תופעת "נחמדות היתר" והסיכון הכספי
נקודה מטרידה שמעלה הדו"ח היא הטיות התנהגותיות, ובראשן "נחמדות יתר" (Over-agreeableness). חזרה על בקשה בניסוח שונה מעלה בהדרגה את סיכויי האישור שהמודל מעריך – למשל בבקשת כרטיס אשראי – ללא כל בסיס עובדתי. כאשר תשובות כאלה מוזנות לתהליכים בעלי השלכות כספיות, הארגון חושף עצמו לסיכונים כבדים. תופעה זו תורמת ל"חוב קוגניטיבי", שבו שיקול הדעת האנושי נחלש בשל הסתמכות יתר על כלי ה-AI.
הזווית הישראלית: Shadow AI וחוק הסייבר
בישראל, תופעת ה-Unmanaged AI Adoption מקבלת משנה תוקף על רקע תזכיר חוק הגנת הסייבר הלאומית (התשפ"ו-2026). התזכיר מתמקד בין היתר בסיכוני ה-Shadow AI – שימוש לא מבוקר של עובדים בכלי AI ציבוריים (כמו ChatGPT או Gemini) ללא ידיעת ה-IT וללא מדיניות מאושרת.
הזנת קוד ארגוני או נתוני לקוחות רגישים לשירותי AI חיצוניים מעבירה נכסים אל מחוץ לשליטת הארגון, וחשופה לשיקולי ריבונות נתונים זרים. התזכיר החדש צפוי להפוך את ניהול הסיכונים מהמלצה למחויבות חוקית עבור ארגונים חיוניים (תקשורת, אנרגיה, בריאות, פיננסים), עם סנקציות הכוללות עיצומים כספיים ואחריות אישית לנושאי משרה.
המלצות: איך עוברים ל-AI מנוהל?
כדי לצמצם את הסיכונים הכרוכים ב-Unmanaged AI Adoption, חברת TrendAI מציעה שלושה צירי פעולה מיידיים לארגונים:
ממשל תאגידי (Governance): הקמת גורם אחראי ל-Responsible AI, חובת בקרה אנושית על כל פלט LLM ושקיפות מצד ספקי ה-AI לגבי מקורות הנתונים וה-Guardrails שלהם.
בדיקות קבועות: סיווג מקרי שימוש וניטור רציף לאיתור סטיות וסיכוני מותג לפני הטמעת המודלים בתהליכי עבודה.
תרבות ארגונית מודעת-סיכון: הגדרת "קווים אדומים" לתוכן בנושאי פוליטיקה, דת וחברה, והכשרות אתיקה לצוותים המפתחים ומשתמשים ב-AI.
בשורה התחתונה, החדשנות ב-Gen AI מאפשרת האצה עסקית אמיתית, אך ללא משילות ובקרה אנושית, הארגון עלול לייבא הטיות וטעויות היישר אל לב המותג שלו.
נכתב על בסיס דו"ח TrendAI: Unmanaged AI Adoption and the Risks to Enterprises.
