דרוג:

הטמעת בינה מלאכותית כבר אינה מוגבלת לניסויים או פיילוטים. יותר ויותר ארגונים משלבים מודלי AI  בתהליכים עסקיים קריטיים – משירות לקוחות ועד אוטומציה של תשתיות וניתוח נתונים.  אך ככל שהשימוש במודלים מתרחב, עולה גם הצורך למדוד בצורה שיטתית את רמת האבטחה שלהם.

על רקע זה הציגה חברת F5  , באמצעות F5 Labs , צוות מחקר האיומים שלה, מדדים חדשים שנועדו לאפשר לארגונים להעריך ולהשוות את רמת הסיכון של מודלי AI  . המדדים  Comprehensive AI Security Index (CASI) , Agentic Resistance Score (ARS)  מוצגים במסגרת לוחות דירוג המתעדכנים מדי חודש ומבוססים על מודיעין מתקפות בזמן אמת ועל מחקר מתקדם בתחום תקיפות AI.

היוזמה נשענת בין היתר על רכישת חברת  CalypsoAI  על ידי F5, ומבוססת על אחת מספריות החולשות הגדולות בתחום הבינה המלאכותית. המאגר מתעדכן מדי חודש בלמעלה מ10,000  attack prompts חדשים ומבוסס על נתוני מתקפות שנאספו לאורך יותר משנה.

לדברי קונל אנאנד Chief Product Officer ב F5 , ארגונים אינם יכולים להרשות לעצמם להטמיע מודלי  AI שלא עברו בדיקות אבטחה מעמיקות.  לדבריו, לוחות הדירוג של F5 Labs  מספקים דרך למדוד באופן רציף את עמידות המודלים ולזהות חולשות עוד לפני שהן מנוצלות במתקפות.

המדד הראשון, CASI,  מספק תמונת מצב רחבה של רמת האבטחה של מודל , AI תוך בחינת מספר פרמטרים מרכזיים :בין היתר הוא מודד את ביצועי הבסיס של המודל במשימות סטנדרטיות, את היחס בין רמת הסיכון לביצועים ואת עלות ה inference ביחס לרמת האבטחה של המודל.

המדד השני , ARS, מתמקד באיום מתפתח בעולם הבינה המלאכותית – מתקפות המבוצעות על ידי. AI agents  בניגוד למתקפות מבוססות prompt  בודד,  סוכני  AI יכולים לנהל אינטראקציות ממושכות עם מודלים,  ללמוד את התנהגותם ולנסות לעקוף מנגנוני הגנה לאורך זמן.

לכן המדד בוחן שלושה היבטים מרכזיים:  רמת התחכום הנדרשת מהתוקף כדי לפרוץ את המערכת, משך הזמן שבו המערכת מצליחה להישאר מוגנת תחת מתקפה מתמשכת , והאם ניסיונות תקיפה כושלים חושפים מידע שיכול לשמש לתקיפות עתידיות.

לדברי גרייס טרינידד, Research Director בתחום  AI Security & Trust בחברת המחקר IDC  ,  שילוב יכולות הניתוח של F5 Labs  עם הכלים שנוספו בעקבות רכישת CalypsoAI  מאפשר לארגונים לקבל הן מדדי אבטחה להשוואת מודלים והן יכולות שליטה באופן שבו מערכות  AI פועלות, לאילו נתונים הן ניגשות וכיצד הן מייצרות פלטים.

חגית גואל, מנהלת מכירות אזורית בחברת F5 מוסיפה כי:" לוחות הדירוג החדשים משקפים מגמה רחבה יותר בעולם הסייבר – מעבר למדדים סטנדרטיים המאפשרים להשוות בין מודלים וספקים שונים.  עבור מנהלי אבטחת מידע, מדובר בכלי נוסף לקבלת החלטות מושכלות בעת בחירת מודלי  AI והטמעתם בסביבת Production" .