אבטחת דאטה וסוכני AI בעידן של מחקר חולשות אוטונומי: ראיון בלעדי עם שירן בראלי מחברת Cyera

אירחתי את שירן בראלי, סמנכ"לית המחקר (VP Research) בחברת Cyera. שירן מגיעה עם רקע עשיר של שנים ביחידה 8200, לצד ניהול צוותי מחקר אבטחה בחברת Imperva, ולפני כארבע שנים וחצי הקימה את זרוע המחקר ב-Cyera – כיום אחד הסטארטאפים הצומחים בתחום אבטחת המידע. בשיחה בינינו ביקשתי להבין כיצד חברה שמנטרת מאות מיליוני קבצים ביום מתמודדת הנדסית עם זיהוי מידע רגיש, כיצד מגנים על סוכני בינה מלאכותית (AI Agents) בארגוני ענק, ואיך מפתחים מודלי ייעודיים הזולים פי 100 מהרצת מודלי מדף גדולים.

ארכיטקטורת מודלים ייעודית: אופטימיזציה של T5 מול מודלי ענק

כששאלתי את שירן על האופן שבו Cyera סורקת היקפי דאטה עצומים של מאות מיליוני אובייקטים ביום, הופתעתי לגלות עד כמה השימוש הישיר במודלי שפה גדולים (LLMs) דוגמת GPT-4 אינו מעשי כלכלית או הנדסית בסקייל כזה. הרצת אינפרנס (Inference) ברמת נפחים של פטבייטים (Petabytes) מול API חיצוני מייצרת עלויות מחשוב (Compute Costs) דמיוניות ועיכוב בביצועים. כדי לפתור את האתגר, צוות המחקר פירק את המשימה לשני צירים נפרדים: זיהוי ישויות (Named Entity Recognition / NER) ברמת האובייקט הבודד, והבנת ההקשר הראשי (Business Context) של המסמך כולו.

סקרן אותי להבין כיצד הם הצליחו להגיע לדיוק גבוה מבלי להתפשר על מהירות העיבוד. שירן הסבירה לי כי במקום להתבסס על מודלים מסוג Decoder-only שנועדו לג'נרט טקסט, הם בחרו בארכיטקטורת Encoder-Decoder המבוססת על מודלי T5. הצוות בנה תשתית אימונים שלמה שבה מודלי ענק ארגוניים משמשים לייצור דאטהסטים איכותיים ומשמשים בתור אמת מידע (Ground Truth), ולאחר מכן ביצעו כיוונון עדין (Fine-tuning) ואופטימיזציה לחומרה על גבי מעבדים גרפיים (GPUs) בבעלות החברה. התהליך הזה הוביל לתוצאות מדויקות יותר מאשר כללי רגקס (RegEx) או יוריסטיקות קלאסיות, תוך הפחתת עלויות העיבוד בשיעור של פי 100 בהשוואה למודלים מסחריים.

מה שריתק אותי בגישה הזו הוא האיזון ההנדסי שבין מחקר מתקדם ליציבות בפרודקשן (Production). העבודה על נתונים אנונימיים מחייבת בניית מעטפת של אבטחת איכות והערכה (Evaluation) קפדנית, תוך שילוב אנשי תפעול נתונים (Data Operations) ומהנדסי machine learning. הפרדה זו בין הבנת מידע אישי מזהה (Personally Identifiable Information / PII) כמו מספרי טלפון לבין סיווג מסמכי מיזוגים ורכישות (M&A) הדגישה לי עד כמה הקשר (Context) הוא המשתנה הקריטי ביותר במערכות אבטחה מודרניות.

משילוב Copilot לבעיית הרשאות: המשבר של Access Governance

כשדנו במעבר של ארגונים מניהול דאטה נייח להטמעת עוזרי בינה מלאכותית, נדהמתי לגלות עד כמה כלי Copilot מקצינים בעיות אבטחה קלאסיות. בעבר, בעיית בקרת הגישה (Access Governance) התבטאה בהרשאות יתר לתיקיות ב-Google Drive או ב-Microsoft 365. עובד זוטר שהיתה לו גישה מקרית לתיקייה של חברי הנהלה לרוב לא מצא אותה, אך ברגע שמנוע חיפוש סמנטי או עוזר אישי מחוברים לכלל מאגרי המידע, מספיקה שאילתה פשוטה לגבי שכר מנכ"ל או הסכמי לקוחות כדי לשלוף את המידע הרגיש באופן מיידי.

שירן הסבירה לי כיצד המערכת של Cyera, שהחלה כמוצר הגנה על דאטה במודל DSPM (Data Security Posture Management), התפתחה כדי למפות את נתיבי הגישה הללו לפני שהם מתממשים. הבעיה מחריפה כאשר עובדים עוזבים את הארגון או כאשר אנשי מכירות מנסים לדלות מידע על חשבונות שאינם בטיפולם. היכולת להבין את כוונת המשתמש ולנטר את זרימת המידע בזמן אמת דורשת ניתוח רציף של הקשר הדאטה, מעבר לסינון טכני יבש של הרשאות מערכת ההפעלה.

מבחינתי, התובנה המרכזית מהחלק הזה בשיחה היא שאבטחת מידע אינה יכולה להסתמך עוד על גבולות גזרה קשיחים בלבד. ככל שארגונים מטמיעים פלטפורמות כמו Copilot Studio או AWS Bedrock, הגישה חייבת לעבור למיפוי דינמי של הנכסים הארגוניים. הבנת סוג המידע הנחשף והערכת הסיכון הנובע ממנו הן התנאי הכרחי למימוש בטוח של AI Enablement בארגוני אנטרפרייז.

אבטחת סוכנים אוטונומיים: ניתוח כוונות וזיהוי פציעות ב-N8N

כששאלתי את שירן על ההתרחבות לעולמות אבטחת הסוכנים (Agent Security), הופתעתי לגלות את סדר הגודל של התופעה. ארגונים כיום אינם מנהלים עשרות סוכנים בלבד, אלא מאות ואלפי סוכנים אוטונומיים הפועלים במקביל במחלקות שונות. המצב שנוצר במטריצות ארגוניות רבות מתואר על ידה כ"מערב פרוע", שכן גם גורמים לא טכניים (Non-technical Users) במחלקות משאבי אנוש ומכירות מקימים סוכנים עצמאיים המחוברים למאגרי נתונים רגישים ולמערכות קבלת החלטות.

האתגר ההנדסי המרכזי כאן הוא זיהוי פעולות לחריגה מתחום הסמכות (Out-of-Scope Actions) וניתוח כוונת הסוכן (Intent Understanding). שירן תיארה תרחישים שבהם סוכן אוטונומי מקבל הנחיה משובשת (Prompt) או נחשף להזרקת הנחיות זדונית (Prompt Injection) דרך מזכר יומן תמים או קובץ חיצוני. במקרים כאלה, הסוכן עלול לבצע פעולות הרסניות כמו מחיקת בסיסי נתונים או הדלפת נתונים רגישים לסביבות חיצוניות. הדבר דורש בניית Guardrails מתקדמים וניתוח רציף של הפרומפטים שנכנסים ויוצאים מהסוכנים.

סקרן אותי לשמוע על המחקר הפרקטי של צוות המחקר ב-Cyera, ושירן שיתפה אותי בכך שהם גילו לאחרונה מספר חולשות אבטחה קריטיות בפלטפורמות מובילות כמו N8N ואינטגרציות של OpenClaw. גילוי חולשות בתשתיות אוטומציה (Automation Frameworks) פופולריות מדגיש את צורך השוק בפתרונות ניטור המבצעים מיפוי מלא (Inventory) של כלל נכסי ה-AI בארגון, הגדרת מדיניות אבטחה קפדנית, וביצוע בדיקות חדירות מתקדמות (Red Teaming) באופן שוטף.

מרוץ החימוש של הסייבר: אוטומציה של מחקר חולשות ומודל Mythos

בחלק האחרון של הראיון צללנו לנושא הטעון של שימוש בבינה מלאכותית התקפית (Offensive AI) וההשפעה שלו על עולם הסייבר. שירן סיפרה לי שגורמי מחקר אצלם בחברה עושים שימוש נרחב בכלי AI כדי להאיץ את תהליכי גילוי החולשות (Vulnerability Research). התהליך דומה למציאת מחט בערימת שחץ, אך כעת החוקרים מצוידים ב"מגנט עוצמתי" המאפשר להם לבצע אוטומציה למשימות הסינון והניתוח הסיזיפיות של הקוד.

כאשר שאלתי אותה על מודלים התקפיים מתקדמים דוגמת מודל Mythos, השיחה קיבלה תפנית מרתקת. בעוד שמודלים המפותחים על ידי חברות מערביות חלות עליהם מגבלות בטיחות קפדניות וגישה מבוקרת לצוותי הגנה (Defenders), החשש האמיתי נובע מפיתוח מקביל של מודלים התקפיים חופשיים על ידי מדינות יריבות. מודלים אלו מסוגלים לבצע סריקה, זיהוי וניצול חולשות (Exploitation) באופן אוטונומי לחלוטין ובקנה מידה חסר תקדים, מה שמשנה לחלוטין את מרוץ החימוש בין התוקפים למגינים.

מה ששכנע אותי בניתוח של שירן הוא העובדה שכל אדם עם ידע בסיסי בפיתוח קוד ומערכות הפעלה יכול כיום להגיע ליכולות תקיפה של האקר מיומן הודות למודלי השפה. השינוי התפיסתי הזה מחייב חברות תוכנה וסייבר לאמץ כלי הגנה אוטונומיים המסוגלים להגיב במהירות מילי-שניות. הפיכת משימות מחקר החולשות למאוטמטות הופכת את האיכות והדיוק של מערכות הניטור למרכיב הקריטי ביותר בשרידות הארגונית.

מבט לעתיד

השיחה עם שירן בראלי המחישה בצורה חד-משמעית כי המהפכה האמיתית באבטחת AI אינה מתמצה בסינון פרומפטים פשוט, אלא מחייבת תפיסה הנדסית כוללת של ניהול נתונים, אבטחת ארכיטקטורת הסוכנים, והבנה מעמיקה של הקשר ה-Business context. הארגונים שיצליחו לאמץ טכנולוגיות בינה מלאכותית בצורה בטוחה הם אלה שיידעו לשלב בין מודלים יעילים וזולים לבין מנגנוני הבקרה וההרשאות הקיימים, תוך שמירה על גמישות תפעולית.

הלקח המרכזי מבחינתי משיחה זו הוא שהפרדה נכונה של משימות ואופטימיזציה של ארכיטקטורת החומרה והמודלים הן הדרך היחידה להשיג אבטחה אפקטיבית בסקייל ארגוני. במקום להסתמך על מודלי ענק יקרים בענן, העתיד שייך לשילוב חכם של מודלים ייעודיים מקומיים הפועלים לצד מנגנוני ניטור אוטונומיים.

לפרק המלא ולכל הפרטים, האזינו כאן.