איך רותמים AI להגנת סייבר לאומית? ראיון בלעדי עם ערן הופמן מחברת Dream

בפרק של פודקאסט Hidden Layers מבית MDLI, אירחתי את ערן הופמן, מנהל הפיתוח הראשי (Chief R&D Officer) בחברת Dream. ערן מביא עמו רקע ייחודי שמתחיל בשירות קרבי ביחידת אגוז וממשיך ב-25 שנות ניסיון בעולמות הטכנולוגיה, מתוכן 15 שנים בהובלת צוותי פיתוח וסייבר בחברות ענק כמו Palo Alto Networks. חברת Dream בולטת בנוף ההייטק הישראלי בכך שהיא אינה פונה לשוק התאגידי הקלאסי, אלא מתמקדת באספקת מערכות בינה מלאכותית (AI) מתקדמות עבור ממשלות, גופים ציבוריים ותשתיות קריטיות (Critical Infrastructure). רציתי להבין מערן כיצד בונים ארכיטקטורת אלגוריתמית ופלטפורמת פיתוח שמסוגלת להריץ מודלים מורכבים בסביבות שטח מנותקות, ואיך הופכים מחקר מתקדם ברמת ה-POC למערכת מבצעית בפרודקשן (Production).

האתגר ההנדסי בסביבות מנותקות רשת: Air-Gapped ו-On-Premise בסקייל מדינתי

כששאלתי את ערן על השוני המהותי בין פיתוח עבור תאגידי אנטרפרייז (Enterprise) לבין עבודה מול ממשלות, סקרן אותי להבין את האילוצים הפיזיים והטכנולוגיים שמתווים את ארכיטקטורת המוצר. ערן הסביר כי בניגוד לסביבות ענן גמישות שבהן ניתן לבצע ניטור (Monitoring) רציף, עדכוני גרסה מהירים ופריסה בלתי פוסקת (Continuous Deployment), לקוחות ממשלתיים דורשים עבודה בתצורת מקומית (On-Premise) ולעיתים קרובות בהפרדה מוחלטת מרשת האינטרנט (Air-Gapped). בסביבה שבה שום מידע אינו נכנס ואינו יוצא, אין פריבילגיה לבאגים בייצור, וכל תקלה קטנה דורשת מענה הנדסי מורכב שנעשה לעיתים תוך הזרמת עדכונים מאובטחים פיזית באתר הלקוח.

הופתעתי לגלות עד כמה המטריצה ההנדסית של Dream נדרשת להיות רחבה כדי לתמוך גם בפריסות ענן וגם בהרצה מנותקת לחלוטין. בסביבה מדינתית, זמינות המערכת אינה נמדדת רק במונחים של זמן תקינות (Uptime), אלא ביכולת של המערכת לספק ערך אנליטי ומודיעיני בזמן אמת ללא תלות בתשתיות חיצוניות. הדבר מחייב איכות קוד ללא פשרות, בדיקות חדירות (Penetration Testing) מחמירות, ויכולת להריץ מודלי שפה ומודלי סיווג על חומרה מקומית תוך שמירה על ביצועים גבוהים. מבחינתי, התובנה המרכזית היא שפיתוח AI לסייבר לאומי מחייב תפיסה הנדסית שבה האמינות והדיוק קודמים למהירות הפריסה.

מ-POC לפרודקשן: פירוק מודלי ענק למערך מודלים קטנים ואורקסטרטור

אחד הנושאים המרתקים ביותר בשיחה היה המעבר ממודלים מחקריים רחבים למערכות מבצעיות בזמן אמת. כששאלתי את ערן על האתגר של הרצת מודלים מתקדמים, נדהמתי לשמוע על הפער הדרמטי בזמני הריצה. בשלבי המחקר הראשוניים, צוותי הדאטה סיינס בנורטי ליצור מודל תקיפה (Hacker Application Model) המבוסס על מודל שפה גדול. המודל ניתח את הקונטקסט הארגוני והסיק מהי נקודת התקיפה הבאה של התוקף. בעוד שבסביבת המעבדה הכל עבד בצורה קבילה, ברגע שהמערכת הורצה על רשת ממשלתית ענקית, התהליך שלקח רגיל כ-5 שעות קפץ פתאום למעל 3 ימים רצופים – קפנדום הנדסי בלתי אפשרי עבור מערכת מבצעית.

כדי להתגבר על צוואר הבקבוק הזה, חזרו מהנדסי החברה לשולחן השרטוטים וביצעו שינוי ארכיטקטוני עמוק. במקום להסתמך על מודל יחיד כבד שיבצע את כל הניתוח, הם פירקו את המשימה לסדרה של תתי-משימות המנוהלות על ידי רכיב ניתוב מרכזי (Orchestrator). הרכיב משמש כמו "סו-שף" שמפרק את הזרימה, ומנתב את המשימות הפשוטות והדטרמיניסטיות למודלים קטנים, ייעודיים ומהירים מאוד שעברו כוונון עדין (Fine-tuning). רק בסוף התהליך, מודל כבד יותר מקבל את הקונטקסט המזוקק ומקבל את ההחלטה הסופית. בנוסף, ערן ציין כי הם מבצעים אופטימיזציות נמוכות ברמת הדרייברים (Drivers) ושכבת ההגשה של המודלים, קצת מעל מעבדי ה-GPU, כדי לשחות כל טיפת ביצועים ולהחזיר את זמן התגובה לרמה של שעות ספורות.

לולאות פידבק, איוואלואציות (Evaluations) ואימון מקומי אצל הלקוח

כשצוללים לעומק העבודה האלגוריתמית, מבינים שהחסם העיקרי בסייבר אינו רק כוח החישוב, אלא איכות הנתונים והיכולת למדוד ביצועים. ערן הסביר לי כיצד הם מייצרים בסיס אמת (Ground Truth) קשיח להערכת המודלים. הצוות בונה בין 500 ל-1,000 דוגמאות בסיס של נכסים ארגוניים ומאפייני סיכון, ומקבל הרחבה סינתטית של הדאטהסט באמצעות שימוש במודלים חיצוניים כמו Claude, תוך תיקוף אנושי של חוקרי סייבר מומחים. בסיס זה מהווה את סרגל המדידה למבחני ההערכה (Evaluations) המורצים על כל שינוי בארכיטקטורה או בפרומפטים.

מה שריתק אותי במיוחד היה הדרך שבה Dream מנהלת את לולאת הפידבק (Feedback Loop) אצל הלקוח הסופי. מאחר שהנתונים של לקוחות ממשלתיים סודיים לחלוטין ולא יכולים לצאת לשרתי החברה, פיתחה Dream תשתית אוטונומית הלומדת ומאמנת מודלים באופן מקומי בסביבת הלקוח. המערכת כוללת פייפליין (Pipeline) אוטומטי שמקבל משוב מחוקרי הסייבר בשטח, ומעדכן באופן רציף את המיומנויות (Skills) ואת הפרמטרים של המודלים המקומיים. אם תוצאת הניתוח אינה מגיעה לסף אמינות מספיק גבוה, המערכת מריצה סבבי שיפור אוטונומיים נוספים עד להגעת הדיוק הנדרש. גישה זו מייצרת מוצר שהולך ומשתפר ככל שהוא חשוף לעוד דפוסי תקיפה, ללא הפרת סודיות הנתונים.

תגובה אוטונומית ואבטחת Granular בסביבת איומים של Zero-Days

במהלך הראיון, הגענו לדיון על חלון הזמנים הקריטי שבין גילוי חולשה לבין ניצולה בשטח. ערן תיאר כיצד כלי AI גנרטיביים הפכו את יצירת התקיפות לכמעט מוצר מדף (Commodity), כך שזמן התגובה הנדרש לגילוי חולשות יום-אפס (Zero-Day) או חולשות יום-אחד (One-Day) התקצר מימים לשעות ספורות בלבד. כדי להתמודד עם קצב זה, פיתחה החברה את פלטפורמת הליבה CyberSpear לצד מודלים משלימים כמו Hero, שמחברים מידע מודיעיני בזמן אמת עם הקונטקסט הפנימי של הארגון.

הופתעתי לשמוע דוגמה קונקרטית מפעילות מבצעית: כחודשיים בלבד לאחר פריסת הפלטפורמה אצל אחת המדינות, המערכת הצליחה לזהות מתקפת שרשרת אספקה (Supply Chain Attack) מתוחכמת בעלת מאפיינים של מדינה תוקפת, תוך שמירה על שיעור התרעות שווא (False Positive Rate) אפסי. המפתח להצלחה זו טמון ביכולת של המודלים להמליץ ולבצע חסימות ממוקדות מאוד (Granular) ברמת חומת האש (Firewall) או רכיבי הקצה (Endpoint). במקום לבצע סגר דיגיטלי שישבית שירותים ממשלתיים חיוניים, המודלים מגדירים כללים מדויקים שסוגרים אך ורק את צינור התקיפה הספציפי.

תגובה מהירה היא המפתח: עתיד האוטונומיה בסייבר הלאומי

השיחה עם ערן הבהירה לי כי המרוץ בין התוקפים למגינים בעולמות הסייבר הגיע לנקודת הכרעה טכנולוגית. בעולם שבו תוקפים משתמשים באג'נטים אוטונומיים כדי למצוא חולשות בקצב מסחרר, הגנה ידנית המבוססת על צוותים אנושיים בלבד אינה מסוגלת לעמוד בקצב. השינוי התפיסתי שארגונים וממשלות חייבים לאמץ הוא מעבר מהתרעות סבייליות לתגובה אוטונומית ומיידית, תוך בניית אמון מדורג במערכות ה-AI.

מנקודת מבטי כמראיין, הלקח המרכזי מהפרק הוא שאיכות ה-AI נמדדת ביכולת לשלב בין מחקר אלגוריתמי עמוק לבין הנדסת מערכת קשוחה המותאמת לאילוצי העולם האמיתי. פריצת הדרך הבאה בסייבר לא תגיע רק ממודלים גדולים יותר, אלא מארכיטקטורות חכמות שיודעות לנהל קונטקסט, לבצע אופטימיזציה לחומרה, ולפעול בצורה אוטונומית בסביבות המורכבות ביותר.

להאזנה בפרק המלא, לחצו כאן.

לצפייה ביוטיוב, לחצו כאן.