הדור הבא של ה-AI בסייבר: ראיון בלעדי עם נדב ארז מחברת Twine על פיתוח עובדים דיגיטליים בארגוני ענק

בפרק מיוחד של פודקאסט Hidden Layers לקראת כנס CyberML, אירחתי את נדב ארז, סמנכ"ל טכנולוגיות (CTO) וממייסדי חברת Twine. נדב מביא עמו ניסיון עשיר של שנים רבות במחקר אבטחה ובעולמות הדאטה, ולאחר שהקים את Twine לפני כשיעור שנתיים, הוא מוביל כיום את הפיתוח הטכנולוגי של החברה בתחום הבינה המלאכותית היוצרת (Generative AI) בסייבר. בשיחה שלנו צללנו לעומק האתגרים ההנדסיים שבהחלפת סייענים אישיים (Copilots) בישויות אוטונומיות מלאות, והבנת המנגנונים הנדרשים כדי לאפשר לסוכנים דיגיטליים לפעול בבטחה בלב סביבות האנטרפרייז (Enterprise).

מעבר מקופילוטים לעובדים דיגיטליים: ארכיטקטורת הדאטה והבנת ההקשר הארגוני

כששאלתי את נדב על תפיסת העולם המובילה את Twine, נדהמתי לגלות עד כמה החברה נמנעת מלהסתמך על מודלי שפה גדולים (Large Language Models / LLM) ייעודיים שנבנו מאפס, ובמקום זאת מתמקדת בבניית שכבת מעטפת הנדסית (Engineering Wrapper) מעל מודלים מסחריים קיימים (Off-the-shelf LLMs). נדב הסביר לי כי המפתח לפיתוח עובד דיגיטלי (Digital Employee) אמיתי – דוגמת אלכס (Alex), הסוכן הדיגיטלי שהם פיתחו לעולמות ניהול הזהויות וההרשאות (Identity and Access Management / IAM) – אינו טמון ביכולת ההיקש (Inference) של המודל בלבד, אלא בשכבת נתונים (Data Layer) עמוקה ודינמית. שכבה זו אוספת ללא הפסקה נתונים ממערכות הארגון, מנתחת את המשמעות של כל הרשאה וכל חריגה, ומתרגמת פוליסי ארגוני ערפילי למידע מבצעי חד-משמעי.

סקרן אותי להבין כיצד אלכס מתמודד עם פערי המידע האופייניים לארגונים גדולים. נדב שיתף אותי בכך שקיים שוני תהומי בין חברות שבהן מדיניות הגישה מעוגנת במסמך של 150 עמודים בתוך Active Directory, לבין ארגונים שבהם המדיניות עוברת בעל פה בלבד. כדי לגשר על הפער הזה, המערכת של Twine מבצעת הנדסה לאחור (Reverse Engineering) על בסיס היסטוריית הטיקטים של הארגון שנה אחורה. המנגנון מנתח דפוסי פעולה קודמים, מזקק נורמות עבודה, ומחבר אותן למדדי ביצוע מרכזיים (Key Performance Indicators / KPI) הנדרשים בסייבר, כגון הענקת גישה מזערית הנדרשת בדיוק בזמן הנכון (Least Privilege / Just-In-Time Access). מבחינתי, התובנה המרכזית כאן היא שסוכן אוטונומי אינו יכול להסתמך על הנחיות קשיחות בלבד, אלא חייב לבנות מודל מנטלי חי של נסיבות הארגון.

מפרומפטים קשיחים לארכיטקטורת סקילים: ניהול Context, מודעות למסך והתמודדות עם כשלים

במהלך השיחה חזרנו לנקודה שכל מפתח אג'נטים מכיר מקרוב – הגישה של הגדרת מרחב פעולה קשיח (Scoped Agent) ופרומפטים ארוכים קורסת במהירות כשפוגשים לקוחות אנטרפרייז. נדב הסביר לי כי בעבר הניחה החברה כי ניתן לתחום את הסוכן למשימה ספציפית בלבד בכל עמוד במערכת, אך בפועל משתמשים נטו לשאול שאלות רוחביות ולדלג בין הקשרים שונים. פריצת הדרך ההנדסית של Twine התרחשה כאשר הם עברו לארכיטקטורה מבוססת מיומנויות (Skills Architecture). במסגרת זו, פרומפט ההנחיה המרכזי פורק לעשרות רכיבי סקיל (Skills) נפרדים, כאשר סוכן בסיסי בעל חלון הקשר (Context Window) ממוקד מקבל את הסמכות לשלוף ולטפל בסקיל המתאים בזמן אמת. מעבר זה הוביל לשיפור מיידי ויציב בכל מדדי ההערכה (Evaluation Benchmarks) של החברה.

הופתעתי לגלות עד כמה מעמוקה המודעות הוויזואלית וההקשרית שפיתחו עבור אלכס. נדב הציג בפניי סקיל ייחודי המעניק לסוכן מודעות מלאה לרכיבים המוצגים על המסך של המשתמש בזמן אמת (UI Awareness). המשתמש יכול לדפדף בין מסכים שונים, לנהל שיחה רציפה בממשק הצ'אט, ולבקש מאלכס להעמיק בסיכום משימה שבוצעה בבוקר. אלכס מזהה את האלמנטים הוויזואליים, מצליב אותם עם היסטוריית השיחות והנתונים בארגון, ושולף את המידע התומך גם אם אינו מוצג ישירות על המסך.

כששאלתי את נדב על התמודדות עם הלוצינציות (Hallucinations) וכשלים בצינורות עיבוד הנתונים (Data Pipelines), הוא תיאר מנגנון בקרה רב-שכבתי. לדוגמה, בעת הפעלת סקיל הממיר טקסט חופשי לשאילתת בסיס נתונים (Text-to-SQL), עלול להתרחש כשל בשליפה. כדי למנוע החזרת תשובה שגויה שנראית אמינה, המערכת מריצה ולידציות דטרמיניסטיות (Deterministic Validations) על כל קריאה ליכולת (Tool Call). אם הסוכן מנסה לבצע פעולה על משתמש שלא קיים במערכת, הקריאה נחסמת מידית ברמת הקוד, והשגיאה מוחזרת למודל. במשימות אסינכרוניות, אלכס מצויד ביכולת להעלות חריגה (Raise Issue) באופן יזום, לפנות למשתמש בבקשת הבהרה, ולהמשיך בביצוע המשימה רק לאחר קבלת הנתון החסר.

בניית אמון ומנגנון Control Membrane: המעבר לפעולות דטרמיניסטיות ואוטונומיה מבוקרת

אחד הנושאים המרתקים ביותר שנדונו בפרק הוא סוגיית האמון (Trust) והסיכון העסקי הכרוך במתן הרשאות כתיבה וביצוע (Write/Execute Permissions) לסוכני AI במערכות ליבה. נדב הבהיר כי בעוד שאיסוף מידע וניתוח טיקטים הם משימות בעלות סיכון אפסי המניבות ערך מיידי – כמו חיסכון של שעה שלמה שנזקקה בעבר לאיסוף נתונים מחמש מערכות נפרדות בעת אירוע נעילת משתמש חוזרת – ביצוע פעולות אקטיביות מחייב מנגנון גוורננס (Governance Framework) ארגוני קשיח.

כדי להתמודד עם אתגר זה, פיתחה Twine מנגנון המכונה "קרום בקרה" (Control Membrane). מנגנון זה מאפשר למנהלי אבטחת המידע (CISO) להגדיר בצורה גרנולרית מאוד את מרחב הפעולה האוטונומי של אלכס בהתאם לרמת הסיכון העסקי. נדב הסביר כי פעולה כמו איפוס סיסמה נושאת סיכון אבטחתי נמוך וסיכון עסקי מזערי, ולכן ארגונים מאשרים לסוכן לבצע אותה באופן אוטונומי לחלוטין. מנגד, פעולת ניתוק משתמש (Disable User) טומנת בחובה סיכון עסקי גבוה של השבתת עובד, ולכן מוגדרת כטעונת אישור אנושי (Human-in-the-Loop).

מה שריתק אותי במיוחד בארכיטקטורה הזו הוא ההפרדה המוחלטת בין שלב התכנון לשלב הביצוע. כאשר אלכס מקבל משימה, הוא מייצר תוכנית פעולה פורמלית (Formal Execution Plan). ברגע שהמנהל האנושי מאשר את התוכנית בקליק אחד, הביצוע עצמו אינו מופעל על ידי LLM, אלא מועבר לקוד דטרמיניסטי לחלוטין. תהליך זה מבטיח אפס סטייה מהתוכנית המאושרת. בנוסף, המערכת מייצרת יומן מעקב מלא (Audit Log) המתעד איזה גורם אישר את הפעולה ובאיזה הקשר, לצד אפשרות מובנית לביצוע החזרה לאחור (Undo Options) בלחיצת כפתור במקרה של טעות.

מהערכת ביצועים ל-Multi-Agent Systems: עתיד האבטחה הארגונית

לקראת סיום הראיון, דנו בשינוי התפיסתי הנדרש מאנשי אבטחה ומפתחים. נדב הציג את החזון של Twine ליצירת סביבה מרובת סוכנים (Multi-Agent System), שבה אלכס, המתמחה בזהויות, יעבוד לצד סוכנים מומחים נוספים בתחומי אבטחת רשתות (Network Security) וניהול חולשות (Vulnerability Management). נדב הסביר כי בעולם האמיתי, פתרון אירוע סייבר מורכב דורש הוצאת מומחים שונים מהסילואים (Silos) שלהם והושבתם בחדר אחד. החזון הטכנולוגי הוא שסוכנים דיגיטליים שונים יחיו על אותה תשתית נתונים וידע (Data & Knowledge Fabric), ישתפו פעולה באופן אוטונומי, ויתרגמו את היעדים האסטרטגיים של מנהל האבטחה למשימות תפעוליות רציפות.

הלקח המרכזי מנקודת מבטי כמראיין הוא שהבינה המלאכותית בסייבר אינה מיועדת רק לצמצם את מצבת כוח האדם מ-70 עובדים ל-30 עובדים, אלא לשנות לחלוטין את הפרדיגמה התפעולית בארגון. בדיוק כפי שמכוניות אוטונומיות משנות את הצורך ברמזורים, מעבר לעובדים דיגיטליים מבטל את הצורך בסייקלים איטיים של בדיקות חדירות (Penetration Testing) פעם בשנה או סקירת הרשאות פעם בשישה חודשים. המערכות הופכות לפרואקטיביות, עובדות על בסיס יומי, ומאפשרות לאנשי המקצוע לעבור מתפקיד של מבצעי משימות שגרתיות לתפקיד של אדריכלים ומנהלי מדיניות.

לפרק המלא ולכל הפרטים, האזינו כאן.

לצפייה בפרק ביוטיוב, לחצו כאן.