סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.

לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא:

A causal view of compositional zero-shot recognition

פינת הסוקר:  

      המלצת קריאה ממייק: מומלץ בחום לבעלי ידע בתחומים רלוונטיים.

      בהירות כתיבה:  גבוהה.

      רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: נחוץ רקע טוב בהסתברות והבנה בסיסית של עקרונות הסיבתיות.

    יישומים פרקטיים אפשריים: אפשר להשתמש ברעיון זה בשביל לבנות מודל ליצירת דוגמאות (נגיד, תמונות) המכילות שילובים של אובייקטים שלא מופיעים בסט האימון.

פרטי מאמר:

      לינק למאמר: זמין להורדה.

      לינק לקוד: .זמין כאן

      פורסם בתאריך: 01.11.2020, בארקיב.

      הוצג בכנס: NeurIPSi 2020.

תחומי מאמר:

• למידת zero-shot ZS.
• הכללה הרכבתית (compositional generalization)- יכולת לזהות שילובים חדשים (שלא נראו ביחד קודם) של מרכיבים (פיצ'רים) ידועים.

כלים מתמטיים, מושגים וסימונים:

• הסקה סיבתית: גרף סיבתיות, פיצ'רים מערבבים (confounding), התערבות (intervention) לפיצ'רים.
• למידת ייצוגי דאטה מופרדים (disentangled representations).
• קריטריון מידע של הילברט-שמידט (HSIC): כלי שערוך של מידת אי תלות בין שני מדגמים של משתנים אקראיים.
• שערוך פריקות של ייצוגי דאטה לא מתויג (PIDA).

תמצית מאמר:

לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.

לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא: 

Regularizing Towards Permutation Invariance in Recurrent Models

פינת הסוקר:  

           המלצת קריאה ממייק: כמעט חובה (לא חייבים אך ממש מומלץ).

          בהירות כתיבה:  גבוהה.

         רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: בינונית מינוס – צריך להבין מה זה RNN ותכונותיו הבסיסיות. בנוסף מומלץ לרענן את הידע הבסיסי בקומבינטוריקה (תמורות) ובתורת הקבוצות (מושגי יסוד).

        יישומים פרקטיים אפשריים: ניתן להשתמש בטכניקה זו בשביל משימות עיבוד סדרות אינווריאנטיות (באופן מלא או חלקי) לסדר איבריהן כמו משימות זיהוי של ענני נקודות,מציאת דמיון בין סטים של אובייקטים, זיהוי אותות ECC וכדומה.

פרטי מאמר:

      לינק למאמר: זמין להורדה.

      לינק לקוד: לא הצלחתי לאתר.

      פורסם בתאריך: 25.12.20, בארקיב.

      הוצג בכנס: NeurIPSi 2020.

תחומי מאמר:

• רשתות מסוג RNN.
• משימות אינווריאנטיות לסדר של קלט.

כלים מתמטיים, מושגים וסימונים:

• תמורה (פרמוטציה) של סדרת קלט (יסומן כ- p).

תמצית מאמר:

לכתבה המלאה >>

הכתבה בשיתוף פעולה אינטל.

הקורונה עדיין איתנו, מה שאומר שלא מעט כנסים עוברים לאונליין ואפשר ליהנות מהם מכל נקודה בעולם. אחד הכנסים שעשה את המעבר הזה לאונלין הוא כנס "AI Week" שהתקיים בפעם האחרונה עם יותר מ-3000 משתתפים באוניברסיטת תל אביב ועכשיו עבר גם הוא למתכונת דיגיטלית. לשמחתנו, הסרת המגבלות הפיזיות גרמה לכך שיש לנו אג'נדה מגוונת מאוד עם חוקרים חזקים ודמויות מפתח בתחום ה-AI מכל העולם, וגם הקהילה שלנו, Machine & Deep Learning Israel, היא פרטנרית של הכנס. חלק מהדוברים המעניינים שיהיו בכנס הם מחברת אינטל, שיזמה את האירוע והיא גם נותנת החסות הראשית השנה. 

בבלוג פוסט הזה נספר לכם על ההרצאות המעניינות שתשמעו מאינטל וגם על הרצאות נוספות כלליות שכדאי לכם להכיר. באתר הכנס תמצאו גם יריד וירטואלי, שמהווה חלופה לביתני נותני החסויות וכן אפשרות ליצור קשרים עם שאר המשתתפים בכנס. כפי שציינו, הכנס עתיד להימשך שלושה ימים ויכלול הרצאות ופאנלים בטכניים ומקצועיים. מה שמרשים לא פחות הוא רשימת הדוברים מחו"ל שייקחו חלק באירוע אשר כוללת כמה מהשמות המוכרים ביותר בתעשייה: פרופסור  Fei-Fei Li מסטנפורד, פרופסור Tomaso Poggio מ-MIT, פרופסור Mariarosaria Taddeo מאוקספורד ועוד רבים וטובים אחרים.

נזכיר כי הכנס יתקיים בין ה-22.4 לבין ה-24.2 וניתן להירשם לכנס בחינם ולקרוא את האג'נדה המלאה דרך הלינק הזה.  לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.

לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא: 

Identifying Mislabeled Data using the Area Under the Margin Ranking

פינת הסוקר:

המלצת קריאה ממייק: כמעט חובה – (לא חובה אבל קרוב לזה 😉 ).

בהירות כתיבה: גבוהה

רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: היכרות בסיסית עם מושגי יסוד של הלמידה העמוקה (בעיקר אלו הקשורות לאימון של רשתות נוירונים).

יישומים פרקטיים אפשריים: אופטימיזציה של תהליך אימון של רשתות נוירונים עי״ זיהוי של דוגמאות מתיוגות תוך כדי האימון.

פרטי מאמר:

לינק למאמר: זמין להורדה.

לינק לקוד: כאן.

פורסם בתאריך: 23.12.2021, בארקיב. 

הוצג בכנס: NeurIPS 2020.

תחומי מאמר:

• זיהוי דוגמאות בעלות לייבלים שגויים בתהליך אימון של רשתות נוירונים.

כלים מתמטיים הסימונים:

• לוגיטים (logits):  פלט של השכבה האחרונה של רשת סיווג (לפני הנרמול softmax/sigmoid).

תחומים בהם ניתן להשתמש בגישה המוצעת:

• למידה semi-supervised.
• אוגמנטציה של דאטהסטים.

תמצית מאמר:

לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.

לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא: 

PreTrained Image Processing Transformer

פינת הסוקר:

המלצת קריאה ממייק: רק עם קשה לכם להירדם בלילה (שווה לאלו שמתעסקים במשימות low-level בתחום עיבוד תמונה).

בהירות כתיבה:  בינוני מינוס.

רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: היכרות עם מושגי יסוד של DL.

יישומים פרקטיים אפשריים: הגישה המוצעת במאמר יכולה לשמש כשיטת אימון למשימות כמו סופר-רזולוציה, ניקוי רעש רגיל או הסרת רעש גשם (deraining) עבור דאטהסטים קטנים.

פרטי מאמר:

לינק למאמר: זמין להורדה.

לינק לקוד: לא הצלחתי לאתר.

פורסם בתאריך: 03.12.20, בארקיב.

הוצג בכנס: לא מצאתי מידע על כך.

תחומי מאמר:

• למידה עם משימות מרובות (multi-task learning – MLT). 
• למידה מנוגדת (contrastive learning – CL).

כלים מתמטיים, טכניקות, מושגים וסימונים:

• טרנספורמר ויזואלי (הפועל על פאטצ'ים של תמונות).
• לוס מנוגד (contrastive loss).
• משימות low-level של הראייה הממוחשבת כמו סופר-רזולוציה, ניקוי רעשים וכדומה.

לינקים להסברים טובים על מושגי יסוד במאמר:

• אימון מקדים של רשתות.
• טרנספורמר1, טרנספורמר2.
• למידה מנוגדת (contrastive learning).

מבוא והסבר כללי על תחום המאמר: לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.

לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners# עם סקירה של מאמר מבית אמזון בתחום הלמידה העמוקה. המאמר הנסקר היום: 

GAN-Control: Explicitly Controllable GANs

פינת הסוקר: 

המלצת קריאה ממייק: חובה לאוהבי גאנים.

בהירות כתיבה: טובה מאוד.

רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: נדרשת הבנה טובה בארכיטקטורות עכשוויות של הגאנים (StyleGAN2) וידע בסיסי בנושא אימון של הגאנים. בנוסף נדרשת הבנה בסיסית של עקרונות הלמידה המנוגדת.

יישומים פרקטיים אפשריים:  יצירה של תמונות פוטוריאליסטיות בעלות מכלול מוגדר של פיצ'רים ויזואליים כגון גיל, תנוחת ראש, צבע שיער וכדומה בכמה דומיינים כמו תמונות פנים מצוירות ותמונות פרצופים של חיות. 

פרטי מאמר: 

לינק למאמר: זמין כאן

לינק לקוד: לא שותף בארקיב

פורסם בתאריך: 07.01.21, בארקיב

הוצג בכנס: לא ידוע

תחומי מאמר:

• גאנים (GANs).

כלים מתמטיים, טכניקות, מושגים וסימונים:

• למידה מנוגדת (contrastive learning)
• אימון של גאן עם פיצ'רים מופרדים בצורה מפורשת.

מבוא והסבר כללי על תחום המאמר: לכתבה המלאה >>

אני שמח להזמין אתכם לאירוע השני שלנו בסדרת Applied ML seminars שנעשים בשיתוף עם Applied Materials (לינק לאירוע הראשון). בכל אירוע מסוג זה, ניקח נושא אחד שמעניין את הקהילה ונדבר עליו בהרחבה מכמה זוויות שונות. לאירוע הראשון בחרנו לדבר על נושא שלא מעט מחברי הקהילה עוסקים בו: Anomaly detection. באירוע נדבר על גישות שונות למודלים בתחום ונשמע הרצאות משני דוברים בנושא.

האירוע יתקיים ב-16.2 בשעה 17:00

לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.

לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא: 

AVAE: Adversarial Variational AutoEncoder

תאריך פרסום: 21.12.2020

הוצג בכנס: טרם ידוע

תחומי מאמר:

• אוטו-אנקודר וריאציוני (VAE – Variational AutoEncoder).
• גאנים (GANs – Generative Adversarial Networks).

כלים מתמטיים, טכניקות, מושגים וסימונים:

• פונקצית לוס של VAE (המתקבלת מ- ELBO – Evidence Lower Bound)
• מרחק KL בין התפלגויות.
• מידע הדדי בין משתנים אקראיים/התפלגויות (Mutual Information).
• צוואר בקבוק אינפורמציוני (information bottleneck).
• פונקציית הלוס הסטנדרטית של גאן (מהמאמר המקורי) והפתרון האופטימלי שלה מבחינת הדיסקרימימטור.

בהירות כתיבה: בינונית מינוס 

רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: נדרשת הבנה עמוקה ב- VAE, גאנים ותכונותיהם בשביל להבין לעומק את הרעיון הבסיסי של המאמר. שליטה בכלים מתמטיים מתחום ההסתברות והסטטיסטיקה נחוצה להבנת המאמר.

יישומים פרקטיים אפשריים: גינרוט תמונות באיכות גבוהה עם VAE (סוג של 😀 ).

המלצת קריאת ממייק: מומלץ לבעלי ידע עמוק ב- VAE, גאנים ובעלי ידע מוצק בהסתברות בתור אתגר. לכתבה המלאה >>

בינה מלאכותית הפכה בעשור האחרון להיות כלי מרכזי ביכולות השב"כ לחזות ולסכל פעילויות טרור. כאשר בכל פעילות או פיתוח מעורב אלגוריתם מבוסס AI אשר מסתמך על לימוד מכונה מול כמויות עתק של נתונים ייחודים לארגון. לאחרונה הוקם מרכז AI לטובת מחקר והכוונת העשייה הכלל ארגונית בעולם הבינה המלאכותית וה-BIG DATA. המרכז מתעתד להיות חוד החנית הלאומי בתחום ה-AI. החוקרים מתמקדים בהתמודדות עם האתגרים המשמעותיים של הארגון וזוכים לעבודה ישירה עם אנשי "השטח" לטובת הבנת הפערים ויצירת פתרונות אלגוריתמיים ייחודיים. כיום במרכז צוות חוקרים בעל עשרות שנות ניסיון, רקע וידע רב מאוד בתחום .על רקע הקמת מרכז ה-AI החדש בשירות הביטחון הכללי, זכיתי בהצצה ראשונה למרכז הראשון מסוגו,  ולשוחח עם ע', מנהלת המרכז בשב"כ.

שאלה: למדינת ישראל יש הרבה אתגרים בהרבה חזיתות שונות, האם תוכלי להרחיב על סוגי הדאטה שאתם עובדים איתם?

על מנת שהשב"כ יממש את ייעודו בסיכול טרור וריגול, הוא נעזר בדאטה רחב ומגוון מאוד מעולמות תוכן שונים. הדאטה שמור ומאונדקס בתשתיות BIGDATA עצומות, המאפשרות לבצע מחקרים מתקדמים ולהציף תובנות מהמידע הקיים.

מרכז ה-AI שהוקם בארגון בא למצות ולהפיק את מיטב המודיעין מהמידע שנמצא במאגריו. החוקרים במרכז, עוסקים בתחומים השונים של בינה מלאכותית ביניהם: NLP, SPEECH, VISION  וכמובן תחומים נוספים שלא ניתן לפרט אודותיהם.
המטרה המרכזית שלנו היא לקדם ולשפר את פעילותם של אנשי המודיעין מול כמויות המידע ההולכות וגדלות ולתת למכונה לבצע באופן גורף את מה שאדם אינו מסוגל לעשות.

לכתבה המלאה >>

בעקבות הכתבה של שגיא כהן בדה מרקר על מסקרנות "וועדת תלם לתכנית מופ לאומית בבינה מלאכותית" אני מצרף לכם כאן את המצגת המסכמת לדוח הסופי שהגישו וגם את הדוח המלא עצמו. הדיון בקבוצה מתקיים בקישור הזה.

לכתבה המלאה >>