סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.

לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא:

 Diffusion Models Beat GANs on Image Synthesis

פינת הסוקר:  

           המלצת קריאה ממייק: חובה למי שרוצה ללמוד מודלים גנרטיביים פרט לגאנים ול-VAE.

           בהירות כתיבה: בינונית.

          רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: הבנה טובה של עקרונות VAE, הבנה של שיטות דגימה מתקדמות כמו דינמיקה של לנגבין.

        יישומים פרקטיים אפשריים: יצירת תמונות יותר "איכותיות" מהגישות המתחרות, קרי גאנים ו-VAE.

פרטי מאמר:

      לינק למאמר: זמין להורדה.

      לינק לקוד: זמין כאן

      פורסם בתאריך: 01.06.21, בארקיב.

      הוצג בכנס: טרם ידוע.

תחומי מאמר:

• מודלים דיפוזיוניים כלומר Diffusion Denoising Probabilistic Models – DDPM לגנרוט של דאטה ויזואלי.

ידע מוקדם:

• הבנה טובה בטכניקות מבוססות -variational inference לניתוח פונקציות נראות מירבית (כמו ב- VAE).
• רקע טוב בהסתברות לא יזיק 🙂
  

  ---

מבוא: לכתבה המלאה >>

אנחנו ממשיכים עם המסורת של האירועים המקומיים לכנסים הבינלאומיים הגדולים, והפעם מדובר בגרסה מקומית של הכנס ICCV.

נתחיל ונציין שאין קשר רשמי לכנס ICCV העולמי, ומדובר ביוזמה קהילתית מקומית, שמטרתה לאפשר לחוקרים ישראליים להציג את עבודותיהם בפני הקהילה שלנו. כל הרצאה באירוע תהיה בת 12 דקות ותכלול את הנושאים העיקריים במחקרים.

כמו באירועים מקומיים אחרים שארגנו, האירוע יפוצל לשני מועדים בשל מספר הדוברים. בהחלט משמח לראות את המגמה הזו בכל הכנסים המקומיים שארגנו השנה.

האירוע הראשון יתקיים ב-04/10/2021 בשעה 17:30 עד 19:30, והאירוע השני יתקיים ב-05/10/2021 בשעה 17:30 עד 19:30. להרשמה לשני האירועים אנא לחצו כאן.

כמו תמיד, מצגות הדוברים וההקלטה של האירוע יהיו זמינים כאן, בערוץ הטלגרם ובערוץ היוטיוב שלנו. הם גם ישלחו בצורה מסודרת למנויים על הניוזלטר, אז אם טרם נרשמתם זו ההזדמנות.

לכתבה המלאה >>

This August we had the first AutoML Conference, with leading researchers from the industry and academia who shared their work on AutoML with our community.

The conference was a great success and over 1,100 people registered to the event from around the world!

We'd like to thank all the speakers who participated in the conference and thank our sponsors – Outbrain and Pecan.AI: It wouldn't be possible without you.

We are excited to announce that the AutoML Conference will become an annual event, and we hope to see you all again next year.

לכתבה המלאה >>

לינק לגוגל פודקאסט.
לינק לאפל פודקאסט.

הפרק בשיתוף "להבין את סין".

האם סין תנצח במרוץ ?

ב-2017 הציג הממשל הסיני את התכנית האסטרטגית שלו לבינה מלאכותית, שמטרת העל שלה היא ביסוס סין כמובילה העולמית במחקר, פיתוח ויישום בינה מלאכותית עד שנת 2030. התוכנית למעשה מהווה המשך ישיר ונדבך קריטי ביישום תכנית החומש ה-13 (2016-2020) והתכנית האסטרטגית "Made in China 2025" ששמה לה למטרה להעלות את סין במעלה שרשרת הערך הגלובלית ולהפוך מ"מהמפעל של העולם" לכלכלה חדשנית המבוססת על תעשיות עתירות-ידע ושירותים מתקדמים – תוך הקטנה דרסטית של התלות ברכיבי ליבה תוצרת חוץ (כמו שבבים, מערכות הפעלה, רכיבי מנועים מתקדמים וכו').

תכנית זו, השואבת את השראתה מהתוכנית הגרמנית "תעשייה 4.0", נועדה לקדם את יכולותיה ולחזק את מעמדה של סין בזירה הבינלאומית מבחינה כלכלית, מחקרית וגיאו-פוליטית, כמו גם לשפר את איכות החיים, הביטחון, הרווחה והיציבות החברתית בסין אל מול השינויים החברתיים והדמוגרפיים (ובראשם הזדקנות האוכלוסייה) שהיא עוברת.  הממשל מזהה מספר תעשיות "חוד החנית" שבהן על התעשייה הסינית להתמקד – חלל, רובוטיקה, אנרגיה ירוקה, IoT, תשתיות תחבורה, רפואה ועוד.   הממשל הסיק שהמשותף לכל התעשיות הוא חשיבות הבינה המלאכותית כדי להשיג בהן את פריצות דרך הטכנולוגיות הבאות.    וכך נוצרה לה "תכנית פיתוח הדור החדש של האינטליגנציה המלאכותית", או בשמה הקליט יותר:  AI 2030.

כמיטב המסורת של התוכניות האסטרטגיות מבית היוצר של הממשל הסיני – מדובר בתוכנית מקיפה ומפורטת, שנועדה להנחות ולמקד את כל הגופים הרלוונטיים במשק הסיני על מטרות ברורות, יעדים מדידים, סקטורים מועדפים וכו'. ננסה לסכם כאן את עיקרי התוכנית ודרכי הפעולה המרכזיות, ולעמוד על היתרונות והחסרונות המרכזיים של סין בכדי להשיג את מטרותיה.

עיקרי התוכנית:

לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.

לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא: 

DETReg: Unsupervised Pretraining with Region Priors for Object Detection

פינת הסוקר:  

           המלצת קריאה ממייק: חובה לעוסקים בזיהוי אובייקטים בתמונות.

           בהירות כתיבה: גבוהה.

         רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: נדרשת היכרות עם DeTR, שיטות למידת ייצוג בצורה unsupervised וטרנספורמרים.

        יישומים פרקטיים אפשריים: pretraining של מודל לזיהוי אובייקטים בדומיינים עם כמות מועטה של דאטה מתויג.

פרטי מאמר:

      לינק למאמר: זמין להורדה.

      לינק לקוד: זמין כאן.

      פורסם בתאריך: 08.06.21, בארקיב.

      הוצג בכנס: טרם ידוע.

תחומי מאמר:

• זיהוי אובייקטים בתמונה (Object Detection)

ידע מוקדם:

• למידת ייצוג של דאטה לא מתויג (representation learning)
• Region proposals
• Detection with transformers (DETR) 
• SwaV1 (סקירה שלי בעברית), SwaV2 (סקירה של רחל שלום באנגלית)
• טרנספורמרים למשימות הראייה הממוחשבת (בפרט למשימות זיהוי אובייקטים)
• Selective Search
• אלגוריתם התאמת הזוגות ההונגרי (Hungarian bipartite matching algorithm)

מבוא: לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אנו סוקרים מאמרים חשובים בתחום ה-ML/DL, וכותבים גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמנו, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.

לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום נבחר לסקירה המאמר שנקרא:

Highly accurate protein structure prediction with AlphaFold

פינת הסוקר:

המלצת קריאה מאופיר: קריאה מרתקת, במיוחד למי שמתעניין גם בביואינפורמטיקה. כמות המשאבים שהושקעו במחקר והתוצאות שלו מסחררות. מעבר לחידושים עבור הבעיה הספציפית, מוצגות טכניקות חדשות באופן כללי.

בהירות קריאה: בינונית-גבוהה.

רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת המאמר: נדרשת היכרות עם למידה עמוקה. בנוסף, מומלצת מאוד היכרות עם מושגים ביואינפורמטיים.

יישומים פרקטיים אפשריים: מדובר בכלי החזק ביותר כיום לניבוי מבנה של חלבונים, והוא צפוי לשמש רבות לקידום מחקר החלבונים בעולם, בין אם למדע בסיסי ובין אם לתחומים כמו הנדסת חלבונים. בנוגע לשימושים מסחריים – DeepMind שחררה את המודל והמשקולות, אך השימוש במשקולות אסור לשימוש מסחרי.

פרטי מאמר:

לינק למאמר: זמין כאן 

לינק לקוד: זמין להורדה 

פורסם בתאריך: 15/07/2021

הוצג בכתב העת: Nature

תחומי מאמר:

• ניבוי מבנה תלת מימדי של חלבונים.

כלים מתמטיים, טכניקות, מושגים וסימונים:

• רשתות נוירונים גרפיות (GNNs).
• Attention.
• Skip-connections.

מבוא והסבר כללי על תחום המאמר: לכתבה המלאה >>

לקראת כנס ה-AutoML הראשון שלנו, רצינו להכיר את השותפים שלנו לאירוע קצת יותר טוב ולהבין מה הם חושבים על העתיד של טכנולוגיית ה-AutoML. בכתבה הבאה נזכה לשמוע על הפעילות של Pecan.AI מצמד המייסדים שלה, ד"ר זוהר ברונפמן, המנכ"ל, ומד"ר נועם ברזיס, סמנכ"ל טכנולוגיות בחברה, שיחלקו איתנו תובנות מעניינות על הצמיחה של התחום. לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.

לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא: 

Alias-Free Generative Adversarial Networks

פינת הסוקר:  

           המלצת קריאה ממייק: חובה לעוסקים במודלים גנרטיביים של הראייה הממוחשבת, לכל האחרים מומלץ מאוד.

           בהירות כתיבה:  גבוהה מינוס.

          רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: היכרות עם עקרונות של GAN-ים, הבנה של טכניקות דגימה (downsampling, upsampling) ושחזור אות רציף מדגימותיו (משפט דגימה של נייקוויסט, נוסחת שנון-וויטקר).

        יישומים פרקטיים אפשריים: יצירה של תמונות equivariant להזזה ולסיבוב ממרחב לטנטי של GAN.

פרטי מאמר:

      לינק למאמר: זמין להורדה.

      לינק לקוד: הגיט אומר שיצא בספטמבר.

      פורסם בתאריך: 23.06.21, בארקיב.

      הוצג בכנס: טרם ידוע.

תחומי מאמר:

• גאנים
• מניעת פיקסלים ״קפואים״ (דבוקים) למקום בתמונות מגונרטות.
• הקטנה של aliasing בתמונות המגונרטות באמצעות גאנים.

כלים מתמטיים, מושגים וסימונים:

• StyleGAN2
• Translation/rotation equivariance
• התמרת פוריה (Fourier transform)
• Aliasing
• נוסחת אינטרפולציה של Whittaker–Shannon
• מסננים לשחזור אות רציף מדגימותיו (sinc, jinc, מסנן קייזר)
  

  ---

מבוא: לכתבה המלאה >>

אני שמח להזמין אתכם לאירוע השני שלנו בסדרת ML Advanced Methods שנעשים בשיתוף עם Mobileye. בכל אירוע מסוג זה, נסקור מספר עבודות בנושאים מתקדמים בתחום ה-ML ונציג פרקטיקות נפוצות לשימוש במודלים שונים. הפעם יש לנו שני דוברים שידברו על נושאים מרתקים במיוחד בתחום הראייה הממוחשבת -פרטים נוספים בהמשך הכתבה. האירוע יתקיים ב-21.7 בשעה 18:00.

לכתבה המלאה >>

כפי שהובטח, אנו מארגנים גרסה מקומית של כנס ACLi בו יציגו דוברים ישראליים את העבודות אותן הם יציגו בכנס ACL עצמו. השנה, לאור בקשות מהקהל החלטנו לשלב באירוע גם דוברים שהתקבלו ל-NAACL, ועל כן מדובר באירוע משולב.

נתחיל ונציין שאין קשר רשמי לכנסי ACL ו-NAACL העולמיים וכי מדובר על יוזמה קהילתית מקומית שמטרתה לאפשר לחוקרים ישראליים להציג את עבודותיהם בפני הקהילה שלנו. כל הרצאה באירוע תהיה בת 12 דקות ותכלול את הנושאים העיקריים במחקרים.

אנחנו שמחים לראות שמספר החוקרים הישראליים שהתקבלו לאירוע הולך וגדל, ולכן כמו באירועים מקומיים אחרים שארגנו, נפצל את האירוע לשני מועדים שונים. האירוע הראשון יתקיים בתאריך ה-25/07/2020, בשעה 13:00 עד 15:00 (להרשמה לחצו כאן) והאירוע השני יתקיים בתאריך ה-26/07/2020, בשעה 13:00 עד 15:00 (להרשמה לחצו כאן).

תודה רבה לספונסרים שלנו שמלווים את האירוע ויקחו בו חלק: Taboola.

כמו תמיד, מצגות הדוברים וההקלטה של האירוע יהיו זמינים כאן, בערוץ הטלגרם ובערוץ היוטיוב שלנו. הם גם ישלחו בצורה מסודרת למנויים על הניוזלטר, אז אם טרם נרשמתם זו ההזדמנות.

לכתבה המלאה >>