כתבות עם התגית Unsupervised Learning

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.


לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא: 

DETReg: Unsupervised Pretraining with Region Priors for Object Detection


פינת הסוקר:  

           המלצת קריאה ממייק: חובה לעוסקים בזיהוי אובייקטים בתמונות.

           בהירות כתיבה: גבוהה.

         רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: נדרשת היכרות עם DeTR, שיטות למידת ייצוג בצורה unsupervised וטרנספורמרים.

        יישומים פרקטיים אפשריים: pretraining של מודל לזיהוי אובייקטים בדומיינים עם כמות מועטה של דאטה מתויג.


פרטי מאמר:

      לינק למאמר: זמין להורדה.

      לינק לקוד: זמין כאן.

      פורסם בתאריך: 08.06.21, בארקיב.

      הוצג בכנס: טרם ידוע.


תחומי מאמר:

  • זיהוי אובייקטים בתמונה (Object Detection)

ידע מוקדם:

מבוא: לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.


לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא:

Unsupervised Learning of Visual Features by Contrasting Cluster Assignments


פינת הסוקר:  

           המלצת קריאה ממייק: חובה בטח לאוהבי למידת הייצוג.

          בהירות כתיבה: בינונית פלוס.

         רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: הבנה טובה בעקרונות הלוס המנוגד וידע טוב באופטימיזציה.

        יישומים פרקטיים אפשריים: למידה ייצוגים חזקים על דאטהסטים לא מתויגים עם תקציב חישוב מצומצם.


פרטי מאמר:

      לינק למאמר: זמין להורדה.

      לינק לקוד: זמין כאן. 

      פורסם בתאריך: 08.01.21, בארקיב.

      הוצג בכנס: NeurIPS 2020.


תחומי מאמר:

  • למידת ייצוג ללא דאטהסט מתויג (SSRL – self-supervised representation learning).
  • SSRL מבוססת על טכניקות קליסטור (Clustering for deep representation learning).

כלים מתמטיים, מושגים וסימונים:

  • מולטי-קרופ – טכניקת אוגמנטציה המבוססת על לקיחת פאטצ'ים קטנים של תמונה ברזולוציות נמוכות שונות.
  • האלגוריתם של סינקהורן קנופ (Sinkhorn-Knopp) לפתרון בעיית הטרנספורט האופטימלי למידות הסתברות דיסקרטיות.

תמצית מאמר: לכתבה המלאה >>

הכתבה נכתבה בשיתוף עם Razor Labs

מי שעוקב אחרי הפוסטים והמאמרים שאני כותב יודע עד כמה אני שם דגש רב על כל תחום הלימודים ופיתוח הקריירה. בארץ, כפי שבוודאי אתם יודעים, יש מחסור עצום באנשי ML טובים וישנן הכשרות רבות שנפתחו בשנים האחרונות שמטרתן היא לצמצם את הפער שנוצר ולשלב עוד עובדים איכותיים באקוסיסטם. כפועל יוצא מכך, החליטה חברת Razor Labs להקים את Future Learning, אקדמיית הבינה המלאכותית הראשונה בישראל, אשר מטרתה להכשיר מהנדסים מחוננים ומצטיינים לעסוק ב-Deep Learning באופן המשלב ידע תאורטי ומעשי.

למי שלא מכיר, ההכשרה של Razor Labs בתחום קיימת מזה 3 שנים ועד כה, הכשירה מעל ל-50 מהנדסים בשבעה מחזורים, כאשר כ- 85% מהם השתלבו בחברות הקבוצה (Razor & Axon) בתום הכשרתם. בנוסף לכך, במהלך השנה האחרונה זכתה האקדמיה להכרה רשמית מרשות החדשנות כגוף להכשרות מהנדסי AI, וכן זכתה כגוף המוביל להקמת מאגד מרכז הכשרות לאומי לבינה מלאכותית יחד עם חמש חברות מובילות במשק הישראלי.

מאחר ומדובר על אחת ההכשרות הרציניות והמוכרות בתחום שלנו, רציתי לחקור לעומק על התוכנית של Razor Labs כדי להבין בצורה טובה יותר מה כולל הקורס והאם הוא באמת יכול להיות מפתח כניסה לעולם ה-ML. על מנת לעשות זאת, שוחחתי עם מלקמו אלמו, מנהל Future Learning ועם מיכאל זולוטוב, ה-CTO של Razor Labs כדי שיספרו לי קצת על מאחורי הקלעים של הקורס. לפני שנתחיל, אציין כי ההרשמה לקורס פתוחה כעת עד ה-4.4 וניתן להירשם דרך הלינק הבא.

Future Learning Bootcamp לכתבה המלאה >>

X