ארכיון כתבות עבור יוני, 2021

סקירה זו היא חלק מפינה קבועה בה אנו סוקרים מאמרים חשובים בתחום ה-ML/DL, וכותבים גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמנו, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.


לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום נבחר לסקירה המאמר שנקרא:

DeeperGCN: All You Need to Train Deeper GCNs


פינת הסוקר:

    המלצת קריאה מאופיר: לכל המתעניינים ברשתות נוירונים גרפיות, גם אם לא תחום העיסוק העיקרי שלהם – יתכן והמאמר יהיה שימושי גם לתחום הבעיה שלהם

    בהירות קריאה: גבוהה

    רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת המאמר: היכרות עם מושגי יסוד של DL, המאמר כולל מיני-סקירה על GNNs

    יישומים פרקטיים אפשריים: הטכניקות המוצגות במאמר מאפשרות שיפור והעמקה של רשתות נוירונים גרפיות באופן כללי, ואינן מוגבלות לארכיטקטורה ספציפית


פרטי מאמר:

    לינק למאמר: זמין להורדה.

    לינק לקוד: זמין להורדה.

    פורסם בתאריך: 13/6/20, בארקיב.

    הוצג בכנס: גרסה מוקדמת של המאמר הוצגה בעל פה ב-ICCV2019.


תחומי מאמר:

  • רשתות נוירונים גרפיות (GNNs)

כלים מתמטיים, טכניקות, מושגים וסימונים

  • פונקציות אגרגציה (Aggregation functions)
  • קשרים שיוריים (Residual connections)
  • נורמליזציית הודעה (Message normalization)

קישורים להסברים טובים על מושגי יסוד במאמר:

מבוא והסבר כללי על תחום המאמר: לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.


לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא:

Unsupervised Discovery of Interpretable Directions in the GAN Latent Space


פינת הסוקר:        

       המלצת קריאה ממייק: מומלץ לעוסקים ב-GANs לשאר רק אם יש זמן פנוי.

       בהירות כתיבה: גבוהה.

       רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: היכרות עם עקרונות של GANs מספיקה.

      יישומים פרקטיים אפשריים: מציאת כיוונים במרחב הלטנטי הגורמים לשינוי של מאפיין ויזואלי בודד של התמונה המגונרטת.


פרטי מאמר:

      לינק למאמר: זמין כאן

      לינק לקוד: זמין כאן

      פורסם בתאריך: 24.06.2020, בארקיב

      הוצג בכנס: ICML 2020


תחום מאמר:

  • GANs 
  • חקר של המרחב הלטנטי של GANs

כלים מתמטיים, מושגים וסימונים:

  • וקטור (כיוון) בר פירוש (interpretable direction).

תמצית מאמר:  לכתבה המלאה >>

הכתבה בשיתוף Y-Data

בזמן שתעשיית הדאטה בישראל רק הולכת ומתפתחת, יותר ויותר אנשים מחפשים את כרטיס הכניסה לתחום. קורסים והכשרות הם התשובה של רבים לכך, ואחד הקורסים שהצליחו לצבור לעצמם שם בקהילה שלנו הוא התכנית של Y-DATA, אותה אנו מלווים זו השנה השלישית. ההרשמה לקורס פתוחה עד התאריך 10.8.2021 וגם הפעם יש לנו קוד הנחה המקנה לכם 1000 ש"ח הנחה- ML2021. ניתן להשיג מידע נוסף ולהירשם דרך הלינק הזה.

למי שלא מכיר, Y-DATA מבית יאנדקס (Yandex) היא תכנית להכשרת מדעני נתונים, שפונה למי שיש להם ניסיון משמעותי בתכנות ורקע אקדמי רלוונטי המבקשים לעשות הסבה לתחום. המחזור השלישי של התכנית מתקרב לסיום, ובאוקטובר הקרוב יפתח המחזור הרביעי שיכלול כ-50 סטודנטים, שירכשו כלים ויכולות שיאפשרו להם להשתלב בתעשייה עם סיום ההכשרה (ולעתים, אפילו במהלכה). השנה, התכנית אף מפעילה אקסלרטור קריירה שמלווה את הסטודנטים בתהליך חיפוש העבודה ומקנה להם כלים לייעול התהליך.

אחרי שנה כה מטלטלת, רצינו לבדוק מקרוב איך הצליחו החבר'ה ב-Y-DATA להתמודד עם השלכות הקורונה, איך התפתחה התכנית שלהם לאורך השנים ולמה החליטו שלא להמשיך רק בלמידה מרחוק. מעבר לכך, חשוב היה לנו לשמוע מה חושבים הבוגרים של התכנית עליה, וכיצד היא תרמה להם.

הראיון הבא עם קוסטיה קילימניק, מנהל תוכנית Y-DATA בישראל, ישפוך קצת אור על הנושא. לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.


לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא

Contrastive Learning Of Medical Visual Representations From Paired Images And Text


פינת הסוקר:        

       המלצת קריאה ממייק: חובה לעוסקים בתחום של צילום רפואי, לאחרים מומלץ מאוד.

       בהירות כתיבה: גבוהה.

       רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: היכרות עם טכניקות בסיסיות של למידת ייצוג (representation learning) .

      יישומים פרקטיים אפשריים: שיפור איכות של pretraining של רשתות על דאטה מהדומיין הרפואי.


פרטי מאמר:

      לינק למאמר: זמין כאן

      לינק לקוד: לא רשמי 1, לא רשמי 2

      פורסם בתאריך: 02.10.2020, בארקיב

      הוצג בכנס: ICLR 2021


תחום מאמר:

  •  למידת ייצוג (representation learning) לצילומים רפואיים

כלים מתמטיים, מושגים וסימונים:

  • Noise Contrastive Estimation – NCE
  • Contrastive VIsual Representation Learning from Text – ConVIRT

תמצית מאמר:  לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה של סקירת מאמרים חשובים בתחום ה-ML/DL, בהם מוצגת בעברית גרסה פשוטה וברורה של מאמרים נבחרים. במידה ותרצו לקרוא את המאמרים הנוספים שסוכמו, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.


לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקור מאמר שאני שותף בכתיבה שלו, יחד עם שותפים מ-SIRC – Samsung Israel R&D Center:

Layer Folding: Neural Network Depth Reduction using Activation Linearization

מאת: Amir Ben Dror, Niv Zehngut, Avraham Raviv, Evgeny Artyomov, Ran Vitek, Roy Jevnisek.


פינת הסוקר:

    המלצת קריאה: מומלץ מאוד לכל מי שמתעסק ברשתות נוירונים מיועדות למכשירי קצה (מובייל, IoT וכדו').

    בהירות כתיבה: גבוהה.

    רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: נדרשת היכרות בסיסית עם רשתות קונבלוציה. המאמר קל להבנה וכמעט לא מכיל נוסחאות מתמטיות.

    יישומים פרקטיים אפשריים: יצירת רשתות פחות עמוקות המקנות שיפור ב-inference time וצריכת סוללה כמעט ללא פגיעה בדיוק הרשתות.


פרטי מאמר:

    לינק למאמר: זמין כאן

    לינק לקוד: זמין כאן (PyTorch)

    פורסם בתאריך: 17.06.21, בארקיב


רקע ותמצית המאמר: לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.


לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא:

Gradient Descent with Early Stopping is Provably Robust to Label Noise for Overparameterized Neural Networks 


פינת הסוקר:        

       המלצת קריאה ממייק: חובה לאלו שרוצים להבין את התהליכים המתרחשים במהלך אימון של רשתות נוירונים, לשאר מומלץ לעבור על המסקנות בלבד.

       בהירות כתיבה: בינונית.

       רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: הבנה עמוקה בחדוו"א מתקדם ובתורת האופטימיזציה.

      יישומים פרקטיים אפשריים: מאמר תיאורטי שעשוי לעזור לשפר את תהליכי האימון של רשתות נוירונים.


פרטי מאמר:

      לינק למאמר: זמין כאן

      לינק לקוד: זמין כאן

      פורסם בתאריך: 03.07.2019, בארקיב

      הוצג בכנס: ICML2019


תחום מאמר: 

  • חקר שיטות אופטימיזציה לאימון של רשתות נוירונים

כלים מתמטיים, מושגים וסימונים:

  • Gradient Descent – GD
  • מטריצת קווריאנס של רשת נוירונים
  • מטריצת קרנל של רשת נוירונים

תמצית מאמר: לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.


לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא:

BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension


פינת הסוקר:        

       המלצת קריאה ממייק: חובה לאנשי NLP, במיוחד לחוקרים העוסקים במודלי שפה, מבוססי טרנספורמרים.

       בהירות כתיבה: גבוהה.

      רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: נדרשת היכרות עם מודלי שפה, המבוססים על טרנספורמרים כמו BERT ו-GPT.

      יישומים פרקטיים אפשריים: גנרוט טקסטים ברמה גבוהה יותר ובדרך פשוטה יותר מאלו של BERT.


פרטי מאמר:

      לינק למאמר: זמין כאן

      לינק לקוד: זמין כאן (בתוך פייטורץי)

      פורסם בתאריך: 29.10.19, בארקיב

      הוצג בכנס: Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics


תחומי מאמר: 

  • טרנספורמרים
  • denoising autoencoder
  • מודלים גנרטיביים

תמצית מאמר:  לכתבה המלאה >>

Hebrew version

English version

كما في السّنوات السَابقة، هذه السَنة أيضًا أجرينا الاستطلاع السّنوي لمجتمع MDLI، بهدف رسم تخطيط للاتجاهات المختلفة عند العاملين في مجال الـ Data Science والـ Machine Learning. لقد قام عدد كبير من المجيبين والمجيبات بتعبئة استطلاعنا السنوي- 1,250 شخصًا – انجاز عظيم بكل المقاييس. قام عمري غولدشتين، مُطور خوارزميات، عالِم معطيات وصاحب المدونة "قائم على المعطيات"، بتحليل معطيات الاستطلاع. من خلالها قُمنا بإنتاج تقرير الأجور لمجتمع MDLI لعام 2021، وإلى جانب ذلك قُمنا بتطوير حاسبة الأجر مخصصة لمهن المعلوماتية (داتا) في البلاد.

في الأسابيع القربية سوف نُضيف إلى الموقع عددًا من التقارير الإضافية والتي ستتضمن نتائج الاستطلاع، من بينها: كيف تم بناء حاسبة الأجور الجديدة، وضع فجوات الأجور بين الجنسين في السّوق وتحليل الوظائف المختلفة ومجالات المسؤولية التي تُرافقها. تقرير الأجر الكامل هو الجزء الأول من السّلسلة، وهو معروض هنا أمامكم/ن.

في التقرير التّالي سنقوم بتقسيم معطيات الأجر التي ذُكرت في الاستطلاع بحسب الوظيفة، الدراسة، المستوى الاداري، الجنس وغيرها. عندما نحلل تأثير الإجابات المختلفة على الأجر، نحن بالتأكيد معرّضون لتأثيرات مُتغيرات مُتداخلة. على سبيل المثال، متوسط الأجر في الاستطلاع كان 38,500 شاقل شهريًا للعاملين في تل أبيب، مقابل 26,700 شاقل شهري بالمتوسط في القدس. هذه المعطيات قد تكون عملية لكل من يفكر بالانتقال من العاصمة إلى تل أبيب أو العكس، لكن بالتأكيد لا يمكن توقع قفزة في الأجر بقيمة 12,000 شاقل فقط اعتمادًا على تغيير مكان الإقامة. هل عروض العمل مختلفة في تل أبيب؟ أو متوسط مستوى الدراسة؟ لا حدّ للتداخلات التي يمكننا القيام بها وللعلاقات السّببية التي يمكن البحث عنها. في هذا التقرير سوف نستكفي بالتداخلات حول متغيرين أو ثلاثة في كل مرة ولن نعرض فقط متوسط كل فئة، بل أيضًا مقاييس إحصائية أخرى والتي قد علمتنا عن التوزيع كله.

ملاحظة: بسبب حرصنا الشديد على خصوصية المجيبين (وعلى قدرة شمولية الاستنتاجات) لن يتم عرض أي معلومة وسيتم تجميع المعطيات لـكل 10 عينات على الأقل.

حاسبة الأجر

قبل أن نبدأ، مثلما ذكرنا، في هذه السّنة سوف نقدم لأول مرة حاسبة الأجر لمجتمع MDLI التي تعتمد على نتائج الاستطلاع. محاولة إيجاد معلومات عن الأجر في مجال الهايتك تنتهي في معظم الأحيان بجداول أجور في شركات التوظيف المختلفة. هذه الجداول عملية، لكنها لا تتمتع بالشّفافية إطلاقًا – كيف تم حساب الأجور؟ ما هو حجم العينة وما هي المدة زمنية تم قياسها خلالها؟ ما هو مفهوم المجال؟ إلخ.  تمكننا معطياتنا من بناء جدول أجور بديل في الشكل المقبول، وعن طريق حاسبة الأجور تستطيعون أن تحصلوا أيضًا على المجال التي تتواجد فيه 50% من العينات (أو أين يتوقع النموذج أن تتواجد 50% من العينات) وليس فقط التوقعات المتوسطة. ندعوكم لتجربة الحاسبة عبر الرّابط التالي.

לכתבה המלאה >>

Hebrew version

Arabic version

As in previous years, this year we ran the MDLI community’s annual survey, so as to map various trends among those who work in the data science and machine learning fields. This year, an exceptional number of respondents completed our annual survey – 1,250 people – a respectable achievement by all counts. Omri Goldstein, an algorithm developer, data scientist, and creator of the “Data-driven” blog analyzed the survey’s findings. We used his analysis to generate the MDLI community’s 2021 annual payroll report. We also developed a dedicated salary calculator for data professionals in Israel.

In the coming weeks, several additional reports highlighting the survey’s results will be uploaded to the website. They will cover topics such as the following: how we built our new salary calculator, the status of gender pay gaps in the market, and the analysis of various roles and their associated responsibilities. The full payroll report is the first publication on the matter to be released, and it can be viewed, in its entirety, below.

In this report, we will segment the salary data according to position, education, seniority, age, experience, gender, and other metrics. When analyzing the influence of various responses on the salary, we are, of course, exposed to the influence of intervening variables. For example, the average salary mentioned in the survey was 38,500 NIS per month for those working in Tel Aviv, as opposed to 26,600 NIS per month for those working in Jerusalem. These findings are likely to be useful to people considering a move from the capital to Tel Aviv (or vice versa. That being said, one cannot expect a roughly 12,000 NIS salary jump based on relocation alone. Perhaps the available positions are different in Tel Aviv (variety and quantity)? Or, maybe the average education level is the cause? There is no end to lines that can be drawn and the environmental links that can be identified. In this report, we will rely on intersections between 2-3 variables at a time and will present the average salary, as well as other statistical metrics for each category. This, so as to learn as much as possible about the distribution as a whole.

Note: No singular data points will be presented, so as to fastidiously protect the privacy of each and every respondent (and our ability to learn from the conclusions). Data presented will always be an aggregation of at least 10 samples.

The Salary Calculator

Before we get started, we’d like to circle back to the MDLI community’s new salary calculator, which we will be launching for the first time this year, based on insights from the survey. Attempts to find salary information on high-tech professions generally lead to various recruitment company’s salary charts. These charts are useful, but are in no way transparent; how are the salaries calculated? What is the sample size and how long was the sample studied? What is the significance of the range? The questions go on. Our findings enabled us to build an alternative salary chart in the accepted format, and our salary calculator will allow you to view the range within which 50% of the sample respondents earn (or where the model predicts 50% of the respondents will be); not just the average forecast. You can try our calculator out here.

לכתבה המלאה >>

סקירה זו היא חלק מפינה קבועה בה אני סוקר מאמרים חשובים בתחום ה-ML/DL, וכותב גרסה פשוטה וברורה יותר שלהם בעברית. במידה ותרצו לקרוא את המאמרים הנוספים שסיכמתי, אתם מוזמנים לבדוק את העמוד שמרכז אותם תחת השם deepnightlearners.


לילה טוב חברים, היום אנחנו שוב בפינתנו deepnightlearners עם סקירה של מאמר בתחום הלמידה העמוקה. היום בחרתי לסקירה את המאמר שנקרא:

Geometric Dataset Distances via Optimal Transport


פינת הסוקר:        

       המלצת קריאה ממייק: חובה למתעניינים בשיטות של domain adaptation.

       בהירות כתיבה: בינונית.

      רמת היכרות עם כלים מתמטיים וטכניקות של ML/DL הנדרשים להבנת מאמר: נדרשת היכרות בסיסית עם שיטות domain adaptation והבנה טובה בכל מה שקשור לטרנספורט האופטימלי.

      יישומים פרקטיים אפשריים: מציאת זוגות של דאטהסטים ״נוחים״ לביצוע domain adaptation של מודלים ביניהם.


פרטי מאמר:

      לינק למאמר: זמין להורדה

      לינק לקוד: לא נמצא בארקיב

      פורסם בתאריך: 07.02.20, בארקיב

      הוצג בכנס: NeurIPS2020


תחום מאמר:

  • אדפטציה בין דומיינים (domain adaptation)
  • חקר של דמיון בין דאטהסטים
  • transfer learning 

כלים ומושגים מתמטיים במאמר:


תמצית מאמר:  לכתבה המלאה >>

X