כתבות עם התגית artificial neural networks

חברת Nvidia האמריקאית מוכרת היטב לכל מי שעוסק ב-Deep learning בעיקר הודות לכרטיסים הגרפיים המתפקדים כלב הפועם של מרבית מערכות המחשוב בתחום. כרטיסים גרפיים אלו מסייעים לחוקרים רבים להגיע לתוצאות מרשימות תוך קיצור משמעותי של זמני החישוב. ההבנה שכרטיסים גרפיים אלו חיוניים לאימון רשתות נוירונים מלאכותיות הובילה את חברת Nvidia להשקיע רבות במחקר ופיתוח סביב טכנולוגיות אלה. כפועל יוצא מכך, Nvidia שוקדת רבות על פיתוחים שיהיו מותאמים לצרכים החדשים שעולים ללקוחותיה ולאחרונה פתחה מרכז פיתוח חדש בישראל בו היא מרכזת את מאמצי החברה בתחום ה-Deep learning.

מרכז הפיתוח המקומי הוא רק הסנונית הראשונה לפעילות החברה בארץ ו-Nvidia אף עתידה לקיים את הכנס השנתי הגדול שלה, ה-GPU technology conference, בישראל. בכדי ללמוד על מרכז המחקר המקומי של החברה ועל הקשר ההדוק המתפתח בין Nvidia לישראל קיימתי ראיון עם אבי שפירא, מנהל מרכז המחקר והפיתוח של Nvidia בישראל, אשר סיפר לנו על הדרך שהחברה עברה, על עתידו של מרכז הפיתוח הישראלי ועל הכנס הגדול שמארגנת החברה בישראל.

מרכז הפיתוח המקומי

מרכז הפיתוח הישראלי של Nvidia נפתח בחודש ספטמבר 2016 וכעת מעסיק 20 עובדים שעוסקים בשיפור מוצרי החברה עבור משימות הקשורות לאימון אלגוריתמים לומדים. שפירא ציין כי המרכז הישראלי הוא חלק משמעותי ממאמצי הפיתוח של Nvidia העולמית וכי למרכז מספר תחומי אחריות מרכזיים. "המרכז של Nvidia בישראל הינו חלק מקבוצת הפיתוח העולמית של Nvidia ומתמקד במוצרי הליבה של החברה בדגש על חבילות תוכנה (SDK) וכלי פיתוח Debugger, Profiler וכו'. הכלים מאפשרים ללקוחות שלנו להאיץ את בניית המוצרים שלהם במגוון תחומים כדוגמת רכבים אוטונומיים, רחפנים ורובוטים המשלבים טכנולוגיות של בינה מלאכותית ולמידה עמוקה. כמו כן אנחנו ממשיכים להרחיב ולבנות צוותי פיתוח המשולבים עם הטאלנט המקומי."

לא לחינם בחר שפירא להתייחס בסוף דבריו ל-"הטאלנט המקומי" והוא הרבה לציין זאת גם בהמשך. מרכז הפיתוח של החברה עתיד, על פי תכניות החברה, לגדול באופן משמעותי בתקופה הקרובה ולגייס לשורותיו חוקרים ומפתחים רבים שיסייעו לחברה להגיע ליעדיה. שפירא אף מחדד ומדגיש כי הם מחפשים מומחים בתחומי הלמידה העמוקה שהיא לב ליבו של מרכז הפיתוח: "אנו צופים גידול בסניף המקומי של עשרות אנשים וממשיכים לחפש טאלנטים בתחומי ה-Deep Learning לצרף לשורותינו".  גורם משמעותי נוסף ששותף לחזון זה הוא ג'ף הרבסט, סגן נשיא לפיתוח עסקי בחברה, אשר ביקר בתחילת החודש בישראל וציין כי "Nvidia מעוניינת לגיוס כ–50 איש בשנה הקרובה למרכז הפיתוח". לכתבה המלאה >>

מדריך זה נכתב על ידי ג'ף מוסקוביץ

לפני מספר ימים כתבתי פוסט בקבוצת הפייסבוק Machine & Deep Learning Israel שעסק במספר פרויקטים שעשיתי לאחרונה. בסוף הפוסט הצעתי, בדרך אגב, עזרה לכל מי שמעוניין לקבל המלצה על קורסים רלוונטיים או איך להתחיל להתמקצע בתחום ה-Machine learning. להפתעתי גיליתי שיש הרבה אנשים בקבוצה שמעוניינים במידע הזה אז במקום לדבר עם כולם בנפרד, אני מאגד את כל ההמלצות שלי במדריך הזה שלפניכם. לפני שאנחנו מתחילים, אני אבקש סליחה מראש על שגיאות הכתיב שלי – עברית היא לא שפת האם שלי.

הרקע שלי

נתחיל עם הבהרה קצרה על הרקע שלי, מאחר וקיבלתי הרבה שאלות בסגנון הזה:

״אבל ג׳ף, בטח יש לך דוקטורט בחילוק ארוך מתקדם או משהו ויש לי רק תואר שני בזה. איך אני אסתדר עם המתמטיקה??״

יש לי תואר ראשון בעיתונאות ועוד אחד בהיסטוריה. זהו.

״אבל זה נושא די טכני, אני עדיין יכול לעשות את הקורסים האלה אם יש לי רק תואר ראשון במדע מחשב??״

עוד פעם, יש לי תואר ראשון בעיתונאות ועוד אחד בהיסטוריה …

תירגעו. כן, זה אפשרי.

כמו שMark Twain אמר:

"Never let your schooling interfere with your education”

דרישות קדם

דרישות הקדם היחידות הן סביב כישורי המתמטיקה שלכם, אתם תצטרכו הבנה בסיסית (באמת בסיסית) בנושאים הבאים:

  1. אלגברה לינארית.
  2. חדו"א (חשבון דיפרנציאלי ואינטגרלי).
  3. הסתברות.

לכתבה המלאה >>

מדריך זה נכתב על ידי ניר בן-צבי – חוקר בתחום הראייה הממוחשבת בחברת אמזון.

בשנים האחרונות אנו עדים לשיפור הניכר שהשיגו אלגוריתמים לומדים בלא מעט תחומים. אלגוריתמים אלו, כדי שבאמת יספקו תוצאות מרשימות, מצריכים כוח עיבוד רציני ומחייבים את העוסקים בנושא להרכיב מערכות מחשוב מתקדמות מאוד. מאחר ומדובר על נושא מורכב למדי, החלטתי לכתוב את המדריך הבא שיסייע לכם לבחור את הרכיבים המתאימים ביותר לצרכים שלכם. חשוב לי להדגיש כי ניתן להעניק מענה לסוגיה זו בכמה אופנים ומדריך זה יכסה זווית אחת בלבד.

אתחיל מלחלק את האפשרויות הקיימות בפנינו לשלוש קטגוריות עיקריות:

  1. מחשב שולחני פשוט יחסית עם כרטיס גרפי בודד.
  2. מחשב הזהה למחשב מס׳ 1, הנבדל ממנו בכך שיש לו שני כרטיסים גרפיים (או הכנה לכרטיס גרפי נוסף בעתיד).
  3. מחשב לאימון ״כבד״ – כלומר, מחשב בעל ארבעה כרטיסים גרפיים ומעלה.

אתייחס תחילה לאופציה האחרונה מאחר והיא הכי פשוטה לדיון. מערכת התואמת את הדרישות של אופציה מספר שלוש עתידה לעלות כ-60 אלף שקל לערך. כאשר אנו עוסקים בסכומים בסדרי גודל שכאלה, היתרונות והחסרונות נעשים מורכבים יותר וזאת מאחר ולשימושים מסוימים אולי תהיינה עדיפות לעבוד עם מכונות EC2 בענן של Amazon. מניסיוני האישי אני יכול להעיד כי התחזוקה של מחשב מסוג זה נעה בין "לא קיימת" לבין "איבדנו מהנדס לטובת הנושא למשך יום שלם" – התנהגות שאיננה שכיחה במכונות ענן. מעל כל זאת, השיקולים הכלכליים בעד או נגד שירותי ענן שייכים לדיון אחר, ובמדריך זה נתרכז בבניית חומרה פיזית. לכתבה המלאה >>

בתאריך ה-25.4 קיימנו את המפגש השני של Machine Learning Israel Seminar אשר עסק ב-NLP. המפגש הנוכחי, וכך גם שאר המפגשים בעתיד, בנוי משתי הרצאות: אחת מטעם חוקר מהאקדמיה והשנייה מטעם גורם מהתעשייה (סטארטאפ או חברה). כפי שהבטחתי אני מצרף כאן את המצגות של שני המרצים. בהזדמנות זו אני מציע לכם להירשם לניוזלטר של הקהילה ובכך לא לפספס את ההרשמה לאירוע הבא.

הרצאה ראשונה:

שם המרצה: Roee Aharoni
חברה: Bar Ilan University's NLP Lab
תפקיד: Phd Candidate at Bar Ilan University's NLP Lab
לצפייה במצגת לחצו כאן.

תיאור ההרצאה:

 

לכתבה המלאה >>

בתאריך ה-2.3 קיימנו את המפגש הראשון של Machine Learning Israel Seminar אשר עסק ב-Computer Vision. המפגש הראשון, וכך גם שאר המפגשים בעתיד, בנוי משתי הרצאות: אחת מטעם חוקר מהאקדמיה והשנייה מטעם גורם מהתעשייה (סטארטאפ או חברה). כפי שהבטחתי אני מצרף כאן את המצגות של שני המרצים. בהזדמנות זו אני מציע לכם להירשם לניוזלטר של הקהילה ובכך לא לפספס את ההרשמה לאירוע הבא.

הרצאה ראשונה:

שם המרצה: Dotan Kaufman
חברה: Tel Aviv University, Deep Learning Lab
תפקיד: Deep Learning researcher
לצפייה במצגת לחצו כאן.

 

לכתבה המלאה >>

מידי כמה שבועות ישנה בקשה בקבוצה לקורסים מומלצים בתחום ה-Machine learning בכללי וה-Deep learning בפרט. בדיוק לשם כך החלטתי להרים את הכפפה ולהכין רשימה מסודרת של כל הקורסים המומלצים בתחום. את הרשימה הנוכחית דרגו חברי הקהילה וסדר הופעתם ברשימה נגזר מכמות המצביעים עבור כל קורס וקורס. בנוסף לכך הכנתי רשימה של ספרים מומלצים בנושא, עבור מי שרוצה להעמיק מעבר. נתחיל?

1. CS231n: Convolutional Neural Networks for Visual Recognition

הקורס הראשון שקיבל הכי הרבה נקודות והומלץ על ידי מרבית חברי הקהילה הוא: "CS231n: Convolutional Neural Networks for Visual Recognition" של אוניברסיטת סטנפורד. כפי שאתם בוודאי יכולים להבין לפי השם, הקורס עוסק בעיקר בעיבוד תמונה וזיהוי אוביקטים באמצעות רשתות נוירונים. דרישות הבסיס של הקורס הוא הכרה עם שפת התכנות פייתון, רקע באלגברה לינארית, חדו"א ולקינוח שליטה בסטטיסטיקה והסתברות.

אתר הקורס – לחצו כאן.
סילבוס וחומרי עזר – לחצו כאן.
מצגות בלבד – לחצו כאן.
וידאו – לחצו כאן. (מצורף למטה) לכתבה המלאה >>

בפוסט הקודם הסברנו בקצרה מה זה Machine Learning ופירקנו לגורמים את ההגדרה של המושג כולו. הפעם אנחנו נעסוק בנושא חשוב לא פחות שזוכה ללא מעט כותרות בתקופה האחרונה: Deep Learning. תחום מסעיר זה אחראי על מספר רב של פריצות דרך שהצליחו לחולל שינויים של ממש בכמה מהמוצרים והטכנולוגיות שאנו משתמשים בהם כיום. אז על מה כל הרעש? בכתבה הבאה.

Deep learning (למידה עמוקה) הוא תת תחום של Machine learning העושה שימוש ברשתות נוירונים מלאכותיות לשם ביצוע משימות. בסיסו של תחום זה טמון בשאיפה לחקות את הדרך בה המוח האנושי פועל ולרתום את היעילות של מבנה הנוירונים לשם התמודדות עם אתגרים חישוביים מורכבים לכתבה המלאה >>