כתבות עם התגית אמזון

הקורונה שינתה לא מעט מהמציאות אותה אנו מכירים: מסעדות נסגרו, פארקים ננעלו, לימודים בוטלו ושוק העבודה השתנה מן הקצה לקצה. בעוד שרבים מהדברים חזרו לתלם בהדרגה, שוק העבודה ככל הנראה לא יחזור לקדמותו בעתיד הנראה לעין.

בין אם יש להן ברירה או לא, חברות רבות במשק שמות דגש רב על צמצום כוח אדם, תכנון מחדש ועל הדבר החשוב ביותר כעת: התייעלות. אין מקום לטעויות, כולם צריכים להיות חדים כדי לאפשר לחברה להמשיך לתפקד. אם זה לא מספיק, בעקבות הקיצוצים צריך לעשות את אותה כמות עבודה שבעבר הייתה תחת אחריות של כמה אנשים. לא קשה להבין שיהיה מאוד קשה למגזר העסקי, וגם הציבורי, לשמור על רמות תפקוד גבוהה כל כך בכלים הקיימים העומדים לרשותו. ומי כאן כדי לעזור למין האנושי אם לא הבינה המלאכותית?

חשוב להבהיר: לא מדובר על טור דעה בשבחי הבינה המלאכותית ועד כמה היא עתידה לשנות את חיינו ולהיטיב איתם. את הטיעונים הללו נשמור לימי שגרה בהם לעולם יש פנאי להתעסק בשיפור אורח חייו ולא בהישרדות. הטור הנוכחי מתייחס לצד הפחות "סקסי" של בינה מלאכותית ויעסוק בחשיבות שילובה באחורי הקלעים של הארגון, ולא בהכרח בחזית המוצר או השירות של חברה זו או אחרת. אנחנו לא מדברים כבר על פיתוחים כמו רכב אוטונומי או רובוט משוכלל, אלא על הפעולות הבסיסיות ביותר שקורות בארגון ואותן הבינה המלאכותית יכולה לבצע. המטרה הסופית היא להשתמש בבינה מלאכותית כדי להוריד את העומס מהעובדים, או כמו שאני אוהב להסתכל על כך – לשפר את הנצילות שלהם.

לכתבה המלאה >>

בתקופה האחרונה אנחנו שומעים לא מעט על תחום ה-DeepFake ועל יכולתם של אלגורתמים מסוימים לזייף קטעי וידאו ברמת דיוק גבוהה למדי, ולמעשה ליצור תוכן שלא הוסרט מעולם. תוסיפו לכך את העובדה ש"חסמי הכניסה" ירדו באופן משמעותי (היום לא צריך צוות של חוקרים מומחים ועלויות הפיתוח זניחות יחסית) ותקבלו קרקע פוריה ללא מעט זיופים.

ההתקדמות הטכנולוגית הזו גרמה ללא מעט גופים וחברות ברחבי העולם להבין כי חוקי המשחק השתנו. כל אותם גופים הבינו כי עליהם למצוא פתרונות טכנולוגיים שיוכלו לסייע להם בתהליך אימות המידע שמגיע אליהם – משימה קשה הרבה יותר מאשר "רק" ליצור את התוכן המזויף. לכתבה המלאה >>

בשנים האחרונות אנו עדים לשיפור הניכר שהשיגו אלגוריתמים לומדים בלא מעט תחומים. אלגוריתמים אלו, כדי שבאמת יספקו תוצאות מרשימות, מצריכים כוח עיבוד רציני ומחייבים את העוסקים בנושא להרכיב מערכות מחשוב מתקדמות מאוד. מאחר ומדובר על נושא מורכב למדי, החלטתי לכתוב את המדריך הבא שיסייע לכם לבחור את הרכיבים המתאימים ביותר לצרכים שלכם. חשוב לי להדגיש כי ניתן להעניק מענה לסוגיה זו בכמה אופנים ומדריך זה יכסה זווית אחת בלבד.

מי אני?

אני ניר בן-צבי, חוקר deep learning וחובב חומרה עוד מהימים הזוהרים בהם הייתי מפרק ומרכיב מחשבים בזמן שחברים שיחקו כדורסל (גם את זה ניסיתי, חזרתי לחומרה די מהר). בשנים האחרונות יצא לי לייעץ לא מעט בנושא לחברים בכל מיני ארגונים, וזה הוביל להחלטה לרכז את מעט הידע שצברתי למדריך שמולכם.

הערה לגבי עדכון המדריך

בחלקים מסוימים במדריך בחרתי לציין אם החלק הרלוונטי מעודכן או לא. המדריך כולו עבר עדכון בינואר 2020, אבל הגרסה המקורית שלו בת למעלה משנתיים. זה די מדהים כמה שדברים מסוימים לא משתנים במיוחד. למשל, בין נובמבר 2018 לינואר 2020, Nvidia לא עדכנה את המאיצים הגרפיים שלה – לא את אלו המיועדים ל-Data Centers (סדרת Tesla) ולא את אלו המיועדים למשתמשים פרטיים (סדרת GeForce). אינטל, מנגד, הספיקה לרענן את המעבדים שלה פעם-וחצי. המהפכה שהיה ניתן לצפות לה עם הדור האחרון של המעבדים של AMD לא קרתה כלל.

אז למה שהמדריך הזה יישאר רלוונטי בכלל בעתיד? קודם כל, אני משתדל לעדכן אותו כשעולה צורך. אעשה זאת בהחלט כשייצא דור חדש של Nvidia. בנוסף, השתדלתי ברענון האחרון להוריד מהמדריך את החלקים שהיו ספציפיים-מדי לדור מסוים של רכיב חומרה. לדוגמא, אינטל מעדכנים את המעבדים שלהם כל הזמן, אבל אני לא בטוח שסדרה 10 שאמורה לצאת השנה תביא בשורה מיוחדת לעוסקים ב-deep learning על GPUs.

עוד הערה חשובה – הנושא של ״מחשב ל-Deep learning״ הרבה יותר מוכר ומובן היום בשוק העולמי והמקומי, יש הרבה יותר מידע זמין באינטרנט ובניגוד ללפני שנה-שנתיים רכישת מחשב מורכב נהיה דבר מעט יותר משתלם. 

הדור הבא של Nvidia כבר הוכרז וייקרא Ampere, ע״ש אנדרה מרי אמפר, מאבות המחקר בחשמל ומגנטיות של חומרים. אין תאריך מדויק להכרזה, ואם לשפוט לפי העבר Nvidia יתחילו ברכיבי סדרת Tesla, וכרטיסי ה-GeForce לבני תמותה כמונו יצאו רק הרבה חודשים לאחר מכן.

כמה מילים לגבי מחשבים ניידים

המדריך הזה לא מיועד לבחירת מחשבים ניידים לאימון מודלים, ודעתו של הכותב היא שאין כזה דבר יותר. בעבר היה הגיון מסוים ברכישת מחשב נייד (בעיקר מחשבים המיועדים לגיימרים) עם כרטיס מסך חזק שמסוגל להתמודד עם טעינה של מודלים מורכבים יחסית. המצב היום הוא שהארכיטקטורות המודרניות כל כך ״כבדות״ מבחינת משאבי חישוב דרושים (בעיקר GPU memory) שאני לא רואה הגיון ברכישת מחשב כזה. גם מחשבי הגיימינג החזקים ביותר – כאלו שאי אפשר לקרוא להם ״ניידים״ בשום צורה (והם נקראים בצדק DTR – Desktop Replacement) – יכולים במקרה הטוב להריץ מודלים כאלה על Minibatches קטנים ולא ייאפשרו אימון, אפילו לא fine-tune על דאטאסט קטן. אציין שוב (1) שזו דעתי ו-(2) שההיכרות שלי היא עם עולם הראייה הממוחשבת ועד כמה שאני יודע בתחומים אחרים שעושים שימוש ב-Deep learning אפשר בהחלט להסתפק ב-GPU memory צנוע לצרכי לימוד. בעידן בו גוגל מספקים T4 ו-P100 בחינם על בסיס Colab, אני לא רואה סיבה להשקיע במחשב חזק ויקר. כמובן שעדיין כדאי מאוד להשקיע במחשב חזק, עם די זיכרון (16 זה הסטנדרט) וליבות. 

ומה עם כרטיסי מסך ניידים?

אני מודה שאני לא מכיר מספיק את העולם הזה, ולא ראיתי כרטיסים כאלה בשימוש נרחב שאינו לגיימינג. בסופו של דבר עדין מדובר בכרטיס מסך בודד, שכנראה לא יהיה חזק מספיק בשביל שימושים רציניים (כל דבר שאינו משחקים לצרכי לימוד עצמי). 

אתחיל מלחלק את האפשרויות הקיימות בפנינו לארבע קטגוריות עיקריות:

מה במדריך?

  1. מחשב שולחני פשוט יחסית עם כרטיס גרפי בודד.
  2. מחשב הזהה למחשב מס׳ 1, הנבדל ממנו בכך שיש לו שני כרטיסים גרפיים (או הכנה לכרטיס גרפי נוסף בעתיד).
  3. מחשב לאימון ״כבד״ – כלומר, מחשב בעל ארבעה כרטיסים גרפיים ומעלה.
  4. מחשבים לאימון כבד אף יותר, כאשר 8 מאיצים גרפיים זה בד״כ המקסימום (ראו הערה בהמשך).

לכתבה המלאה >>

X