סיכום GTC 2023 – הכנס השנתי של Nvidia

כמידי שנה ערכה השבוע אנבידיה את הכנס השנתי שלה – GTC וכמו כמעט בכל שנה אחרת, גם השנה ההכרזות היו מעניינות במיוחד.

הם בכל זאת היצרנים של כל החומרה בעולם ללמידת מכונה..

ההכרזות הרלוונטיות ביותר הן של ה-GPU החדשים לתחנות עבודה והמחשבים הניידים, אותם הרכיבים מצטרפים ל-RTX 6000 הקיים, שוחררו בנוסף גם RTX4000 בתצורה קטנה וגם חמישה GPUs ניידים חדשים המציעים רמות שונות של ביצועים וצריכת חשמל.

צעד מצוין לכיוון זכרון GPU רב! חשוב ביותר בעידן מודלי הענק!

ה GPUs ניידים חדשים

הכל טוב ויפה כשמריצים מודלים לאימונים ארוכים על שרתים חזקים אבל בזמן הפיתוח חומרה מקומית חזקה מאיצה את העבודה בסדרי גודל.

אנבידיה חשפו אפשרויות חדשות לניידים הכוללות שיפורי ביצועים העולים על רמת החומרה החזקה ביותר מהדור הקודם.

ה-2000 Ada החדש מהיר כמו ה-A3000 הקודם, וה-4000 Ada החדש עולה על ה-A5500 מהדור הקודם.ושבב ה-RTX 5000 Ada הנייד החדש אפילו מגיע עם 9728 CUDA Cores. (המציעים כוח חישוב של: 42 טרהפלופס).

רק כדי לקבל סדר גודל: כוח המחשוב של שבב נייד (!!) זה אמור להתעלות על ביצועי A6000 או GeForce 3090Ti השולחניים! אם זה נכון, זה מרשים.

חיי סוללה.. חחח..

ה GPUs השולחניים החדשים

ה-RTX 4000 החדש בתצורה הקטנה (Ada) עוקף את ביצועי הA4000 מהדור הקודם ומגיע עם יותר זכרון (20GB) ומתאים וכל זה ב-75 וואט ובתצורה קטנה.

כל זה זה מאפשר להתקין אותו במחשבים בתצורה קטנה (מארזים קטנים), או בשרתי 2U דחוסים שאין בהם מספיק מקום לחומרה החדשה (והענקית) מהדור הקודם.

כן, אני מסכים.. השמות של הרכיבים החדשים רק הולכים וממשיכים להיות מבלבלים..

הGPUs לשרתים

ישנן גם הכרזות חדשות המיועדות למחשוב-על וחוות שרתים.

הכרזה מעניינת המשלבת את ארכיטקטורת Hopper החדשה (המותקנת בדרך כלל בלוחות יעודיים (SXM) המכילים 8 רכיבים) עם ה-Grace Chip שהוכרז בעבר כמעבד החדש מבוסס ARM.

הם מציעים את השבבים הללו כלוחות משולבים המכילים שני מעבדים או כשבב סופר Grace-Hopper משולב בו ישנו ממשק אחד משותף זיכרון בין המעבד וה-GPU. (מעבדי Apple Silicon החדשים משתמשים באותה גישת זיכרון משותף).

הGPUs ל"שרתים"

הוכרזו גם שני כרטיסי PCIe חדשים.

• ה L4 – היורש של T4 מהדור הקודם

מדובר ביורש של ה-T4, כלומר הוא כרטיס בעל פרופיל נמוך שאינו דורש חיבור חשמל חיצוני. הכרטיס החדש כולל כעת תמיכה גם ב-AV1.

• ה H100 – NVL

הושקו כרטיסי PCiE בארכיטקטורה החדשה: H100 NVL מבוסס ארכיטקטורת הופר והמציע זיכרון של 94GB.

הכרטיס מציע חיבור בזוגות NVLink מהיר במיוחד המאפשר ביצועי שיא גבוהים במיוחד ביחס לדור הקודם.

על פי אנבידיה, בשילוב ארבעה כרטיסי H100 NVL החדשים מתקבל כוח חישוב העולה על עשרה כרטיסי H100 מהדור הקודם.

בינה מלאכותית גנרטיבית

איך אפשר שלא לדבר על בינה מלאכותית גנרטיבית?

אנבידיה הציגה כמה מוצרי תוכנה חדשים בעולם יצירת התוכן, אותם המוצרים זמינית כעת למפתחים ומציעים יצירת תמונות סרטונים או אובייקטים תלת מימדיים מטקסט.

בעתיד הקרוב מאוד נגיע לנקודה שבה לא נוכל לסמוך יותר על לשום דבר באינטרנט, כל תמונה או סרטון שאנו רואים יכול להיות מיוצר על ידי מכונה..

בעצם.. העתיד == לפני יומיים: כבר השבוע התקשורת העולמית פרסמה תמונות מ"מעצר טראמפ" שסתם נוצרו במידג'רני..