NVIDIA, במסגרת אירוע המפתחים שלה GTC 2024, חשפה את ארכיטקטורת Blackwell שתספק סדרת מעבדים חדשה לדור הבא של מרכזי נתונים ובינה מלאכותית, ולפי החברה היא מביאה קפיצת מדרגה עצומה בעוצמת המחשוב.
ארכיטקטורת Blackwell מציעה מספר שיחליפו את H100 ו-H200. בראש הרשימה נמצא B200 המציע עד 20 פטה-פלופס (petaflops) של עוצמת חישוב באמצעות 208 מיליארד טרנזיסטורים שבתוכו. הוא תומך בעד 192 גיגה-בייט של זיכרון ברוחב פס של 8 טרה-בייט/לשנייה והספק מרבי של 1000 וואט.
בנוסף, החברה תשיק גם שבב-על חדש, Grace Blackwell GB200, שכפי ששמו מרמז, הוא יישאר עם ליבת העיבוד Grace אך יתחבר אל שני מעבדי Blackwell מעודכנים. השילוב הזה, לדברי החברה, יכול להציע פי 30 יותר ביצועים עבור חישובי מודל שפה גדול, ובמקביל יציע שיפור יעילות אנרגטית באופן משמעותי – הוא אמור להקטין את העלות וצריכת האנרגיה עד פי 25 ביחס ל-H100.
כן טוענת החברה כי אם אימון של מודל עם 1.8 טריליון משתנים היה דורש בעבר 8,000 מעבדי Hopper ו-15 מגה-וואט של חשמל, עכשיו 2,000 מעבדי Blackwell יכולים לבצע זאת תוך צריכה של 4 מגה-וואט בלבד. עבור ביצועים פשוטים יותר, כמו GPT3 עם 175 מיליארד משתנים, GB200 יציע שיפור ביצועים של עד פי 7 ביחס ל-H100, ומהירות אימון שמהירה פי ארבעה.
אמנם כל ההכרזות של NVIDIA בכנס הנוכחי מתמקדות בעיקר בתחום החישוב והבינה המלאכותית, אבל אפשר לצפות כי בסופוש של דבר היא תשיק מעבדי Blackwell גם לשימוש ביתי, אבל אלו עשויים להגיע רק ב-2025 ויהיו שונים מאוד ממעבדי מרכזי הנתונים.
מלבד זאת, החברה גם חשפה את NVIDIA Quantum-X800 ו-Spectrum-X800 שפותחו בישראל – סדרת מתגי תקשורת מתקדמים לשוק העסקי; את NVIDIA NIM מגוון מיקרו שירותים שיאפשרו לארגונים לבנות ולהטמיע אפליקציות בינה מלאכותית יוצרת על בסיס מאות מיליוני יחידות CUDA; את פרויקט NVIDIA GR00T שיסייע לפתח רובוטים דמויי אדם וכלים לשילוב בינה מלאכותית יוצרת בתעשיית הרכב.
לא מובן איך זה קשור לצרכן הסופי ?
ארכיטקטורת Blackwell מדבר לצרכן התעשייתי
במחירים של 10,000$ ומעלה …
ההכרזות הללו בסופו של דבר ישפיעו גם על הכרטיסים הביתיים בהמשך הדרך