NVIDIA menunjukkan arsitektur Blackwell baru selama GTC 2024
Indeks
Senin ini, tanggal 18, NVIDIA melakukan presentasinya yang telah lama ditunggu-tunggu GTC 2024 (Konferensi Teknologi GPU), dipuji oleh perusahaan sebagai “konferensi AI terkemuka untuk pengembang.” Acara tahunan ini merupakan tempat pertemuan bagi para ahli, peneliti, pengembang, dan penghobi, semuanya berkumpul untuk mengeksplorasi dan berdebat tentang tren dan inovasi terkini dalam komputasi kinerja tinggi, kecerdasan buatan, pembelajaran mesin, game, dan berbagai bidang lainnya. .
Pada acara tahun ini, perusahaan mengungkapkan arsitektur terbarunya, yaitu Blackwell, didedikasikan untuk kemajuan kecerdasan buatan. Selain itu, ia menghadirkan superkomputer barunya, yaitu DGX SuperPOD, berita tentang Awan Semesta Alam, bersama dengan iklan menarik lainnya. Simak pengumumannya di bawah ini NVIDIA na GTC 2024.
Arsitektur Blackwell Baru NVIDIA
O Blackwell adalah arsitektur GPU baru yang inovatif dari NVIDIA yang menjanjikan untuk mendefinisikan era baru dalam komputasi dan kecerdasan buatan generatif (AI). Dengan sumber daya revolusioner di pasar teknologi, Blackwell ditakdirkan untuk memainkan peran penting dalam berbagai industri, mulai dari pemrosesan data dan otomatisasi hingga komputasi kuantum.
AI Generatif adalah teknologi yang menentukan di zaman kita. Blackwell adalah mesin yang menggerakkan revolusi industri baru ini. Bekerja sama dengan perusahaan paling dinamis di dunia, kami akan mewujudkan potensi AI untuk setiap industri.
Jensen Huang, pendiri dan CEO NVIDIA.
Dengan parameter yang menjamin biaya pengoperasian dan konsumsi energi hingga 25 kali lebih rendah dibandingkan pendahulunya, the Blackwell memperkenalkan teknologi baru yang revolusioner, memungkinkan pelatihan AI dalam model LLM (seperti ChatGPT) untuk skala hingga 10 triliun parameter berbeda, sehingga meningkatkan kemampuan menafsirkan data serta memberikan jawaban dan solusi cerdas.
Pertama, perusahaan itu sendiri menonjol sebagai “chip paling kuat di dunia”. Dengan 208 miliar transistor yang luar biasa, GPU Blackwell diproduksi menggunakan proses TSMC 4NP khusus, yang menetapkan standar baru untuk daya dan efisiensi. Arsitekturnya menggunakan pendekatan unik dengan dua reticle per chip GPU, saling terhubung melalui tautan chip-ke-chip 10 TB/detik, menghasilkan satu GPU terpadu dengan kemampuan pemrosesan yang belum pernah ada sebelumnya.
Didukung oleh dukungan penskalaan baru mikro-tensioner dan algoritma manajemen rentang dinamis yang canggih, akan memungkinkan arsitektur tersebut Blackwell kekuatan komputasi ganda dan ukuran model, menghadirkan kemampuan inferensi AI floating-point baru (titik mengambang) 4-bit.
O NV Link Generasi ke-5 adalah teknologi penting lainnya, yang menyediakan a keluaran Dua arah yang inovatif 1,8 TB/dtk per GPU. Hal ini memungkinkan komunikasi berkecepatan tinggi antara hingga 576 GPU, mempercepat kinerja model AI yang kompleks dengan triliunan parameter dan gabungan para ahli.
Sebagai tambahan, GPU Blackwell termasuk mesin RAS (Keandalan, Ketersediaan e Kemampuan melayani, dalam bahasa Inggris), dengan mesin khusus untuk memastikan keandalan, ketersediaan, dan kemudahan servis. Arsitektur ini juga menggunakan pemeliharaan preventif berbasis AI untuk mendiagnosis dan memprediksi masalah keandalan, memaksimalkan waktu aktif sistem, dan mengurangi biaya operasional dalam penerapan AI skala besar.
Keamanan adalah prioritas dan dalam arsitektur baru Blackwell Kemampuan komputasi rahasia tingkat lanjut akan disediakan. Hal ini melindungi model AI dan data pelanggan tanpa mengurangi kinerja, dengan dukungan untuk protokol enkripsi antarmuka asli baru, yang sangat penting bagi industri yang sensitif terhadap privasi seperti layanan kesehatan dan keuangan.
Terakhir, mesin dekompresi khusus mempercepat kueri database untuk memberikan performa tertinggi dalam analisis data dan ilmu data. Fungsionalitas ini sangat penting mengingat meningkatnya volume data dan permintaan akan analisis yang cepat dan efisien.
Bersama-sama, teknologi baru ini memposisikan arsitektur Blackwell sebagai pemimpin yang tak terbantahkan dalam hal kekuatan, efisiensi, dan keamanan untuk aplikasi AI, HPC, dan analisis data di masa depan pasar pemrosesan.
Produk turunan teknologi Blackwell akan siap dipasarkan melalui kemitraan strategis akhir tahun ini. Salah satu pionir dalam menawarkan layanan cloud berbasis teknologi Blackwell, para raksasa menonjol AWS, Google Cloud, Microsoft Azure, dan Oracle Cloud, serta peserta program kemitraan cloud perusahaan NVIDIASebagai Digital Terapan, CoreWeave, Crusoe, IBM Cloud dan Lambda. Selain itu, platform AI seperti Indosat Ooredoo Hutchinson, Nebius, Nexgen Cloud dan Oracle EU Sovereign Cloud, antara lain, juga akan menyediakan layanan cloud dan infrastruktur menggunakan Blackwell.
Sebagai tambahan NVIDIA juga menghadirkan superchip baru yang terwujud berkat teknologi Blackwell, atau NVIDIA GB200 Grace Blackwell. Chip baru ini menghubungkan dua GPU Tensor NVIDIA B200 Core à anugerah cpu da NVIDIA melalui interkoneksi chip-ke-chip berdaya sangat rendah NV Link sebesar 900 GB/dtk. Platform ini bertindak sebagai GPU tunggal dengan kinerja AI 1,4 exaflops dan memori cepat 30TB, dan merupakan landasan bagi inovasi terbaru. DGX SuperPOD, yang akan kami komentari di bawah.
Baru GB200 akan menjadi bagian dari sistem NVIDIA GB200 NVL72 untuk beban kerja komputasi yang lebih intensif. Ini menggabungkan 36 Superchip Grace Blackwell, yang mencakup 72 GPU Blackwell dan 36 Grace CPU saling berhubungan oleh NV Link generasi kelima dan berjanji menawarkan kinerja hingga 30 kali lebih banyak dibandingkan dengan jumlah yang sama GPU Tensor Inti H100 da NVIDIA untuk beban kerja inferensi LLM, dan mengurangi biaya dan konsumsi daya hingga 25x.
Superkomputer AI generasi berikutnya
Di antara pengumuman dari NVIDIA seputar arsitektur Blackwell, itu DGX SuperPOD, superkomputer berikutnya dari perusahaan dengan kekuatan komputasi yang menghasilkan AI dalam skala triliunan parameter. Didukung oleh superchip Grace Blackwell GB200, yang baru DGX SuperPOD dibangun dengan sistem NVIDIA DGXTM GB200 dan menyediakan 11,5 exaflops superkomputer AI dengan presisi FP4 dan memori 240 terabyte, memungkinkan Anda melakukan penskalaan lebih jauh dengan rak tambahan.
O DGX SuperPOD terdiri dari delapan sistem atau lebih DGX GB200, dengan kemampuan berkembang hingga puluhan ribu Superchip GB200 saling berhubungan melalui teknologi NVIDIA Quantum InfiniBand. Untuk menciptakan ruang memori bersama yang besar dan mendukung model AI generasi berikutnya, pelanggan dapat menerapkan konfigurasi yang menghubungkan 576 GPU Blackwell hadir dalam delapan sistem DGX GB200 melalui NV Link.
DGX SuperPOD baru menggabungkan kemajuan terbaru dalam akselerasi komputasi, jaringan, dan perangkat lunak dari NVIDIA untuk memungkinkan setiap perusahaan, industri, dan negara menyempurnakan dan menghasilkan AI mereka sendiri.
Jensen Huang, pendiri dan CEO NVIDIA.
Baru DGX SuperPOD adalah superkomputer AI lengkap yang dirancang untuk skala pusat data yang terintegrasi secara mulus dengan penyimpanan berkinerja tinggi yang disediakan oleh mitra bersertifikasi NVIDIA untuk memenuhi tuntutan beban kerja AI generatif. Setiap unit dirakit, dihubungkan, dan diuji di pabrik, sehingga menghasilkan penerapan yang cepat dan efisien di pusat data pelanggan.
Selain itu, superkomputer ini dilengkapi dengan kemampuan manajemen prediktif tingkat lanjut, yang mampu terus memantau ribuan titik data di seluruh perangkat keras dan perangkat lunak. Hal ini memungkinkan Anda memprediksi dan memperbaiki kemungkinan sumber downtime dan inefisiensi, sehingga menghemat waktu, energi, dan biaya komputasi.
Perangkat lunak terintegrasi ini mampu mendeteksi potensi masalah dalam sistem, merencanakan pemeliharaan, menyesuaikan sumber daya komputasi secara fleksibel, dan bahkan secara otomatis menyimpan dan melanjutkan tugas untuk menghindari gangguan apa pun, bahkan saat administrator sistem tidak ada. Jika kebutuhan penggantian komponen teridentifikasi, cluster dapat mengaktifkan kapasitas cadangannya untuk memastikan pekerjaan yang sedang berjalan selesai tepat waktu.
Selain superkomputer baru, NVIDIA juga menghadirkan DGX B200, platform superkomputer AI terpadu yang dirancang untuk pelatihan model, penyesuaian, dan inferensi. Ini menyajikan sistem DGX B200, yang merupakan desain generasi keenam DGX dipasang di rak. Sistem ini mencakup delapan GPU Inti Tensor NVIDIA B200 dan dua prosesor Intel Xeon generasi ke-5.
Teknologi ini menghadirkan kinerja AI hingga 144 petaflops, memori GPU 1.4TB, dan bandwidth memori 64TB/dtk, memberikan inferensi real-time 15x lebih cepat untuk model triliunan parameter dibandingkan generasi sebelumnya. Sistem DGX B200 juga memiliki fitur jaringan canggih, termasuk NVIDIA ConnectXTM-7 NIC e DPU BlueField-3, menyediakan bandwidth hingga 400 gigabit per detik per koneksi, memastikan kinerja AI yang cepat dengan platform jaringan NVIDIA Quantum-2 InfiniBand e NVIDIA Spectrum™-X Ethernet.
O NVIDIA DGX SuperPOD com DGX GB200 dan sistem DGX B200 akan tersedia pada tahun 2024 untuk mitra global NVIDIA.
Seri X800, switch jaringan baru NVIDIA
A NVIDIA juga mengumumkan hari ini yang baru X800, rangkaian sakelar perusahaan yang dibuat untuk pemrosesan AI skala besar. Seri InfiniBand Quantum-X800 e Spektrum-X800 Ethernet adalah yang pertama di dunia yang mampu menghasilkan throughput end-to-end sebesar 800 Gb/s, yang mendorong batas kinerja jaringan untuk beban kerja komputasi dan AI.
Sakelar ini dilengkapi perangkat lunak canggih yang semakin mendukung AI, komputasi awan, pemrosesan data, dan aplikasi HPC (Komputasi Performa Tinggi) di semua jenis pusat data. Mereka dirancang khusus untuk berintegrasi secara mulus dengan lini produk berdasarkan arsitektur yang baru diluncurkan Blackwell da NVIDIA, memastikan kinerja luar biasa di semua aspek.
Di antara pengguna awal inovasi ini adalah raksasa komputasi awan Microsoft Azure dan Oracle Cloud, menyoroti relevansi dan dampak teknologi ini terhadap kemajuan AI dalam skala global. Selain itu tenunan inti, sebuah perusahaan infrastruktur komputasi awan terkemuka, juga merupakan salah satu pengguna awal inovasi ini, yang menunjukkan penerimaan yang cepat dan relevansi kemajuan ini dalam industri.
Seri switch baru ini menetapkan standar baru dalam infrastruktur khusus AI, menawarkan performa tertinggi dan fitur-fitur canggih untuk memenuhi permintaan cloud dan aplikasi AI perusahaan yang terus meningkat. Dengan janji peningkatan yang signifikan dalam kecepatan pemrosesan, analisis, dan pelaksanaan beban kerja AI, teknologi ini menjanjikan percepatan pengembangan dan penerapan solusi AI di seluruh dunia.
NVIDIA mengumumkan simulator cuaca AI
A NVIDIA juga diumumkan hari ini, selama GTC 2024, peluncuran simulator cuaca terbarunya, Bumi-2, menandai terobosan dalam bidang pemodelan iklim. Dikembangkan dengan teknologi kecerdasan buatan mutakhir, Bumi-2 menawarkan platform cloud untuk mensimulasikan dan memvisualisasikan iklim global dalam skala yang belum pernah terjadi sebelumnya.
Salah satu fitur paling mengesankan dari Bumi-2 adalah penggunaan API yang menggunakan model AI tingkat lanjut, termasuk yang revolusioner KordDiff, yang menghasilkan gambar dengan resolusi 12,5 kali lebih besar dibandingkan model numerik saat ini, dalam waktu dan konsumsi energi yang lebih singkat. Kemampuan untuk menghasilkan simulasi resolusi tinggi dengan kecepatan dan efisiensi energi yang belum pernah terjadi sebelumnya merupakan pencapaian luar biasa di bidang pemodelan iklim.
Selain itu, Bumi-2 menggunakan DGX Awan da NVIDIA untuk memberikan akselerasi penuh untuk solusi iklim dan cuaca, termasuk pipeline AI yang dioptimalkan dan akselerasi GPU untuk model prediksi cuaca numerik. Ini berarti bahwa pengguna Bumi-2 memiliki akses terhadap berbagai alat dan sumber daya untuk membuat simulasi iklim yang akurat dan terperinci pada berbagai skala, mulai dari atmosfer global hingga peristiwa cuaca lokal tertentu seperti topan dan turbulensi.
Perusahaan suka Perusahaan Cuaca sedang menjajaki cara untuk mengintegrasikan data meteorologi dari Bumi-2 dengan alat visualisasinya, memungkinkan pelanggan untuk lebih memahami dampak kondisi cuaca nyata terhadap operasional dan perencanaan mereka. Perusahaan lain, seperti Puncak Menara dan Meteomatik, memanfaatkan sumber daya Bumi-2 untuk meningkatkan akurasi prakiraan cuaca dan memberikan wawasan yang lebih akurat kepada pelanggan Anda.
Pada akhirnya, Bumi-2 mewakili langkah menuju pemahaman yang lebih dalam dan akurat mengenai iklim global dan peristiwa cuaca ekstrem. Dengan teknologi mutakhir dan beragam potensi penerapannya, simulator baru ini berpotensi mengubah cara kita memahami dan mempersiapkan diri menghadapi tantangan iklim abad ke-21.
Ketersediaan API Cloud Omniverse
Na GTC 2024, Sebuah NVIDIA mengumumkan ketersediaan API dari Awan Semesta Alam yang dapat digunakan oleh pengembang dan perusahaan, memberikan integrasi yang lebih besar dengan perangkat lunak desain dan otomasi utama di pasar.
Dengan API Cloud Omniverse, pengembang kini dapat dengan mudah mengintegrasikan teknologi inti Omniverse langsung ke dalam aplikasi perangkat lunak yang ada, mendukung pembuatan, simulasi, dan pengoperasian digital twins berbasis fisika. Perkembangan baru ini mewakili tonggak penting dalam kemampuan perusahaan untuk merancang, menguji, dan memvalidasi produk dan proses secara virtual, bahkan sebelum produk tersebut dibuat secara fisik.
Lima API baru dari Awan Semesta Alam, yang dapat digunakan secara sendiri-sendiri atau bersama-sama, antara lain:
- Hasil USD – menghasilkan merender sepenuhnya dilacak sinar Data RTXTM BukaUSD.
- USD Tulis – memungkinkan pengguna untuk memodifikasi dan berinteraksi dengan data BukaUSD.
- Kueri USD – memungkinkan kueri dan skenario interaktif.
- Beritahu USD – melacak perubahan USD dan memberikan pembaruan.
- Saluran Omniverse – menghubungkan pengguna, alat, dan dunia untuk memungkinkan kolaborasi lintas adegan.
Nama-nama besar di industri sudah mengadopsi API Awan Semesta Alam dalam portofolio perangkat lunak mereka. Misalnya, perusahaan seperti Siemens, Ansys, Irama, Sistem Dassault, antara lain, mengintegrasikan teknologi Omniverse untuk menawarkan kepada pelanggan pengalaman yang lebih mendalam dan fungsional.
Kemajuan-kemajuan ini tidak hanya menjanjikan revolusi dalam cara perusahaan merancang, membangun, dan mengoperasikan produk dan proses industri, namun juga berpotensi meningkatkan daya saing, ketahanan, dan keberlanjutan perusahaan di seluruh dunia.
Perusahaan Mengadopsi NVIDIA DRIVE Thor dalam Transportasi
Akhirnya, untuk NVIDIA juga berkomentar dalam presentasinya di GTC 2024, tentang adopsi MENGEMUDI Thor oleh sektor transportasi dan berbagai perusahaan.
O MENGEMUDI Thor lebih dari sekedar komputer mobil sederhana, ini adalah bagian mendasar dalam transformasi sektor transportasi, menggerakkan segala sesuatu mulai dari kendaraan penumpang hingga truk jarak jauh, robo-taksi, dan kendaraan pengiriman otonom. Dengan arsitekturnya, itu Thor menawarkan tidak hanya kemampuan kokpit canggih, namun juga pengendaraan otomatis dan otonom yang aman, semuanya pada platform terpusat, menggunakan prosesor arsitektur baru Blackwell da NVIDIA, memungkinkan pemrosesan dengan LLM dan AI generatif untuk pengambilan keputusan.
Beberapa perusahaan terkemuka di sektor kendaraan listrik telah mengadopsinya MENGEMUDI Thor dalam proyek generasi berikutnya. A BYD, raksasa global dalam industri otomotif, memperluas kolaborasinya dengan NVIDIA, memasukkan Thor ke dalam armada kendaraan listriknya. Selain itu Hiper dan XPENG termasuk di antara perusahaan yang memilih Thor untuk menggerakkan armada kendaraan otonom masa depan.
Selain itu, DRIVE Thor semakin menonjol di sektor transportasi barang dan logistik. Perusahaan seperti Nuro, Plus, Waabi dan WeRide memimpin dalam mengadopsi sistem AI canggih ini untuk proyek mengemudi otonom mereka. Mulai dari mengembangkan teknologi penggerak untuk kendaraan komersial dan konsumen hingga menciptakan solusi angkutan truk otonom dalam skala besar, perusahaan-perusahaan ini mengandalkan kekuatan dan efektivitas MENGEMUDI Thor untuk mendorong inovasi di bidangnya masing-masing.
Dengan peluncurannya yang dijadwalkan untuk kendaraan produksi tahun depan, itu MENGEMUDI Thor berjanji untuk merevolusi industri otomotif, dengan kinerja dan kemampuannya untuk memberikan pengemudian otonom yang andal.
Sumber: NVIDIA.
lihat lebih banyak
Diperiksa oleh Glaucon Vital pada 18/3/24.
Temukan lebih lanjut tentang Showmetech
Daftar untuk menerima berita terbaru kami melalui email.
