Intel Xeon Generasi ke-5 hadir untuk merevolusi pusat data untuk AI

Generasi baru dari Intel Xeon sudah diumumkan beberapa bulan lalu di Inovasi Intel dan, Kamis ini (14), Pat Gelsinger, CEO perusahaan, mempresentasikan lebih banyak detail tentang prosesor baru tersebut selama AI Di Mana Saja, sebuah acara yang berfokus pada AI dan caranya Intel bermaksud untuk mempercepat datangnya dunia baru ini. HAI Intel Xeon Generasi ke-5 menjanjikan peningkatan memori dan kinerja yang lebih cepat dengan fokus untuk mengikuti laju evolusi kecerdasan buatan, mempersiapkan pusat data untuk menerima dan memproses data dalam jumlah besar, membuka jalan bagi era baru ekspansi global di mana kekuatan komputasi bahkan lebih besar lagi. penting untuk masa depan semua orang yang lebih baik.

Seberapa pentingkah Pusat Data untuk AI?

Sebelum kita melihat dampak baru yang ditimbulkannya Intel Xeon Generasi ke-5 dapat membawa ke Pusat Data, penting untuk memahami relevansi tempat-tempat ini dalam mendorong evolusi berkelanjutan kecerdasan buatan (AI). Kompleks server ini, yang sering kali didistribusikan secara global, memainkan peran penting dalam menyimpan, memproses, dan mengelola sejumlah besar data yang diperlukan untuk melatih dan meningkatkan algoritme AI.

Pentingnya pusat data untuk AI sangatlah penting. Pertama, mereka menyediakan infrastruktur yang dibutuhkan untuk menampung data dalam jumlah besar, mulai dari set pelatihan hingga data real-time. Kapasitas penyimpanan dan efisiensi pengambilan data merupakan aspek penting untuk memastikan model kecerdasan buatan memiliki akses cepat dan efisien terhadap informasi yang diperlukan untuk membuat keputusan yang akurat.

Selain itu, pusat data sangat penting untuk melatih model AI yang kompleks. Algoritme modern seperti jaringan saraf dalam memerlukan daya komputasi yang sangat besar untuk menyesuaikan dan mengoptimalkan jutaan atau bahkan miliaran parameter. Pusat data, yang sering kali dilengkapi dengan unit pemrosesan grafis (GPU) berkinerja tinggi, memungkinkan penghitungan intensif ini dijalankan secara paralel, sehingga mempercepat proses pelatihan secara signifikan.

Saat ini, penggunaan pusat data yang paling penting dalam dunia AI adalah implementasinya melalui komputasi awan – atau komputasi awan -, sehingga memungkinkan pemrosesan data ini dengan kecepatan yang tidak masuk akal, tanpa perlu pengguna atau perusahaan memiliki server data sendiri. Kita akan melihat di bawah bagaimana perusahaan menyukainya Google telah mengimplementasikan chip baru Intel untuk meningkatkan layanan cloud Anda.

Sebagai produsen prosesor seperti Intel, mengembangkan dan meningkatkan arsitekturnya, efisiensi dan kekuatan pemrosesan chip meningkat. Hal ini tidak hanya memungkinkan pelaksanaan tugas AI lebih cepat, namun juga memungkinkan pengembangan model yang lebih canggih dan kompleks. Peningkatan kapasitas pemrosesan Intel Xeon Generasi ke-5 sangat penting untuk menghadapi tuntutan komputasi kecerdasan buatan yang semakin meningkat.

Dampak Intel Xeon Generasi ke-5

O Intel Xeon Generasi ke-5 mewakili lompatan signifikan dalam kinerja dan efisiensi untuk pusat data, cloud, jaringan, dan lingkungan edge. Prosesor baru ini menawarkan peningkatan kinerja rata-rata sebesar 21% dengan tetap mempertahankan daya termal yang sama, menghasilkan peningkatan kinerja per watt yang mengesankan sebesar 36%. Bagi pelanggan yang mengikuti siklus peningkatan lima tahun dan beralih dari generasi lama, potensi pengurangan Total Biaya Kepemilikan (TCO) mencapai hingga 77%.

Dibangun untuk AI, prosesor Intel Xeon Generasi ke-5 menghadirkan kinerja lebih baik bagi pelanggan yang menerapkan kemampuan AI di perangkat cloud, jaringan, atau edge. Sebagai hasil kerja sama jangka panjang kami dengan pelanggan, mitra, dan ekosistem pengembang, kami meluncurkan Intel Xeon Generasi ke-5 dengan fondasi kokoh yang terbukti memungkinkan adopsi dan penskalaan cepat dengan TCO lebih rendah.

Sandra Rivera, wakil presiden eksekutif Intel dan manajer umum Pusat Data dan Grup AI

Salah satu yang menarik dari Intel Xeon generasi ke-5 adalah integrasi unik akselerasi Kecerdasan Buatan (AI) langsung ke dalam prosesor. Hal ini berarti peningkatan kapasitas inferensi dan penyesuaian hingga 42% pada model dengan hingga 20 miliar parameter. Juga Xeon adalah satu-satunya CPU dengan serangkaian hasil kinerja yang konsisten dan terus meningkat benchmarking pelatihan dan inferensi MLPerf, memastikan keandalan dan efisiensi dalam Pembelajaran mesin.

Akselerator AI terpasang di dalamnya Xeon, dipadukan dengan perangkat lunak yang dioptimalkan dan kemampuan telemetri tingkat lanjut, memfasilitasi penerapan beban kerja berat yang dapat dikelola dan efisien di berbagai industri. Hal ini mencakup penyedia layanan komunikasi, jaringan pengiriman konten, dan pasar vertikal seperti ritel, layanan kesehatan, dan manufaktur.

Selama peluncuran, IBM menyoroti prosesor itu Intel Xeon generasi ke-5 mencapai kinerja kueri hingga 2,7x lebih baik di platform mereka watsonx.data, dibandingkan dengan prosesor Xeon dari generasi sebelumnya. HAI Google Cloud, yang berencana untuk mengimplementasikan Xeon generasi ke-5 tahun depan, melaporkan bahwa Palo Alto Networks menggandakan kinerja model pembelajaran mendalam untuk deteksi ancaman menggunakan akselerasi bawaan Xeon generasi ke-4 melalui Google Cloud.

Selain itu, studio game Studio Gallium memanfaatkan platform AI perusahaan angka, yang menggunakan prosesor Xeon, mencapai peningkatan kinerja inferensi sebesar 6,5x pada instans cloud berbasis GPU, sehingga mengurangi biaya dan latensi dalam game Anda proxy berbasis AI.

Berdasarkan generasi sebelumnya, prosesor baru ini menghadirkan inovasi signifikan dalam hal kinerja dan efisiensi. Prosesor ini memiliki kemampuan untuk beroperasi hingga 64 core per CPU, mewakili hampir tiga kali lipat cache tingkat terakhir maksimum dibandingkan generasi sebelumnya. Selain itu, mereka menawarkan delapan saluran DDR5 per CPU, mendukung DDR5 dengan kecepatan transfer hingga 5.600 megatransfer per detik (MT/s), dan memperluas bandwidth antar soket dengan Intel UPI 2.0, menyediakan hingga 20 gigatransfer per detik (GT/s ).

Selain peningkatan kinerja, prosesor Intel Xeon generasi ke-5 diakui sebagai pemroses pusat data yang paling berfokus pada keberlanjutan yang pernah dikembangkan. Dengan akselerator internal yang berkontribusi pada peningkatan kinerja per watt, efisiensi dan penghematan energi dapat lebih ditingkatkan dengan mengaktifkan Mode Optimasi Daya di platform BIOS, terutama pada beban kerja yang dapat memanfaatkan fitur ini.

Dari segi keamanan, Ekstensi Domain Tepercaya Intel (Intel TDX) menawarkan tingkat kerahasiaan yang lebih tinggi pada mesin virtual (VM), meningkatkan privasi, dan memberikan kontrol lebih besar atas data. Di sisi lain, Ekstensi Penjaga Perangkat Lunak Intel (intel sgx) mewakili teknologi terdepan dalam komputasi rahasia, menjadi pusat data yang paling banyak diteliti, diperbarui, dan komprehensif di pasar saat ini.

prosesor Xeon generasi ke-5 kompatibel dengan pin generasi sebelumnya, dan produsen peralatan asli (OEM) penting seperti Cisco, Dell, HPE, Sistem IEIT, Lenovo, Komputer Super Mikro, antara lain, berencana menawarkan beragam prosesor untuk sistem soket tunggal dan ganda mulai kuartal pertama tahun 2024. Selain itu, Penyedia Layanan Cloud (CSP) terkemuka akan mengumumkan ketersediaan instans berdasarkan Intel Xeon generasi ke-5 sepanjang tahun.

Kemajuan ini dalam kinerja Intel Xeon generasi ke-5 membuka kemungkinan baru untuk pemrosesan bahasa alami dan aplikasi AI tingkat lanjut, tidak hanya di pusat data dan cloud, tetapi juga di seluruh aplikasi jaringan dan edge, sehingga mendorong inovasi dan efisiensi di berbagai industri.

Lebih banyak permintaan untuk AI Generatif dengan Intel Gaudi3

Selain chip baru, Intel juga memberikan rincian lebih lanjut tentang Intel Gaudi3, versi baru dari prosesor akselerasi AI perusahaan. Perusahaan berencana untuk meluncurkan akselerator pada tahun 2024 dan perangkat keras baru ini akan dibangun di atas arsitektur berkinerja tinggi gaudi2, menjanjikan untuk memberikan daya komputasi 4x lebih besar (BF16), dua kali lipat bandwidth jaringan untuk penskalaan yang lebih efektif, dan memori HBM terintegrasi 1,5x lebih besar. Peningkatan ini bertujuan untuk memenuhi permintaan yang terus meningkat akan komputasi kinerja tinggi dan efisiensi LLM, tanpa mengurangi kinerja.

Selama AI Di Mana Saja, Gelsinger pertama kali menghadirkan wafer akselerator gaudi3 dan mengumumkan bahwa Intel sedang mengalami perluasan yang signifikan dalam penelitian dan pengembangannya gaudi karena keunggulan kinerja yang berkembang dan terbukti, dikombinasikan dengan harga yang sangat kompetitif. Mengingat meningkatnya permintaan akan solusi AI Generatif, Intel berencana untuk meraih pangsa pasar akselerator yang lebih besar pada tahun 2024, didorong oleh rangkaian akselerator AI, yang disorot oleh Intel Gaudi3.

Tonton videonya di saluran Showmetech:

Sumber: Intel

Diperiksa oleh Glaucon Vital pada 14/12/23.