CPU atau GPU/NPU: apa yang lebih penting saat memilih notebook untuk AI?

Dengan kemajuan inteligência buatan dan peluncuran PC AI oleh produsen komputer, topik ini seharusnya menjadi salah satu topik yang paling banyak dibicarakan di dunia teknologi pada tahun 2024. NPU telah menjadi pemain kunci dalam memproses beban kerja AI, namun apakah Anda benar-benar membutuhkan PC yang dilengkapi fitur ini untuk melakukan aktivitas AI?

Atas undangan dari NVIDIA, kami menguji bagaimana sebuah notebook dilengkapi kartu video khusus melakukan tugas AI bahkan tanpa prosesor yang tidak memenuhi syarat untuk kategori PC AI. Pahami di bawah ini apa yang paling penting bagi mereka yang bekerja dengan AI setiap hari: CPU ou GPU.

Apa itu PC AI?

Istilah tersebut mulai diterapkan oleh Intel dan Microsoft dengan peluncuran keluarga prosesor intel core ultra. Pada tahun 2023, Microsoft menyatakan bahwa komputer dapat diklasifikasikan sebagai AIPC, itu harus memenuhi tiga persyaratan. Apakah mereka:

• Punya kunci Copilot untuk mengaktifkan inteligência buatan di papan ketik Anda;
• Kemampuan untuk menjalankan kecerdasan buatan Copilot, hadir di Windows 11;
• Miliki prosesor dengan NPU berdedikasi yang mencapai setidaknya 40 TOP (triliunan operasi per detik)

A NPU adalah area khusus prosesor yang berfokus pada aktivitas kecerdasan buatan. Dalam praktiknya, prosesor memperoleh chip lain sehingga CPU dan GPU didedikasikan untuk aktivitas utamanya. Komponen-komponen ini bahkan dapat memberikan dukungan pada NPU, namun aktivitas AI pada dasarnya akan diproses di NPU.

Prosesor dengan NPU ini juga diklaim memiliki efisiensi energi yang lebih baik, memberikan masa pakai baterai lebih lama bila diperlukan, tanpa perlu kehilangan performa. Inilah perbedaan besar antar garis Buku Galaxy3 e Book4, diluncurkan oleh Samsung.

Pada Mei 2024, the Microsoft membuat kategori PC AI sendiri, yang diberi nama Kopilot+ PC, dengan persyaratan kinerja TOPS yang lebih tinggi untuk aktivitas AI. Untuk dipertimbangkan a Kopilot+ PC, komputer harus memenuhi persyaratan berikut:

• Memiliki memori RAM minimal 16 GB;
• Memiliki penyimpanan minimal 256 GB melalui SSD;
• Memiliki NPU terintegrasi dengan setidaknya 40 TOPS kinerja;
• Miliki kunci yang didedikasikan untuk kecerdasan buatan Copilot di papan ketik;
• Tidak ada notch di layar.

Komputer bersertifikat sebagai Kopilot+ PC pada dasarnya diciptakan untuk mengejar ketinggalan dengan komputer MacKarena Apple. Salah satu model pertama yang diumumkan adalah laptop Permukaan, sendiri Microsoft, yang memiliki prosesor Snapdragon X ElitKarena Qualcomm. Lihat performa TOPS pada lini prosesor NPU yang diluncurkan tahun ini:

• AMDRyzen AI 300: kinerja hingga 50 TOPS;
• Danau Bulan Intel: hingga 48 kinerja TOP;
• Snapdragon X Elit: kinerja hingga 45 TOPS.

TOPS adalah singkatan dari Triliunan Operasi per DetikAtau Triliun Operasi per Detik. Ini merupakan parameter untuk mengukur kemampuan NPU dalam memproses kecerdasan buatan pada prosesor. Di sini, aturan dasarnya adalah sebagai berikut: semakin banyak TOPS yang dimiliki suatu NPU, semakin besar pula kapasitas yang dimilikinya untuk menjalankan aktivitas AI. 

Tapi bukankah notebook sebelumnya memiliki kecerdasan buatan?

Ada sesuatu yang tidak diandalkan oleh produsen prosesor: kartu video khusus telah memiliki kinerja TOPS jauh di atas yang diperlukan untuk PC AI, sehingga menawarkan produktivitas lebih besar dalam tugas-tugas kecerdasan buatan bagi penggunanya bahkan pada komputer yang tidak memiliki NPU.

Namun, definisi dari Microsoft ayat PC AI e Kopilot+ PC tidak mengizinkan komputer dengan kinerja AI tinggi untuk menerima klasifikasi ini, justru karena mereka tidak memiliki NPU terintegrasi. Dan disini kita memasuki pembahasan bahwa NVIDIA telah berkomunikasi: komputer dengan kecerdasan buatan sudah ada bahkan sebelum perusahaan seperti itu Samsung, Lenovo, ASUS dan milik sendiri Microsoft mulailah berinvestasi dalam persyaratan ini.

Definisi yang dimaksudkan untuk membuat kategori, tetapi tidak memiliki NPU tidak menutup kemungkinan PC dengan GPU yang kuat untuk digunakan dalam tugas-tugas yang melibatkan kecerdasan buatan. Faktanya, tidak ada yang dapat menghentikan Anda menjalankan aplikasi dengan kemampuan AI pada PC dengan kartu grafis khusus dan prosesor non-NPU.

Pasar PC AI masih dalam tahap awal dengan hadirnya notebook pertama dengan NPU, namun proses pengembangan fitur dan aplikasi AI memerlukan langkah kecil, dengan sedikit sumber daya yang tersedia bagi pengguna secara umum.

Di kami Ulasan Galaxy Book4 Pro, notebook dengan prosesor Intel Inti Ultra 7 dan tanpa GPU khusus, kami menyebutkan bahwa penggunaan praktis NPU bisa lebih terlihat pada fitur panggilan video dan efisiensi energi. Namun, poin-poin tersebut juga terlihat pada notebook tanpa NPU, bahkan yang diluncurkan sebelum tahun 2023.

Pentingnya kartu grafis (GPU) untuk AI

Untuk memahami subjek ini, mari kita pahami perbedaannya CPU e GPU.

Kedua komponen tersebut berfungsi untuk memproses tugas di komputer, dan perbedaan utama antara keduanya CPU dan GPU adalah kegiatan yang dimaksudkan. A CPU - Di mana Unit pemrosesan utama — berfokus pada pelaksanaan aktivitas umum komputer, seperti menjalankan sistem operasi itu sendiri dan semua aplikasinya. Hal ini umumnya didefinisikan sebagai “otak” dari sebuah komputer dan, tanpanya, komputer tidak akan berfungsi: mulai dari menjelajahi web hingga membuat spreadsheet.

A GPU cukup untuk memberikan dukungan yang dibutuhkan CPU ketika menangani aktivitas yang lebih kompleks, menjalankan aktivitas grafis secara efisien. Akronim bahasa Inggris untuk Unit Pemrosesan Grafis (dan dikenal sebagai kartu video), GPU mempercepat pemrosesan gambar melalui ribuan inti yang lebih kecil dan lebih terspesialisasi, yang bekerja sama untuk menghasilkan kinerja dalam tugas grafis.

Banyak prosesor — terutama yang ditujukan untuk notebook — memiliki GPU terintegrasi, yang merupakan bagian dari prosesor. Aplikasi ini cocok untuk PC keperluan umum, yang tidak memerlukan pemrosesan grafis lebih intensif. Namun ketika kita melakukan pemrosesan gambar yang intensif, seperti dalam permainan dan pengeditan gambar dan video, maka GPU khusus (Atau GPU terpisah) membuat semua perbedaan.

GPU dapat mengarahkan seluruh kekuatannya untuk tugas-tugas tertentu, seperti game dan bahkan rendering konten berkualitas tinggi, yang meningkatkan kekuatan pemrosesan dan memfasilitasi pelaksanaan aktivitas berat di komputer yang diinstalnya, memberikan kecepatan dan efisiensi yang lebih tinggi dalam jenis ini. tugas.

Dan mengapa menggunakan GPU untuk AI? NVIDIA menunjukkan tiga alasan:

• GPU menggunakan pemrosesan paralel;
• Sistem GPU dapat ditingkatkan ke tingkat superkomputer;
• Pengembangan perangkat lunak AI untuk GPU dikonsolidasikan.

Kegiatan inteligência buatan memerlukan perhitungan khusus tingkat tinggi. Dengan mengelompokkan instruksi dan memproses data dalam jumlah besar, GPU khusus dapat mempercepat beban kerja melebihi kemampuan CPU. Lebih dalam lagi, NVIDIA sendiri menyatakan hal itu Berinvestasi pada notebook dengan kartu khusus lebih menarik daripada berinvestasi pada model dengan NPU terintegrasi.

Contoh pentingnya GPU khusus untuk aktivitas AI adalah ChatGPT: Bot pembuatan konten terkenal yang menulis, memecahkan masalah, dan bahkan membuat gambar bekerja berdasarkan platform GPU.

A OpenAI menjalin kemitraan dengan NVIDIA sehingga model bahasanya yang besar dapat digunakan oleh lebih dari 100 juta orang. Informasi terbaru adalah bahwa GPT-4, sekarang diperbarui oleh GPT-4o, memiliki lebih dari satu triliun parameter, sebuah metrik kepadatan matematisnya — sebuah lompatan dari kurang dari 100 juta parameter dalam LLM populer pada tahun 2018, yang dimungkinkan dengan menggunakan GPU.

Meskipun demikian, jika Anda adalah orang yang bekerja di bidang pembuatan konten, sering melakukan panggilan video, atau bahkan suka bermain game, Anda pasti membutuhkan sumber daya kecerdasan buatan agar dapat bekerja lebih baik. Dan itu berlaku untuk semuanya:

• Efek panggilan video untuk mengurangi kebisingan eksternal dan mengaburkan latar belakang;
• Memiliki akses terhadap teknologi DLSS e Ray tracing;
• Mampu membuka foto lebih cepat;
• Merender konten video (vertikal atau horizontal);
• Penggunaan beberapa AI untuk mengisi gambar, melakukan peningkatan atau bahkan konversi format video;
• Mampu mengekspor konten dalam waktu lebih singkat.

Keuntungan besar dalam menggunakan kartu grafis adalah memproses tugas AI dalam waktu yang lebih singkat. Atas undangan dari NVIDIA, ikuti pengujian di bawah ini yang membandingkan penggunaan GPU dan CPU/NPU untuk aktivitas AI untuk mengetahui hasil dan menarik kesimpulan Anda.

Perbandingan antara GPU vs. CPU/NPU untuk AI

Sekarang, mari kita bandingkan perbandingan GPU dalam melakukan tugas AI dengan NPU, yang dibuat khusus untuk tujuan ini. Periksa metodologi dan hasil tes.

Bagaimana kami melakukan tes

Untuk melakukan pengujian tersebut, kami akan melalui beberapa aplikasi dan game yang menggunakan GPU untuk memberikan kinerja yang lebih baik. A NVIDIA, dalam kemitraan dengan Avell, meminjamkan buku catatan itu A65 ION dengan prosesor Intel Core i9-12900HX Generasi ke-12, dengan kartu video khusus NVIDIA GeForce RTX 4060 dan RAM 16 GB (dibagi menjadi dua stik 8 GB) bertipe DDR5.

Untuk memastikan performa maksimal, kami menyambungkan notebook ke stopkontak. Kami kemudian menganalisis kinerja sumber daya untuk melihat apakah, bahkan tanpa NPU, aktivitas AI akan melakukan hal yang sama. Untuk pengujian, resolusi videonya 2560×1600, dengan refresh rate mencapai 240Hz.

kartu video RTX 4060 hadir di notebook melakukan 233 triliun operasi per detik. Sebagai perbandingan, lihat nomor pengoperasian semua model dalam seri RTX 40 untuk laptop NVIDIA:

• RTX 4050: kinerja 194TOPS;
• RTX 4060: kinerja 233 TOPS;
• RTX 4070: kinerja 321 TOPS;
• RTX 4080: kinerja 521 TOPS;
• RTX 4090: kinerja 686 TOPS.

Notebook ini dilengkapi dengan SSD NVME 500 GB. Kami melakukan semua pembaruan sistem operasi agar perangkat berada dalam versi terlengkap, begitu pula dengan driver GPU.

Obrolan RTX

Ini adalah asisten pribadi yang dikembangkan oleh NVIDIA yang di masa depan bisa menjadi pesaing yang menarik untuk opsi seperti CopilotKarena Microsoft. Hal yang paling menarik adalah ia berjalan secara lokal secara eksklusif di notebook atau desktop dengan kartu grafis NVIDIA khusus.

Ini berfungsi paling baik sebagai pengatur informasi, tetapi dapat membaca file yang disimpan di penyimpanan komputer Anda, yang dapat sangat membantu bagi mereka yang ingin memiliki akses ke ringkasan.

Jika Anda belum pernah menggunakan aplikasi ini, perlu diingat bahwa Anda perlu melatihnya dari awal, sehingga fitur terbaik akan terlihat dalam jangka panjang. Tapi ini adalah aplikasi yang memungkinkan Anda memiliki asisten pribadi yang berjalan secara lokal dan tanpa memerlukan koneksi internet.

NVIDIA Kanvas

Ini adalah aplikasi eksklusif bagi mereka yang suka menggambar dengan mouse, menyentuh layar, atau bahkan melalui papan tulis dengan pena. Dengan Canvas, Anda tidak perlu menjadi seorang seniman: cukup membuat sketsa dengan bentuk sederhana dan tanpa detail agar program dapat membuat gambar detail. Aplikasi hanya berjalan di komputer atau notebook dengan kartu khusus NVIDIA, tidak tersedia untuk komputer yang hanya memiliki NPU.

Yang paling menarik adalah berkat video card khusus dengan pemrosesan lokal, hasilnya bisa dilihat secara real time. Selain menghidupkan coretan Anda, Anda dapat mengubah gambar sepenuhnya hanya dengan satu sentuhan.

Waktu munculnya hasil di layar kurang dari satu detik dan perubahan tema juga terjadi dalam seperseribu detik. Saat Anda menyelesaikan gambarnya, cukup ekspor ke aplikasi pengeditan dan selesaikan pekerjaan Anda.

Siaran NVIDIA

Ini adalah salah satu aplikasi yang paling memungkinkan perbandingan dengan apa yang dapat dilakukan NPU hingga artikel ini ditutup. Seperti yang telah kami katakan di kami artikel khusus tentang aplikasi ini, ini berfungsi sebagai asisten hebat bagi mereka yang melakukan banyak panggilan video dan siaran langsung, dengan mengurangi kebisingan di audio dan video.

Menganalisis penggunaan prosesor dengan NPU yang diluncurkan pada tahun 2023, semuanya masih sangat mendasar. Chip yang berfokus pada aktivitas AI bahkan dapat mengaburkan latar belakang dan juga melakukan fokus otomatis, namun tidak lebih. Tidak ada pengurangan noise, peralihan latar belakang asli, dan bahkan penggunaan vignette, yang merupakan fitur yang ada di NVIDIA Broadcast.

Meski begitu, itu faktanya: the Siaran NVIDIA, yang hanya berfungsi pada notebook dan desktop dengan kartu grafis NVIDIA, jauh lebih canggih.

Fokus

Ini adalah alat yang menggunakan difusi stabil sebagai dasar untuk menghasilkan gambar secara lokal di komputer, tanpa memerlukan internet. Anda mungkin bertanya-tanya apakah Windows Copilot dan ChatGPT tidak dapat membuat gambar lagi, bukan? Ya, bisa, namun tetap memerlukan koneksi internet agar alat ini dapat berfungsi, padahal sebenarnya tidak diperlukan bodoh. Lihat foto ini yang dibuat dengan perintah “seekor gajah di pantai pada hari yang cerah”:

Dikembangkan untuk dijalankan di notebook dan komputer dengan kartu grafis khusus, aplikasi ini bekerja menggunakan GPU sebagai basisnya dan Anda dapat menonaktifkan internet untuk menggunakannya. Dan gambarnya mengesankan: dalam 57 detik, kami menerima foto berkualitas tinggi yang mendekati realisme, semuanya dibuat secara lokal. Lihat:

Meski memiliki chip yang hanya berfokus pada aktivitas AI, prosesor dengan NPU 2023 masih membutuhkan performa lebih untuk melakukan pemrosesan lokal. Siapa tahu, mungkin hal ini akan berubah dengan diluncurkannya Standar kopilot + PC dari Microsoft, tapi mari kita tunggu masa depan untuk mendapatkan jawabannya.

Procyon

Melakukan pengujian dengan NPU saat ini agak sulit karena, saat kami berada pada tahap pertama penerapan teknologi ini, aplikasi yang dioptimalkan untuk fitur ini masih langka. Namun melalui Visi Tolok Ukur AI da Procyon, perbedaannya dapat diketahui karena dapat mengukur pemrosesan AI pada GPU dan NPU.

Untuk memulainya, Galaxy Buku4 Ultra, dengan prosesor Intel Inti Ultra 9, diluncurkan pada tahun 2023 dan dengan NPU khusus, tercapai 494 poin.

sudah di Avell A55 ION yang kami terima, ketika menggunakan kartu grafis untuk aktivitas AI, mencapai lebih dari itu. Mereka Poin 539, hampir tampil 10% lebih tinggi. Foto di bawah menunjukkan hasil yang diperoleh dengan notebook terpasang, dalam mode performa tinggi.

Oleh karena itu, benchmark sederhana ini menunjukkan kepada kita bahwa kartu grafis yang mencapai lebih dari 200 TOPS lebih menarik dibandingkan prosesor dengan performa kurang dari 50 TOP melalui NPU.

Sumber Daya Adobe

Di sini, kita sudah jelas: ada beberapa fitur Photoshop dan Lightroom yang hanya berjalan di notebook dengan kartu video khusus, seperti filter untuk menghilangkan noise, mewarnai foto menjadi hitam putih, dan lain-lain.

Dengan kartu video dari NVIDIA, yang memiliki akses ke Photoshop dapat menggunakan Filter saraf, yang memungkinkan perubahan ekspresi wajah, orientasi pencahayaan, dan bahkan membuat orang tampak lebih muda (atau lebih tua). Ini semua terjadi melalui AI, tetapi dengan dukungan kartu grafis dan tanpa memerlukan NPU.

Beberapa alat, seperti adobe kunang-kunang ou Isi Generatif (Isi Generatif), dijalankan langsung dari server Adobe (serta Windows Copilot dan ChatGPT, dari perusahaannya masing-masing).

Dengan kata lain: memiliki komputer dengan NPU dapat membantu Anda mengakses alat koreksi gambar, namun memiliki kartu video khusus lebih penting untuk produktivitas sehari-hari yang lebih baik karena pemrosesan lokal.

Kesimpulan

Menjelang akhir perbandingan ini, mudah untuk memahami apa itu notebook atau komputer kartu video khusus memiliki kinerja AI lebih dari notebook dengan NPU khusus, disebut AI PC. Dan alasannya banyak.

Pertama, kartu video memiliki jumlah TOPS tertinggi kinerja dibandingkan NPU, memungkinkan beberapa aplikasi AI berjalan secara lokal dan tanpa memerlukan koneksi internet. Ini bermanfaat dalam beberapa tugas: pembuatan teks dan gambar, koreksi foto, efek panggilan video, dan bahkan dalam game, melalui fitur seperti Ray Tracing dan DLSS.

Faktor lain yang menguntungkan komputer dengan GPU adalah tingginya ketersediaan aplikasi dan fungsionalitas untuk model ini. Selain aplikasi eksklusif NVIDIA, pemain utama di pasar teknologi telah mengembangkan (dan masih terus mengembangkan) cara untuk memanfaatkan kinerja tinggi dari GPU khusus.

NPU menjanjikan akses luas ke kemampuan AI, tetapi pada saat konten ini dipublikasikan, kinerjanya hanya dapat diuji dalam efek panggilan video. Masih kurangnya aplikasi untuk prosesor NPU baru yang akan diuji, namun ada harapan bahwa aplikasi baru akan mulai bermunculan dalam jumlah besar.

Di sisi lain, hal yang sangat positif mengenai produk yang diproses dengan NPU (baik diproduksi oleh Qualcomm, Intel ou AMD) adalah bahwa mereka memiliki a pengeluaran energi yang lebih rendah, sesuatu yang penting bagi mereka yang membutuhkan lebih banyak waktu jauh dari soket. Baterai kami diuji dengan Galaxy Buku4 Ultra Mereka menunjukkan penggunaan enam jam, sesuatu yang luar biasa dibandingkan generasi sebelumnya.

Notebook dengan GPU khusus memerlukan lebih banyak energi untuk tingkat kinerja yang dihasilkannya, sehingga menghabiskan lebih banyak baterai dan membatasi waktu Anda jauh dari soket.

Jadi pilihan di antara kedua jenis notebook ini bergantung pada jawaban atas pertanyaan berikut: apakah Anda memerlukan notebook yang dapat menghadirkan performa AI tinggi namun menggunakan lebih banyak energi, atau Anda lebih memilih model dengan otonomi daya lebih besar dan performa AI lebih sedikit? Faktanya, jawaban atas pertanyaan ini akan sangat bergantung pada tipe pengguna Anda.

Jika Anda adalah orang yang tidak terlalu banyak menggunakan sumber daya AI dan lebih memilih memiliki notebook yang seperti itu menggunakan sedikit energi, pilihannya adalah notebook dengan prosesor yang memiliki NPU. Sekarang jika Anda membutuhkan a pemrosesan tugas AI yang tinggi dalam kehidupan sehari-hari Anda, rekomendasi terbaik adalah memilih PC dengan GPU khusus.

Apakah Anda memahami topiknya? Apa tipe favoritmu? Dengan GPU khusus atau NPU terintegrasi? Beritahu kami Komentar!

Lihat juga

NVIDIA mengkritik PC AI dengan mengatakan bahwa notebook dengan kartu grafisnya lebih bertenaga

Siapa NVIDIA, perusahaan bernilai R$10 triliun

NVIDIA mengkritik PC AI dengan mengatakan bahwa notebook dengan kartu grafisnya lebih bertenaga

Siapa NVIDIA, perusahaan bernilai R$10 triliun

Dengan informasi: Penyimpanan Murni l Analisis Vidhya l Sistem Puget l ASUS l Ledakan Dingin l Meja Otomatis l PC World l Quora l NVIDIA

Diperiksa oleh Glaucon Vital pada 18/6/24.