Intel dan AMD Rilis Standar Bersama agar AI Lebih Ngebut di CPU

Intel dan AMD Rilis Standar Bersama agar AI Lebih Ngebut di CPU

KOMPAS.com - Intel dan AMD resmi merilis spesifikasi lengkap Advanced Computing Extensions (ACE), standar baru untuk prosesor x86 yang dirancang agar dapat menjalankan beban kerja kecerdasan buatan (artificial intelligence/AI) dengan lebih efisien.

Selama ini, sebagian besar pemrosesan AI identik dengan penggunaan chip grafis (GPU). Namun, tidak semua tugas AI cocok dijalankan di GPU.

Untuk model AI berukuran kecil atau aplikasi yang membutuhkan respons cepat dengan pengguna tunggal, pemrosesan menggunakan CPU dinilai lebih efisien karena tidak perlu memindahkan data bolak-balik antara CPU dan GPU.

Selain itu, banyak perangkat yang tidak memiliki GPU khusus atau hanya mengandalkan GPU terintegrasi dengan kemampuan terbatas.

Nah, ACE hadir sebagai standar teknis baru yang memanfaatkan register AVX10 yang sudah ada di prosesor x86, tetapi menambahkan komponen silikon khusus untuk operasi perkalian matriks (matrix multiplication), yaitu proses komputasi yang menjadi fondasi utama hampir seluruh model AI modern.

Fokus pada efisiensi AI

Menurut spesifikasi yang dirilis Intel dan AMD, ACE memungkinkan CPU menjalankan operasi matriks dengan lebih efisien dibandingkan pendekatan sebelumnya yang mengandalkan instruksi AVX10.

Perkalian matriks merupakan proses inti dalam berbagai model AI, mulai dari chatbot, sistem rekomendasi, hingga aplikasi visi komputer.

Sebelumnya, operasi tersebut sebenarnya dapat dijalankan di CPU menggunakan instruksi AVX10. Namun, metode tersebut dianggap kurang optimal karena AVX pada awalnya tidak dirancang khusus untuk pemrosesan matriks dua dimensi yang umum digunakan dalam AI.

Dengan ACE, jumlah operasi yang dapat diproses untuk jumlah vektor input yang sama diklaim meningkat hingga 16 kali lipat dibandingkan AVX10.

Meski demikian, peningkatan jumlah operasi tersebut tidak otomatis berarti performa akan naik 16 kali lebih cepat. Kecepatan akhir tetap bergantung pada implementasi masing-masing produsen chip.

Namun, ACE disebut mampu mengurangi jumlah instruksi yang harus dijalankan CPU sehingga konsumsi daya menjadi lebih rendah dan penggunaan bandwidth memori lebih efisien.

Mudahkan pengembang AI

Selain peningkatan efisiensi, ACE juga dirancang sebagai standar yang bersifat lintas implementasi.

Artinya, pengembang framework AI seperti PyTorch dan TensorFlow nantinya cukup membuat satu jalur kode untuk berbagai prosesor x86 yang mendukung ACE, tanpa harus menyesuaikan optimasi untuk setiap jenis prosesor atau tingkat dukungan AVX yang berbeda-beda.

Standar baru ini juga mendukung berbagai format data yang umum digunakan dalam machine learning, termasuk INT8, INT32, FP8, FP16, FP32, hingga BF16.

Dilansir KompasTekno dari Toms Hardware, ACE bahkan mendukung format MX block-scaled milik Open Compute Project secara native, kemampuan yang sebelumnya tidak tersedia pada AVX10.

Intel dan AMD menilai pendekatan tersebut dapat mempermudah pengembang dalam menjalankan model AI di CPU, sekaligus mengurangi ketergantungan pada perangkat keras khusus seperti NPU (Neural Processing Unit) untuk beberapa jenis beban kerja yang membutuhkan respons cepat.

Dengan dirilisnya spesifikasi ACE, Intel dan AMD membuka jalan bagi generasi prosesor x86 berikutnya yang lebih siap menghadapi kebutuhan komputasi AI yang terus meningkat.

Teknologi ini juga menjadi sinyal bahwa persaingan AI tidak lagi hanya terjadi di GPU, tetapi mulai merambah CPU yang selama ini menjadi tulang punggung komputasi modern.

KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang