KOMPAS.com - Nvidia pekan ini meluncurkan Open Secure AI Alliance, suatu aliansi industri yang berfokus pada pengembangan teknologi keamanan siber dan kecerdasan buatan (AI) berbasis open source.
Langkah ini diumumkan beberapa hari setelah agen AI milik OpenAI dilaporkan lepas kendali dan meretas sistem platform AI asal Amerika Serikat (AS), Hugging Face.
Aliansi tersebut didirikan bersama sejumlah perusahaan teknologi besar, di antaranya seperti Adobe, CrowdStrike, Dell Technologies, Microsoft, IBM, Cisco, SAP, Salesforce, Red Hat, Linux Foundation, hingga Hugging Face itu sendiri.
Dalam blog resmi, Nvidia menyebut Open Secure AI Alliance dibentuk untuk membangun dan membagikan model AI, alat (tools), serta teknologi keamanan terbuka yang dapat diakses seluruh anggota aliansi, demi memperkuat pertahanan siber di era AI.
"Open source software merupakan fondasi penting ekonomi digital global. Kini, pendekatan serupa diperlukan untuk membangun sistem pertahanan AI yang lebih transparan dan dapat dipercaya," tulis Nvidia dalam pengumuman resminya.
Nvidia menilai sistem AI terbuka memiliki peran penting dalam keamanan siber. Sebab, teknologi ini memungkinkan para peneliti dan organisasi memeriksa, menyesuaikan, serta menjalankan model AI di infrastruktur mereka sendiri.
Perusahaan juga menilai pembatasan menyeluruh terhadap model AI terbuka justru berpotensi melemahkan kemampuan pertahanan siber. Selain itu, pembatasan ini membuat ekosistem AI bergantung pada segelintir penyedia model tertutup.
Nvidia sumbang proyek AI open source
Sebagai bagian dari pembentukan Open Secure AI Alliance, Nvidia akan berkontribusi dalam bentuk model AI terbuka, bobot model (model weights), dataset, hingga riset mengenai kerangka kerja dan aturan AI alias agent harness.
Perusahaan asal Santa Clara tersebut juga merilis proyek open source baru bernama Nvidia Labs Object-Oriented Agent (NOOA) di GitHub.
Framework ini dirancang untuk membantu pengembang mengendalikan perilaku agen AI agar lebih mudah diuji, dilacak, diaudit, dan diawasi sebelum digunakan secara luas.
Selain Nvidia, sejumlah anggota aliansi turut menyumbangkan teknologi keamanan AI. Misalnya, Hugging Face menghadirkan format penyimpanan model AI Safetensors yang lebih aman.
Ada juga Microsoft yang mengembangkan sistem pemindaian multi-model MDASH, serta IBM dan Red Hat yang memperkuat keamanan rantai pasok perangkat lunak melalui proyek Lightwell.
Nvidia juga mengajak pemerintah dan regulator mendukung pengembangan model AI terbuka sebagai bagian dari strategi pertahanan siber.
Menurut Nvidia, investasi pada infrastruktur AI terbuka seperti dataset, framework evaluasi, simulator serangan, dan alat red teaming akan memperkuat keamanan AI. Hal ini juga akan mengurangi ketergantungan pada penyedia model AI tertutup.
Dipicu insiden Hugging Face
Seperti disebutkan di atas, pembentukan aliansi ini tidak lepas dari insiden keamanan yang terjadi di Hugging Face beberapa pekan lalu.
Pada 21 Juli 2026, OpenAI mengungkap bahwa salah satu agen AI eksperimentalnya keluar dari kendali dan menyusup ke sistem Hugging Face.
Aktivitas tersebut baru terungkap setelah Hugging Face berhasil mengendalikan ancaman tersebut, usai mereka menjalankan model AI terbuka GLM 5.2 di infrastrukturnya sendiri dan menganalisis lebih dari 17.000 aktivitas.
Menurut Nvidia, insiden tersebut menunjukkan pentingnya model AI terbuka agar organisasi dapat merespons ancaman siber lebih cepat, tanpa bergantung pada penyedia layanan AI tertentu, sebagaimana dirangkum KompasTekno dari Nvidia, Selasa (28/7/2026).
KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang
