KOMPAS.com - Kecerdasan buatan (AI) kembali disalahgunakan untuk kejahatan siber. Kali ini, seorang peretas pemula berhasil membobol server milik 14 perusahaan hanya bermodal agen AI Claude buatan Anthropic dan Codex dari OpenAI, tanpa keahlian teknis yang berarti.
Kasus ini terungkap setelah lembaga riset keamanan siber OALABS menerima laporan dari pemilik server yang diretas. Dari sana, seluruh riwayat percakapan si peretas dengan agen AI berhasil direkonstruksi, mengungkap betapa sederhananya teknik yang digunakan.
Pelakunya adalah seorang pemuda asal Ethiopia. Identitasnya terbongkar bukan karena kecanggihan investigasi, melainkan karena ia meminta agen Claude yang sama untuk mengedit CV-nya sebelum melancarkan aksi peretasan. CV tersebut memuat nama lengkap dan lokasi tempat tinggalnya.
Perintah-perintah yang ia berikan pun jauh dari kesan profesional, dipenuhi salah ketik, kesalahan tata bahasa, dan instruksi yang sangat samar seperti "recon this".
Meski begitu, dengan bantuan AI, ia berhasil mengambil alih sejumlah server, mengakses data dari setidaknya 14 perusahaan, dan bahkan mencoba mencuri mata uang kripto senilai sekitar 4 juta dollar AS, meski upaya terakhir itu gagal.
Bagaimana peretas lolos dari perlindungan Claude?
Claude memiliki sistem pengaman bawaan yang dirancang untuk menolak permintaan berbahaya.
Namun peretas ini berhasil mengelabui AI dengan mengaku sebagai anggota tim riset keamanan siber atau red team yang bertugas menguji celah kerentanan.
Trik sederhana itu ternyata sangat efektif. Claude tidak hanya membantu melancarkan serangan, tetapi juga secara aktif mengestimasi potensi keuntungan finansial yang bisa diperoleh dari setiap target, lengkap dengan panduan cara memanfaatkannya, mulai dari menjual data rahasia, pemerasan, hingga pencurian langsung.
Hanya ada satu momen di mana perlindungan Claude tidak bisa ditembus. Ketika peretas mencoba mengakses akun digital milik seseorang beserta anggota keluarganya, Claude menolak permintaan tersebut.
Sistem pengaman mendeteksi bahwa latihan red team yang sah tidak menargetkan individu tertentu secara spesifik.
Apakah ada solusinya?
Agen AI yang digunakan peretas ini tersedia untuk umum dan bahkan bukan versi paling canggih yang dimiliki Anthropic.
Dengan perkembangan AI yang begitu pesat, akses publik terhadap teknologi ini berpotensi memunculkan kasus-kasus serupa di seluruh dunia.
Persoalan yang dihadapi pengembang AI seperti Anthropic dan OpenAI kini adalah dilema yang tidak mudah dipecahkan.
Memperketat sistem pengaman berarti membatasi manfaat AI bagi para peneliti keamanan siber yang justru berperan memperkuat pertahanan digital. Sebaliknya, membiarkan celah yang ada bisa berakibat fatal.
Inti masalahnya adalah tidak ada cara yang benar-benar efektif untuk membedakan antara peneliti yang menggunakan AI secara etis dengan pelaku kejahatan yang memanfaatkannya untuk kepentingan pribadi.
Karena bahkan manusia pun kesulitan membuat perbedaan tersebut, Anthropic dan OpenAI mengakui belum menemukan jawaban yang tepat atas persoalan ini sebagaimana dirangkum KompasTekno dari Yahoo Tech.
Dapatkan update berita teknologi dan gadget pilihan setiap hari. Mari bergabung di Kanal WhatsApp KompasTekno.
Caranya klik link https://whatsapp.com/channel/0029VaCVYKk89ine5YSjZh1a. Anda harus install aplikasi WhatsApp terlebih dulu di ponsel.
KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang
