OpenAI Konfirmasikan Peretas Menggunakan ChatGPT untuk Membuat Malware Canggih

OpenAI telah mengonfirmasi bahwa peretas mengeksploitasi model kecerdasan buatan ChatGPT untuk membuat malware dan melakukan serangan siber.

Perusahaan riset AI merilis laporan yang merinci lebih dari 20 contoh di mana pelaku ancaman mencoba menggunakan ChatGPT untuk tujuan jahat sejak awal tahun 2024.

Laporan yang berjudul "Pengaruh dan Operasi Siber: Pembaruan" tersebut mengungkap bahwa kelompok peretas yang disponsori negara dari negara-negara seperti Tiongkok dan Iran telah memanfaatkan kemampuan ChatGPT untuk meningkatkan operasi siber ofensif mereka. Aktivitas ini berkisar dari men-debug kode malware hingga membuat konten untuk kampanye phishing dan disinformasi media sosial.

Salah satu kasus yang menonjol melibatkan pelaku ancaman asal Tiongkok yang dijuluki "SweetSpecter," yang berupaya menggunakan ChatGPT untuk pengintaian , penelitian kerentanan, dan pengembangan malware. Kelompok tersebut bahkan menargetkan OpenAI secara langsung dengan serangan spear-phishing yang tidak berhasil terhadap karyawan perusahaan tersebut.

Pelaku Ancaman Menyalahgunakan OpenAI

Ancaman signifikan lainnya datang dari “ CyberAv3ngers ,” sebuah kelompok Iran yang terkait dengan Korps Garda Revolusi Islam. Aktor ini memanfaatkan ChatGPT untuk meneliti kerentanan dalam sistem kontrol industri dan membuat skrip untuk serangan potensial terhadap infrastruktur penting.

OpenAI juga mengidentifikasi kelompok Iran ketiga, “ STORM-0817 ,” yang menggunakan model AI untuk mengembangkan malware Android yang mampu mencuri data pengguna yang sensitif, termasuk kontak, log panggilan, dan informasi lokasi.

Meskipun temuan ini mengkhawatirkan, OpenAI menekankan bahwa penggunaan ChatGPT belum menghasilkan terobosan signifikan dalam pembuatan malware atau kemampuan untuk membangun audiens viral untuk operasi pengaruh.

Perusahaan tersebut menyatakan bahwa aktivitas yang diamati konsisten dengan penilaian mereka terhadap kemampuan GPT-4, yang mereka yakini tidak secara material memajukan eksploitasi kerentanan dunia nyata.

Meskipun demikian, laporan tersebut menyoroti meningkatnya kekhawatiran tentang penyalahgunaan alat AI untuk kejahatan dunia maya. Seiring dengan semakin canggihnya dan mudahnya akses AI generatif, ada risiko bahwa AI dapat menurunkan hambatan masuk bagi peretas yang kurang terampil, yang berpotensi menyebabkan peningkatan serangan dunia maya tingkat rendah.

Sebagai respons terhadap ancaman ini, OpenAI telah menerapkan langkah-langkah untuk menghentikan aktivitas berbahaya, termasuk memblokir akun yang terkait dengan operasi yang teridentifikasi. Perusahaan ini juga bekerja sama dengan mitra industri dan pemangku kepentingan terkait untuk berbagi intelijen ancaman dan meningkatkan pertahanan keamanan siber kolektif.

Pakar keamanan siber memperingatkan bahwa tren ini kemungkinan akan terus berlanjut seiring berkembangnya teknologi AI. Mereka menekankan perlunya perusahaan AI mengembangkan perlindungan dan mekanisme deteksi yang kuat untuk mencegah penyalahgunaan model mereka untuk tujuan jahat.

Pengungkapan dari OpenAI berfungsi sebagai peringatan bagi industri teknologi dan pembuat kebijakan untuk mengatasi potensi risiko yang terkait dengan sistem AI canggih.

Karena AI semakin terintegrasi ke dalam berbagai aspek kehidupan digital kita, mencapai keseimbangan antara inovasi dan keamanan akan menjadi hal yang krusial untuk mengurangi ancaman yang ditimbulkan oleh pelaku jahat yang mengeksploitasi alat-alat canggih ini.

OpenAI telah berkomitmen untuk terus berupaya mengidentifikasi, mencegah, dan menghentikan upaya penyalahgunaan model mereka untuk tujuan yang merugikan. Perusahaan berencana untuk terus berbagi temuannya dengan komunitas penelitian yang lebih luas dan berupaya memperkuat pertahanan berlapisnya terhadap pelaku dunia maya yang terkait dengan negara dan operasi pengaruh terselubung.

Seiring terus berkembangnya lanskap AI, kewaspadaan dan kolaborasi antara pengembang AI, profesional keamanan siber, dan lembaga pemerintah akan sangat penting untuk tetap unggul dalam menghadapi ancaman yang muncul dan memastikan bahwa manfaat teknologi AI dapat diwujudkan tanpa mengorbankan keamanan global.