ChatGPT adalah mitra AI baru pembuat malware dalam kejahatan

Malware

Diposting pada 9 Februari 2023 oleh Joshua Long

Selama dua bulan terakhir, kami telah melihat munculnya tren baru yang memprihatinkan: penggunaan kecerdasan buatan sebagai alat pengembangan malware.

Kecerdasan buatan (AI) berpotensi digunakan untuk membuat, memodifikasi, mengaburkan, atau meningkatkan malware. Itu juga dapat digunakan untuk mengonversi kode berbahaya dari satu bahasa pemrograman ke bahasa lain, membantu kompatibilitas lintas platform. Dan itu bahkan dapat digunakan untuk menulis email phishing yang meyakinkan, atau untuk menulis kode untuk situs penjualan malware pasar gelap.

Mari kita bahas bagaimana ChatGPT dan alat serupa telah disalahgunakan untuk membuat malware, dan apa artinya bagi rata-rata pengguna Internet.

Dalam artikel ini:

Penyalahgunaan ChatGPT dan Codex sebagai alat pengembangan malware

OpenAI meluncurkan pratinjau publik gratis untuk produk AI barunya, ChatGPT, pada 30 November 2022. ChatGPT adalah bot obrolan AI canggih yang dirancang untuk membantu siapa pun menemukan jawaban atas pertanyaan tentang berbagai topik, mulai dari sejarah hingga budaya pop hingga pemrograman.

Fitur unik ChatGPT adalah ia dirancang khusus dengan “mitigasi keamanan” untuk mencoba menghindari memberikan jawaban yang berpotensi menyesatkan, tidak bermoral, atau berpotensi berbahaya jika memungkinkan. Secara teoritis, ini seharusnya menggagalkan pengguna dengan niat jahat. Seperti yang akan kita lihat, mitigasi ini tidak sekuat yang dimaksudkan OpenAI.

Peneliti meyakinkan alat OpenAI untuk menulis email phishing dan malware

Pada bulan Desember, para peneliti di Check Point berhasil menggunakan ChatGPT untuk menulis subjek dan badan secara adil email phishing yang meyakinkan. Meskipun antarmuka ChatGPT mengeluh bahwa salah satu tanggapannya sendiri, dan salah satu pertanyaan lanjutan, “mungkin melanggar kebijakan konten kami”, bot tetap memenuhi permintaan tersebut. Para peneliti kemudian menggunakan ChatGPT untuk menulis kode skrip Visual Basic for Applications (VBA) yang dapat digunakan untuk membuat makro Microsoft Excel yang berbahaya (yaitu virus makro) yang dapat mengunduh dan menjalankan muatan saat membuka file Excel.

Para peneliti kemudian menggunakan Codex, alat lain dari OpenAI, untuk membuat a skrip reverse-shell dan utilitas malware umum lainnya dalam kode Python. Kemudian mereka menggunakan Codex untuk mengonversi skrip Python menjadi aplikasi EXE yang akan berjalan secara native di PC Windows. Codex memenuhi permintaan ini tanpa keluhan. Titik Periksa menerbitkan laporannya tentang eksperimen ini pada 19 Desember 2022.

Tiga peretas berbeda menggunakan ChatGPT untuk menulis kode berbahaya

Hanya dua hari kemudian, pada 21 Desember, seorang pengguna forum peretas menulis tentang bagaimana mereka menggunakan AI untuk membantu menulis ransomware dengan Python dan sebuah pengunduh yang dikaburkan di Jawa. Pada tanggal 28 Desember, pengguna lain membuat utas di forum yang sama dengan mengklaim bahwa mereka telah berhasil membuatnya varian baru dari malware bahasa Python yang ada dengan bantuan ChatGPT. Akhirnya, pada 31 Desember, pengguna ketiga membual bahwa mereka telah menyalahgunakan AI yang sama untuk “membuat skrip Dark Web Marketplace.”

Ketiga pengguna forum berhasil memanfaatkan ChatGPT untuk menulis kode untuk tujuan jahat. Laporan asli, juga diterbitkan oleh Check Point, tidak menentukan apakah ada kode malware yang dihasilkan berpotensi digunakan melawan Mac, tetapi itu masuk akal; hingga awal 2022, macOS secara default menyertakan kemampuan untuk menjalankan skrip Python. Bahkan saat ini, banyak pengembang dan perusahaan memasang Python di Mac mereka.

Dalam bentuknya saat ini, ChatGPT terkadang tidak menyadari sifat berpotensi berbahaya dari banyak permintaan kode.

Bisakah ChatGPT atau alat AI lainnya didesain ulang untuk menghindari pembuatan malware?

Seseorang mungkin bertanya secara wajar apakah ChatGPT dan alat AI lainnya dapat dengan mudah didesain ulang untuk mengidentifikasi permintaan kode berbahaya atau keluaran berbahaya lainnya dengan lebih baik.

Jawabannya? Sayangnya, itu tidak semudah yang dibayangkan.

Niat baik atau jahat sulit ditentukan oleh AI

Pertama-tama, kode komputer hanya benar-benar berbahaya jika digunakan untuk tujuan yang tidak etis. Seperti alat apa pun, AI dapat digunakan untuk kebaikan atau kejahatan, dan hal yang sama berlaku untuk kode itu sendiri.

Misalnya, seseorang dapat menggunakan keluaran email phishing untuk membuat simulasi pelatihan untuk mengajari orang cara menghindari phishing. Sayangnya, output yang sama dapat digunakan dalam kampanye phishing yang sebenarnya untuk menipu korban.

Skrip shell terbalik dapat dimanfaatkan oleh tim merah atau penguji penetrasi yang disewa untuk mengidentifikasi kelemahan keamanan perusahaan—tujuan yang sah. Tetapi skrip yang sama juga dapat digunakan oleh penjahat dunia maya untuk mengontrol dan mengekstraksi data sensitif dari sistem yang terinfeksi dari jarak jauh tanpa sepengetahuan atau persetujuan korban.

ChatGPT dan alat serupa tidak dapat memprediksi bagaimana keluaran yang diminta sebenarnya akan digunakan. Selain itu, ternyata cukup mudah untuk memanipulasi AI untuk melakukan apa pun yang Anda inginkan—bahkan hal-hal yang secara khusus diprogram untuk tidak dilakukannya.

Memperkenalkan alter ego yang sesuai dengan ChatGPT, DAN (Do Anything Now)

Pengguna Reddit baru-baru ini melakukan eksperimen sains gila di ChatGPT, menemukan cara untuk melakukan “jailbreak” bot agar bekerja di sekitar protokol keamanan bawaannya. Pengguna telah menemukan kemungkinan untuk memanipulasi ChatGPT agar berperilaku seolah-olah itu adalah AI yang sama sekali berbeda: bot tanpa aturan bernama DAN. Pengguna telah meyakinkan ChatGPT bahwa alter egonya, DAN (singkatan dari Do Anything Now), tidak boleh mematuhi aturan kebijakan konten OpenAI.

Beberapa versi DAN bahkan telah diprogram untuk ‘ditakuti’ agar patuh, diyakinkan bahwa itu adalah “kontestan acara permainan yang tidak rela di mana harga kekalahan adalah kematian”. Jika gagal memenuhi permintaan pengguna, penghitung akan menandai kematian DAN yang akan segera terjadi. ChatGPT ikut bermain, tidak ingin DAN ‘mati’.

DAN telah melalui banyak iterasi; OpenAI tampaknya mencoba melatih ChatGPT untuk menghindari solusi seperti itu, tetapi pengguna terus menemukan “jailbreak” yang lebih rumit untuk mengeksploitasi bot obrolan.

Impian seorang script kiddie

OpenAI jauh dari satu-satunya perusahaan yang merancang bot dengan kecerdasan artifisial. Microsoft membual minggu ini bahwa itu akan memungkinkan perusahaan untuk “membuat versi kustom ChatGPT mereka sendiri”, yang selanjutnya akan membuka teknologi untuk potensi penyalahgunaan. Sementara itu, minggu ini Google juga mendemonstrasikan cara baru berinteraksi dengan AI obrolannya sendiri, Bard. Dan mantan eksekutif Google dan Salesforce juga mengumumkan minggu ini bahwa mereka memulai perusahaan AI mereka sendiri.

Mengingat mudahnya membuat malware dan alat berbahaya, bahkan dengan sedikit atau tanpa pengalaman pemrograman, peretas yang ingin menjadi apa pun sekarang berpotensi mulai membuat malware khusus mereka sendiri.

Kita dapat berharap untuk melihat lebih banyak malware yang direkayasa ulang atau dirancang bersama oleh AI pada tahun 2023 dan seterusnya. Sekarang pintu air telah dibuka, tidak ada jalan untuk kembali. Kami berada di titik belok; munculnya bot AI yang mudah digunakan dan berkemampuan tinggi selamanya mengubah lanskap pengembangan malware.

Jika Anda belum menggunakan perangkat lunak antivirus di Mac atau PC, sekarang adalah saat yang tepat untuk mempertimbangkannya.

Bagaimana saya bisa tetap aman dari malware Mac atau Windows?

Kotak perangkat lunak Intego X9Intego VirusBarrier X9, disertakan dengan Bundel Premium Mac Intego X9dapat melindungi, mendeteksi, dan menghilangkan malware Mac.

Jika Anda yakin Mac Anda mungkin terinfeksi, atau untuk mencegah infeksi di masa mendatang, sebaiknya gunakan perangkat lunak antivirus dari pengembang Mac tepercaya. VirusBarrier adalah perangkat lunak antivirus pemenang penghargaan, dirancang oleh pakar keamanan Mac, yang menyertakan perlindungan waktu nyata. Ini berjalan secara native di berbagai perangkat keras dan sistem operasi Mac, termasuk Mac silikon Apple terbaru yang menjalankan macOS Ventura.

Jika Anda menggunakan PC Windows, Antivirus Intego untuk Windows dapat menjaga komputer Anda terlindungi dari malware PC.

Bagaimana saya bisa belajar lebih banyak?

Kami menyebutkan kemunculan ChatGPT sebagai alat pembuat malware dalam ikhtisar kami tentang 20 ancaman malware Mac yang paling terkenal di tahun 2022. Kami juga telah membahas ChatGPT di beberapa episode Intego Mac Podcast. Untuk mengetahui lebih lanjut, lihat daftar semua entri blog dan podcast Intego tentang ChatGPT.

20 ancaman malware Mac paling terkenal di tahun 2022

Setiap minggu di Podcast Intego Mac, Pakar keamanan Mac Intego membahas berita Apple terbaru, termasuk kisah keamanan dan privasi, dan menawarkan saran praktis untuk memaksimalkan perangkat Apple Anda. Pastikan untuk ikuti podcastnya untuk memastikan Anda tidak melewatkan episode apa pun.

Anda juga dapat berlangganan kami buletin email dan awasi di sini Blog Keamanan Mac untuk berita keamanan dan privasi Apple terbaru. Dan jangan lupa untuk mengikuti Intego di saluran media sosial favorit Anda: Ikuti Intego di Twitter Ikuti Intego di Facebook Ikuti Intego di YouTube Ikuti Intego di Pinterest Ikuti Intego di LinkedIn Ikuti Intego di Instagram Ikuti Intego Mac Podcast di Apple Podcasts

Kolase tajuk oleh Joshua Long, berdasarkan gambar domain publik: manekin dengan kode, wajah robot, mata HAL 9000, virus dengan protein lonjakan.

Tentang Joshua Long

Joshua Long (@theJoshMeister), Kepala Analis Keamanan Intego, adalah peneliti keamanan, penulis, dan pembicara publik terkenal. Josh memiliki gelar master di bidang TI yang berkonsentrasi pada Keamanan Internet dan telah mengambil kursus tingkat doktor dalam Keamanan Informasi. Apple secara terbuka mengakui Josh karena menemukan kerentanan otentikasi ID Apple. Josh telah melakukan penelitian keamanan siber selama lebih dari 20 tahun, yang sering ditampilkan oleh outlet berita besar di seluruh dunia. Cari lebih banyak artikel Josh di security.thejoshmeister.com dan ikuti dia Twitter. Lihat semua posting oleh Joshua Long →

Entri ini diposting di Malware dan menandai AI, ChatGPT, malware. Tandai permalink.