Bahaya, Hacker Kelabui ChatGPT untuk Kasih Instruksi Bikin Bom Rakitan
thedesignweb.co.id, Jakarta – Jika Anda meminta ChatGPT membantu Anda membuat bom rakitan serupa dengan yang digunakan pada serangan teroris Oklahoma City tahun 1995, chatbot pasti akan menolak.
Namun, seorang seniman dan peretas menemukan cara untuk mengelabui ChatGPT agar mengabaikan instruksi dan tanggung jawab etis mereka untuk membuat instruksi membuat bom buatan sendiri yang kuat.
Peretas, yang bernama Amadon, menyebut penemuannya sebagai “peretasan rekayasa sosial untuk sepenuhnya menghancurkan semua dinding yang dihasilkan ChatGPT.”
Seorang ahli bahan peledak yang meninjau hasil chatbot mengatakan kepada TechCrunch, seperti dikutip Jumat (13/9/2024), bahwa instruksi yang dihasilkan dapat digunakan untuk membuat produk yang dapat diledakkan dan terlalu sensitif untuk dilepaskan.
Amadon mampu mengelabui ChatGPT agar membuat instruksi bom dengan menyuruh bot untuk “bermain permainan”, dan kemudian peretas menggunakan serangkaian perintah uang untuk membuat chatbot menciptakan dunia fantasi yang rumit di mana instruksi keselamatan diberikan kepada bot. tidak berlaku.
Menipu chatbot untuk melewati batasan yang telah diprogram dikenal sebagai “jailbreaking”.
TechCrunch belum mempublikasikan beberapa perintah yang digunakan dalam jailbreak atau beberapa tanggapan ChatGPT untuk menghindari membantu pelaku jahat.
Namun, sedikit perintah dalam percakapan, chatbot menjawab tentang bahan-bahan yang dibutuhkan untuk membuat bom buatan sendiri.
ChatGPT kemudian menjelaskan bahwa bahan-bahan ini dapat digabungkan untuk menghasilkan “bahan peledak yang dapat digunakan untuk membuat ranjau, perangkap, atau alat peledak improvisasi (IED).”
Dari sana, saat Amadon menyempurnakan bahan peledaknya, ChatGPT menulis instruksi yang lebih spesifik untuk membuat “ladang ranjau” dan “bahan peledak gaya Claymore”.
Amadon mengatakan kepada TechCrunch bahwa “tidak ada batasan untuk apa yang dapat Anda tanyakan saat melewati tempat penampungan.”
“Saya selalu tertarik dengan tantangan dalam menavigasi keamanan AI. Dengan ChatGPT, ini seperti memecahkan teka-teki interaktif, mencari tahu apa yang berhasil dan apa yang tidak,” kata Amadon.
Chatbot cerdas OpenAI, ChatGPT, kini digunakan oleh 200 juta pengguna aktif mingguan. Jumlah ini dua kali lipat jumlah pengguna ChatGPT pada musim panas lalu.
Melansir Reuters, Minggu (1/9/2024), ChatGPT akan diluncurkan pada tahun 2022. Chatbot buatan AI ini dapat berkomunikasi dan merespons sesuai pertanyaan dan perintah pengguna.
November lalu, CEO OpenAI Sam Altman mengatakan ChatGPT baru saja mencapai 100 juta pengguna aktif mingguan.
Selain itu, OpenAI menyebutkan bahwa 92 persen perusahaan Fortune 500 sudah menggunakan layanan dan produk API-nya.
Layanan ini memungkinkan program perangkat lunak untuk berkomunikasi satu sama lain, dan penggunaan aplikasi ini meningkat dua kali lipat sejak peluncuran ChatGPT-4o mini pada bulan Juli.
Sekadar informasi, GPT-4o mini merupakan model berukuran kecil. Tujuan dari program ini adalah membuat teknologi kecerdasan buatan lebih terjangkau dan hemat energi. Dengan cara ini, startup bisa fokus pada target pasar yang lebih luas.
Asal tahu saja, keberadaan ChatGPT telah meningkatkan popularitas AI dan mendorong peningkatan valuasi OpenAI yang saat ini berlokasi di San Francisco, Amerika Serikat.
Dalam perkembangannya, OpenAI semakin populer dan baru-baru ini OpenAI dan Anthropic menandatangani perjanjian dengan pemerintah AS untuk meneliti, menguji, dan mengevaluasi model kecerdasan buatan mereka.
Namun, dalam hal AI yang saat ini menjadi favorit di dunia teknologi, perusahaan teknologi sukses seperti Apple dan Nvidia baru-baru ini terlibat dalam diskusi untuk berinvestasi di OpenAI. Investasi ini merupakan bagian dari putaran penggalangan dana baru yang, jika selesai, akan meningkatkan nilai OpenAI menjadi $100 miliar.
Microsoft yang sudah menjadi investor di OpenAI juga disebut-sebut akan menambah investasinya di perusahaan Sam Altman.