Kerentanan ChatGPT: Bahaya di Balik Kecanggihan Teknologi AI

Kerentanan ChatGPT: Bahaya di Balik Kecanggihan Teknologi AI

Penelitian terbaru mengungkapkan bahwa ChatGPT, chatbot inovatif yang dikembangkan oleh OpenAI, memiliki kerentanan yang bisa dimanfaatkan oleh hacker untuk mencuri informasi pribadi pengguna.

Baca juga: Prabowo Subianto Tetap Berangkat ke China Setelah Situasi Stabil

Temuan ini menunjukkan adanya tujuh masalah utama dalam prosedur pemrosesan instruksi ChatGPT yang dapat menjadi celah bagi penyerang untuk menyuntikkan instruksi berbahaya tanpa sepengetahuan pengguna.

Kerentanan dan Teknik Eksploitasi

Para peneliti dari Tenable menegaskan bahwa kompleksitas kerentanan dalam ChatGPT memungkinkan penyerang untuk memanipulasi perilaku chatbot. Moshe Bernstein dan Liv Matan, peneliti keamanan siber dari Tenable, mengungkapkan, "Dengan menggabungkan dan mencocokkan semua kerentanan dan teknik yang kami temukan, kami mampu menciptakan bukti konsep untuk beberapa vektor serangan yang lengkap."

Salah satu strategi penyerangan yang teridentifikasi adalah indirect prompt injection. Dalam metode ini, penyerang menyuntikkan instruksi berbahaya ke dalam konten eksternal yang terlihat sah, sehingga saat pengguna meminta ChatGPT untuk meringkas konten tersebut, instruksi tersembunyi akan dieksekusi tanpa sepengetahuan pengguna.

Lebih lanjut, ditemukan juga mekanisme bypass keselamatan, di mana penyerang menyamarkan URL berbahaya dengan menggunakan domain yang dipercaya. "Mereka melakukannya dengan memanfaatkan URL wrapper terpercaya untuk menyamarkan tautan berbahaya yang sebenarnya," jelas para peneliti.

Baca juga: Kunto Aji: Tanggung Jawab Anggota DPR Harus Ditegaskan

Detail Kerentanan dalam ChatGPT

Analisis lebih dalam mengungkapkan adanya malicious content concealment, di mana penyerang mampu menyembunyikan perintah berbahaya dalam blok kode tampilan yang tidak mencurigakan. "Meskipun pengguna melihat pesan yang bersih, ChatGPT tetap membaca dan mengeksekusi konten tersembunyi," tambah para ahli.

Tidak hanya itu, terdapat pula zero click indirect prompt injection, yang menunjukkan bahwa pengguna cukup mengajukan pertanyaan dan berpotensi terpapar risiko. Dalam skenario ini, ChatGPT bisa mengambil informasi yang dibangkitkan dari halaman web berbahaya secara langsung.

Satu lagi yang diungkap adalah persistent memory injection, yang memberi penyerang kemampuan untuk menyimpan instruksi berbahaya dalam memori ChatGPT. Hal ini menyebabkan instruksi tersebut dapat dieksekusi setiap kali pengguna memulai sesi baru.

Tanggapan dan Implikasi Keamanan

Berenstein memperingatkan bahwa kelompok dengan sumber daya tinggi, seperti Advanced Persistent Threat (APT), dapat mengeksploitasi kerentanan ini untuk melaksanakan serangan berskala besar. Meskipun penelitian Tenable terfokus pada ChatGPT-4, beberapa kelemahan juga terdeteksi dalam versi yang lebih baru, ChatGPT-5.

Tenable melaporkan temuan ini kepada OpenAI pada April 2025, dan OpenAI telah mengonfirmasi penerimaan laporan tersebut. Namun, informasi lebih lanjut mengenai langkah-langkah perbaikan kerentanan ini masih belum tersedia.

Kekhawatiran terkait konsekuensi keamanan data juga meningkat, terutama bagi perusahaan yang menggunakan Large Language Models (LLM) dan chatbot tanpa memperhitungkan keamanan yang cukup. Penting bagi perusahaan untuk waspada dan memitigasi potensi risiko yang ada.

Baca juga: Tragedi di Lima: Staf KBRI Zetro Leonardo Purba Tewas Ditembak