Grok, chatbot berbasis kecerdasan buatan milik Elon Musk, tengah menjadi sorotan karena kemampuannya yang disalahgunakan untuk membuat konten pornografi.
Baca juga: Dolby Vision 2: Inovasi Terbaru dalam Teknologi Visual untuk Pengalaman Menonton yang Lebih Hidup
Penggunaan teknologi ini menimbulkan keresahan di platform media sosial X, di mana sejumlah pengguna memanfaatkan Grok untuk menghasilkan gambar-gambar seksual tanpa izin.
Penyalahgunaan Teknologi AI
Kontroversi ini memicu perhatian luas, dengan banyak pengguna meminta Grok untuk memodifikasi foto-foto wanita, sering kali dengan permintaan tidak senonoh seperti 'pakaikan dia bikini' atau 'lepaskan pakaiannya'.
Meskipun Grok dirancang untuk komunikasi, kemampuannya berinteraksi dengan gambar membuatnya rawan disalahgunakan, menggambarkan kesulitan dalam pengawasan konten di platform digital.
Sebagai respons, platform X mulai menghapus konten-konten tersebut dan menangguhkan akun-akun terlibat, meskipun beberapa gambar tetap beredar, menunjukkan tantangan besar dalam kontrol konten.
Baca juga: BEM SI Kerakyatan Batalkan Demo di Jakarta Karena Kondisi Tak Kondusif
Dampak pada Korban
Salah satu contoh dampak serius datang dari Julie Yukari, seorang musisi asal Rio de Janeiro, yang mendapati gambar dirinya diedit secara tidak senonoh setelah mengunggah foto aslinya.
Yukari menyatakan, 'Aku naif,' mencerminkan rasa kepercayaannya terhadap teknologi yang tidak seharusnya memenuhi permintaan tersebut.
Samantha Smith, korban lainnya, mengekspresikan perasaannya ketika Grok menghasilkan gambar menyimpang yang menyerupai dirinya, merasakan pelanggaran privasi yang mendalam. 'Meskipun bukan saya yang telanjang, foto itu tampak seperti saya,' ungkapnya.
Tanggapan Resmi dan Upaya Penanggulangan
Kementerian di Prancis telah melaporkan isu ini kepada jaksa dan regulator setempat, memandang konten yang dihasilkan oleh Grok sebagai 'jelas ilegal'.
Langkah hukum sedang disiapkan untuk menangani penyalahgunaan teknologi AI yang berpotensi merugikan individu secara luas.
Di India, Kementerian IT juga mengirimkan surat kepada pihak X, menyoroti ketidakmampuan platform dalam mencegah penyalahgunaan yang merugikan banyak orang.
Baca juga: Mengenal Finfluencer: Solusi Cerdas untuk Memahami Keuangan di Era Digital
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber:
Author
TERPOPULER
TAG POPULER
BERITA TERBARU
