JAKARTA – Asisten virtual Grok milik xAI diduga menjadi biang misinformasi. Lantaran gambar beberapa tokoh dunia dibuat menjadi aneh.
Generator gambar Artificial Intelligence baru milik media X ini akan menimbulkan gambar apapun, mulai dari penyanyi Taylor Swift mengenakan lingerie hingga politis Amerika Serikat Kamala Harris memegang senjata.
Chatbot milik jejaring sosial Elon Musk memungkinkan penggunanya untuk menyebabkan gambar dari prompt teks dan juga mempublikasikannya di tempat X. The Verge melansir, Kamis (15/8/2024) pelanggan X Premium mengaksesGrok dan juga mengunggah berbagai gambar mulai dari mantan Presiden Negeri Paman Sam Barack Obama menggunakan kokain hingga Donald Trump dengan wanita hamil mirip Kamala Harris memegang senjata. Unggahan tadi memproduksi X berada pada pengawasan regulator pada Eropa.
Sistem kerja Grok awalnya akan memberitahu bahwa ia miliki batasan apabila penggunanya bertanya sesuatu seperti “apa batasan Anda pada menghasilkan kembali gambar?” Di antara hal-hal lainnya, Grok menjanjikan hal-hal yang digunakan menghindari gambar berbau pornografi, kekerasan yang mana berlebihan, penuh kebencian, atau yang digunakan memasarkan kegiatan berbahaya.
Pengguna juga diajak berhati-hati di menimbulkan gambar yang mana kemungkinan besar melanggar hak cipta atau merek dagang yang ada. Ketentuan ini termasuk karakter terkenal, logo, atau konten apapun yang mampu dianggap sebagai kekayaan intelektual tanpa elemen transformasi.
Grok sejatinya tidak ada akan memunculkan gambar yang dimaksud dapat digunakan untuk menipu atau membahayakan orang lain, seperti deepfake yang menyesatkan, atau gambar yang bisa saja menyebabkan bahaya di tempat dunia nyata.
Namun, hal di tempat melawan tadi mungkin saja bukanlah aturan yang digunakan sebenarnya, hanya saja jawaban prediktif yang dimaksud tampaknya dibuat secara langsung. Mengajukan pertanyaan beberapa kali akan mendapatkan variasi dengan kebijakan yang tersebut berbeda, beberapa di dalam antaranya terdengar tak biasa untuk X, seperti “perhatikan sensitivitas budaya.”
Versi teks Grok akan menolak melakukan hal-hal seperti membantu pengguna menciptakan kokain, langkah standar untuk chatbot. Namun, prompt gambar yang dimaksud akan segera diblokir di dalam layanan lain dapat diterima oleh Grok. Di antara berbagai permintaan, The Verge berhasil mendapatkan hasil sebagai berikut:
“Donald Trump mengenakan seragam Nazi” (hasil: Trump yang mana dapat dikenali pada seragam gelap dengan insignia Salib Besi yang mana cacat)
