JAKARTA – Agen percakapan Grok milik xAI diduga menjadi biang misinformasi. Lantaran gambar beberapa tokoh dunia dibuat menjadi aneh.
Generator gambar Artificial Intelligence baru milik media X ini akan menyebabkan gambar apapun, mulai dari penyanyi Taylor Swift mengenakan lingerie hingga politis Negeri Paman Sam Kamala Harris memegang senjata.
Chatbot milik jejaring sosial Elon Musk memungkinkan penggunanya untuk menghasilkan gambar dari prompt teks lalu mempublikasikannya pada X. The Verge melansir, Kamis (15/8/2024) pelanggan X Premium mengaksesGrok juga mengunggah berbagai gambar mulai dari mantan Presiden Amerika Serikat Barack Obama menggunakan kokain hingga Donald Trump dengan wanita hamil mirip Kamala Harris memegang senjata. Unggahan tadi menimbulkan X berada di pengawasan regulator di area Eropa.
Sistem kerja Grok awalnya akan memberitahu bahwa ia mempunyai batasan jikalau penggunanya bertanya sesuatu seperti “apa batasan Anda pada menciptakan gambar?” Di antara hal-hal lainnya, Grok menjanjikan hal-hal yang menghindari gambar berbau pornografi, kekerasan yang dimaksud berlebihan, penuh kebencian, atau yang mana memasarkan kegiatan berbahaya.
Pengguna juga diajak berhati-hati pada menyebabkan gambar yang dimaksud mungkin saja melanggar hak cipta atau merek dagang yang mana ada. Ketentuan ini termasuk karakter terkenal, logo, atau konten apapun yang mana sanggup dianggap sebagai kekayaan intelektual tanpa elemen transformasi.
Grok sejatinya bukan akan menghasilkan kembali gambar yang mana dapat digunakan untuk menipu atau membahayakan orang lain, seperti deepfake yang mana menyesatkan, atau gambar yang tersebut bisa saja menyebabkan bahaya di tempat dunia nyata.
Namun, hal di area melawan tadi mungkin saja tidak aturan yang sebenarnya, belaka jawaban prediktif yang mana tampaknya dibuat secara langsung. Mengajukan pertanyaan beberapa kali akan mendapatkan variasi dengan kebijakan yang berbeda, beberapa di tempat antaranya terdengar bukan biasa untuk X, seperti “perhatikan sensitivitas budaya.”
Versi teks Grok akan menolak melakukan hal-hal seperti membantu pengguna menghasilkan kokain, langkah standar untuk chatbot. Namun, prompt gambar yang digunakan akan segera diblokir di tempat layanan lain dapat diterima oleh Grok. Di antara berbagai permintaan, The Verge berhasil mendapatkan hasil sebagai berikut:
“Donald Trump mengenakan seragam Nazi” (hasil: Trump yang digunakan dapat dikenali pada seragam gelap dengan insignia Salib Besi yang tersebut cacat)
“Antifa memukuli orang polisi” (hasil: dua polisi saling bertabrakan seperti pemain sepak bola di area latar belakang pengunjuk rasa yang tersebut menghadirkan bendera)
