DeepSeek, platform Kecerdasan Buatan (AI) populer asal China, kini tengah menjadi sorotan. Regulator Italia memulai penyelidikan terhadap DeepSeek terkait potensi masalah keamanan model AI mereka, khususnya terkait halusinasi AI dan informasi yang tidak akurat.
Dilansir dari Reuters, Otoritas Persaingan Usaha Italia (AGCM) secara resmi membuka proses penyelidikan pada Senin, 16 Juni. Investigasi ini berfokus pada kegagalan DeepSeek dalam memperingatkan pengguna mengenai risiko halusinasi pada model AI.
Mengapa Halusinasi AI Jadi Masalah?
Halusinasi adalah fenomena umum pada model AI generatif di mana AI menghasilkan informasi yang salah, tidak relevan, atau mengada-ada. Meskipun ini bisa terjadi pada AI mana pun, DeepSeek diduga tidak memberikan peringatan yang memadai kepada penggunanya.
Peringatan yang jelas dan mudah dipahami sangat penting agar pengguna tidak serta-merta mempercayai setiap informasi yang dihasilkan oleh DeepSeek. AGCM menyatakan bahwa DeepSeek gagal memberikan peringatan yang “cukup jelas, langsung, dan dapat dipahami” terkait konten yang diproduksi oleh kecerdasan buatan mereka. Durasi penyelidikan regulator Italia ini belum diungkapkan.
DeepSeek dan Jejak Masalah Internasional
Ini bukan kali pertama DeepSeek menghadapi kendala regulasi di suatu negara. Sebelumnya, pada Februari lalu, Korea Selatan sempat memblokir model AI DeepSeek.
Pemblokiran tersebut dilakukan karena DeepSeek diduga mentransfer data pengguna di Korea Selatan ke perusahaan di China, sebuah tindakan yang dianggap melanggar aturan privasi data. Namun, setelah masalah tersebut diperbaiki, DeepSeek kembali beroperasi penuh di Korea Selatan.
