Data State of IT terbaru dari Salesforce menunjukkan peningkatan signifikan dalam adopsi agen AI di Indonesia, khususnya di sektor keamanan siber. Sebanyak 100% pemimpin keamanan TI global meyakini bahwa agen AI dapat mengatasi setidaknya satu tantangan keamanan yang ada. Di Indonesia sendiri, lebih dari 51% tim keamanan TI telah mengintegrasikan agen AI dalam operasional sehari-hari, dan angka ini diprediksi akan berlipat ganda dalam dua tahun mendatang.
Kesiapan Data dan Keamanan: Hambatan Utama Implementasi Agen AI
Meskipun optimisme terhadap AI tinggi, survei Salesforce terhadap 150 pemimpin TI di Indonesia, termasuk 75 profesional keamanan, privasi, dan kepatuhan regulasi, menyoroti tantangan besar dalam implementasi. Hampir sepertiga organisasi (29%) khawatir bahwa fondasi data mereka belum siap untuk memaksimalkan agen AI. Selain itu, lebih dari separuh (57%) belum sepenuhnya yakin memiliki pengamanan (guardrail) yang memadai untuk penerapan agen AI.
Gavin Barfield, Vice President & Chief Technology Officer, Solutions, ASEAN, Salesforce, menekankan, “49% pemimpin keamanan TI di Indonesia menyatakan bahwa keraguan pelanggan dalam mengadopsi AI disebabkan oleh masalah keamanan dan privasi. Ini menegaskan bahwa pengelolaan data yang kuat bukan lagi pilihan, melainkan keharusan.”
Ancaman Siber Berbasis AI yang Kian Canggih
Laporan ini juga menyoroti ancaman siber berbasis AI yang berkembang pesat. Sebanyak 71% pemimpin TI Indonesia khawatir bahwa ancaman ini akan segera melampaui kemampuan sistem perlindungan tradisional. Selain serangan umum seperti peretasan keamanan cloud, malware, dan phishing, kini ada kewaspadaan tinggi terhadap data poisoning. Ini adalah serangan di mana penjahat siber merusak data yang digunakan untuk melatih AI, sehingga menghasilkan keputusan yang tidak akurat atau berbahaya.
Meskipun 71% pemimpin TI Indonesia mengklaim memiliki data berkualitas, hanya 57% yang yakin agen AI mereka beroperasi dengan izin dan protokol yang benar. Lebih lanjut, hanya 43% yang percaya bahwa sistem pengamanan mereka sudah memadai. Oleh karena itu, peningkatan tata kelola data sangat krusial, sejalan dengan regulasi seperti Undang-Undang Perlindungan Data Pribadi (PDP), untuk mencegah insiden siber.
Kepatuhan Regulasi dan Perlindungan Data: Fondasi Penting
Bagi perusahaan, ini berarti penyesuaian sistem internal, kebijakan, dan praktik penggunaan AI untuk menghindari risiko hukum dan reputasi. UU PDP mewajibkan organisasi untuk:
- Memperoleh izin eksplisit dari pengguna sebelum memproses data.
- Menunjuk petugas perlindungan data.
- Melaporkan pelanggaran data segera.
- Memenuhi ketentuan ketat dalam transfer data lintas negara.
Dengan memahami dan menerapkan strategi keamanan data yang komprehensif, perusahaan dapat memaksimalkan potensi agen AI sambil memastikan kepatuhan dan kepercayaan pelanggan di era digital ini.
