Gadgetholic – Di tengah pesatnya adopsi kecerdasan buatan (AI) dan meningkatnya ancaman siber, para pemimpin keamanan Teknologi Informasi (TI) di Indonesia semakin menyadari pentingnya transformasi dalam praktik keamanan mereka. Survei State of IT terbaru dari Salesforce mengungkap bahwa 82% pemimpin keamanan TI Indonesia menyadari kebutuhan mendesak untuk beradaptasi, dengan 100% dari mereka mengidentifikasi setidaknya satu tantangan keamanan yang dapat ditingkatkan melalui agen AI.
Optimisme Tinggi, Tapi Tantangan Implementasi Nyata
Meskipun penuh harapan, tantangan signifikan masih membayangi penerapan AI. Dari lebih dari 150 pemimpin TI Indonesia yang disurvei, termasuk 75 profesional di bidang keamanan, privasi, dan kepatuhan, hampir 1 dari 3 (29%) mengkhawatirkan kesiapan fondasi data mereka untuk mendukung AI agentic. Selain itu, lebih dari separuh (57%) belum yakin memiliki pengamanan (guardrails) yang cukup dalam menjalankan AI secara aman.
Menurut Gavin Barfield, Vice President & Chief Technology Officer, Solutions, ASEAN, Salesforce:
“Organisasi hanya bisa mempercayai agen AI sejauh mereka yakin bahwa data mereka dapat diandalkan. Tata kelola data yang kuat bukan lagi pilihan, tapi keharusan.”
Ancaman Siber Semakin Canggih: Perlu Strategi Baru
Ancaman berbasis AI berkembang pesat. Sebanyak 71% pemimpin TI di Indonesia menyatakan kekhawatirannya bahwa metode tradisional perlindungan akan tertinggal. Selain peretasan, malware, dan phishing, muncul juga ancaman baru seperti data poisoning, yaitu manipulasi data pelatihan AI untuk menghasilkan keputusan yang salah atau berbahaya.
Kondisi ini mendorong peningkatan anggaran keamanan TI seiring perlunya memperkuat sistem perlindungan terhadap serangan yang kian kompleks.
Kepatuhan dan Regulasi: Peluang dan Tantangan Ganda
Sebagian besar pemimpin keamanan TI (92%) percaya bahwa agen AI dapat membantu kepatuhan terhadap aturan privasi dan regulasi global. Namun, kompleksitas dan dinamika regulasi menghadirkan tantangan tersendiri:
- 40% belum sepenuhnya yakin dapat menjalankan AI sesuai regulasi
- 37% mengaku belum siap menghadapi perubahan regulasi
- 87% melihat tantangan baru dalam kepatuhan akibat penggunaan AI
Manualisasi proses kepatuhan dan beragamnya regulasi di tiap wilayah membuat transisi ke AI membutuhkan pendekatan yang lebih strategis.
Krisis Kepercayaan Konsumen terhadap AI
Kepercayaan publik terhadap penggunaan AI oleh perusahaan menurun drastis. Hanya 42% konsumen yang yakin bahwa perusahaan akan menggunakan AI secara etis, turun dari 58% pada tahun 2023. Hal ini menjadi perhatian besar bagi pemimpin TI yang tengah membangun kredibilitas.
Fakta-fakta penting lainnya:
- 45% pemimpin TI belum yakin akan akurasi atau transparansi hasil AI
- 52% belum memberikan transparansi penuh atas pemanfaatan data pelanggan dalam AI
- 45% belum memiliki panduan etis yang memadai dalam penggunaan AI
Tata Kelola Data: Fondasi AI yang Bertanggung Jawab
Hanya 57% pemimpin TI yang yakin bahwa agen AI mereka berjalan sesuai izin dan protokol yang benar, sementara hanya 43% yang percaya sistem pengamanan data mereka sudah memadai. Dengan diberlakukannya UU Perlindungan Data Pribadi (PDP), organisasi di Indonesia kini dituntut memiliki tata kelola data yang jauh lebih ketat.
Beberapa implikasi dari regulasi PDP:
- Izin eksplisit dari pengguna untuk pemrosesan data
- Penunjukan petugas perlindungan data
- Kewajiban pelaporan insiden keamanan
- Standar ketat dalam transfer data lintas negara
Regulasi ini menuntut perusahaan untuk menyesuaikan sistem internal, kebijakan, dan penerapan AI secara menyeluruh guna menghindari risiko hukum dan reputasi.
Adopsi AI Agentic Terus Meningkat
Survei menunjukkan bahwa 51% tim keamanan TI di Indonesia telah menggunakan agen AI dalam operasional harian. Angka ini diperkirakan akan meningkat lebih dari dua kali lipat dalam dua tahun ke depan. Sebanyak 84% pemimpin TI menyatakan minat tinggi dalam meningkatkan penggunaan agen AI, baik untuk deteksi ancaman, audit kinerja AI, hingga efisiensi operasional.
