markettrack.id – Palo Alto Networks, pemimpin keamanan siber berbasis AI, baru-baru ini merilis laporan “State of Generative AI 2025” yang menunjukkan peningkatan luar biasa dalam lalu lintas Generative AI (GenAI) sebesar 890% sepanjang tahun 2024.
Peningkatan ini didorong oleh adopsi cepat alat GenAI di lingkungan perusahaan. Namun, laporan tersebut memperingatkan bahwa penggunaan alat GenAI yang tidak disetujui, ancaman baru, serta tata kelola yang lemah telah memperluas area serangan yang dihadapi organisasi dengan sangat cepat, terutama di kawasan Asia-Pasifik dan Jepang.
Perusahaan-perusahaan dengan cepat memanfaatkan GenAI untuk beragam keperluan, mulai dari asisten penulisan dan platform coding hingga dukungan pelanggan dan alat pencarian.
Akan tetapi, penerapan luas ini seringkali melampaui kemampuan banyak organisasi untuk menerapkan kontrol keamanan yang memadai. Rata-rata, setiap organisasi kini mengelola 66 aplikasi GenAI dalam lingkungannya, dengan 10% di antaranya diklasifikasikan berisiko tinggi.
Kawasan Asia-Pasifik, termasuk Indonesia, sedang mengalami percepatan pesat dalam adopsi AI dan GenAI. McKinsey pada tahun 2024 melaporkan bahwa penerapan GenAI di Asia Pasifik telah meningkat hampir dua kali lipat dalam waktu kurang dari setahun, dengan 65% organisasi di wilayah tersebut kini menggunakannya setidaknya di satu departemen.
Di Indonesia, laporan Oliver Wyman menunjukkan 50% karyawan menggunakan GenAI setiap pekan dan 21% menggunakannya setiap hari, terutama untuk pembuatan konten, layanan pelanggan, dan tugas penelitian.
Selain itu, pemerintah juga telah menetapkan target ambisius; AI diharapkan dapat berkontribusi sebesar US$366 miliar (sekitar Rp5.939 triliun) terhadap PDB nasional pada tahun 2030.
Dalam konteks ini, Peta Jalan AI Nasional yang akan segera dirilis oleh Kementerian Komunikasi dan Informatika (Kominfo) memainkan peran penting dalam memastikan pengembangan tata kelola AI yang etis, aman, dan inklusif.
Tonggak sejarah ini menekankan pentingnya penyusunan kerangka regulasi adaptif yang selaras dengan perkembangan teknologi dan kebutuhan lokal, sekaligus menjaga kepercayaan masyarakat di tengah transformasi digital Indonesia.
Tom Scully, Direktur dan Arsitek Utama untuk Pemerintahan dan Industri Kritis, Asia Pasifik & Jepang di Palo Alto Networks, menyatakan bahwa adopsi AI menawarkan peluang transformatif di seluruh sektor komersial dan pemerintahan di kawasan ini.
Namun, sebagaimana disampaikan dalam laporan, terjadi juga perkembangan area serangan, terutama dengan penggunaan aplikasi GenAI berisiko tinggi di sektor infrastruktur penting.
Organisasi harus menyeimbangkan inovasi dengan tata kelola yang kuat, mengadopsi arsitektur keamanan yang memperhitungkan risiko unik dari AI, tanpa kehilangan keamanan nasional, kepercayaan publik, atau integritas operasional.
Temuan Kunci dan Rekomendasi Keamanan GenAI
Laporan “State of GenAI 2025”, yang didasarkan pada analisis lalu lintas dari 7.051 pelanggan perusahaan global, memberikan gambaran mendalam tentang bagaimana perusahaan mengadopsi GenAI dan di mana saja titik kerentanan terbesar mereka.
Temuan utama dari laporan ini meliputi:
- Preferensi Pengguna untuk Produktivitas: Aplikasi seperti Grammarly (52,05%), Microsoft 365 Copilot (16,84%), dan Microsoft Power Apps (14,49%) memimpin sebagai aplikasi GenAI paling banyak digunakan di Indonesia, menunjukkan fokus pada peningkatan produktivitas.
- Pertumbuhan Eksponensial: Lalu lintas GenAI meningkat lebih dari 890% pada tahun 2024. Setelah peluncuran DeepSeek-R1 pada Januari 2025, lalu lintas terkait DeepSeek saja melonjak 1.800% dalam dua bulan.
- Peningkatan Insiden Kehilangan Data: Insiden data loss prevention (DLP) yang terkait dengan GenAI meningkat lebih dari dua kali lipat, kini mencapai 14% dari semua insiden keamanan data.
- Ancaman “Shadow AI”: Penggunaan GenAI yang tidak sah dan tidak disetujui, dikenal sebagai “Shadow AI”, menciptakan banyak titik buta bagi tim IT dan keamanan, menyulitkan kontrol aliran data sensitif.
- Risiko Lebih Tinggi di Sektor Kritis: Banyak model AI berisiko tinggi tetap rentan terhadap serangan jailbreak yang menghasilkan konten tidak aman, termasuk materi ofensif dan instruksi untuk aktivitas ilegal, khususnya di sektor infrastruktur penting dan pemerintahan.
- Wawasan Industri: Sektor teknologi dan manufaktur menyumbang 39% dari transaksi coding AI, menciptakan risiko tambahan bagi industri yang sangat bergantung pada kekayaan intelektual.
Adi Rusli, Country Manager, Indonesia, Palo Alto Networks, menjelaskan bahwa tanpa perlindungan dan kontrol keamanan yang memadai, aplikasi GenAI dapat menjadi vektor serangan siber.
Kekayaan intelektual dan data pribadi berisiko terekspos, disimpan, atau disalahgunakan, sehingga menimbulkan kekhawatiran privasi, kehilangan data sensitif, dan ketidakpatuhan pengaturan. Untuk mengatasi hal ini, perusahaan perlu mengambil langkah proaktif untuk mitigasi.
Kolaborasi kuat antar pemangku kepentingan akan membuka jalan bagi organisasi di Indonesia untuk menanamkan kepercayaan dan akuntabilitas untuk strategi AI mereka, membuka jalan bagi adopsi AI yang lebih aman di seluruh lanskap perusahaan.
Laporan ini juga menawarkan rekomendasi praktik terbaik bagi bisnis yang ingin memanfaatkan potensi GenAI dengan aman:
- Membangun Visibilitas dan Kontrol: Miliki pengawasan komprehensif atas penggunaan aplikasi GenAI, terapkan kebijakan akses bersyarat, dan kelola izin di tingkat pengguna dan grup.
- Melindungi Data Sensitif: Terapkan pemeriksaan konten secara real-time dengan penegakan kebijakan, demi mendeteksi dan mencegah eksfiltrasi data yang tidak sah.
- Melindungi dari Ancaman Berbasis AI: Terapkan arsitektur keamanan Zero Trust untuk memitigasi ancaman siber modern, malware, dan serangan berbasis AI yang canggih.
Sumber data untuk laporan ini berasal dari analisis Palo Alto Networks terhadap lalu lintas GenAI di seluruh basis pelanggan global yang terdiri dari 7.051 organisasi sepanjang tahun 2024.
SF-Admin
