Tren Adopsi GenAI di Industri Dibarengi Tantangan Serius Soal Keamanan

JAKARTA - Perusahaan keamanan siber AI (artificial intelligence) global, Palo Alto Networks merilis laporan terbarunya mengenai perkembangan kecerdasan buatan dalam laporan bertajuk "State of Generative AI 2025", Rabu (9/7). Salah satu sorotan utama dalam laporan tersebut yaitu terjadinya peningkatan signifikan adopsi tools lintas GenAI (Generative AI) di lingkungan perusahaan pada tahun-tahun terakhir.

Laporan menyatakan bahwa terjadi lonjakan lalu lintas GenAI yang cukup mengejutkan, hingga sebesar 890% pada tahun 2024. Bahkan setelah peluncuran DeepSeek-R1 pada Januari 2025, traffic yang terkait dengan DeepSeek saja melonjak 1.800% dalam kurun waktu dua bulan.

Lonjakan tersebut didorong oleh adopsi tools GenAI yang pesat di lingkungan perusahaan. Di mana perusahaan-perusahaan kian banyak mengadopsi GenAI untuk berbagai penggunaan, mulai dari asisten penulisan dan platform coding, hingga customer support dan alat pencarian.

Di kawasan Asia-Pasifik, termasuk Indonesia, percepatan adopsi adopsi AI dan GenAI juga tak kalah cepatnya jika dibandingkan dengan kondisi global. McKinsey pada tahun 2024 melaporkan bahwa adopsi GenAI di Asia Pasifik telah meningkat hampir dua kali lipat dalam waktu kurang dari satu tahun, dengan 65% organisasi di Asia Pasifik saat ini menggunakannya setidaknya dalam satu departemen.

Spesifik di Indonesia, dalam laporan Oliver Wyman, 50% karyawan bahkan kini sudah menggunakan GenAI dalam setiap pekannya. Dan 21% diantaranya telah menggunakan GenAI setiap hari untuk tujuan utama membuat konten, customer service, dan tugas-tugas penelitian.

Dalam lanskap GenAI di Indonesia, aplikasi Grammarly memimpin sebagai tiga aplikasi teratas yang paling banyak digunakan (52,05%), diikuti oleh Microsoft 365 Copilot (16,84%) dan Microsoft Power Apps (14,49%).

Meskipun pertumbuhan AI menawarkan manfaat produktivitas yang signifikan, laporan State of Generative AI 2025 dari Palo Alto Network memperingatkan potensi meningkatnya serangan atau attack surface bagi organisasi, terutama di kawasan Asia-Pasifik dan Jepang.

Adopsi AI yang meluas diperkirakan melampaui kemampuan banyak organisasi untuk menerapkan kontrol keamanan yang tepat. Dalam data rata-rata, organisasi sekarang mengelola 66 aplikasi GenAI di lingkungan mereka, dengan 10% diklasifikasikan berisiko tinggi.

"Adopsi AI menawarkan peluang transformatif di seluruh sektor komersial dan pemerintah di kawasan ini. Namun, seperti yang disoroti dalam laporan ini, kami juga melihat adanya attack surface yang berkembang, terutama dengan penggunaan aplikasi GenAI yang berisiko tinggi di sektor infrastruktur penting," kata Director and Principal Architect for Government and Critical Industries, Asia Pacific & Japan, at Palo Alto Networks, Tom Scully dalam keterangannya (9/7).

Ancaman-ancaman yang muncul misalnya terkait insiden kehilangan data yang terbukti mengalami peningkatan. Insiden data loss prevention (DLP) yang terkait dengan GenAI meningkat lebih dari dua kali lipat, sekarang mencapai 14% dari semua insiden keamanan data.

Selain itu juga muncul ancaman Shadow AI. Penggunaan GenAI yang tidak sah dan tidak disetujui, yang disebut “Shadow AI”, telah menciptakan sejumlah blind spot bagi tim IT dan keamanan, sehingga menyulitkan untuk mengontrol aliran data yang sensitif.

Sektor infrastruktur penting dan pemerintahan juga menghadapi risiko yang lebih tinggi. Sebab banyak model AI berisiko tinggi yang tetap rentan terhadap serangan jailbreak yang menghasilkan konten tidak aman, termasuk materi ofensif dan instruksi untuk aktivitas ilegal.

Ancaman risiko tambahan juga bagi industri yang bergantung pada kekayaan intelektual, seperti di sektor teknologi dan manufaktur yang menyumbang 39% dari transaksi coding AI.

"Organisasi harus menyeimbangkan inovasi dengan tata kelola yang kuat, mengadopsi arsitektur keamanan yang memperhitungkan risiko-risiko unik dari AI. Pengawasan proaktif dan kontrol keamanan yang adaptif sangat penting untuk memastikan bahwa manfaat AI dapat direalisasikan sepenuhnya tanpa mengorbankan keamanan nasional, kepercayaan publik, atau integritas operasional," kata Tom Scully.

Selain mengungkapkan ancaman yang terjadi, laporan Palo Alto Network ini juga menawarkan rekomendasi best practice untuk bisnis yang ingin memanfaatkan potensi GenAI dengan aman. Mulai dari dengan membangun visibilitas dan kontrol atau pengawasan yang komprehensif atas penggunaan aplikasi GenAI, termasuk menerapkan access policy bersyarat, dan mengelola permission di tingkat user dan group.

Baca juga: Menilik Manfaat LLM Dalam Pendidikan Hingga Kesehatan

Kemudian menerapkan pemeriksaan konten secara real-time dengan policy enforcement terpusat, demi mendeteksi dan mencegah eksfiltrasi data yang tidak sah. Sebagai upaya melindungi data sensitif. Ditambah perlindungan dari ancaman yang berbasis AI seperti dengan menerapkan arsitektur keamanan Zero Trust untuk memitigasi serangan berbasis AI yang canggih.

Di Indonesia sendiri, pemerintah telah menetapkan target yang ambisius, yakni AI diharapkan dapat memberikan kontribusi sebesar US$ 366 miliar (sekitar Rp 5.939 triliun) terhadap PDB nasional pada tahun 2030. Dalam tujuan itu, pemerintah telah menginisiasi Peta Jalan AI Nasional yang diharapkan selesai dalam waktu dekat.

Peta Jalan AI Nasional  itu diharapkan bisa memainkan peran penting dalam memastikan pengembangan tata kelola AI yang etis, aman, dan inklusif. Tonggak sejarah ini menekankan pentingnya penyusunan framework regulasi adaptif yang selaras dengan perkembangan teknologi dan kebutuhan lokal, sekaligus menjaga kepercayaan publik di tengah transformasi digital Indonesia.