2 hours ago
2
REPUBLIKA.CO.ID, JAKARTA -- Agentic artificial intelligence (AI) telah hadir lebih cepat dari yang diperkirakan banyak pihak dan diproyeksikan akan secara mendasar mengubah cara manusia, aplikasi, dan perangkat terhubung dengan sistem maupun data. Meski peluang yang ditawarkan sangat besar, risiko keamanan juga berkembang sama cepatnya, bahkan banyak di antaranya baru muncul dalam beberapa bulan terakhir.
Badan Siber dan Sandi Negara (BSSN) bersama Lembaga Riset Siber Indonesia (CISSReC) telah menandai ancaman agentic AI setelah mendeteksi 2,87 miliar anomali lalu lintas siber pada paruh pertama 2025, naik tajam dari 361 juta pada periode yang sama tahun lalu.
“Lonjakan anomali ini adalah sinyal bahwa perusahaan tidak bisa lagi memandang ancaman AI sebagai sesuatu yang futuristik. Risiko agentic AI sudah nyata dan harus segera diantisipasi,” ujar Yuval Moss, Vice President of Solutions for Global Strategic Partners.
Berbeda dengan AI tradisional, agentic AI tidak hanya mampu menganalisis informasi, tetapi juga dapat bertindak secara mandiri. Mereka dapat beradaptasi dengan data baru, meningkatkan performa seiring waktu, dan bekerja menuju tujuan tertentu tanpa pengawasan terus menerus dari manusia.
Dalam waktu dekat, setiap identitas dalam perusahaan, baik manusia, perangkat, maupun aplikasi, akan berinteraksi dengan layanan melalui lapisan AI agents. Beberapa akan terpasang langsung dalam sistem operasi dan platform perusahaan, sebagian terintegrasi dalam alat kolaborasi, dan banyak yang dikembangkan secara internal atau disediakan oleh vendor software-as-a-service (SaaS). Pada akhirnya, AI agents kemungkinan besar akan menjadi antarmuka utama ke sistem inti, membuat penggunaannya tidak terhindarkan.
“Ketika AI agents menjadi antarmuka utama ke sistem bisnis, perusahaan harus memastikan bahwa mereka dikelola dengan prinsip keamanan yang sama ketatnya dengan identitas manusia. Tanpa itu, risiko yang muncul akan jauh lebih besar daripada manfaatnya,” jelas Yuval.
Lima risiko keamanan yang mungkin ridak diantisipasi
Pengguna supercharged, risiko supercharged
Dengan AI agents yang tertanam dalam workstation, browser, dan aplikasi berbasis cloud, seorang pengguna bisnis biasa bisa bekerja seolah-olah mengelola tim virtual kecil. Namun, bila akun pengguna tersebut diretas, baik oleh ancaman internal maupun eksternal, potensi kerusakannya meningkat drastis.
Munculnya shadow AI agents
Seperti halnya shadow IT yang dulu mengejutkan banyak perusahaan, AI agents juga bisa hadir tanpa persetujuan resmi. Mereka mungkin dibuat oleh tim pengembang, terpasang otomatis oleh aplikasi SaaS atau dipasang oleh pengguna individual. Shadow agents ini dapat beroperasi secara mandiri, melewati visibilitas serta pengawasan tim TI dan keamanan yang menciptakan titik buta yang serius dan memperbesar risiko kebocoran data.
Pengembang sebagai unit penelitian dan pengembangan tunggal
Dengan agentic AI, seorang pengembang kini dapat mengelola seluruh siklus hidup aplikasi, mulai dari penulisan kode, pengujian, hingga pemeliharaan. Walau efisiensi meningkat, akses hak istimewa pengembang juga bertambah. Jika identitas mereka diretas, penyerang bisa menguasai seluruh tahapan pengembangan dan pengiriman aplikasi, menjadikannya salah satu titik serangan paling berbahaya.
Kerentanan human-in-the-loop
Bahkan dengan AI agents berkemampuan canggih sekalipun, banyak proses tetap membutuhkan validasi manusia. Peran human-in-the-loop ini misalnya menyetujui pengecualian, meninjau output, atau memengaruhi perilaku agen pembelajar. Individu yang berperan di jalur ini memiliki otoritas kritis, sehingga menjadi target utama penyerang. Jika berhasil disusupi, mereka dapat dimanipulasi untuk menyetujui tindakan berbahaya atau memberikan akses yang tidak sah. Menjaga peran-peran penting ini menjadi strategi keamanan yang sangat vital.
Masalah skala: jutaan identitas mesin
Identitas mesin saat ini sudah melampaui identitas manusia di sebagian besar organisasi, bahkan dalam beberapa kasus besarnya mencapai 82 banding 1. Proyeksi menunjukkan ketimpangan ini akan terus melebar, dengan kemungkinan ribuan agen untuk setiap operator manusia.
Praktik terbaik yang umum dalam desain agentic AI adalah dengan membagi tugas besar menjadi banyak agen kecil yang berspesialisasi lalu berkolaborasi untuk mencapai tujuan. Strategi ini memang efisien namun secara eksponensial menambah jumlah identitas mesin yang harus dikelola, diautentikasi, dan diamankan. Tanpa pengawasan ketat, ekspansi cepat ini dapat menimbulkan kerentanan keamanan serius.
Mempersiapkan Keamanan di Era Agentic AI
Untuk memberdayakan manfaat agentic AI sekaligus mengendalikan risikonya, organisasi perlu mengadopsi langkah-langkah keamanan yang mengimbangi proporsi dan kompleksitasnya, antara lain visibilitas penuh atas semua aktivitas, baik yang dilakukan identitas manusia maupun mesin.
Kemudian, mekanisme autentikasi kuat dalam melakukan verifikasi identitas sebelum memberikan akses. Berikutnya, menjalankan prinsip least-privilege access untuk memastikan pengguna dan AI agents hanya memiliki izin sesuai kebutuhan.
Juga kontrol akses dengan metode just-in-time untuk membatasi izin tetap dan mengurangi paparan risiko. Kemudian audit sesi yang komprehensif untuk mengaitkan setiap tindakan langsung ke identitas asalnya.
“Organisasi harus memandang keamanan bukan sebagai penghalang inovasi, melainkan sebagai fondasi untuk memastikan agentic AI benar-benar memberikan nilai bisnis,” tutur Yuval.
Agentic AI berpotensi mengubah cara perusahaan beroperasi dengan menghadirkan pengambilan keputusan yang lebih cepat, produktivitas lebih tinggi, dan sistem yang lebih adaptif. Namun tanpa pengamanan yang tepat, risikonya dapat berkembang secepat manfaatnya.
Kuncinya bagi perusahaan adalah mengintegrasikan keamanan di setiap tahap siklus hidup AI, mulai dari desain dan penerapan hingga pengawasan dan tata kelola. Dengan persiapan sejak dini, organisasi dapat tetap mengendalikan sistem dan data mereka, bahkan sambil merangkul semua peluang yang ditawarkan era teknologi baru ini. Mereka yang berhasil akan mampu meraih keunggulan dari agentic AI, sekaligus menghindari jebakan risikonya.
sumber : rilis
