Agen AI Buka Celah Kebocoran Data Baru di Perusahaan

Penggunaan kecerdasan buatan (AI) berbasis agen otonom di berbagai sistem perusahaan memicu pergeseran mendasar pada lanskap risiko keamanan siber. Laporan State of the Internet (SOTI) terbaru dari Akamai mengungkap tantangan utama para Chief Information Security Officer (CISO) kini bergeser dari sekadar manajemen identitas manusia menjadi tata kelola perilaku entitas non-manusia.

Kebocoran Data di Chatbot AI

Salah satu temuan paling mencolok: lebih dari 6 persen interaksi percakapan chatbot AI di lingkungan korporat terbukti mengandung data perusahaan yang sensitif, terutama data pribadi (PII). Yang lebih mengkhawatirkan, sebanyak 47 persen dari interaksi tersebut terjadi melalui akun pribadi yang lepas dari pengawasan tim IT.

Ekstensi Browser Berbasis AI Jadi Celah

Lebih dari 40 persen pengguna korporat telah menginstal ekstensi browser berbasis AI, dan 25 persen di antaranya mengubah izin akses dalam kurun 12 bulan. Ekstensi berbasis AI juga tercatat memiliki risiko 60 persen lebih tinggi mengandung celah kerentanan (CVE) dibanding ekstensi standar.

Ancaman Lain yang Perlu Diwaspadai

Laporan itu juga menyoroti kesenjangan visibilitas pada Model Context Protocol (MCP) — protokol yang memungkinkan agen AI berinteraksi lintas sistem — yang justru menempati prioritas terakhir para CISO. Padahal, agen AI yang tidak terkendali diproyeksikan menjadi ancaman siber utama pada 2030.

Selain itu, model AI tingkat lanjut mampu mengidentifikasi dan merangkai kelemahan sistem secara instan, membuat siklus penambalan manual menjadi terlambat dan tidak efektif. Muncul pula fenomena “pelanggan sintetis” seiring agen AI menggantikan trafik web tradisional.

Rekomendasi untuk Bos Keamanan

Untuk mengantisipasi era AI berbasis agen, Akamai merumuskan empat pilar strategis: tata kelola edge adaptif, pengamanan edge browser, perlindungan otoritas brand, dan otonomi berbasis verifikasi yang tetap mempertahankan kontrol manusia untuk tindakan berisiko tinggi. Intinya, makin otonom sebuah AI, makin ketat pula verifikasi yang dibutuhkan.

Sumber: detikINET