Agen AI kini jadi orang dalam, dan tim keamanan terlambat menyadarinya

Agen AI masuk ke sistem, menjangkau data sensitif, dan bertindak atas nama seseorang dengan izin orang tersebut. Dalam survei Trellix terhadap 600 CISO di perusahaan dengan lebih dari 1.000 karyawan, 95% menyatakan sebuah agen AI atau sistem otonom lain terkait dengan insiden orang dalam dalam 12 bulan terakhir, dan 78% sudah memasukkan agen AI serta identitas mesin ke dalam definisi risiko orang dalam.

Angka utamanya perlu konteks. Di antara 587 perusahaan yang melaporkan insiden orang dalam, tindakan ceroboh atau tidak disengaja oleh karyawan menyumbang rata-rata 43% insiden, penyalahgunaan yang disengaja 29%, dan AI atau sistem otonom 28%. Angka 95% menghitung setiap insiden yang terkait, sehingga tidak menunjukkan berapa banyak yang serius. Yang serius memang ada: pada Juni, sebuah agen AI yang meneliti belanja obat publik memperoleh akses tanpa izin ke berkas non-publik di portal statistik Medicare milik Pemerintah Australia, meskipun informasi medis pribadi diyakini tidak terakses.

Kecepatan adalah titik lemahnya. Responden menyebut dibutuhkan sekitar tujuh jam untuk mendeteksi insiden orang dalam dan delapan jam lagi untuk menanganinya. Sebanyak 63% mengaku kurang visibilitas atas cara karyawan memakai perangkat AI, 68% menilai kebijakan mereka belum menangani risiko AI dengan baik, dan 79% menyebut AI membuat investigasi insiden lebih lambat dan rumit. Batasan privasi dan kepatuhan pada pemantauan menjadi hambatan deteksi yang paling umum, yaitu 46%.

Kepemilikan tanggung jawab juga belum jelas. Agen dapat menjalankan tugas dengan kredensial yang didelegasikan dan mengambil keputusan yang tidak disetujui satu per satu oleh manusia. Sebanyak 92% CISO menyatakan akuntabilitas mereka atas insiden orang dalam meningkat tahun ini, 69% khawatir akan tanggung jawab hukum pribadi, dan 74% menilai dewan direksi mereka belum memahami risikonya, sementara 52% belum memiliki strategi risiko orang dalam yang berjalan.

Bagi siapa pun yang membangun atau menerapkan agen, pembacaan praktisnya adalah memperlakukan agen seperti identitas berhak istimewa: beri setiap agen identitasnya sendiri alih-alih login bersama milik seseorang, berikan akses seminimal yang dibutuhkan tugasnya, catat setiap tindakannya, dan pastikan manusia dapat mencabut aksesnya dengan cepat.