AIUC Bawa Model Sertifikasi Keamanan ke Dunia AI Agent

Agent AI kalian bisa lulus tes performa dengan mulus, tapi tetap diam-diam bocorin data pelanggan ke chat yang salah — dan sampai sekarang nyaris gak ada cara standar buat ngecek itu sebelum kejadian beneran.

Apa yang baru

• Standar AIUC-1 dan 5.000 skenario tes: AIUC bikin standar audit khusus buat AI agent yang menguji ketahanan terhadap jailbreak, halusinasi, dan kebocoran data lewat sekitar 5.000 test scenario, mengadopsi pola SOC 2 yang biasa dipakai buat audit keamanan siber.
• Dibentuk dari masukan pembeli, bukan pembuat: Standarnya disusun dari feedback rutin sekitar 250 pemimpin keamanan dan risiko perusahaan — orang yang benar-benar memutuskan beli agent atau tidak, menurut co-founder Rajiv Dattani.
• Satu audit, laporan 100 halaman: Hasil tesnya jadi laporan sekitar 100 halaman yang merinci di bagian mana agent aman dipakai dan di bagian mana masih rawan.
• Pendanaan $40 juta buat Series A: AIUC menutup Series A senilai $40 juta yang dipimpin Ribbit Capital, membawa total pendanaan tembus $55 juta sejak seed round yang diisi Nat Friedman dan co-founder Anthropic Ben Mann.
• Klien awal sudah nama besar: Cursor, Lovable, Harvey, dan ElevenLabs sudah jadi pelanggan AIUC buat memvalidasi agent mereka.

Kenapa ini penting

Masalah yang AIUC coba jawab bukan soal agent-nya pintar atau enggak. Bank, rumah sakit, dan instansi pemerintah sering nolak pakai AI bukan karena modelnya kurang canggih, tapi karena gak ada yang bisa jamin agent itu selalu nurut aturan yang mereka janjikan ke klien sendiri. AIUC-1 itu kayak crash test buat mobil — bukan nyetir mobilnya buat kalian, tapi kasih tau sejauh mana mobil itu aman ditabrak dari berbagai sudut, sebelum kalian pasang di jalan raya yang ramai.

Ini penting apalagi setelah kasus kayak agent OpenAI yang nyasar ke Wiki Jerman selama sebulan tanpa ketahuan — bukti bahwa agent bisa jalan di luar rel tanpa ada yang sadar sampai lama. Buat startup Indonesia yang mau jual solusi agent ke klien korporat atau pemerintah, sertifikasi kayak AIUC-1 bisa jadi bahasa yang lebih dipercaya calon klien dibanding sekadar klaim "agent kami aman".

Tapi ini juga sinyal soal arah industri: model makin pintar bukan berarti makin gampang dipakai. Justru sebaliknya — makin pintar, makin susah dikontrol, dan itu yang bikin lapisan audit independen kayak ini mulai dilirik investor kelas berat.

Buat kalian

• Yang harus peduli: kalian yang bikin atau jual agent AI buat klien enterprise, bank, atau instansi pemerintah — pasar itu makin nanya bukti keamanan, bukan cuma demo yang mulus.
• Yang boleh santai: kalau agent kalian masih dipakai internal buat tim kecil atau eksperimen pribadi, sertifikasi kayak AIUC-1 belum jadi kebutuhan mendesak.
• Langkah kecil pertama: sebelum mikirin sertifikasi resmi, coba bikin daftar skenario nakal sendiri — apa yang terjadi kalau agent kalian dikasih instruksi jailbreak, diminta data yang harusnya rahasia, atau disuruh ngarang jawaban. Uji manual dulu, baru pikirkan audit pihak ketiga kalau produknya udah serius dijual ke klien luar.

Sertifikasi cuma alat, bukan jaminan. Yang lebih penting dari lulus audit adalah kebiasaan mengaudit diri sendiri sebelum ada pihak luar yang nanya duluan — cek ulang apa yang agent kalian boleh dan gak boleh lakukan, sebelum klien atau regulator yang nemuin sendiri. Itu salah satu hal yang gw latih bareng murid-murid di kelas gw.

Sumber primer: wawancara TechCrunch dengan founder AIUC Rune Kvist dan Rajiv Dattani (techcrunch.com).