Agen AI menawarkan kemampuan untuk mengakses sistem, menjalankan alur kerja, dan mengambil tindakan sesuai kewenangan yang diberikan. Kemampuan tersebut membuat perusahaan perlu menyiapkan pengawasan ketat sebelum memperluas penggunaannya di proses operasional.
Berbeda dengan chatbot konvensional, agen AI tidak sekadar memberi jawaban atau membuat konten. Teknologi ini dapat bekerja lebih mandiri sehingga berpotensi membantu otomatisasi pekerjaan yang sebelumnya membutuhkan banyak intervensi manusia.
Otonomi tersebut juga membawa risiko lebih besar ketika sistem diberi akses ke lingkungan internal perusahaan. Masukan berbahaya atau perilaku AI yang tidak sesuai dapat memicu masalah keamanan dengan dampak yang lebih luas.
Keamanan Menjadi Dasar Penerapan
Serangan manipulasi prompt atau prompt injection menjadi salah satu risiko yang perlu diantisipasi. Akses tanpa izin juga dapat memperbesar dampak jika agen AI terhubung dengan sistem dan data penting.
Chief Technology Officer Akamai Cloud Computing Jay Jenkins menilai perusahaan kini meningkatkan perhatian terhadap kepercayaan dan akuntabilitas. “Karena itu, kami melihat peningkatan investasi yang sangat besar dalam aspek kepercayaan dan akuntabilitas,” kata Jay.
Setiap tindakan AI perlu bisa dipantau, dibatasi, dan ditelusuri bila muncul masalah. Kebutuhan ini membuat tata kelola tidak dapat dipisahkan dari keputusan teknis saat perusahaan mulai menerapkan agen AI.
Perusahaan disarankan tidak langsung menyerahkan keseluruhan pekerjaan kepada sistem otonom. Organisasi perlu memulai dari alur kerja yang jelas, menetapkan batas tugas, lalu memantau keputusan yang dihasilkan.
Pada tahap awal, mekanisme human-in-the-loop dapat menjaga manusia tetap memeriksa dan memvalidasi keputusan AI. Pola ini serupa proses maker-checker yang umum diterapkan dalam industri keuangan.
Infrastruktur Menentukan Konsistensi Layanan
Penerapan AI juga bergantung pada infrastruktur yang memadai, mulai dari GPU, CPU, memori, hingga jaringan andal. Kebutuhan komputasi untuk AI berbeda dengan sistem digital biasa, khususnya saat model digunakan untuk memproses masukan dan menghasilkan keluaran.
Perhatian perusahaan kini mulai beralih dari pelatihan model ke inference. Tahap tersebut membutuhkan respons sistem yang konsisten agar layanan AI dapat digunakan dalam kegiatan operasional.
Sebanyak 63 persen organisasi di Indonesia telah mempertimbangkan infrastruktur yang dirancang untuk AI saat menentukan pilihan teknologi. Kebutuhan ini meningkat seiring perusahaan melihat AI bukan hanya sebagai alat efisiensi, melainkan juga pendukung penciptaan nilai bisnis baru.
Infrastruktur terdistribusi dapat membantu pemrosesan real-time agar tidak terlalu bergantung pada pusat komputasi yang jauh dari pengguna. Tantangan latensi menjadi penting di Indonesia karena karakter geografis kepulauan membuat konektivitas berlatensi rendah lebih kompleks disediakan secara konsisten.
Serverless inference dapat menjadi pilihan bagi organisasi yang belum bisa memperkirakan kapasitas komputasinya. Sementara itu, dedicated inference dapat digunakan oleh perusahaan yang sudah memahami kebutuhan kapasitas dan mampu mengelola infrastruktur khusus.
Biaya Dan Fleksibilitas Perlu Dihitung
Biaya penerapan AI dapat mencakup penyewaan GPU, inference, memori, dan pengiriman data. Perusahaan juga perlu menghindari ketergantungan berlebihan pada satu penyedia model atau API proprietary.
Ketergantungan pada satu penyedia dapat mengurangi fleksibilitas saat kebutuhan teknologi berubah. Model open weight dan endpoint yang kompatibel dengan OpenAI API dapat memberi pilihan lebih luas untuk integrasi maupun perpindahan model.
Kedaulatan data juga perlu diperhatikan ketika agen AI memproses informasi sensitif di lokasi berbeda. Perpindahan data lintas negara dapat memunculkan kewajiban kepatuhan, termasuk terhadap Undang-Undang Pelindungan Data Pribadi.
Di kawasan ASEAN, 16 persen perusahaan telah membawa aplikasi AI generatif ke tahap produksi. Sebanyak 84 persen lainnya masih berada dalam fase pengujian dan proof of concept, sehingga ruang untuk membangun tata kelola sejak awal masih terbuka luas.
Model retrieval-augmented generation atau RAG dapat membantu memverifikasi informasi dan mengurangi halusinasi AI. Setelah alur kerja normal serta skenario pengecualian dipahami, perusahaan dapat menambah otonomi agen tanpa menghapus kemampuan audit dan kontrol keamanan.
