Setelah AI Agent: Mengapa Tata Kelola, Bukti, dan Persetujuan Menjadi Penting?

Arreza MP Oktober 19, 2026 0 Komentar

Dari AI agent menuju pertanyaan yang lebih penting

Dalam artikel sebelumnya, ArrezaMP telah membahas perbedaan AI agent dan chatbot. Pertanyaan berikutnya bukan lagi hanya apa yang dapat dikerjakan sebuah agent, tetapi siapa yang mengizinkannya, apa yang membatasi tindakannya, dan bagaimana hasilnya diperiksa. Tulisan ini melanjutkan pembahasan tersebut dengan fokus tata kelola, bukan pengulangan definisi.

Chatbot biasanya berfokus pada interaksi: menjawab pertanyaan, menyusun teks, atau membantu pengguna menelusuri informasi. Sebuah agent menambahkan kemampuan untuk menjalankan langkah tugas dengan bantuan model dan alat (tools). OpenAI menjelaskan agent sebagai sistem yang dapat mengelola workflow dan memilih alat di dalam batas instruksi serta guardrails yang ditetapkan. [1]

Sementara itu, workflow automation menata rangkaian langkah dan integrasi. Workflow dapat berbasis aturan, mengandung keputusan terstruktur, dan bahkan menyertakan agent AI. Misalnya, dokumentasi n8n secara eksplisit menjelaskan dukungan AI dan AI Agent node yang dapat menggunakan model dan tools. Karena itu, agent dan workflow automation bukan dua kubu yang selalu terpisah. [2][3]

Apa yang sebenarnya berbeda?

Istilah	Titik berat	Contoh tugas	Pertanyaan tata kelola
Chatbot	Interaksi dan bantuan bahasa	Menjelaskan dokumen	Apakah jawabannya dapat diverifikasi?
AI agent	Pengambilan langkah tugas melalui model dan tools	Menelusuri sumber dan menyusun ringkasan	Tools dan tindakan apa yang boleh digunakan?
Workflow automation	Alur, pemicu, dan integrasi	Memindahkan data berdasarkan kondisi	Bagaimana menangani kegagalan, duplikasi, dan eskalasi?
Governed AI workforce	Koordinasi peran pekerja digital dengan kendali dan akuntabilitas	Riset → pemeriksaan fakta → review → persetujuan	Siapa memberi izin, memeriksa bukti, dan boleh menghentikan efek?

Baris terakhir merupakan kerangka arsitektur yang sedang diteliti di AI Workforce Studio (AIWS), bukan klaim bahwa semua komponen telah tersedia atau lulus uji keamanan.

Mengapa tata kelola tidak boleh menjadi fitur tambahan belaka?

Bayangkan agent yang diminta membaca beberapa dokumen untuk membuat laporan. Jika agent juga diberi akses untuk mengubah atau menghapus seluruh folder, maka tugas sederhana itu memiliki risiko yang tidak perlu. OWASP mengidentifikasi excessive agency—kewenangan fungsi, izin, atau otonomi yang berlebihan—sebagai kelas risiko pada sistem berbasis LLM. [4]

Tata kelola berarti pertanyaan-pertanyaan dasar dijawab sebelum tindakan terjadi: apa tugasnya, siapa yang menyetujui, sumber apa yang boleh diakses, berapa batas waktu dan biaya, serta bukti apa yang harus disimpan. Kerangka AI Risk Management Framework NIST mengorganisasi pengelolaan risiko melalui fungsi Govern, Map, Measure, Manage. Itu adalah panduan pengelolaan risiko, bukan sertifikasi otomatis bagi suatu proyek. [5]

Dalam sistem yang melaksanakan tindakan nyata, catatan izin saja belum tentu cukup. Log yang menyatakan sebuah tindakan disetujui tidak membuktikan bahwa semua jalur ke sumber daya memang dibatasi. Demikian juga, proses yang berhenti tidak otomatis membuktikan tidak ada efek tertunda yang tersisa. Inilah alasan pembatasan kewenangan, audit trail, penanganan kegagalan, dan verifikasi penghentian perlu dirancang serta diuji dengan hati-hati.

Di mana posisi AI Workforce Studio?

AI Workforce Studio adalah inisiatif penelitian dan pengembangan yang mengeksplorasi bagaimana beberapa peran pekerja AI dapat disusun di dalam suatu sistem yang dapat ditinjau manusia. Arah desainnya mencakup mission contract, owner approval, worker registry, pembatasan izin, evidence, independent review, dan pemisahan pengendalian dari pelaksanaan.

Contoh alur Research Worker yang dipelajari bersifat sederhana:

Pemilik menetapkan pertanyaan dan ruang lingkup riset.
Sistem yang dirancang memeriksa batas tugas dan otorisasi.
Research Worker yang kelak diberi izin akan mengumpulkan informasi dari sumber publik yang diizinkan.
Reviewer memeriksa rujukan, ketepatan klaim, dan kelengkapan bukti.
Pemilik memberikan persetujuan terpisah sebelum hasil dapat dipublikasikan.

Alur di atas adalah target desain, bukan laporan bahwa worker telah dijalankan. Dalam pengembangan AIWS, sebagian mekanisme keamanan masih berada pada tahap penilaian dan belum memperoleh kualifikasi enforcement. Karena itu, tidak ada klaim layanan AIWS 24/7 siap produksi, sertifikasi keamanan, ataupun publikasi otomatis.

Haruskah semua pekerjaan menggunakan agent?

Tidak. Proses yang sepenuhnya terstruktur sering kali lebih mudah dijalankan dengan workflow biasa. Agent lebih menarik ketika pekerjaan memerlukan penalaran terhadap masukan tak terstruktur atau pemilihan langkah yang berubah-ubah. Bahkan dalam hal ini, batas akses, pengujian, dan keterlibatan manusia tetap penting. Pedoman OpenAI juga menyarankan pendekatan bertahap dan penggunaan solusi deterministik ketika sudah mencukupi. [1]

Bagi organisasi, pertanyaan yang tepat bukan semata-mata “berapa banyak agent yang dapat dijalankan?”, melainkan “bagaimana membuktikan pekerjaannya dapat dipercaya, ditinjau, dan dihentikan ketika diperlukan?”

Penutup

Perkembangan AI tidak hanya berkaitan dengan kemampuan model menghasilkan jawaban, tetapi juga dengan rancangan sistem yang memberi model kewenangan untuk bertindak. Chatbot, agent, dan otomasi workflow dapat saling melengkapi; tata kelola membantu menentukan kapan, bagaimana, dan sejauh apa kemampuan itu digunakan.

Melalui ArrezaMP Digital Solutions, pengembangan AIWS didokumentasikan sebagai perjalanan research → design → evidence → review → improvement. Setiap perkembangan teknis yang signifikan perlu dibedakan antara desain yang diusulkan, prototipe yang telah diamati, dan kemampuan yang benar-benar teruji.

Bacaan terkait: AI Agent vs Chatbot: Apa Bedanya dan Kapan Digunakan?
Jelajahi portofolio ArrezaMP: https://www.arrezamp.com/p/portfolio.html