AI di Sektor Keuangan Mengapa Governance, Data Quality, dan Human Oversight Semakin Penting

ARREZAMP INSIGHTS · AI Governance & Digital Finance

AI di Sektor Keuangan: Mengapa Governance, Data Quality, dan Human Oversight Semakin Penting

Semakin besar peran AI dalam proses yang memiliki konsekuensi nyata, semakin penting memastikan data, risiko, kewenangan, dan keputusan tetap dapat dipertanggungjawabkan.

AI di Sektor Keuangan Mengapa Governance, Data Quality, dan Human Oversight Semakin Penting


AI semakin dekat dengan proses bisnis sektor keuangan.

Teknologi ini dapat membantu menganalisis data, mendeteksi pola, meningkatkan efisiensi operasional, mendukung layanan pelanggan, hingga membantu proses pengambilan keputusan.

Namun semakin besar peran AI dalam proses yang memiliki konsekuensi finansial, semakin penting pula satu pertanyaan:

Bagaimana memastikan AI tidak hanya cepat, tetapi juga dapat dipercaya dan dipertanggungjawabkan?

Jawabannya tidak cukup hanya dengan memilih model AI yang lebih canggih.

Organisasi juga membutuhkan governance, data quality, risk management, auditability, dan human oversight.

AI Membawa Manfaat, tetapi Juga Membawa Risiko Baru

Otoritas Jasa Keuangan telah menerbitkan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia sebagai panduan bagi perbankan di Indonesia untuk memastikan teknologi kecerdasan artifisial, termasuk advanced AI systems, dikembangkan dan diterapkan secara bertanggung jawab.

Panduan tersebut melengkapi kebijakan transformasi digital perbankan yang sudah ada, termasuk ketahanan dan keamanan siber, digital maturity, serta digital resilience.

Pesannya cukup jelas:

AI bukan hanya persoalan teknologi. AI juga merupakan persoalan tata kelola dan manajemen risiko.

Ketika AI mulai terlibat dalam proses keuangan, kesalahan tidak lagi hanya berarti jawaban chatbot yang kurang tepat.

Kesalahan dapat memengaruhi:

  • keputusan operasional;
  • kualitas layanan;
  • penilaian risiko;
  • perlindungan nasabah;
  • keamanan informasi;
  • kepatuhan; dan
  • reputasi organisasi.

Karena itu, semakin tinggi konsekuensi sebuah keputusan, semakin tinggi pula kebutuhan terhadap kontrol.

Data Quality Menjadi Fondasi

AI sangat bergantung pada data.

Model yang terlihat canggih tetap dapat menghasilkan keputusan atau rekomendasi yang buruk ketika data yang digunakan tidak lengkap, tidak relevan, tidak akurat, bias, atau sudah tidak sesuai dengan kondisi terkini.

Poor data → poor model behavior → unreliable outcome.

Dalam sektor keuangan, masalah data dapat menjadi lebih kompleks karena data berasal dari berbagai sistem, periode, nasabah, transaksi, dan proses bisnis.

Karena itu, penggunaan AI perlu memperhatikan setidaknya:

  • Accuracy — apakah data benar?
  • Completeness — apakah informasi penting tersedia?
  • Relevance — apakah data memang relevan dengan keputusan?
  • Freshness — apakah data masih menggambarkan kondisi terbaru?
  • Traceability — apakah asal data dapat ditelusuri?

Data quality bukan tahap tambahan setelah AI selesai dibangun. Data quality adalah bagian dari governance AI itu sendiri.

Confidence Tidak Sama dengan Correctness

Salah satu karakteristik sistem AI modern adalah kemampuannya menghasilkan output yang terdengar sangat meyakinkan.

Namun:

Confidence is not correctness.

Sebuah jawaban dapat terdengar yakin tetapi tetap salah. Sebuah rekomendasi dapat terlihat masuk akal tetapi dibangun dari asumsi yang tidak cukup didukung evidence.

Karena itu, organisasi tidak seharusnya menilai output AI hanya berdasarkan seberapa profesional atau meyakinkan tampilannya.

Pertanyaan yang lebih tepat adalah:

  • Apa dasar rekomendasi ini?
  • Data apa yang digunakan?
  • Apakah hasilnya dapat diverifikasi?
  • Asumsi apa yang dibuat?
  • Apa yang tidak diketahui sistem?
  • Seberapa besar konsekuensinya jika hasil tersebut salah?

AI output sebaiknya diperlakukan sebagai claim yang perlu diuji, bukan otomatis sebagai evidence.

Model Risk Harus Dipahami

Model AI juga membawa risiko tersendiri.

Sistem dapat bekerja dengan baik pada kondisi tertentu tetapi gagal ketika data, konteks, atau perilaku pengguna berubah.

Sebuah model yang akurat pada saat pengujian belum tentu memiliki performa yang sama selamanya. Karena itu, model perlu dipantau.

Beberapa pertanyaan penting antara lain:

  • Apakah performa model berubah?
  • Apakah muncul bias baru?
  • Apakah data produksi berbeda dengan data pengujian?
  • Apakah output tetap konsisten dalam kondisi berbeda?
  • Apakah ada kondisi yang seharusnya membuat sistem berhenti?

Governance AI bukan hanya proses sebelum deployment. Ia merupakan proses sepanjang lifecycle AI.

Human Oversight Bukan Berarti Manusia Harus Menyetujui Semuanya

Human oversight sering disalahartikan sebagai manusia harus memeriksa setiap tindakan AI.

Pendekatan seperti itu tidak selalu efisien. Yang lebih penting adalah menentukan kapan manusia harus masuk.

Low Risk
AI dapat melanjutkan pekerjaan dalam batas yang telah ditentukan.

Medium Risk
AI dapat melanjutkan dengan verifikasi atau kontrol tambahan.

High Risk
AI berhenti atau meminta persetujuan manusia.

Human oversight menjadi semakin penting ketika tindakan:

  • memiliki dampak finansial besar;
  • sulit atau tidak dapat dibatalkan;
  • melibatkan informasi sensitif;
  • berkaitan dengan keamanan;
  • berada di luar kewenangan yang jelas; atau
  • menggunakan evidence yang belum cukup.

Tujuannya bukan membuat AI lambat. Tujuannya adalah memastikan bahwa kecepatan AI tetap berada dalam batas risiko yang dapat diterima.

Authority Harus Jelas

Sistem AI tidak seharusnya memperluas kewenangannya sendiri.

Jika sebuah instruksi ambigu, sistem tidak boleh secara otomatis menganggap bahwa semua tindakan diperbolehkan.

Misalnya:

“Perbaiki semuanya.”

Instruksi seperti itu tidak menjelaskan:

  • sistem mana yang boleh diubah;
  • data apa yang boleh digunakan;
  • apakah perubahan boleh dilakukan di produksi;
  • apakah transaksi boleh dijalankan; dan
  • siapa yang menyetujui perubahan.

Pendekatan yang lebih aman adalah:

Objective → Authorized Scope → Unknowns → Verification → Action

Jika kewenangan tidak jelas, AI sebaiknya tidak memperluas authority berdasarkan asumsi.

Auditability Semakin Penting

Ketika AI berpartisipasi dalam proses yang penting, organisasi perlu dapat menjawab:

  • Apa yang dilakukan AI?
  • Data apa yang digunakan?
  • Instruksi apa yang diberikan?
  • Siapa yang memberikan persetujuan?
  • Apa hasilnya?
  • Bagaimana hasil tersebut diverifikasi?

Inilah fungsi auditability.

Tanpa audit trail, organisasi mungkin mengetahui hasil akhirnya tetapi tidak memiliki evidence yang cukup untuk memahami bagaimana hasil tersebut diperoleh.

Dalam sektor yang highly regulated seperti keuangan, kemampuan untuk menelusuri proses menjadi sama pentingnya dengan kemampuan menghasilkan output.

Governance Bukan Penghambat Inovasi

Governance terkadang dianggap sebagai sesuatu yang memperlambat inovasi.

Namun governance yang baik justru membuat organisasi lebih mudah menggunakan teknologi secara konsisten.

Dengan batas kewenangan, standar data, prosedur eskalasi, pengujian, monitoring, dan human review yang jelas, organisasi dapat mengetahui:

  • apa yang boleh diotomatisasi;
  • apa yang harus diverifikasi; dan
  • apa yang tetap membutuhkan keputusan manusia.

Pada 27 Oktober 2026, OJK kembali menempatkan risiko fraud, keamanan siber, dan artificial intelligence sebagai bagian dari risiko sektor jasa keuangan yang perlu diantisipasi melalui penguatan tata kelola.

Sumber: OJK — Forum Sinergi Penguatan Ekosistem Tata Kelola (SPEKTA), 27 Oktober 2026 .

AI dalam Arah Transformasi Perbankan 2026–2030

Perkembangan AI juga perlu dilihat dalam konteks transformasi perbankan yang lebih luas.

Dalam Roadmap Pengembangan dan Penguatan Perbankan Indonesia (RP3I) 2026–2030 , OJK menempatkan Modernisasi Teknologi dan Ketahanan Digital sebagai salah satu prioritas strategis.

Arah tersebut mencakup pemanfaatan emerging dan frontier technologies secara prudent, disertai penguatan governance, keamanan, dan ketahanan digital.

Ini memberi konteks penting: pemanfaatan teknologi baru tidak berdiri sendiri. Inovasi dan resilience perlu berkembang bersama.

AI yang Baik Bukan Hanya AI yang Pintar

Kemampuan model AI akan terus berkembang.

Tetapi sektor keuangan tidak hanya membutuhkan AI yang semakin pintar.

Ia membutuhkan AI yang:

  • grounded;
  • controlled;
  • traceable;
  • secure;
  • auditable; dan
  • accountable.

Karena ketika AI mulai memengaruhi proses yang memiliki konsekuensi nyata, kualitas sistem tidak dapat dinilai hanya dari seberapa cepat ia menghasilkan jawaban.

Kualitas juga ditentukan oleh bagaimana organisasi mengelola data, risiko, kewenangan, verifikasi, dan tanggung jawab manusia.

AI dapat membantu mempercepat keputusan. Governance membantu memastikan keputusan tersebut tetap dapat dipercaya.

Sumber Utama


Catatan: Artikel ini merupakan materi edukasi berbasis sumber resmi dan bukan Research Update bernomor. Pembahasan mengenai data quality, model risk, human oversight, auditability, dan authority digunakan sebagai kerangka praktis untuk memahami penerapan AI secara bertanggung jawab.

Disclaimer: Artikel ini tidak merupakan nasihat hukum, investasi, keuangan, kepatuhan, atau rekomendasi penggunaan suatu sistem AI tertentu.

0 Komentar