Ada godaan yang wajar ketika membangun sistem deteksi anomali. Begitu model terlihat cukup akurat, kenapa tidak biarkan saja sistem yang memutuskan? Blokir dana secara otomatis begitu skor risiko melewati ambang tertentu, selesai perkara. GiziFin secara sadar tidak mengambil jalan itu, setidaknya belum, dan itu bukan kebetulan.
Batasan yang dijaga dengan sengaja
Dalam arah desain produknya, GiziFin secara eksplisit menempatkan dirinya sebagai alat bantu keputusan, bukan penentu akhir. Sistem tidak menyatakan suatu transaksi sebagai kecurangan, dan tidak memblokir dana secara otomatis. Petugas pengawas tetap yang bertanggung jawab meninjau bukti, mencatat alasan di balik keputusannya, dan menentukan tindak lanjut yang tepat.
Batasan ini penting karena satu alasan yang cukup sederhana: data yang dipakai pada tahap pilot masih berupa data sintetis, atau belum sepenuhnya lengkap. Model apa pun, sebaik apa pun performanya di atas kertas, berisiko keliru kalau data pelatihannya belum benar-benar mencerminkan kompleksitas dunia nyata. Membiarkan output model diperlakukan sebagai keputusan final, apalagi di tahap sekarang, adalah risiko yang tidak sepadan dengan kecepatan yang didapat.
Shadow mode sebagai jembatan kepercayaan
Pendekatan ini juga tercermin dari cara model anomaly detection diperkenalkan ke dalam sistem. Alih-alih langsung dipakai untuk mengambil keputusan, model dijalankan dalam mode shadow dulu. Artinya, model tetap menghasilkan skor dan sinyal, tapi belum jadi dasar tindakan sampai kualitasnya benar-benar terukur. Cara ini mirip mempekerjakan pengawas baru. Sebelum diberi wewenang penuh, kinerjanya dibandingkan dulu dengan pengawas berpengalaman untuk beberapa waktu.
Otomatisasi yang ditunda dengan sengaja
Sejalan dengan prinsip ini, ada beberapa hal yang sengaja belum menjadi bagian dari MVP. Pemblokiran dana otomatis, keputusan kecurangan yang sepenuhnya otomatis, dan penerapan ke seluruh SPPG secara nasional sekaligus, semuanya ditunda. Bukan semata karena keterbatasan teknis, tapi karena kepercayaan terhadap sistem pengawasan keuangan publik memang harus dibangun bertahap. Divalidasi dulu pada skala kecil, dengan jejak audit yang lengkap, baru wewenangnya diperluas.
Pada akhirnya, setiap perubahan status keputusan tetap tercatat dalam audit trail yang bisa ditelusuri kembali. Bukan karena sistem tidak dipercaya, melainkan karena akuntabilitas terhadap dana publik menuntut jejak yang jelas: siapa memutuskan apa, berdasarkan bukti apa, dan kapan.