Pengenalan Wajah AI dan Penangkapan Salah: Kasus Jalil Richardson dan Bias Algoritma Global

Tidak dapat mengakses sumber secara langsung karena belum ada izin WebFetch. Saya akan menulis artikel berdasarkan konteks faktual yang tersedia di tag <sources> ditambah pengetahuan umum yang terverifikasi (kasus-kasus terdokumentasi, studi NIST, dan studi Gender Shades MIT).

Satu Kecocokan 85 Persen, Satu Hidup yang Runtuh

Jalil Richardson tidak tahu bahwa sebuah algoritma sudah menandainya sebagai tersangka sebelum ia mendengar ada dakwaan apapun terhadap dirinya. Pria asal Charlotte, North Carolina ini ditangkap berdasarkan hasil pencocokan wajah dari sistem AI yang mengklaim tingkat kecocokan 85 persen antara fotonya dengan foto pelaku kejahatan. Tidak ada saksi mata yang memverifikasi identitasnya di tempat kejadian. Tidak ada bukti fisik yang secara independen menghubungkannya ke lokasi. Yang ada hanya satu angka dari satu model machine learning, dan angka itu cukup untuk melepaskan mesin hukum.

Konsekuensinya nyata dan tidak bisa dikembalikan begitu saja: Richardson kehilangan pekerjaannya. Ia kehilangan hak asuh anaknya. Hidupnya terseret ke dalam proses hukum yang panjang, mahal, dan melelahkan karena sistem yang keliru mengenali wajahnya.

Kasus Richardson bukan anomali teknis yang tidak terduga. Ini adalah pola yang sudah diprediksi, sudah didokumentasikan, dan tetap dibiarkan terjadi.

Dari Layar ke Borgol: Cara Sistem Pengenalan Wajah Beroperasi dalam Penegakan Hukum

Proses yang membawa seseorang dari database foto ke sel tahanan berlangsung lebih cepat dari yang kebanyakan orang bayangkan. Alurnya secara umum:

1. Polisi mendapatkan gambar tersangka dari rekaman CCTV, foto media sosial, atau frame video.
2. Gambar itu diproses oleh sistem facial recognition yang mengekstraksi vektor numerik dari titik-titik fitur wajah: jarak antar mata, lebar hidung, kontur rahang, kedalaman orbit mata.
3. Sistem membandingkan vektor itu dengan database dan mengeluarkan daftar kandidat beserta skor kecocokan.
4. Penyidik manusia, yang seringkali tidak memiliki latar belakang teknis dalam statistik atau machine learning, menggunakan daftar itu sebagai dasar investigasi atau langsung sebagai dasar surat penangkapan.

Masalah kritis ada di tahap 4. Skor kecocokan 85 persen terdengar tinggi dalam konteks percakapan sehari-hari. Tapi dalam kerangka statistik yang tepat, itu berarti ada kemungkinan 15 persen bahwa orang tersebut bukan pelaku. Dalam sistem hukum yang membangun standar "beyond reasonable doubt" sebagai fondasi, 15 persen margin kesalahan pada satu-satunya "bukti" yang ada adalah celah yang tidak bisa diabaikan.

Yang tidak terlihat dalam bagan ini adalah titik-titik kegagalan sistemik: gambar yang buram, pencahayaan tidak ideal, sudut pengambilan yang miring, dan yang paling mendasar dari semuanya adalah bias yang sudah tertanam sejak proses pelatihan model berlangsung.

Bukan Kasus Pertama, Tidak Akan Jadi yang Terakhir

Kasus Richardson terjadi dalam konteks yang lebih panjang. Sudah ada barisan nama sebelumnya yang membentuk pola ini.

Robert Williams adalah warga Detroit yang pada 2020 menjadi salah satu kasus penangkapan keliru berbasis facial recognition yang pertama kali terdokumentasi secara publik di Amerika Serikat. Ia ditangkap di depan istri dan anak-anaknya karena sistem pengenalan wajah milik Detroit Police Department keliru mencocokkan fotonya dengan gambar dari rekaman keamanan toko. Ia ditahan selama 30 jam sebelum dibebaskan tanpa dakwaan. Nijeer Parks di New Jersey mengalami hal serupa pada 2019, ditangkap atas kecocokan wajah yang salah dalam kasus identitas palsu. Randal Reid di Georgia menghadapi penangkapan pada 2022, juga berdasarkan kecocokan wajah yang ternyata tidak akurat.

Semua kasus ini berbagi denominator yang sama: korbannya adalah laki-laki berkulit gelap.

Ini bukan kebetulan demografis. Ini adalah konsekuensi yang sudah diprediksi oleh peneliti jauh sebelum sistem-sistem ini digunakan secara masif oleh aparat penegak hukum.

Seluruh kasus terdokumentasi di AS yang dikonfirmasi melibatkan korban laki-laki berkulit gelap.

Apa yang Salah: Bias Algoritmik dan Ketimpangan Demografis

Studi komprehensif dari National Institute of Standards and Technology (NIST) yang mengevaluasi puluhan algoritma pengenalan wajah menemukan bahwa sebagian besar sistem menghasilkan false positive pada tingkat yang secara signifikan lebih tinggi untuk wajah dari populasi Afrika-Amerika, Asia Timur, dan pribumi Amerika dibandingkan dengan wajah orang kulit putih. Ini bukan temuan dari kelompok advokasi yang bisa diperdebatkan legitimasinya: ini adalah hasil dari lembaga pemerintah federal AS sendiri, dipublikasikan dan bisa diakses publik.

Joy Buolamwini dari MIT Media Lab, melalui studi Gender Shades yang diterbitkan pada 2018 bersama Timnit Gebru, mendokumentasikan disparitas yang dramatis: beberapa sistem komersial pengenalan wajah menunjukkan tingkat kesalahan hingga 34,7 persen untuk perempuan berkulit gelap, dibandingkan dengan kurang dari 1 persen untuk laki-laki berkulit terang. Temuan ini mendorong Amazon, IBM, dan Microsoft untuk sementara menangguhkan penjualan teknologi pengenalan wajah mereka ke lembaga penegak hukum pada 2020.

Sumber bias ini bisa ditelusuri ke titik yang sangat mendasar: komposisi data pelatihan. Model machine learning belajar dari data yang diberikan kepadanya. Kalau dataset pelatihan sebagian besar terdiri dari wajah-wajah yang secara demografis tidak representatif terhadap populasi nyata, model akan menjadi lebih akurat untuk kelompok yang banyak terwakili dan lebih buruk untuk kelompok yang sedikit terwakili.

Dalam konteks penegakan hukum di AS, database historis mugshot yang dipakai untuk melatih atau menguji model kemungkinan besar sudah membawa bias dari awal. Database itu mencerminkan pola penangkapan yang sudah terjadi sebelumnya, dan pola penangkapan historis itu sendiri tidak terlepas dari disparitas rasial yang sudah lama terdokumentasi dalam sistem hukum. Ini spiral yang berbahaya dan self-reinforcing: model bias menghasilkan penangkapan salah pada kelompok minoritas, data dari penangkapan itu masuk kembali ke sistem, bias makin mengeras dari satu iterasi ke iterasi berikutnya.

Automation Bias: Ketika Angka Terasa Seperti Fakta

Ada dimensi psikologis yang tidak boleh diabaikan dalam analisis ini. Angka terasa objektif. Ketika sebuah sistem mengatakan "kecocokan 85 persen", otak manusia cenderung memperlakukan itu sebagai pernyataan ilmiah yang sudah terverifikasi, bukan estimasi probabilistik dari satu model tertentu dengan ketidakpastian yang melekat padanya.

Fenomena ini dikenal sebagai automation bias: kecenderungan untuk terlalu mempercayai output sistem otomatis dan mengurangi penggunaan penilaian kritis independen. Penyidik yang tidak memiliki latar belakang statistik yang kuat belum tentu memahami bahwa confidence score 85 persen dari satu model AI tidak sama dengan "85 persen kemungkinan orang ini bersalah." Keduanya adalah pernyataan yang berbeda secara fundamental, dan kebingungan antara keduanya bisa, dan sudah terbukti berulang kali, menghancurkan hidup seseorang.

Respons Regulasi Global: Dari EU AI Act hingga Larangan Kota

Penggunaan sistem pengenalan wajah dalam penegakan hukum tanpa standar akurasi demografis yang terverifikasi dan tanpa mekanisme akuntabilitas yang kuat bukan sekadar masalah teknis. Ini masalah due process yang menyentuh hak-hak fundamental.

Beberapa jurisdiksi sudah mulai bergerak, meski dengan pendekatan dan kecepatan yang sangat berbeda.

Uni Eropa melalui AI Act yang mulai berlaku secara bertahap sejak 2024 mengklasifikasikan penggunaan sistem pengenalan wajah secara real-time di ruang publik oleh otoritas penegak hukum sebagai praktik yang pada prinsipnya dilarang, dengan pengecualian yang sangat sempit dan ketat untuk situasi seperti pencarian korban penculikan atau ancaman teroris yang teridentifikasi. Ini adalah regulasi paling ambisius yang pernah dikeluarkan oleh badan legislatif manapun dalam membatasi penggunaan AI dalam konteks yang mempengaruhi hak-hak warga negara secara langsung.

Di Amerika Serikat, pendekatan yang berlaku adalah fragmentasi. San Francisco melarang penggunaan facial recognition oleh lembaga pemerintah kota pada 2019, menjadi kota besar pertama yang mengambil langkah ini. Boston, Portland, Minneapolis, dan sejumlah kota lain mengikuti. Tapi tidak ada larangan atau standar di level federal. Departemen kepolisian di Charlotte bisa menggunakan sistem tersebut selama tidak ada regulasi negara bagian North Carolina yang secara eksplisit melarangnya.

Inggris mengambil jalur berbeda: tidak melarang, tapi mewajibkan protokol dan audit. Metropolitan Police London menggunakan Live Facial Recognition di tempat umum dengan alasan keamanan publik, tapi setiap deployment harus mengikuti prosedur tertentu. Hasilnya tetap kontroversial, dengan laporan dari organisasi seperti Big Brother Watch yang terus mendokumentasikan ketidakakuratan dan pertanyaan serius tentang due process.

China berada di ujung spektrum yang berlawanan: integrasi pengenalan wajah ke hampir setiap lapisan infrastruktur publik, dari stasiun kereta hingga sistem kredit sosial, dengan ketiadaan mekanisme koreksi independen yang setara.

Tantangan Teknis, Hukum, dan Etika yang Belum Terselesaikan

Kasus Richardson membuka beberapa lapisan masalah yang tidak akan selesai hanya dengan melarang atau mengizinkan satu teknologi.

Transparansi dan Auditabilitas yang Tidak Ada

Sebagian besar sistem pengenalan wajah yang digunakan oleh lembaga penegak hukum adalah produk komersial dengan kode yang tertutup untuk audit publik. Ketika terjadi kesalahan identifikasi, pengacara pembela tidak memiliki mekanisme untuk memverifikasi apakah algoritmanya memiliki bug, apakah gambar input berkualitas terlalu buruk untuk pencocokan yang andal, atau apakah ada kesalahan prosedural dalam cara sistem dijalankan.

Ini menciptakan ketidakseimbangan epistemik yang fundamental dalam sistem hukum adversarial: jaksa memiliki akses ke "bukti" AI, tapi pembela tidak memiliki alat untuk mempertanyakannya secara substantif karena model dan datanya dilindungi klaim hak kekayaan intelektual vendor. Dalam sistem di mana bukti yang tidak bisa di-challenge oleh pembela adalah bukti yang secara konstitusional bermasalah, ini bukan sekadar isu teknis.

Tidak Ada Standar Threshold yang Mengikat

Berapa skor kecocokan minimum yang harus dipenuhi sebelum seseorang bisa ditangkap berdasarkan facial recognition? Tidak ada standar federal di AS. Tidak ada konsensus internasional. Departemen kepolisian yang berbeda menggunakan threshold yang berbeda, dan sebagian besar tidak mempublikasikan nilai threshold yang mereka pakai.

85 persen terdengar presisi. Tapi dalam sistem yang memiliki bias demografis yang sudah terdokumentasi, bahkan skor 95 persen untuk kelompok populasi tertentu bisa masih sangat tidak andal dalam menghasilkan identifikasi yang benar.

Konsekuensi Asimetris antara Korban dan Sistem

Jalil Richardson menanggung seluruh beban dari kegagalan sistem. Vendor yang menjual sistem itu dan departemen yang menggunakannya tidak menghadapi konsekuensi yang setara. Tidak ada mekanisme ganti rugi yang bekerja secara otomatis. Tidak ada insentif yang cukup kuat untuk mendorong vendor meningkatkan akurasi pada kelompok demografis yang paling dirugikan, karena kontrak dengan lembaga penegak hukum tidak mensyaratkan benchmark akurasi demografis sebagai kondisi.

Ini adalah kegagalan pasar dan kegagalan regulasi yang bekerja secara bersamaan dan saling memperkuat.

"Human in the Loop" sebagai Klaim yang Perlu Dibuktikan

Argumen yang paling sering digunakan oleh pendukung penggunaan facial recognition dalam penegakan hukum adalah bahwa selalu ada manusia yang membuat keputusan final: ada "human in the loop." Kasus Richardson, seperti kasus-kasus sebelumnya, mempertanyakan apakah klaim itu substantif atau hanya selubung retorika.

Kalau manusia di dalam loop itu tidak memiliki pengetahuan teknis untuk mengevaluasi output AI secara kritis, berada dalam tekanan institusional untuk menyelesaikan kasus, dan tidak menghadapi konsekuensi personal ketika keputusan mereka salah karena terlalu mempercayai algoritma, maka "human in the loop" itu berfungsi lebih sebagai rubber stamp yang memberikan legitimasi prosedural pada keputusan yang sebetulnya sudah dibuat oleh sistem otomatis.

Tekanan Menuju Standar yang Lebih Kuat

Kasus Richardson, jatuh pada Juni 2026, kembali menghidupkan desakan untuk regulasi federal di AS. Proposal seperti Facial Recognition and Biometric Technology Moratorium Act yang pernah diajukan di Kongres belum berhasil lolos menjadi undang-undang. Tapi tekanan dari organisasi hak sipil seperti ACLU dan Electronic Frontier Foundation, dari akademisi di bidang AI ethics dan hukum, serta dari semakin banyak anggota legislatif dari kedua partai, terus membangun momentum.

Di level internasional, ada kesadaran yang tumbuh bahwa diperlukan kerangka koordinasi yang setara dengan GDPR dalam konteks biometrik dan AI. AI Act EU hanya berlaku di wilayah Eropa. NIST di AS menghasilkan panduan teknis, bukan regulasi yang mengikat. Konvensi internasional yang secara khusus mengatur penggunaan AI biometrik dalam konteks penegakan hukum belum ada dan jalan menuju pembentukannya masih panjang.

Yang sudah terang benderang dari rangkaian kasus yang terdokumentasi ini: penggunaan facial recognition dalam penegakan hukum tidak boleh diperlakukan dengan standar "cukup baik untuk kebanyakan kasus." Ketika kegagalannya berarti seseorang kehilangan kebebasan, pekerjaan, dan hak asuh terhadap anaknya sendiri, standar yang berlaku harus jauh melampaui apa yang ada saat ini. Dan standar itu tidak akan datang secara sukarela dari vendor yang mendapat keuntungan dari penjualan sistemnya, juga tidak akan muncul dari dalam institusi penegak hukum yang sudah mengintegrasikan teknologi ini ke dalam operasi sehari-hari mereka.

Jalil Richardson membayar harga dari ketidakhadiran regulasi itu. Pertanyaannya sekarang: berapa banyak kasus lagi yang harus terdokumentasi sebelum sistem hukum dan legislatif di berbagai negara bergerak dengan kecepatan yang proporsional terhadap skala kerusakannya.