Mengupas Transparansi AI di E-Commerce, Fintech dan Ride-Hailing

AKURAT.CO Kecerdasan buatan (AI) selama ini lebih sering dibahas dalam konteks chatbot, smartphone canggih, atau mobil otonom. Gambaran itu membuat AI seolah identik dengan teknologi futuristik.

Padahal, bagi mayoritas masyarakat Indonesia, AI justru bekerja diam-diam di balik aplikasi yang dipakai setiap hari. E-commerce, fintech, transportasi online, hingga media sosial memanfaatkannya secara intensif.

Rekomendasi produk, bunga pinjaman digital, tarif ride-hailing, sampai konten di linimasa ditentukan oleh algoritma. Lalu, seberapa adil dan transparan sebenarnya sistem yang mengatur pengalaman digital kita itu?

AI di E-Commerce: Mengapa Rekomendasi Terasa 'Terlalu Tepat'?

Platform e-commerce global seperti Amazon sudah lama mengandalkan sistem rekomendasi berbasis machine learning. Teknologi ini menganalisis riwayat pencarian, pembelian, klik, hingga durasi pengguna melihat sebuah produk.

MIT Technology Review mengulas cara kerjanya. Sistem tersebut menggabungkan collaborative filtering dan content-based filtering untuk memprediksi minat belanja secara lebih akurat.

Di Indonesia, pola yang sama digunakan oleh marketplace besar. Setiap klik, wishlist, atau transaksi menjadi data pelatihan algoritma.

Cara Kerja Singkatnya:

1. Data dikumpulkan: histori pencarian, pembelian, lokasi, perangkat.

2. Model memetakan pola: sistem memprediksi produk mana yang kemungkinan besar akan dibeli.

3. Ranking ditentukan: produk ditampilkan berdasarkan probabilitas konversi tertinggi.

Baca Juga: Algoritma Tak Boleh Menguasai Kita

Masalahnya, algoritma rekomendasi tidak sepenuhnya netral. Produk dengan margin tinggi atau penjual yang agresif beriklan berpotensi tampil lebih dulu di etalase digital.

Konsumen pun bisa terjebak dalam 'filter bubble' belanja karena terus disuguhi kategori yang sama. Bagi UMKM Indonesia, sistem ini menjadi pedang bermata dua: membuka peluang visibilitas, tetapi juga menyulitkan jika kalah dalam modal promosi dan rating awal.

AI di Fintech: Credit Scoring dan Risiko Bias

Fintech lending dan layanan paylater tumbuh cepat di Indonesia dalam beberapa tahun terakhir. Untuk menilai kelayakan kredit, banyak perusahaan mengandalkan alternative credit scoring yang membaca pola transaksi, jenis perangkat, hingga perilaku digital pengguna.

Model kredit berbasis AI memang bisa mendorong inklusi keuangan. Namun di sisi lain, sistem ini juga berpotensi memperkuat bias tersembunyi jika tidak diawasi dengan ketat, sebagaimana dikutip dari Financial Times, Minggu (1/3/2026).

Di mana potensi bias muncul?

- Data historis: Jika data masa lalu menunjukkan kelompok tertentu lebih sering gagal bayar (karena faktor struktural ekonomi), model bisa menggeneralisasi hal tersebut.