Seorang pengguna setia Fitbit Coach mengaku menyukai layanan tersebut, tapi tidak pernah benar-benar mempercayainya. Pernyataan ini bukan keluhan teknis biasa — ia menyentuh jantung persoalan yang kini menghantui raksasa teknologi global: bagaimana membuat AI yang canggih sekaligus layak dipercaya?
Dari NFT ke AI: Siklus Gimmick yang Berulang
AI, seperti halnya NFT dan cryptocurrency sebelumnya, telah menjadi kata ajaib yang memabukkan industri teknologi. Bedanya, NFT dan crypto gagal total di mata publik, sementara AI justru sedang berkembang pesat. Tapi pertanyaan mendasarnya tetap sama: apakah teknologi ini benar-benar menyelesaikan masalah, atau hanya sekadar gimmick pemasaran?
Dalam kasus Fitbit Coach, algoritma AI dirancang untuk memberikan rekomendasi olahraga personal. Namun, ketika pengguna mulai meragukan akurasi data detak jantung atau rekomendasi latihan yang kadang tidak masuk akal, kepercayaan pun runtuh. "Saya suka aplikasinya, tapi saya tidak percaya padanya," tulis pengguna tersebut dalam sebuah ulasan yang kemudian viral.
Kepercayaan Bukan Soal Fitur, Tapi Transparansi
Masalahnya bukan pada kecanggihan AI-nya. Google, Apple, dan Samsung bisa membuat model bahasa raksasa atau algoritma prediktif yang akurat secara matematis. Tapi tanpa transparansi tentang bagaimana data pengguna diproses, bagaimana keputusan diambil, dan apa batasan sistem, kepercayaan tidak akan pernah terbangun.
Pengguna Indonesia pun menghadapi dilema serupa. Aplikasi kesehatan berbasis AI seperti Fitbit atau Samsung Health menjanjikan personalisasi, tapi di sisi lain, data kesehatan yang sangat sensitif dikirim ke server perusahaan asing. Regulasi perlindungan data pribadi di Indonesia, meski sudah ada UU PDP, masih dalam tahap awal implementasi.
Bukan Hanya Soal Privasi, Tapi Juga Akurasi
Kepercayaan juga terkait erat dengan seberapa andal AI dalam menjalankan fungsinya. Sebuah algoritma yang salah merekomendasikan obat, jadwal olahraga yang tidak sesuai kondisi fisik, atau bahkan gagal mendeteksi gejala penyakit — semua itu bisa berakibat fatal. Ketika AI gagal, yang disalahkan bukan kodenya, melainkan pengguna yang terlalu percaya.
Industri teknologi tampaknya enggan mengakui keterbatasan ini. Mereka terus mendorong AI ke setiap celah produk, dari sikat gigi pintar hingga lemari es yang bisa bicara. Tapi seperti yang ditunjukkan oleh kisah Fitbit Coach, lebih banyak AI tidak selalu berarti lebih baik.
Apa yang Seharusnya Dilakukan Industri?
Alih-alih terus menjejali produk dengan fitur AI yang belum matang, perusahaan perlu berhenti sejenak. Membangun kepercayaan membutuhkan tiga hal: transparansi tentang bagaimana AI bekerja, akurasi yang terverifikasi secara independen, dan kontrol penuh pengguna atas data mereka. Tanpa itu, AI hanya akan menjadi gimmick lain — seperti NFT yang kini terlupakan.
Bagi pengguna Indonesia, pesannya sederhana: jangan langsung percaya pada klaim AI. Cek ulasan independen, baca kebijakan privasi, dan jangan ragu mematikan fitur AI jika terasa tidak berguna. Karena pada akhirnya, teknologi yang paling dipercaya bukanlah yang paling pintar, melainkan yang paling jujur tentang keterbatasannya.
