OLEH
DEVI FITRIANTI
Audit Data Analytics
Assurance Sr. Specialist
Menyoal
Menyoal RISIKO BIASNYA
Penerapan AI
Ada yang senang, ada yang khawatir. Apa yang perlu dicermati dari merebaknya AI?
ILUSTRASI: storyset.com
PADA TAHUN 2016, Microsoft meluncurkan chatbot bernama Tay, yang dirancang untuk belajar dari interaksi dengan pengguna di media sosial. Namun, dalam waktu 24 jam setelah peluncurannya, Tay menjadi bot yang rasis dan seksis karena bias yang ada dalam bahasa yang digunakan oleh penggunanya.
Ini adalah salah satu contoh bias dalam dunia Artificial Intelligence (AI)—dalam hal ini adalah masalah etika dan regulasi, sebuah risiko yang perlu diwaspadai. Bias dalam AI dapat terjadi ketika data yang digunakan sebagai basis pengambilan keputusan tidak memadai atau tidak mencakup keragaman populasi yang diwakilinya. Akibatnya, keputusan bisa menjadi tidak adil dan diskriminatif.
Risiko lain dalam AI adalah soal privasi data. Kasus Cambridge Analytica pada 2018 menjadi contoh besarnya. Waktu itu terjadi kebocoran atas data jutaan pengguna Facebook untuk kepentingan pemilu presiden AS.
Kasus-kasus tersebut—dan juga banyak kasus yang lain—memicu tuntutan dibuatnya regulasi untuk mengatur dan memastikan penggunaan AI secara lebih bertanggung jawab dan penuh etika. Misalnya, Regulasi Perlindungan Data Umum Uni Eropa (GDPR) menetapkan aturan ketat seputar privasi data dan penggunaan data pribadi. Demikian juga Federal Trade Commission (FTC) AS yang mengeluarkan pedoman tentang penggunaan AI dalam periklanan dan pemasaran.
Indonesia menyusul kemudian, dengan disahkannya Undang-Undang No. 27 Tahun 2022 tentang Perlindungan Data Pribadi (UU PDP). Aturan ini memberikan hak kepada pengguna untuk mengetahui dan mengontrol penggunaan data pribadi mereka oleh perusahaan. Hal ini dapat membantu melindungi privasi dan keamanan data pengguna.
Semoga dengan diberlakukannya regulasi berpayung hukum dalam pengembangan dan penerapan teknologi AI, kita semua sebagai pengguna mendapatkan manfaat yang lebih optimal, termasuk perlindungan hak privasi.