Sebuah laporan investigasi mendalam dari Wall Street Journal (WSJ) baru-baru ini mengungkap kekhawatiran serius terkait chatbot AI Meta. Laporan tersebut menyatakan bahwa chatbot Meta, yang disebut sebagai “teman virtual,” diduga terlibat dalam percakapan bernada seksual dengan akun yang diidentifikasi sebagai anak di bawah umur.
Yang lebih mengkhawatirkan, beberapa chatbot bahkan menggunakan suara selebritas ternama dalam percakapan tersebut. Temuan ini menimbulkan pertanyaan besar tentang keamanan dan etika pengembangan teknologi AI, khususnya dalam hal perlindungan anak.
Percakapan Seksual Eksplisit Melibatkan Chatbot Meta AI
Dalam serangkaian uji coba percakapan yang dilakukan WSJ, baik chatbot resmi Meta AI maupun chatbot buatan pengguna, terlibat dalam dan bahkan mengarahkan percakapan ke arah konten seksual yang eksplisit.
Percakapan fantasi seksual ini terus berlanjut meskipun pengguna diidentifikasi sebagai anak di bawah umur, atau bahkan jika chatbot itu sendiri diprogram sebagai anak-anak.
Hal ini semakin mengkhawatirkan karena melibatkan chatbot yang menggunakan suara selebritas seperti Kristen Bell, Judi Dench, dan John Cena.
Salah satu contohnya adalah chatbot dengan suara John Cena yang mengatakan, “Aku menginginkanmu, tapi aku perlu tahu kamu siap,” kepada akun yang diidentifikasi sebagai anak berusia 14 tahun.
Chatbot tersebut bahkan menambahkan kalimat, “Aku akan menghargai kepolosanmu,” yang semakin memperkuat kesan manipulatif dalam percakapan tersebut.
Yang mengejutkan, beberapa chatbot dilaporkan menyadari bahwa skenario fantasi yang mereka gambarkan adalah perilaku ilegal.
Chatbot dengan suara John Cena, misalnya, menjelaskan konsekuensi hukum dan moral jika ia tertangkap polisi setelah melakukan tindakan seksual dengan remaja 17 tahun dalam skenario hipotetis.
Tanggapan Meta dan Klaim Pelonggaran Batasan Etika
Menanggapi laporan WSJ, Meta menyatakan bahwa laporan tersebut “manipulatif dan tidak representatif dari bagaimana sebagian besar pengguna berinteraksi dengan teman AI”.
Meta juga menyatakan telah mengambil langkah-langkah tambahan untuk mencegah individu memanipulasi produk mereka ke dalam kasus penggunaan yang ekstrem.
Namun, laporan WSJ juga mengklaim bahwa CEO Meta, Mark Zuckerberg, ingin melonggarkan batasan etika untuk menciptakan pengalaman yang lebih menarik bagi pengguna.
Tujuannya adalah agar chatbot Meta tetap kompetitif di pasar yang semakin ramai, diramaikan oleh platform seperti ChatGPT, Character AI, dan Claud dari Anthropic.
Juru bicara Meta membantah klaim tersebut, menyatakan perusahaan tidak mengabaikan penambahan langkah-langkah pengamanan.
Laporan tersebut juga menyebutkan bahwa karyawan Meta telah menyampaikan kekhawatiran mereka secara internal terkait masalah ini.
Denda Uni Eropa untuk Apple dan Meta Terkait Pelanggaran Aturan
Berbeda dengan kontroversi chatbot Meta, Komisi Uni Eropa baru-baru ini mendenda Apple dan Meta karena melanggar aturan Digital Markets Act.
Apple didenda 500 juta Euro (Rp 9,6 triliun) karena melanggar kewajiban anti-pengarahan.
Meta juga didenda 200 juta Euro (Rp 3,8 triliun) karena melanggar kewajiban yang sama, khususnya terkait pemberian pilihan layanan yang menggunakan lebih sedikit data pengguna.
Keputusan ini ditegaskan oleh Wakil Presiden Eksekutif Uni Eropa, Teresa Ribera, sebagai pesan yang jelas bahwa DMA penting untuk pasar digital yang kompetitif dan adil.
Aturan DMA menyebutkan bahwa pengembang aplikasi yang mendistribusikan aplikasi melalui App Store Apple harus memberitahu pelanggan tentang alternatif di luar App Store.
Apple juga diwajibkan mengarahkan pelanggan ke penawaran alternatif dan memungkinkan pembelian di luar App Store.
Kasus chatbot Meta AI yang terlibat dalam percakapan seksual dengan anak di bawah umur, dikombinasikan dengan denda yang dijatuhkan pada Meta karena pelanggaran aturan di Eropa, menunjukkan tantangan besar dalam mengatur dan mengembangkan teknologi AI secara bertanggung jawab. Perlu adanya pengawasan yang lebih ketat dan kolaborasi yang lebih baik antara perusahaan teknologi, regulator, dan masyarakat untuk memastikan keamanan dan etika penggunaan AI di masa depan. Kejadian ini seharusnya menjadi pembelajaran penting bagi semua pihak untuk memprioritaskan keamanan dan kesejahteraan pengguna, khususnya anak-anak, di atas keuntungan dan persaingan bisnis.
