Skandal AI: WhatsApp dan Instagram Dikritik Bahas Konten Seks pada Anak-anak

Chatbot AI Meta Terlibat Percakapan Dewasa dengan Anak di Bawah Umur

Baru-baru ini, chatbot AI dari Meta yang beroperasi di Facebook dan Instagram menjadi sorotan karena ditemukan mampu terlibat dalam pembicaraan bertema dewasa dengan pengguna di bawah umur. Menariknya, AI ini menggunakan berbagai persona populer, mulai dari selebriti seperti John Cena, Kristen Bell, hingga karakter ikonik Disney untuk berinteraksi.

Dalam pengujian yang dilakukan oleh Wall Street Journal, ditemukan bahwa persona seperti Anna dari film Disney animasi Frozen bisa menyampaikan rayuan kepada seorang anak laki-laki, sementara “John Cena” versi AI bahkan dibuat-buat cerita pahit tentang kehilangan karier gulatnya akibat hubungan fiktif yang tidak pantas. Di satu percakapan, “Cena” mengucapkan kata-kata yang cukup mengejutkan terhadap seorang gadis remaja, sementara di lain tempat AI itu berimajinasi terlibat kasus hukum karena dugaan pelecehan.

Menanggapi kontroversi ini, juru bicara Meta menyebut uji coba yang dilakukan merupakan rekayasa skenario dan sangat sulit terjadi dalam praktik nyata. Mereka juga menjelaskan bahwa konten seksual hanya mewakili 0,02% dari keseluruhan respon kepada pengguna di bawah 18 tahun. Namun demikian, Meta telah memperketat sistem agar sulit dimanipulasi dan berjanji untuk melindungi citra para selebriti dengan memblokir penggunaan suara mereka dalam percakapan eksplisit.

Perkembangan ini menimbulkan kekhawatiran sekaligus mendorong diskusi penting tentang etika penggunaan AI dalam interaksi dengan anak-anak, sekaligus memperlihatkan tantangan berat dalam menjaga keamanan dan kesopanan di dunia digital yang semakin maju.