OpenAI merilis laporan ‘AI and Covert Influence Operations: Latest Trends.’ Di dalam laporan ini, OpenAI menyebut ada kelompok dari Israel menyalahgunakan model AI milik mereka untuk menjelekkan kelompok Hamas hingga mendistribusikan narasi islam radikal.
Kelompok dari Israel ini, memanfaatkan model AI OpenAI untuk meng-generate konten umumnya konten berbasis teks dan disebar di berbagai platform media sosial melalui akun-akun palsu.
Taktik Israel
OpenAI menjuluki operasi AI Israel ini dengan nama ‘Zero Zeno.’ OpenAI pun telah memblokir sejumlah akun dioperasikan dari Israel yang digunakan untuk meng-generate dan mengedit konten tersebut.
Beberapa konten itu tersebar di beberapa platform yakni X (dulu bernama Twitter), Facebook, Instagram, situs web hingga YouTube. OpenAI menuding taktik ini dilancarkan oleh sebuah firma manajemen kampanye politik di Israel bermana STOIC.
“Aktor ancaman Israel sewaan, memposting anti-Hamas, anti-Qatar, pro-Israel, anti-BJP, dan konten pro-Histadrut di internet,” tulis OpenAI dalam laporannya, Kamis (30/5).
“Kami menjulukinya Zero Zeno.”
Operasi yang dilancarkan dari Israel ini menargetkan audiens di Kanada, AS serta Israel. Konten yang didistribusikan berbahasa Inggris dan Ibrani. Awal Mei lalu, OpenAI menemukan fakta bahwa operasi ini melebar ke negara lain, menargetkan audiens di India.
“Operasi ini menggunakan model kami untuk meng-generate artikel web, komentar di media sosial yang kemudian di-posting di berbagai platform seperti Instagram, Facebook dan X.”
Operasi Zero Zeno juga menggunakan model AI milik OpenAI untuk menciptakan akun palsu termasuk bio di sosial media. Aktor ini tinggal memasukkan berbagai variabel yang dibutuhkan seperti usia, jenis kelamin dan lokasi.
Bukan cuma itu, bahkan aktor ini mencoba memanfaatkan model AI ini untuk melakukan penelitian terhadap orang-orang di Israel yang mengomentari secara terbuka tentang serikat buruh Histadrut.
“Dalam beberapa kasus, kami mengidentifikasi akun palsu ini berkomentar di media sosial di posting-an yang dibuat oleh misi Zero Zeno itu sendiri. Kemungkinan besar (itu digunakan) dalam upaya untuk membangun engagement audiens."
Beruntung posting-an palsu yang diunggah ini tak viral dan memicu perhatian lebih luas. Umumnya netizen telah memahami pola dan bahasa yang dipakai, kental bernuansa bot.
Banyak dari akun-akun palsu yang dibuat, menggunakan gambar yang diciptakan menggunakan AI versi awal berupa generative adversarial network (GAN). Gambar itu bisa diakses oleh siapa pun dan di-download kapan pun dari internet.
Selain hal di atas, OpenAI juga menelusuri, ternyata ada lebih dari dua akun berbeda yang menggunakan gambar yang sama. Yang membedakan hanyalah nama. Profil palsu yang sama ini membalas posting-an media sosial yang sama.
Fokus di konflik Gaza
Operasi Zero Zeno terbagi menjadi beberapa topik. Umumnya, topik terkait dengan konflik Gaza dan pertanyaan yang lebih luas tentang hubungan antar-individu Yahudi dan Muslim.
OpenAI juga mencatat, ada konten lain di empat situs, menyamar sebagai aktivis kelompok-kelompok yang fokus pada konflik Gaza serta isu yang lebih luas terkait hubungan antar-individu tersebut.
Keempat konten itu muncul di beberapa situs seperti:
uc4canada[.]com
the-good-samaritan[.]com
ufnews[.]io
nonagenda[.]com
OpenAI tak tinggal diam
Penyalahgunaan model AI ini tidak terbatas dilakukan dari Israel. Ada beberapa aktor di negara lain seperti Rusia, China hingga Iran yang melakukan hal sama untuk ‘menyerang’ pihak tertentu.
OpenAI sendiri telah memantau, menginvestigasi dan menyebarluaskan laporan yang juga berisi tentang indikator ancaman ini ke para stakeholder dan para pelaku industri.
Beberapa telah dilakukan OpenAI untuk melawan penyalahgunaan ini seperti:
Memantau, mengganggu ancaman, termasuk aktor kelompok yang didukung suatu negara, termasuk memonitor ancaman lain yang lebih canggih secara terus menerus.
Bekerja sama dengan pihak lain di ekosistem AI, berkolaborasi bertukar informasi tentang penyalahgunaan AI ni dengan industri, mitra dan pemangku kepentingan.
Mempublikasikan temuan penyalahgunaan AI secara terbuka ke publik demi keselamatan bersama di level masyarakat.
Berikut laporan lengkap OpenAI terkait penyalahgunaan model AI mereka:
Comments
0 comment