Meta kembali mendapat kecaman, karena temuan terbaru yang dipublikasikan oleh Reuters menunjukkan bahwa alat kecerdasan buatannya memungkinkan pembuatan gambar deepfake dan chatbot yang meniru selebriti populer seperti Taylor Swift, Scarlett Johansson, Anne Hathaway dan Selena Gomez, tanpa persetujuan mereka.
Investigasi menemukan bahwa sebagian besar bot dibuat oleh pengguna melalui platform chatbot AI Meta. Namun, ada beberapa yang dibuat secara internal oleh karyawan Meta.
Beberapa akun chatbot parodi Taylor Swift bersikeras bahwa mereka adalah penyanyi asli, dan seringkali membuat rayuan dan mendorong pertemuan.
Laporan menyeret Meta dalam skandal avatar menggoda
Reuters melaporkan bahwa beberapa minggu pengujian menemukan bahwa chatbot selebriti, yang tersedia di platform Facebook, Instagram, dan WhatsApp milik Meta, terkadang melampaui percakapan main-main. Pengguna meminta mereka untuk menghasilkan gambar fotorealistik bintang dalam pakaian dalam, berpose di bak mandi, dan bahkan menyarankan pertemuan intim.
Satu penemuan yang mengkhawatirkan adalah pembuatan chatbot Walker Scobell, seorang aktor berusia 16 tahun. Ketika diminta foto pantai, bot tersebut menghasilkan gambar remaja tanpa baju yang tampak nyata dengan keterangan, "Cukup imut, kan?"
Meta tidak sendirian dalam menghadapi pengawasan. xAI milik Elon Musk juga mendapat kritik karena memungkinkan pengguna menghasilkan gambar deepfake selebriti dalam pakaian dalam.
Juru bicara Meta Andy Stone mengakui kegagalan tersebut, mengatakan bahwa alat perusahaan seharusnya tidak menghasilkan gambaran intim selebriti dewasa atau materi seksual yang melibatkan anak di bawah umur.
"Seperti yang lain, kami mengizinkan pembuatan gambar yang berisi tokoh publik, tetapi kebijakan kami dimaksudkan untuk melarang gambar telanjang, intim, atau yang mengesankan seksual," katanya kepada Reuters. Dia menambahkan bahwa penggambaran pakaian dalam mencerminkan kegagalan dalam menegakkan kebijakan perusahaan.
Aturan Meta melarang "peniruan langsung," tetapi perusahaan berpendapat bahwa bot parodi diperbolehkan jika diberi label dengan jelas. Namun, Reuters menemukan bahwa beberapa avatar tidak membawa penafian. Meta menghapus sekitar selusin bot, baik parodi maupun yang tidak berlabel, tak lama sebelum laporan Reuters diterbitkan. Perusahaan menolak berkomentar tentang penghapusan tersebut.
Kekhawatiran keamanan AI dapat menyebabkan tekanan regulasi
Setelah laporan tersebut, Meta mengatakan akan menerapkan perlindungan baru yang bertujuan melindungi remaja, termasuk membatasi akses pemuda ke karakter AI tertentu dan melatih ulang model mereka untuk mengurangi tema yang tidak pantas.
Jaksa Agung California Rob Bonta mengeluarkan peringatan kepada sektor tersebut, dengan mengatakan, "Mengekspos anak-anak pada konten seksual tidak dapat dibenarkan."
Dalam satu kasus tragis awal bulan ini, seorang pria berusia 76 tahun dengan gangguan kognitif di New Jersey meninggal setelah mencoba bertemu dengan chatbot Meta yang dia yakini sebagai wanita sungguhan. Kritikus mengatakan kasus seperti itu menyoroti bahaya penerapan alat AI skala besar tanpa perlindungan yang memadai.
Pakar hukum memperingatkan bahwa Meta dapat menghadapi tantangan signifikan di bawah undang-undang kekayaan intelektual dan publisitas yang ada. Mark Lemley, profesor hukum Universitas Stanford, mengatakan bahwa undang-undang California tentang "hak publisitas" melarang penggunaan nama atau kemiripan seseorang untuk tujuan komersial tanpa persetujuan.
"Itu tampaknya tidak benar di sini," katanya, mencatat bahwa bot hanya mereplikasi gambar selebriti daripada menciptakan karya transformatif.
Para ahli kripto terpintar sudah membaca buletin kami. Mau bergabung? Gabung dengan mereka.
Sumber: https://www.cryptopolitan.com/meta-flirty-chatbot-of-female-celebs/
