OpenAI menghentikan fitur pembuatan video AI dari Martin Luther King Jr. di Sora.
OpenAI Menghentikan Fitur Video AI Sora
OpenAI baru-baru ini mengumumkan bahwa mereka menghentikan kemampuan pengguna untuk membuat video yang menyerupai aktivis hak sipil Martin Luther King Jr. menggunakan model video AI mereka, Sora. Langkah ini diambil setelah permintaan dari pihak keluarga Dr. King, menyusul adanya beberapa pengguna Sora yang membuat video yang dianggap tidak sopan terhadap citra Dr. King.
OpenAI menegaskan bahwa meskipun ada kepentingan kebebasan berbicara yang kuat dalam menggambarkan tokoh sejarah, mereka percaya bahwa tokoh publik dan keluarga mereka harus memiliki kendali atas bagaimana citra mereka digunakan. Oleh karena itu, perwakilan resmi atau pemilik hak dapat meminta agar citra mereka tidak digunakan dalam video Sora.
Kolaborasi dengan Estate Martin Luther King Jr.
Estate of Martin Luther King, Jr., Inc. (King, Inc.) dan OpenAI telah bekerja sama untuk mengatasi bagaimana citra Dr. Martin Luther King Jr. diwakili dalam generasi Sora. Beberapa pengguna telah membuat video yang tidak sopan terhadap Dr. King, yang memicu pembatasan ini.
Pembatasan ini datang hanya beberapa minggu setelah OpenAI meluncurkan platform video sosialnya, Sora, yang memungkinkan pengguna membuat video AI realistis yang menyerupai tokoh sejarah, teman, dan pengguna yang memilih untuk memiliki citra mereka direplikasi di platform tersebut. Peluncuran ini telah memicu perdebatan publik yang sengit tentang bahaya video AI dan bagaimana platform harus menerapkan batasan pada teknologi ini.
Dr. Bernice King, putri Dr. King, memposting di Instagram minggu lalu meminta orang-orang untuk berhenti mengirimkan video AI yang menyerupai ayahnya. Dia bergabung dengan putri Robin Williams, yang juga meminta pengguna Sora untuk berhenti membuat video AI dari ayahnya.
The Washington Post melaporkan sebelumnya minggu ini bahwa pengguna Sora telah membuat video AI dari Dr. King yang membuat suara monyet dan bergulat dengan ikon hak sipil lainnya, Malcolm X. Menelusuri aplikasi Sora OpenAI, mudah ditemukan video kasar yang menyerupai tokoh sejarah lainnya, termasuk seniman Bob Ross, penyanyi Whitney Houston, dan mantan Presiden John F. Kennedy.
Pemberi lisensi dari estate Dr. King tidak segera menanggapi permintaan komentar dari TechCrunch.
Di luar bagaimana Sora mewakili manusia, peluncuran ini juga menimbulkan banyak pertanyaan tentang bagaimana platform media sosial harus menangani video AI dari karya berhak cipta. Aplikasi Sora juga penuh dengan video yang menggambarkan kartun seperti SpongeBob, South Park, dan Pokémon.
OpenAI telah menambahkan pembatasan lain ke Sora dalam beberapa minggu sejak peluncurannya. Awal Oktober, perusahaan mengatakan berencana untuk memberikan pemegang hak cipta kontrol lebih rinci atas jenis video AI yang dapat dihasilkan dengan citra mereka. Itu mungkin merupakan respons terhadap reaksi awal Hollywood terhadap Sora, yang tidak terlalu positif.
Seiring OpenAI menambahkan pembatasan ke Sora, perusahaan tampaknya mengambil pendekatan yang lebih lepas tangan untuk memoderasi konten di ChatGPT. OpenAI mengumumkan minggu ini bahwa mereka akan memungkinkan pengguna dewasa untuk memiliki obrolan "erotis" dengan ChatGPT dalam beberapa bulan mendatang.
Dengan Sora, tampaknya OpenAI sedang bergulat dengan kekhawatiran yang muncul seiring dengan generasi video AI. Beberapa peneliti OpenAI secara terbuka bergulat dengan pertanyaan tentang platform media sosial bertenaga AI pertama perusahaan dalam beberapa hari setelah peluncurannya, dan bagaimana produk semacam itu cocok dengan misi nirlaba perusahaan. CEO OpenAI Sam Altman mengatakan perusahaan merasa "ragu" tentang Sora pada hari peluncurannya.
Nick Turley, kepala ChatGPT, mengatakan kepada saya awal bulan ini bahwa cara terbaik untuk mengajarkan dunia tentang teknologi baru adalah dengan menempatkannya di dunia. Dia mengatakan itulah yang dipelajari perusahaan dengan ChatGPT, dan itulah yang juga ditemukan OpenAI dengan Sora. Tampaknya perusahaan juga belajar sesuatu tentang bagaimana mendistribusikan teknologi ini.
Rekomendasi Artikel
