OpenAI menghadapi dilema antara misi nirlaba dan ekspansi bisnis konsumen dengan peluncuran aplikasi media sosial Sora.
OpenAI dan Peluncuran Sora: Antara Misi dan Bisnis
Beberapa peneliti OpenAI, baik yang masih aktif maupun yang sudah keluar, mengungkapkan pandangan mereka terhadap langkah pertama perusahaan dalam media sosial melalui aplikasi Sora. Aplikasi ini menampilkan video yang dihasilkan AI dan banyak deepfake Sam Altman. Para peneliti ini merasa terpecah mengenai bagaimana peluncuran ini sesuai dengan misi nirlaba OpenAI untuk mengembangkan AI yang bermanfaat bagi umat manusia.
John Hallman, peneliti pralatih OpenAI, menyatakan kekhawatirannya di platform X. Ia mengakui adanya kekhawatiran saat pertama kali mengetahui peluncuran Sora 2. Namun, ia juga percaya bahwa tim telah melakukan yang terbaik untuk menciptakan pengalaman positif. Hallman menegaskan komitmen OpenAI untuk memastikan AI membantu, bukan merugikan umat manusia.
Boaz Barak, peneliti OpenAI lainnya dan profesor di Harvard, merespons dengan perasaan campur aduk antara kekhawatiran dan kegembiraan. Menurutnya, Sora 2 secara teknis luar biasa, tetapi terlalu dini untuk merasa aman dari jebakan aplikasi media sosial lainnya dan deepfake.
Rohan Pandey, mantan peneliti OpenAI, memanfaatkan momen ini untuk mempromosikan startup barunya, Periodic Labs, yang berfokus pada pengembangan sistem AI untuk penemuan ilmiah. Ia mengajak mereka yang ingin mengembangkan AI untuk ilmu pengetahuan dasar untuk bergabung dengan Periodic Labs.
Konflik Internal: Misi Nirlaba vs. Bisnis Konsumen
Peluncuran Sora menyoroti ketegangan inti di OpenAI yang terus muncul. Sebagai perusahaan teknologi konsumen dengan pertumbuhan tercepat di dunia, OpenAI juga merupakan laboratorium AI terdepan dengan piagam nirlaba yang ambisius. Beberapa mantan karyawan OpenAI berpendapat bahwa bisnis konsumen dapat, secara teori, mendukung misi tersebut: ChatGPT membantu mendanai penelitian AI dan mendistribusikan teknologi secara luas.
CEO OpenAI, Sam Altman, menjelaskan alasan perusahaan mengalokasikan banyak modal dan daya komputasi untuk aplikasi media sosial AI. Menurutnya, sebagian besar modal dibutuhkan untuk membangun AI yang dapat melakukan sains, dan mereka fokus pada AGI dengan hampir semua upaya penelitian mereka. Altman juga menyatakan pentingnya menunjukkan teknologi dan produk baru yang keren, membuat orang tersenyum, dan semoga menghasilkan uang mengingat kebutuhan komputasi yang besar.
Namun, kapan bisnis konsumen OpenAI akan mengalahkan misi nirlabanya? Dengan kata lain, kapan OpenAI akan menolak peluang yang menguntungkan tetapi bertentangan dengan misinya?
Pertanyaan ini muncul ketika regulator mengawasi transisi OpenAI menjadi perusahaan berorientasi profit, yang diperlukan untuk mengumpulkan modal tambahan dan akhirnya go public. Jaksa Agung California, Rob Bonta, menyatakan kekhawatirannya bahwa misi keselamatan OpenAI sebagai nirlaba harus tetap menjadi prioritas utama dalam restrukturisasi.
Skeptis menganggap misi OpenAI sebagai alat branding untuk menarik bakat dari Big Tech. Namun, banyak orang dalam di OpenAI menegaskan bahwa misi ini adalah alasan utama mereka bergabung dengan perusahaan.
Untuk saat ini, jejak Sora masih kecil; aplikasinya baru berusia satu hari. Namun, debutnya menandai ekspansi signifikan bisnis konsumen OpenAI dan mengekspos perusahaan pada insentif yang telah mengganggu aplikasi media sosial selama beberapa dekade.
Tidak seperti ChatGPT yang dioptimalkan untuk kegunaan, OpenAI mengatakan Sora dibangun untuk kesenangan — tempat untuk menghasilkan dan berbagi klip AI. Umpan ini lebih mirip dengan TikTok atau Instagram Reels, platform yang terkenal dengan loop adiktifnya.
OpenAI bersikeras ingin menghindari jebakan tersebut, menyatakan dalam posting blog peluncuran Sora bahwa kekhawatiran tentang doomscrolling, kecanduan, isolasi, dan umpan yang dioptimalkan RL adalah prioritas utama. Perusahaan secara eksplisit mengatakan tidak mengoptimalkan waktu yang dihabiskan di umpan dan malah ingin memaksimalkan kreasi. OpenAI akan mengirimkan pengingat kepada pengguna ketika mereka telah menggulir terlalu lama, dan terutama menunjukkan kepada mereka orang-orang yang mereka kenal.
Itu adalah titik awal yang lebih kuat daripada Vibes dari Meta — umpan video pendek bertenaga AI lainnya yang dirilis minggu lalu — yang tampaknya diluncurkan tanpa banyak pengamanan. Sebagai mantan pemimpin kebijakan OpenAI, Miles Brundage menunjukkan bahwa ada kemungkinan akan ada aplikasi baik dan buruk dari umpan video AI, seperti yang telah kita lihat di era chatbot.
Namun, seperti yang telah lama diakui Altman, tidak ada yang berniat membangun aplikasi adiktif. Insentif menjalankan umpan membimbing mereka ke arah itu. OpenAI bahkan menghadapi masalah seputar sycophancy di ChatGPT, yang menurut perusahaan tidak disengaja karena beberapa teknik pelatihannya.
Dalam podcast bulan Juni, Altman membahas apa yang disebutnya “ketidakselarasan besar media sosial.”
“Salah satu kesalahan besar era media sosial adalah algoritma umpan memiliki banyak konsekuensi negatif yang tidak diinginkan pada masyarakat secara keseluruhan, dan mungkin bahkan pengguna individu. Meskipun mereka melakukan hal yang diinginkan pengguna — atau seseorang berpikir pengguna menginginkannya — pada saat itu, yaitu membuat mereka terus menghabiskan waktu di situs.”
Terlalu dini untuk mengatakan seberapa selaras aplikasi Sora dengan penggunanya atau misi OpenAI. Pengguna sudah memperhatikan beberapa teknik optimasi keterlibatan dalam aplikasi, seperti emoji dinamis yang muncul setiap kali Anda menyukai video. Itu terasa dirancang untuk memberikan sedikit dopamin kepada pengguna karena berinteraksi dengan video.
Ujian sebenarnya adalah bagaimana OpenAI mengembangkan Sora. Mengingat seberapa banyak AI telah mengambil alih umpan media sosial reguler, tampaknya masuk akal bahwa umpan asli AI dapat segera memiliki momennya. Apakah OpenAI dapat mengembangkan Sora tanpa mengulangi kesalahan pendahulunya masih harus dilihat.
Rekomendasi Artikel
