OpenAI telah mengungkapkan alat kloning suara yang dapat menduplikasi ucapan seseorang berdasarkan sampel audio berdurasi 15 detik. Artikel ini menjelaskan tentang penggunaan alat tersebut, kebijakan ...
OpenAI baru-baru ini mengungkapkan alat kloning suara yang rencananya akan tetap dikontrol dengan ketat sampai ada pengamanan untuk menggagalkan pemalsuan audio yang dimaksudkan untuk menipu pendengar. Model yang disebut Mesin Suara dapat menduplikasi ucapan seseorang berdasarkan sampel audio berdurasi 15 detik.
OpenAI saat ini sedang menguji model terbaru dalam Application Programming Interface (API), yang dapat mengambil sampel audio berdurasi 15 detik untuk membuat ucapan yang terdengar alami dan cocok dengan ucapan aslinya. Penggunaan alat ini tunduk pada kebijakan yang ketat, melarang peniruan identitas individu atau organisasi lain tanpa persetujuan atau hak hukum. Mitra juga harus meminta persetujuan tertulis secara eksplisit dari pembicara asli.
Kecepatan dan realisme text-to-speech (TTS) dari TTS custom voice OpenAI menarik minat banyak penggunaan komersial dan konsumen, namun juga menghadirkan risiko dan tantangan serius. OpenAI mengambil pendekatan yang hati-hati dan terinformasi untuk rilis yang lebih luas karena potensi penyalahgunaan suara sintetis.
Mitra yang menguji Voice Engine harus menyetujui aturan termasuk persetujuan eksplisit dan terinformasi dari siapa pun yang suaranya diduplikasi menggunakan alat tersebut. Selain itu, penggunaan suara sintetis harus dijelaskan kepada audiens ketika suara yang mereka dengar dihasilkan oleh AI. OpenAI juga telah menerapkan serangkaian langkah-langkah keamanan, termasuk watermarking untuk melacak asal-usul audio yang dihasilkan Voice Engine, serta pemantauan proaktif tentang cara penggunaannya.