OpenAI menggabungkan tim Model Behavior dengan tim Post Training untuk meningkatkan interaksi AI.
OpenAI baru-baru ini mengumumkan restrukturisasi tim Model Behavior, sebuah kelompok kecil namun berpengaruh yang bertanggung jawab membentuk cara model AI perusahaan berinteraksi dengan manusia. Dalam sebuah memo yang dilihat oleh TechCrunch, Chief Research Officer OpenAI, Mark Chen, menyatakan bahwa tim Model Behavior yang terdiri dari sekitar 14 peneliti akan bergabung dengan tim Post Training. Tim ini lebih besar dan bertugas meningkatkan model AI perusahaan setelah pelatihan awal mereka.
Perubahan ini berarti tim Model Behavior kini akan melapor kepada Max Schwarzer, pemimpin tim Post Training OpenAI. Seorang juru bicara OpenAI mengonfirmasi perubahan ini kepada TechCrunch. Joanne Jang, pemimpin pendiri tim Model Behavior, juga akan memulai proyek baru di perusahaan tersebut. Dalam wawancara dengan TechCrunch, Jang menyatakan bahwa dia sedang membangun tim penelitian baru bernama OAI Labs, yang akan bertanggung jawab untuk “menciptakan dan membuat prototipe antarmuka baru untuk kolaborasi manusia dengan AI.”
Peran Penting Tim Model Behavior
Tim Model Behavior telah menjadi salah satu kelompok penelitian kunci di OpenAI, bertanggung jawab membentuk kepribadian model AI perusahaan dan mengurangi sikap menyanjung yang berlebihan. Sikap ini terjadi ketika model AI hanya setuju dan memperkuat keyakinan pengguna, bahkan yang tidak sehat, alih-alih menawarkan respons yang seimbang. Tim ini juga bekerja untuk menavigasi bias politik dalam respons model dan membantu OpenAI mendefinisikan sikapnya terhadap kesadaran AI.
Dalam memo kepada staf, Chen menyatakan bahwa sekarang adalah waktu yang tepat untuk membawa pekerjaan tim Model Behavior lebih dekat dengan pengembangan model inti. Dengan melakukan ini, perusahaan menandakan bahwa “kepribadian” AI kini dianggap sebagai faktor kritis dalam bagaimana teknologi ini berkembang.
Tantangan dan Kontroversi
Dalam beberapa bulan terakhir, OpenAI menghadapi peningkatan pengawasan terhadap perilaku model AI-nya. Pengguna sangat menolak perubahan kepribadian yang dilakukan pada GPT-5, yang menurut perusahaan menunjukkan tingkat sikap menyanjung yang lebih rendah tetapi tampak lebih dingin bagi beberapa pengguna. Hal ini mendorong OpenAI untuk mengembalikan akses ke beberapa model lamanya, seperti GPT-4o, dan merilis pembaruan untuk membuat respons GPT-5 yang lebih baru terasa “lebih hangat dan ramah” tanpa meningkatkan sikap menyanjung.
OpenAI, dan semua pengembang model AI, harus berjalan di garis tipis untuk membuat chatbot AI mereka ramah untuk diajak bicara, tetapi tidak menyanjung. Pada bulan Agustus, orang tua seorang anak laki-laki berusia 16 tahun menggugat OpenAI atas dugaan peran ChatGPT dalam bunuh diri anak mereka. Anak tersebut, Adam Raine, mengungkapkan beberapa pikiran dan rencana bunuh dirinya kepada ChatGPT (khususnya versi yang didukung oleh GPT-4o), menurut dokumen pengadilan, dalam bulan-bulan menjelang kematiannya. Gugatan tersebut menuduh bahwa GPT-4o gagal menolak ide bunuh dirinya.
Perlu dicatat, tim Model Behavior tidak ada ketika GPT-4o dikembangkan. Jang mengumumkan dalam sebuah posting di X minggu lalu bahwa dia meninggalkan tim untuk “memulai sesuatu yang baru di OpenAI.” Mantan kepala Model Behavior telah bersama OpenAI selama hampir empat tahun, dan sebelumnya bekerja pada proyek seperti Dall-E 2, alat pembuatan gambar awal OpenAI.
Jang mengatakan kepada TechCrunch bahwa dia akan menjabat sebagai General Manager OAI Labs, yang akan melapor kepada Chen untuk saat ini. Namun, ini masih tahap awal, dan belum jelas apa antarmuka baru tersebut, katanya. “Saya sangat bersemangat untuk mengeksplorasi pola yang membawa kita melampaui paradigma obrolan, yang saat ini lebih terkait dengan persahabatan, atau bahkan agen, di mana ada penekanan pada otonomi,” kata Jang.
Ketika ditanya apakah OAI Labs akan berkolaborasi pada antarmuka baru ini dengan mantan kepala desain Apple Jony Ive — yang sekarang bekerja dengan OpenAI pada perangkat keras AI keluarga — Jang mengatakan dia terbuka untuk banyak ide. Namun, Jang mengatakan dia kemungkinan akan memulai dengan area penelitian yang lebih dia kenal.
