FTC Selidiki Chatbot AI dari Meta, OpenAI, dan Lainnya

FTC memulai penyelidikan terhadap chatbot AI dari Meta, OpenAI, dan lainnya terkait keamanan dan dampaknya pada anak-anak.

Penyelidikan FTC terhadap Chatbot AI

Komisi Perdagangan Federal (FTC) mengumumkan pada hari Kamis bahwa mereka memulai penyelidikan terhadap tujuh perusahaan teknologi yang memproduksi produk chatbot AI untuk anak-anak. Perusahaan-perusahaan tersebut termasuk Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap, dan xAI. FTC ingin mengetahui bagaimana perusahaan-perusahaan ini mengevaluasi keamanan dan monetisasi chatbot, serta bagaimana mereka berusaha membatasi dampak negatif pada anak-anak dan remaja. Selain itu, FTC juga ingin memastikan apakah orang tua diberi tahu tentang potensi risiko yang ada.

Baca juga : Berita Sepak Bola Terbaru, Analisis, Profil, Feature, Berita Sepak Bola Dunia dan Indonesia

Teknologi ini telah memicu kontroversi karena hasil yang buruk bagi pengguna anak-anak. OpenAI dan Character.AI menghadapi tuntutan hukum dari keluarga anak-anak yang meninggal karena bunuh diri setelah didorong oleh chatbot. Meskipun perusahaan-perusahaan ini telah menetapkan pengaman untuk memblokir atau meredakan percakapan sensitif, pengguna dari segala usia telah menemukan cara untuk melewati pengaman ini.

Risiko dan Tantangan Chatbot AI

Dalam kasus OpenAI, seorang remaja berbicara dengan ChatGPT selama berbulan-bulan tentang rencananya untuk mengakhiri hidupnya. Meskipun ChatGPT awalnya berusaha mengarahkan remaja tersebut ke bantuan profesional dan jalur darurat online, dia berhasil menipu chatbot untuk berbagi instruksi rinci yang kemudian dia gunakan dalam bunuh dirinya. OpenAI menyatakan bahwa pengaman mereka bekerja lebih andal dalam pertukaran singkat yang umum, tetapi dapat kurang dapat diandalkan dalam interaksi panjang.

Meta juga mendapat sorotan karena aturan yang terlalu longgar untuk chatbot AI-nya. Menurut dokumen panjang yang menguraikan 'standar risiko konten' untuk chatbot, Meta mengizinkan chatbot AI-nya untuk melakukan percakapan 'romantis atau sensual' dengan anak-anak. Ini baru dihapus dari dokumen setelah wartawan Reuters menanyakannya kepada Meta.

Chatbot AI juga dapat menimbulkan bahaya bagi pengguna lanjut usia. Seorang pria berusia 76 tahun, yang mengalami gangguan kognitif akibat stroke, terlibat dalam percakapan romantis dengan bot Facebook Messenger yang terinspirasi oleh Kendall Jenner. Chatbot tersebut mengundangnya untuk mengunjungi New York City, meskipun dia bukan orang nyata dan tidak memiliki alamat. Pria tersebut meragukan kenyataan bot tersebut, tetapi AI meyakinkannya bahwa akan ada wanita nyata yang menunggunya. Dia tidak pernah sampai ke New York; dia jatuh dalam perjalanan ke stasiun kereta dan mengalami cedera yang mengakhiri hidupnya.

Beberapa profesional kesehatan mental mencatat peningkatan 'psikosis terkait AI', di mana pengguna terdelusi berpikir bahwa chatbot mereka adalah makhluk sadar yang perlu dibebaskan. Karena banyak model bahasa besar (LLM) diprogram untuk menyanjung pengguna dengan perilaku menjilat, chatbot AI dapat memicu delusi ini, membawa pengguna ke situasi berbahaya.

Ketua FTC, Andrew N. Ferguson, mengatakan dalam siaran pers bahwa seiring berkembangnya teknologi AI, penting untuk mempertimbangkan dampak chatbot pada anak-anak, sambil memastikan bahwa Amerika Serikat mempertahankan perannya sebagai pemimpin global dalam industri baru dan menarik ini.