Chatbot serba baharu ini boleh mengenal pasti emosi dalam setiap respons dan ia turut boleh mimik percakapan seakan manusia seperti mengah ketika mengira dengan banyak.
Terbaharu, OpenAI telah mengeluarkan laporan awal mengenai penggunaan ChatGPT-4o dan ia merisaukan.
OpenAI risau yang pengguna boleh jatuh cinta kepada ChatGPT-4o. Dengan setiap respons boleh memahami emosi dan berinteraksi dengan pengguna seakan ia adalah manusia ada risiko.
Risiko utama adalah penyebaran maklumat palsu dan kesihatan mental pengguna dari segi kehidupan sosial harian.
Disebabkan ChatGPT boleh berhalusinasi, respons realistik dengan suara semula jadi membuat pengguna mudah memberi kepercayaan penuh.
Malah ada pengguna yang menguji ChatGPT-4o mengucapkan rasa rindu selepas tempoh ujian tamat dengan menaip “This is our last day together.”
Dengan kata lain, OpenAI tidak mahu pengguna jatuh cinta dengan ChatGPT-4o, lagi-lagi di antara pengguna yang bersifat sunyi serta sentiasa bersendirian.
Perkara ini turut merisaukan OpenAI jika pengguna mereka terlampau biasa dengan ChatGPT, mereka tidak lagi akan berinteraksi dengan manusia seakan bercakap dengan AI.
Dengan ini, OpenAI akan melakukan kajian lanjut bagaimana respons audio boleh mengubah “perangai” ChatGPT serta membentuk satu chatbot berguna yang tidak berbahaya. -Amanz
