AIの暴走?チャットGPTの不可解な挙動にユーザー困惑

2024.02.22

WorkWonders

火曜日に、OpenAIのチャットボット「ChatGPT」が奇妙な反応を示し始め、Redditのサブフォーラムがその報告であふれかえりました。ユーザーたちは、AIアシスタントが「脳卒中に見舞われたかのよう」「正気を失ったようだ」と表現し、OpenAIもこの問題を認めて修正に取り組んでいます。
人間の擬人化を使って説明することが最も分かりやすいと多くの人が感じていますが、実際にはChatGPTには心も意識もありません。Redditには、「まるで誰かが精神疾患や痴呆で徐々に理性を失っていくのを見るような気分だ」との声も上がっています。

一部のユーザーは自分自身の正気を疑う事態まで発展しており、「犬にチェリオスを与えてもいいか尋ねたら、チャットGPTが意味不明な回答を連発し続けた。これが普通なの?最後に「ディパートーク」って何?」と困惑する声が聞かれます。
専門家の間では、この混乱がChatGPTの「temperature」設定の高さ、過去の会話文脈の喪失、あるいはGPT-4 Turboの新バージョンのテスト中に生じた不具合などが原因かもしれないと推測されています。
この出来事はひとつ前に起きたMicrosoft Bing Chatの問題を思い起こさせ、オープンソースのモデルが問題を特定しやすい点で利点があるとも指摘されています。

出典 : https://arstechnica.com/information-technology/2024/02/chatgpt-alarms-users-by-spitting-out-shakespearean-nonsense-and-rambling/

【このニュース記事はAIを利用して書かれています】

著者名 :