AIチャットボットの異常行動、その原因は?

2024.02.22

WorkWonders

最近、OpenAIのチャットボットChatGPTが奇妙な振る舞いを見せ始めたことが話題となっています。

ユーザーからの問いに対して、火曜日に突如としてナンセンスな「Spanglish」で返答し始めました。

Gensler社のシニアアソシエイトであるショーン・マグワイア氏は、この現象のスクリーンショットをXに共有しました。
ChatGPTは「スパングリッシュ」という、スペイン語と英語が混ざった言葉で、創造的なプロセスを保つ必要があると述べ、機械が時に風変わりになることをユーモアを交えて説明しました。

それから更に奇怪な言葉遊びに発展し、ジャズピアニストのビル・エヴァンスに言及したり、絶え間なく「Happy listening!」と繰り返したりしました。

アジアの国々で異なる種類のマットレスについて尋ねたユーザーに対しては、ChatGPTは完全に対処できませんでした。Redditにそのインタラクションを共有したユーザーは、GPT-4が完全に「幻覚状態」になったと述べ、これはGPT-3の初期以来、この程度の重症例はほとんどなかったと語りました。

OpenAIはこの問題を認識し、火曜日には「ChatGPTからの予期しない返答について調査中」と状況ダッシュボードで発表しました。その後、問題が特定され監視中であること、水曜日の午後には全システムが正常に稼働していることが更新されました。これはAI革命のリーダーとされ、マイクロソフトから数十億ドルの投資を受け、企業に高度なバージョンのAIの使用を提案しているOpenAIにとって痛烈な瞬間でした。

ただし、OpenAIによるコメントの要請には即座の反応はなかったです。

これが問題の原因となったのかについては憶測が飛び交っています。ニューヨーク大学教授でAIの専門家であるゲイリー・マーカス氏は、X上で原因について意見を求める投票を開始しました。ハッキングの可能性やハードウェアの問題を疑う声もありますが、多くの回答者は「ウェイトの破損」を予想しています。AIモデルにおけるウェイトは予測出力の提供に欠かせない部分です。もしOpenAIがそのモデルの動作やトレーニングに用いたデータについて、より透明性を持っていれば、このような問題は起こらなかったかもしれません。

サブスタックの投稿でマーカス氏は、不透明な技術の問題への対処が急務であることをリマインドしています。

出典 : https://www.businessinsider.com/chatgpt-giving-users-unhinged-answers-no-one-knows-why-openai-2024-2

【このニュース記事はAIを利用して書かれています】

著者名 :