TAG

#ハルシネーション8件

#ハルシネーションに関連する記事を横断して確認できます。特定テーマの変化を追う入口です。

生成AIが事実と異なる情報を生成する「ハルシネーション」や、同じ質問でも回答が変わる現象は利用者を悩ませます。本記事では、その原因が「次に続く言葉を確率で予測する」という生成AIの動作原理にあることを深掘りします。これにより、AIの信頼性と安全な活用に向けた理解を促します。

TypeSafe AIが、自動化に特化した新しいAIモデル「Jev」の早期アクセス提供を開始しました。このJevは、文字列生成を廃止する独自のアプローチにより、従来のLLMと比較して最大200倍の高速化と、AIの課題であるハルシネーションの排除を実現したと発表されています。

AIによる「幻覚（ハルシネーション）」が原因で、米軍が中国の核部品に関する誤った情報を信じ、軍事攻撃寸前まで至ったという報告がなされました。この事例は、AIの誤情報が現実世界に深刻な影響を及ぼす可能性を示しています。

AIによるハルシネーション（幻覚）が、米軍の作戦遂行に影響を及ぼし、誤った判断を誘発しかねない事態が起きたと報じられました。大規模言語モデル（LLM）の不確実性に対する理解の重要性が、専門家から改めて警告されています。

米国ニューメキシコ州の最高裁判所は、AIが生成した架空の証人と偽の警察証言を殺人事件の控訴審書類に含めた弁護士に対し、5,000ドルの罰金を科し、侮辱罪で処罰しました。弁護士は生成された情報の事実確認を怠ったとして責任を問われています。

Googleの生成AI「Gemini」を用いて登山計画を立てたグループが、必要な物資を大幅に下回る量しか持たずに山に入り、結果として救助されました。保安官事務所は、Geminiが不足した食料や水の量を示唆したと報告しています。

フランスの大学病院の研究者らが、大規模言語モデル（LLM）が生成する架空の病名が医師の診断にどのような影響を与えるかを検証する論文を発表した。この研究では、LLMがもっともらしく提示した存在しない病名を、研修医の44%が信用してしまったことが判明した。

KPMGが公開したAI利用に関する報告書が、AIによる幻覚（ハルシネーション）が検出されたため撤回されました。