ハルシネーションとは？

ハルシネーションの概要

生成AIが事実と異なる情報をもっともらしく生成する現象。「AIの幻覚」とも呼ばれます。

ビジネスでの活用

特に数値データや固有名詞で起こりやすく、AIの出力を鵜呑みにすると重大なミスにつながります。

導入・活用のポイント

RAGによる情報源の明示、人間によるレビュー、ファクトチェックの仕組みが対策として有効です。