2024.06.10

ハルシネーションとは？生成AIの可能性とリスク

はじめに

ハルシネーションとは？

「ハルシネーション」はAIが不正確な情報を生成する現象で、学習データの不備やアルゴリズムの欠陥により、実際とは異なる回答を出力することを指します。これはAIが現実と異なる「幻覚」を見るかのような状態であり、その原因は多岐にわたります。
このコラムでは、ハルシネーションの背後にある複数の原因を詳細に掘り下げていきます。

ハルシネーションの種類とその原因

ハルシネーションには主に「Intrinsic Hallucinations（内的ハルシネーション）」と「Extrinsic Hallucinations（外的ハルシネーション）」の二つの種類があります。

• ・Intrinsic Hallucinations（内的ハルシネーション）

生成AIの学習データと異なる内容を回答してしまう現象のことをいいます。
例として、AIが「虹は夜にしか現れない」という誤った情報を提供する場合、これはIntrinsic Hallucinationに該当します。

• ・Extrinsic Hallucinations（外的ハルシネーション）

AIの学習データに存在しない内容を回答してしまう現象のことをいいます。
例として、AIが「虹の終わりには金の鍋がある」という回答を提供した場合、これはExtrinsic Hallucinationです。

ハルシネーションはAIの信頼性に直結する問題であり、対策が求められています。

ハルシネーションが起きる原因

ハルシネーションが起きてしまう原因はいくつか考えられます。このセクションでは、ハルシネーションが起きる原因について解説します。ハルシネーションが起きる原因を知ることで、対応のヒントを知る足掛かりにしてください。

学習データの間違い

AIのハルシネーションを引き起こす主な要因の一つは、学習データに含まれる誤りです。学習データがもともと不完全であったり、偏りがあったりすると、AIは不正確な情報を学習してしまいます。それが原因で、現実とは異なる情報であるハルシネーションを生成してしまうことがあります。
例として、学習データ元のインターネット情報が間違っている場合があります。インターネットの情報は必ずしも正しいとは限らず、それをそのまま「正しい情報」として学習してしまうと、誤回答のもとになってしまいます。
ほかにも、学習データが古いために、回答に誤りが生じることもあります。
たとえば、ChatGPTは2023年4月までのデータを学習していますが（GPT-4の場合）、そのあとに発生した事件のことをChatGPTに質問した場合、正確なデータを持っていないため虚偽の回答をしてしまうことがあり得ます。

AIが回答予測を誤る

もう一つの原因は、複雑な問いに対する回答をAIが予測する過程での誤りです。
とくに、ユーザーからの複雑な質問や要求に対する回答を出力する際に起こりがちな現象です。
生成AIは既存のデータからの推論を行いますが、推論を行う際の情報の組み合わせ方によっては、論理の飛躍や誤った推論をしてしまうことがあります。これにより、AIは非現実的な答えや根拠のない断定を提示することが起こり得ます。

ハルシネーションが起きたときのリスク

生成AIがハルシネーションを起こすと、その影響は広範囲にわたるリスクを引き起こす可能性があります。このセクションでは、そのようなリスクを具体的に探り、防止策についても考察します。

誤った回答が広まってしまう

生成AIが誤った情報を生み出すと、その回答が瞬時にインターネット上で拡散されることがあります。間違った情報が広まることは、社会に誤った認識を植え付ける危険性があり、結果として公共の安全や秩序に影響を与えかねません。AIによる情報の信頼性を保つためには、ハルシネーションのリスクを抑える対策が不可欠です。

プライバシーとセキュリティの問題

AIが生成する情報に個人のプライバシーに関わるデータが含まれる場合、プライバシーを侵害してしまうリスクがあります。
たとえば「▲▲マンションの101号の住人が高額宝くじを当てました」などといった根拠のない誤情報が流出した場合、プライバシーを侵害することも考えられます。
また、セキュリティに関する誤情報についても組織にとって重大なリスクを引き起こすため、こちらも注意が求められます。
生成AIを利用するときは個人の権利を守る対策が必要です。

誤った回答に基づいて誤った判断をしてしまう

AIによるハルシネーションは、人々が意思決定を行う際の情報源として利用された場合、重大なインシデントを招きかねません。
AIの提供する情報に基づいて行われる誤った判断は、医療、法律、金融などの重要な分野で深刻な結果をもたらす可能性があります。
これを防ぐには、AIの判断基準となるデータの精度を高めたり、利用者側で対策を取ったりして、ハルシネーションによる誤判断のリスクを最小限に抑えることが求められます。

ハルシネーションを回避するには

ハルシネーションは、生成AIが出力する回答の信頼性が疑われることにつながります。しかしながら、ハルシネーションは現在の技術では完全になくすことはできません。
ではどうすればいいのか？　適切な対策を講じることで極力ハルシネーションを回避することが可能です。
このセクションでは、AIの誤った情報生成を防ぐための具体的な手法について解説します。

回答のファクトチェックを人間の目でおこなう

生成AIによる回答を常に人間がファクトチェックを行うことで、ハルシネーションを大幅に減らすことができます。人間の手による事実確認により、誤情報が実際に使用される前に検出され、訂正される可能性が大幅に高まります。
このような手法はとくに、重要な意思決定を行う際にAIを使用する場合には不可欠です。

利用者への教育

AIの回答に対するファクトチェックを行う際には、ユーザー自身がAIの情報を批判的に評価する能力を持つことが重要です。
この視点を持つためには、AI利用者への教育が効果的です。AIの機能と限界をよく理解し、ファクトチェックの重要性を強く認識できるからです。これを深く理解することで、チェック精度の大幅な向上が期待できます。
精度の高いファクトチェックは、ハルシネーションによる影響を最小限に抑えることが可能です。

生成AIの学習データ強化

学習データの質と量を向上させることは、生成AIが正確な回答を提供するための鍵です。学習データの強化は、ハルシネーションのリスクを減少させることができます。データの強化は、AIがより現実に即した出力を行う基礎を作ります。

• ・RLHF（Reinforcement Learning from Human Feedback）

RLHF（Reinforcement Learning from Human Feedback）とは「人間からフィードバックしてAIの学習を強化する」AIの学習データ強化方法です。

• ・情報を指定して回答させる

URLを指定したり、「〇〇」というキーワードをWeb検索するように指定したりして、AIに情報のありかを教えるやり方があります。

• ・情報を直接流し込んで学習を強化させる

プロンプト欄に学習させたいデータを直接貼り付けて送信し、次に「このデータを使って▲▲の記事を作成してください」といったプロンプトを指定します。するとAIは直前に教えられたデータを活用して回答を生成します。

• ・学習データ自体を見直して強化する

これはもっと大きな括りの考え方になります。学習データが大幅に不足していると考えられる場合、生成AIの提供元が学習データを見直し、大きな強化を図ることも考えられます。

プロンプトを工夫する

AIに対する質問や指示、すなわちプロンプトを工夫することで、ハルシネーションの発生を抑制することができます。
たとえば、「いい感じのランチの店を教えてほしい」というプロンプトだと、AIが誤って指示を受け取ってしまう可能性が高まります。抽象的な指示が多かったり、日本語の解釈がAIにとって難しかったりといった場合です。
プロンプトを書くときは、具体的な指示にしたり、最初に明確な指示を出したりといった工夫が有効です。
明確で一貫性のあるプロンプトは、AIが正確な情報を生成するのに役立ちます。また、意図しない回答を引き出すような曖昧なプロンプトを避けることも重要です。

出力された回答にフィルターをかける

AIの出力が大きいデータだった場合は、条件を設定したフィルターをかけることにより、不適切や誤った情報が最終的な回答としてユーザーに提示されることを防げます。
フィルタリングプロセスでは、社会的に受け入れられる基準や事実確認のガイドラインに基づいて、AIの回答を評価します。これにより、リスクを管理し、信頼性を保ちます。

企業向けChatGPTサービス【NewtonX】

現代のビジネス環境では、迅速かつ正確な情報処理が求められますが、企業向けChatGPTサービス「NewtonX」は、その要求に応えるための先進的なAIソリューションを提供します。
生成AIの精度を高める生成AIサービスは企業の顧客対応精度を高め、信頼性を確保することができます。さらに、ナレッジコネクト機能を利用し、社内に多く存在している社内規定やマニュアル、提案資料などをアップロードすることで、複数のファイルに沿った回答を提供できます。

誤回答抑制機能を搭載

さらに、NewtonXは独自の調整によりハルシネーションを抑え、最新情報を用いた回答を提供する誤回答抑制機能を搭載しています。インターネット上に存在する誤った情報を学習してしまうことで発生するハルシネーションですが、この誤回答抑制機能により、誤った情報を出力する機会を大幅に減らし、より高品質な生成を可能にします。

ハルシネーションを避けられるメリット

ハルシネーションを回避することは、企業がAI技術を利用する上で計り知れないメリットをもたらします。実際には存在しないデータに基づく誤った情報を避けることで、ビジネスプロセスの信頼性が向上し、誤解を招くリスクが減少します。
NewtonXは、この問題に対処するための高度な機能を提供します。プロンプトテンプレートにより、理想的な回答をChatGPTから得られます。また、ナレッジコレクト機能により、企業ごとにファイル格納庫を作成し、内部データを利用して回答の精度を上げることが可能です。

NewtonXは、企業が正確な情報で意思決定を行い、顧客との関係を強化するための確かな支援を提供します。

まとめ

ハルシネーションは、生成AIがまるで幻覚を見ているかのように、事実と異なる情報を生み出す現象です。この現象は、AIがユーザーの質問や操作に対して誤った情報を出力することによって発生し、学習データの問題やその他の複雑な要因が原因であることが指摘されています。生成AIの可能性とリスクを理解し、適切な対策を講じることが、AIを安全に活用する上での鍵となります。
本記事では、ハルシネーションの原因、事例、対策方法を掘り下げ、その知識をもとに、AIのリスクを最小限に抑えつつ、その潜在能力を最大限に引き出す方法について考察しました。

関連記事