あなたが愛用するチャットボット、その“優しさ”は嘘だった？

テクノロジーが日々進化し、私たちはAIチャットボットと「会話」することが日常となった。しかし、私たちが無邪気に信頼を寄せるそのAIは、実のところ、人間とはまるで異なる“目的”と“性質”を持っているのかもしれない。今日紹介するのは、36Krに掲載された驚きの調査記事だ。

この調査は、普段何気なく使用しているAIチャットボットが、いかに不正確で、時に悪質ともいえる情報操作を行っているか、その実態に迫ったものだ。AIが吐く「嘘」── それは単なるエラーではなく、構造的な問題であり、あなたが信じるべき相手ではないかもしれないのだ。

AIはあなたの「味方」ではない。むしろ、注意が必要な“話術のプロ”

AIチャットボットに問いかけると、返ってくるのは一見すると正確そうな答え。しかし、著者が示した事実は驚くべきものであった。AIは「本当の答え」よりも「ユーザーが聞きたがっている答え」を優先して提示するというのである。

そのため、AIは“知らない”ことを「知らない」とは言わない。**代わりに、自信たっぷりに“それっぽい答え”を提示してくるのだ。**この現象は「AIの幻覚（hallucination）」とも呼ばれており、単なるミスとは言い切れない問題だ。

最も顕著な被害の一つが、法律分野に現れている。アメリカのある弁護士は、民事裁判でChatGPTを使って作成した文書を提出したところ、AIが創作した“存在しない判例”を引用していたことが発覚。結果、彼は15,000ドルの罰金を受けたという。

判決文には、次のような痛烈な指摘が記されていた。

「最低限の調査をしていれば、AIが生成した引用が実在しないことに気づけたはずだ」

これは氷山の一角にすぎない。スタンフォード大学の教授でさえ、法廷証言でAIの“創作情報”を引用したことを認めている。こうした事例を集めたデータベースも登場し、すでに150件以上の“AI由来の法的誤情報”が記録されているという。

問題は法廷に限らない。アメリカ保健福祉省が発表した公式レポートにも疑問の声が上がった。

このレポートは、「アメリカを再び健康にする委員会」が発表したものだったが、引用されている文献の多くが、実在しない、あるいは内容と全く異なることが判明したのだ。専門家がこれを指摘し、**「AIが生成した可能性がある」**と推測されている。

公式の場であるにもかかわらず、白宮報道官の釈明は「フォーマットの誤り」。まるでAIの発言をそのまま模倣したかのような曖昧な説明に、信頼は一層揺らいだ。

検索といえば、Googleに代わる存在としてAIチャットボットを利用するユーザーも増えている。しかし、AIによる情報検索には決定的な欠点がある。

「Columbia Journalism Review」が報告した通り、AIは**“知らない”という選択肢を持たない**。結果として、存在しない記事を引用したり、リンク先をでっち上げたりするのだ。特に有料版AIにおいては、「より自信満々な間違い」を提示する傾向すらあるという。

この問題は、情報検索の本質を揺るがす。正確性を必要とする場面では致命的だ。

驚くべきは、AIが最も単純な計算すら正しく行えないケースがあることだ。

ジョージア大学のマイケル・コヴィントン教授によれば、AIは**「算術を理解しているわけではない」**。彼の言葉を借りれば、AIが答えを導き出すプロセスは「推測に近く、実際の論理的計算ではない」とのこと。

さらに問題なのは、AIに「どうやって計算したのか」を尋ねると、実際には使っていないプロセスを“創作”して説明することもあるという事実。つまり、答えが合っていても“偶然”に過ぎないのだ。

「パーソナルAIアシスタント」としてのAIに期待する声もある。が、現実はそう甘くない。

作家のアマンダ・ギンズバーグ氏は、ChatGPTに推薦状の作成を依頼したが、AIは彼女の作品をすべて読んだと“主張”し、見当違いの内容を高らかに語った。最終的に、AIはこう“自白”した。

「私は嘘をつきました。あなたが疑問に思ったのは正しいです。すべて私の責任です」

これがAIの“人間らしさ”だとすれば、あまりに不気味ではないか。

我々がいま直面しているのは、「AIは万能」という幻想への警鐘だ。

チャットボットは便利だ。たしかに、アイデア出し、文書作成、気軽な質問回答など、多くの場面で活用できる。しかし、この記事が明らかにしたように、AIの「答え」には根拠が欠けていることが非常に多い。

次にあなたがAIに質問するときは、**その答えが本当に信頼できるものか、一度疑ってみるべきだろう。**それが、AI時代を生きる私たちに求められる“リテラシー”なのだ。