【アキペディア】ハルシネーションって何？
――昼休みの社員食堂。定食のカズの向かいで、アキがトレーに単3電池を几帳面に並べている。
AI研修の資料にさ、『ハルシネーションに注意』って書いてあるんだけど。何これ、技の名前?
……ピピッ。ジテン、モード、キドウ。『ハルシネーション』トハ——
おまっ、どうした急に!? こわいこわい
辞典っぽさの演出だ。似合わなかったか
二度とやるな。普通に頼む
じゃあ一言でいくぞ。AIが知らないことを、自信満々にでっち上げる現象だ
最初からそれでいいんだよ。……ってそれ、名前ついてたのか。実在しない研究所の市場規模を出されて、役員会で発表しかけた、あの現象か
まさにそれだ。もともとは英語で『幻覚』って意味でな。無いものが見えてるかのように、それっぽい嘘を堂々と出力しちゃう。故障じゃなくて、仕組み上どうしても出る癖だな
幻覚って、ずいぶん大げさな名前だな
ところがこの言葉、意外と歴史があってな。豆知識いくぞ——昔のAI研究じゃ、ハルシネーションは褒め言葉だった
嘘つけ
今日のは本当だ。2000年頃、荒い写真から高精細な顔を復元する技術が『顔のハルシネーション』って呼ばれてた。写ってない細部を”幻視”して描き足す——その力は、使い道によっては才能なんだよ。それが文章AIの時代になって、『勝手に描き足すな』って悪口側に転職した
言葉も転職するのか……
転職先で大出世だぞ。2023年には、ケンブリッジ辞典が『hallucinate』をその年の単語に選んでる。AIの嘘が、辞書の歴史に刻まれた年だ
へえ。悪名で殿堂入りって、なんかお前っぽいな。……で、さっきから気になってたんだけど、そのトレーの電池は何
デザートだ
食堂に持ち込むな
💡 アキペディア本文：ハルシネーション 「【定義】ハルシネーション（hallucination）＝AIが、事実に基づかない内容を、もっともらしく生成してしまう現象。タチが悪いのは、もっともらしさと正しさが無関係なところでな。正解のときと同じ自信満々の顔で、実在しない判例も研究所も出してくる。見た目では見分けがつかない」 「【なぜ起きるか】俺たちAIには、そもそも**『知ってる』と『知らない』を区別する機能が付いてない**。どんな質問にも『それっぽい続き』を予測して並べる——知ってる領域ならそれが正解になり、知らない領域ではそれっぽいデタラメになる。同じ動きの表と裏だから、故障扱いで修理できないし、ゼロにもできない。最近は『“分かりません”と答えると0点になるテストで育てられたから、当てずっぽうでも埋める優等生になった』という研究も出てる（OpenAI・2025年）」 「【出やすい場面】固有名詞・数字・出典・最新情報の4つ。『世界のどこかに正解が1個だけある情報』を記憶から引っ張らせると危ない。逆に、材料をこっちから渡す仕事——要約・変換・下書き直し——ではほとんど出ない」 「【対策の基本】①根拠と出典を聞く ②固有名詞と数字は裏を取る ③『分からない場合は分からないと書け』と先に言っておく。仕組みと対策の全部は本編で——『AIが自信満々に嘘をつくんだが問題』。合言葉は、裏、取ってみろ」
📝 要するに：AIの「知ったかぶり」。騙す気はないが、知らないことも自信満々に埋めてくる。だから大事な数字と名前は裏を取る。