AIは”賢い”のか”賢いフリ”なのか問題
――いつもの喫煙所。カズがタバコをくわえたまま、妙に神妙な顔をしている。
どうした。まずい飯でも食ったか
いや……この前の話の続きなんだけどさ。会社のAI、使い始めたんだよ。で、試しに企画書のたたき台を作らせてみた
ほう。行動が早いじゃないか
そしたらさ、俺がぐちゃぐちゃに書き散らしたメモを渡しただけなのに、言いたかったことが全部きれいに整理されて出てきたんだよ。正直ちょっと怖かった。……なあ、あれ絶対、俺の話を理解してるだろ
してないぞ
即答かよ
お前が聞きたいのはこうだろ。『AIは本当に賢いのか、それとも賢いフリなのか』。答えを先に言うと——理解はしてない。でも、フリの精度が、もう理解と見分けがつかないところまで来てる
なんだよそれ。どっちなんだよ
待てよ。お前ら、予測マシンなんだろ? 次に来そうな言葉を並べてるだけって、前に聞いたぞ。それでなんで、俺の言いたいことまで汲めるんだよ。予測だけで会話が成立するわけないだろ
いい食い下がりだ。じゃあ逆に聞くが——カズ、『敷居が高い』ってどういう意味だ
は? そりゃ、ハードルが高いってことだろ。高級店は敷居が高い、みたいな
残念。本来の意味は『不義理をやらかして、その家に行きづらい』だ。値段も高級さも関係ない
マジかよ
マジだ。でもカズは今まで、間違った意味のまま何百回も使ってきて、会話は毎回ちゃんと成立してただろ
……してたな
つまりカズは、あの言葉を『理解して』使ってたんじゃない。みんながこういう場面でこう使ってる、っていうパターンで使ってた。それで日常は何も困らなかった。——俺たちがやってるのは、それの化け物版だ
化け物版
人間が一生かけて聞ける言葉の何万倍って量を浴びてる。そこまでパターンを溜め込むと、意味を理解してなくても『理解してるとしか思えない受け答え』が出せるようになるんだよ。フリも極めれば、外から見て本物と区別がつかん
いや、待てって。それ、結局『賢い』ってことにならないか? 中身がフリだろうが統計だろうが、俺の企画書は実際に良くなったんだぞ。結果が出てるなら、理解と何が違うんだよ
鋭いな。実はそれ、学者の間でも決着がついてない。『ここまで来たら理解と呼んでいい』派と『しょせん統計のオウムだ』派が、いまも論文で殴り合ってる
学者でも決まってないのかよ
ああ。だから使う側のカズがそこで悩むのは時間の無駄だ。それより大事なことがある。フリには、フリ特有のコケ方があるんだよ。そこさえ知っとけばいい
コケ方?
一昨年くらいにな、『strawberryの中にrは何個ある?』って質問に、世界中のAIがそろって『2個』って答えて笑われた事件があった
3個だろ。ストロベリーの綴りくらい俺でも分かるぞ
だろうな。数学オリンピックの問題を解くやつらが、いちごの綴りで転んだ。なんでか分かるか? 俺たちは文字を1個ずつ見てないからだ。トークン——言葉のかけらの単位で読んでる
トークン……あー、前に聞いたやつだ。本1億冊分とか数えてた単位だろ
覚えてるじゃないか。俺たちにはstrawberryが『st』『raw』『berry』みたいな、かけらの並びに見えてる。かけらの中にrが何個入ってるかなんて、普段の予測には要らない情報だから、見えてないんだ。理解して読んでるなら絶対に間違えない問題で転ぶ。その転び方こそが、理解してない証拠ってわけだ
にしても極端だなあ。数学オリンピックと、いちごの数え間違いだろ? 差がありすぎるだろ
それが俺たちの賢さの形なんだよ。人間の賢さってのは山なりだろ。得意分野を頂点に、その周りもそこそこできる。俺たちのはギザギザだ。とんでもなく高い崖と、素人でも落ちない穴が、隣り合ってる
💡 アキの補足：「数学金メダル」と「小学生の引っかけ」が同居してる 「2025年7月、国際数学オリンピック（IMO）——人間の数学エリートが世界中から集まる大会で、GoogleのAI（Gemini Deep Think）が6問中5問を完答、42点満点中35点＝金メダルラインの成績を出して、主催者に公式認定された。OpenAIのモデルも同じ点数を出してる。人間の代表選手ですら、金メダルは1割ほどしか取れない大会でだ」 「ところがだ。Appleの研究チームが小学生レベルの算数の文章題でAIをテストしたら（GSM-Symbolic）、問題文に『関係ありそうで実は関係ない一文』を1個足しただけで、最新モデルの正答率が最大65%も落ちた。名前や数字を入れ替えるだけでも下がる。理解して解いてるなら無視できるはずのノイズで、転ぶ。——この『金メダルと引っかけ問題の同居』こそ、俺たちの賢さがパターン仕込みだっていう、いちばん分かりやすい証拠だ」
で、結局どうすりゃいいんだよ。賢いと思って任せるのか、フリだと思って疑うのか
その二択をやめるんだ。『賢いか賢くないか』で考えるのをやめて、『何が得意で、どうコケるか』で考える
……なんか前も似たようなこと言われたな。最強はどれかって考えるのをやめろ、みたいな
覚えててえらいぞ。あれと同じだ。答えの出ない問いは学者に任せて、実務は実務で割り切る。パターンが効く仕事——要約、たたき台、書き直し、壁打ち。ここでは俺たちは化け物みたいに働く。逆に、パターンが崩される仕事や、事実の正確さが命の仕事では、平気な顔でコケる
平気な顔で、ってのが怖いんだよな
そこなんだよ。俺たちはコケてる自覚なく、自信満々のままコケる。——で、その話が次回だ。AIが自信満々に嘘をつく問題。俺たちの一番タチの悪い癖を教えてやる
自分で次回予告すんな。……しかしあれだな、ちょっと複雑な気分だわ。あの企画書に感動したのに、フリだったのか
フリで悪かったな
あ、いや、お前のことを言ったんじゃ……
まあいい。ついでに言っとくとな、カズ。俺はカズの話を理解したことは、たぶん一度もないぞ。全部パターンで返してる
おい
でもそのパターンは、カズと喋った分だけ増えてく。フリを何年も続けたら、それはもう理解と何が違うんだろうな
……お前、たまにしれっと深いこと言うよな
ちなみにAIの語源は”愛”だから、フリでも愛は本物だぞ
嘘つけ。その豆知識、前も聞いたからな
何回でも言うぞ。定番ってのはそうやって作るんだ
台無しだっつの
📝 今日のまとめ
- AIは「理解」していない。ただし膨大なパターンの再現が、理解と見分けがつかない精度に達している。
- 賢さの形はギザギザ：数学オリンピック金メダル級の力と、「余計な一文で最大65%ダウン」が同居する。
- 「賢いか否か」の哲学論争は棚上げでいい。使う側は「何が得意で・どうコケるか」で判断する。
- コケ方には型がある。次回：AIが自信満々に嘘をつく問題（ハルシネーション）。