AI は「自分が知らないことを知らない」という局面に遭遇しましたのでちょっと書いておこうと思います。結局、「記号接地問題」ということだと思います。
高級車はベンツかポルシェ？
私は映画評のブログも書いており、イ・チャンドン監督の「もしもの愛」のレビューを書いているときのことです。
この映画は「階級社会」というものがベースになっており、それぞれ労働者階級と資本家階級（ブルジョワジー）に属する夫婦4人の相互関係が描かれていく映画です。その階級の違いの表現として、住まいや衣服とともに乗っている車が使われているわけで、ブルジョワの夫婦は見るからに高級車に乗っています。
私は車に興味がなく、その車種がわかりません。じゃあ AI（Gemini）に聞いてみるかということで次のやり取りとなりました。やり取りは記録していませんので要点だけです。
私：映画「もしもの愛」でサンウ（ブルジョワの男…）が乗っていた高級車はなんですか？
AI ：ベンツの〇〇です
私：ポルシェじゃないですか
AI：申し訳ありません。ポルシェでした。
私：本当ですか
AI：申し訳ありません。サンウ が乗っている具体的な高級車の車種名に関する情報は現在のところありません
こんな感じです。実際にはこんな簡単ではなく映画の内容や要点まであれこれ語ってくれます。
これで分かることは、当然ながら AI は映画「もしもの愛」を観ているわけではなく、ネット上の情報を収集し、「サンウ＋高級車」で探し出し、2つのキーワードに合致するものがないとなれば、「高級車」に結びつく最も可能性の高い車種「ベンツ」を抽出してきたものと思われます。もちろんこんな単純ではないとは思いますが考え方に間違いはないでしょう。
それに対して、私が明確に「ポルシェ」と表明したものですから、おそらく AI は「高級車＋ポルシェ」の組み合わせが妥当かどうかを検討して問題ないとの判断で「そうだ」と答えてきたのだと思います。
その後さらに私が「本当か？」と異議を唱えたものですから、AI も観念して（笑）「情報はありません」と答えてきたわけです。「わかりません」や「知りません」じゃありません。「情報がない」です。
AI は知らないことを知らない
教訓としては、AI には「分かる、分からない」や「知っている、知らない」の言葉はないということです。なにか聞かれれば、
大量のテキストデータから「記号と記号の統計的なつながり（確率・パターン）」を処理しているだけで、実世界の感覚や体験（地面）を持っていません
（これも Gemini の記号接地問題の答えから…）
ので、なにがしかつながりのある「言葉」を探し出してくるだけということです。
1回目の答えを信用してはいけないということで、間違いないというところまで問い詰めろということだと思います。質問の仕方でも変わりますね。
「りんごは美味しいですか？」と聞けば
りんごは、甘味と酸味のバランスが良く、シャキッとした食感が楽しめる美味しい果物です
と答えてきますが、「りんごは美味しいと思いますか？」と尋ねれば、
私はAIであるため実際に味を感じることはできませんが、世間一般においてりんごは非常に美味しく、魅力的なフルーツであると広く認められています。
と答えてきます。
AI の「記号接地問題」、こんな単純ではないとは思いますがその一端ではあります。それにこの映画のケースは映像を読み込ませて画像認識させれば可能になるのではないかと思います。
