これ面白い

https://www.wired.com/story/google-ai-overviews-meaning/
Brian Barrett
Business
Apr 23, 2025 7:44 PM
‘You Can’t Lick a Badger Twice’: Google Failures Highlight a Fundamental AI Flaw
Google’s AI Overviews feature credible-sounding explanations for completely made-up idioms.
（google訳一部手直し）
「アナグマを二度舐めることはできない」：Googleの失敗はAIの根本的な欠陥を浮き彫りにする
Google の AI 概要には、完全に（デタラメ）創作の慣用句に対する信憑性を装った説明が掲載されます。

仕事の合間にちょっとした気分転換を。Google にアクセスして、作ったフレーズを入力し、「意味」という言葉を加えて検索してみましょう。すると、なんと！GoogleのAIオーバービュー機能が、あなたの意味不明な言葉が本当に使われているか確認してくれるだけでなく、その意味と由来まで教えてくれます。

これは本当に面白いもので、ソーシャルメディアでたくさんの例を見つけることができます。AI Overviewsの世界では、「放し飼いの犬はサーフィンをしない」というのは、「何かが起こりそうにない、あるいはうまくいかないということを冗談めかして言う言い方」です。

どれも揺るぎない自信に満ち溢れた、納得のいく説明に聞こえます。Googleは場合によっては参考リンクまで提供しており、回答にさらなる権威を与えています。しかし、これは間違いでもあります。

これらのフレーズに何か意味があるとすれば、その意味を説明するのが非常に得意です。繰り返しますが、実際には意味はありません。

「次の単語の予測は膨大な学習データに基づいています」と、ジョンズ・ホプキンス大学のコンピューター科学者、ジアン・シャオ氏は言う。「しかし、多くの場合、次のまとまりのある単語が正しい答えにつながるとは限りません。」

もう一つの要因は、AIが相手を喜ばせることを目指していることです。研究によると、チャットボットは相手が聞きたいことを言うことが多いことが分かっています。今回のケースでは、 「アナグマを二度舐めることはできない」というあなたの言葉をそのまま受け取ることが一般的です。また、シャオ氏率いる研究チームが昨年行った研究で実証したように、AIはあなたの偏見を相手に反映させることを意味する場合もあります。

「このシステムでは、個々のクエリやユーザーの誘導的な質問をすべて考慮するのは非常に困難です」とシャオ氏は言います。「特に、一般的ではない知識、利用可能なコンテンツが著しく少ない言語、そして少数派の視点の場合、これは困難を極めます。検索AIは非常に複雑なシステムであるため、エラーは連鎖的に発生します。」

これらの問題をさらに複雑にしているのは、AIが答えを知らないことを認めたがらないことです。疑わしい場合は、AIは答えをでっち上げてしまいます。