グーグルが昨年発表したAIの概要機能は、多くの偽情報や誤解を招く情報を生成する可能性があることが指摘されており、ユーザーにとって大きな問題となっている。最近、グーグルのAIライティングアシスタントが生成した不正確な情報がスーパーボウルでの広告に含まれていることが発覚し、世間の注目を集めている。この事態は、グーグルがAIの機能を強調するキャンペーンの一環として計画したもので、特にウィスコンシン州に焦点を当てた広告が含まれていた。
この広告では、ウィスコンシンチーズマートのオーナーがグーグルのライティングアシスタントに「チーズ愛好者にアピールできるスモークゴーダの説明」を求めた。AIが生成した応答には、ゴーダが「世界で最も人気のあるチーズの一つで、世界のチーズ消費の50%から60%を占める」と記載されていたが、これは明らかな誇張である。この誤った統計は、2007年のチーズマーケットニュースのエディトリアルではゴーダが世界で3番目に人気のあるチーズとして紹介されているように、事実と乖離している。
不正確な情報は、YouTubeで今週初めに公開された広告バージョンでも確認され、その後、火曜日に変更が行われて不正確な統計が取り除かれた。新しいバージョンでは、グーグルのライティングアシスタントがゴーダの人気について具体的な数字を示さず、単に「世界で最も人気のあるチーズの一つ」とだけ述べている。特筆すべきは、新しいバージョンがもともと同じURLでアップロードされていたことだ。このような大規模な更新が通常のYouTubeユーザーには不可能であるため、グーグル自体の特権が利用された可能性が示唆されている。
さらに、不正確なチーズ情報はグーグルの最近の決算報告のプレロールからも削除されており、広告の計画や好意的な状況が示されていたことが分かる。グーグルのクラウドアプリケーション部門の社長であるジェリー・ディスラーは、AIが不正確な情報を生成する背景として、ウェブ上の情報源が影響を与えたとコメントしている。具体的な数字は、主要なSEO特化サイトであるcheese.comから来ていることが示唆されており、ここでは明確な出典がないにも関わらず情報が広まっている。
グーグルは、ユーザーに対して「結果や参照を常に確認することができる」と強調しているが、実際に広告に示されたAIライティングアシスタントは出典を提供しておらず、問題が浮き彫りになっている。ライティングアシスタントには小さい文字で「創造的なライティング支援であり、事実を意図したものではない」とされているが、広告にはその警告が含まれていない。そして、スーパーボウルの広告では、自社のAIライティングアシスタントがビジネスオーナーにとって救世主であるかのように強調されている。
このビッグテック企業の手法に対しては大いに疑問が持たれており、ユーザーはAIアシスタントを利用する際には注意が必要だ。冒頭の事例のように、顕著な誤りが簡単に見過ごされ、誤った情報が広がる可能性があるため、特に事実に基づく情報を必要とする状況では注意が必要である。これらの問題は、今後のAI技術の発展において重要な課題であり、今後も目を離してはならない。
