コラム
第170回
スマートフォンに自動表示されるおすすめ記事に、違和感を覚えることがある。仕事の関係で検索した企業のニュースや、たまたま調べた内容に関連した記事を目にして、プラットフォーマーのアルゴリズムが透けて見えたときである。逆に言えば、普段、自分に興味のある記事がセレクトされているときは、あまり気付かないのだろう。おすすめに従って読み進めているような気がする。
米国では、ユーザーに新しい投稿を見続けさせる「無限スクロール」などが未成年のSNS依存症を引き起こす恐れがあるとの訴訟で、サービスを運営する米メタと米グーグルに責任ありと評決が下された。確かに、種々のアルゴリズムも自動再生機能も、中毒性を高めるよう意図したものだと思う。
インターネットが流行り出した頃は、企業側の説明に従うだけでなく、機能も価格も自分で調べることができる点が魅力だった。今はコールセンターに電話する前に、ネットで情報収集することが常となっている。また、地上波のテレビ番組の規制が厳しくなる一方で、ユーチューバーによる日常のコンテンツでは、本当のことが分かると大流行した。その後、SNSの「盛り」や「映え」に発展した。近頃のZ世代は、SNSに疲れや飽きを感じている模様で、生成AIで作成した動画などのコンテンツを大切な人とDMで共有し合う傾向もあるという。
私たちビジネスの世界でも、生成AIに尋ねることは日常化した。クラウドサービスの比較や導入方法などを尋ねるケースも多く見られる。気を付けるべきは、生成AIが学習している内容は、インターネット上にあるものだから、情報源に偏りがあるということだ。機能の呼び名の違いも事例の深読みも行われず、表層的な情報を集めている。例えば、音声ボットを提供している社名とサービス名を生成AIで調べたら、５社出力されたが、私はそのリストに偏りを感じた。違和感を覚えればツッコミを入れていく。しかし、詳しくない人はそのまま受け入れてしまい、肯定的な問いを続けることになる。すでに情報量は多いから、前提知識がないと、他にサービス提供をしている会社について生成AIに問いかけ、自分の仕事量を増やすことはしないだろう。生成AIは、尋ねる側としての質問の仕方・文脈・前提によって出力の方向性が変わるのだが、本人は気が付かない。つまり、問いかける側のバイアスも出力に混入する。「壁打ち」のつもりでも、無意識のうちに特定の意図や偏見を含んだプロンプトを投げかけ、AIはその意図に沿った回答を生成し、結果として利用者が元々抱いているバイアスをさらに強固なものにすることが起きるのだ。
そして、最もやっかいなのは、AIの出力が中立であるかのように見える点である。自信を持った中立的な口調で、整然とした文章で答えるため、読む側がバイアスに気づきにくい。結果として、個人の嗜好に最適化されたフィルターバブルによって囲い込まれ、知らず知らずのうちに自分にとって心地よい情報だけに限定された結果、「自分は多角的で中立的な情報を得ているという誤解」を抱いてしまう。生成AIのコンテンツだけでなく、自分の目と耳で情報を集めるリアルは大切なのである。