ちえラジChat金曜日、始まりました。 今回の週替わりテーマは「AIについて」ということで、日頃から感じている「AIの偏見」についてお話ししようと思います。
AIがつく「もっともらしい嘘」
AIを使っていると、どうしても避けて通れないのが「ハルシネーション（幻覚）」の問題です。 もっともらしい嘘をついたり、事実を混同してしまったり・・・。
特に、しっかりと整備されていない文章や、大量の音声データをそのまま読み込ませると、「かなりの割合でむちゃくちゃなことを言うな」、という印象があります。
最近だとNotebookLMやGeminiのように、音声を処理できるAIも増えてきました。 1時間程度の音声ならなんとかなるのですが、これが2時間、3時間を超えてくると、出力がぐちゃぐちゃになってくる感覚があります。
人間がつく嘘とは仕組みが違うので、あまり「嘘」とは呼びたくないのですが、真実ではないことが混ざってしまうのは事実ですね。
AIに潜む「偏見」というフィルター
そして、もう一つ気をつけたいのが「AIの偏見」です。 AIは世界中の膨大な情報を学習して、それらしい回答を導き出しますが、その学習元となるデータには、もともと多くの偏見が含まれています。
その結果、AIもその偏見を色濃く受け継いでしまうわけです。
例えば、性別を指定していないのに、特定の言葉が出てきた途端に「これは女性の話だ」と決めつけたり。 「一般的にはこうです」と、今の実情とは違う古い価値観を断言してきたり・・・。
こういうのを見ていると、人間以上に人間の悪いところが凝縮されて出ているな、と感じることもあります(今考えてみたら牡蠣の生物濃縮にも近いものを感じますね)。
AIと上手く付き合うために
結局のところ、AIが出してきた文章を人間がしっかりチェックすることが、何より重要なんだなと思います。
一見、偏見が入る余地がなさそうな「まとめ」の作業であっても、あっさりと変な思い込みが混ざることがあります。
個人的には、一度に長い文章を出力させるよりも、細かく短い単位で出力させて、それを繋ぎ合わせる方が使いやすいと感じています。 「2000文字のブログを書いて」と頼むより、「トピックを10個挙げて」とお願いするようなイメージですね。
AIは便利ですが、そこに偏見や思い込みが入り込んでいないか、常に慎重に見ていく必要がありそうです。
音声版はこちらから聴くことができます。
明日の土曜日はお休みですが、ゲームの話しかしないポッドキャストは配信予定です。 また月曜日にお会いしましょう。ではでは。
