AIのバイアスと人間の無意識バイアスは似てると思います。片方を理解できたらもう一方も理解出来るとおもいます。
ということで、以下のエクササイズをやってみてください。
エクササイズ
今から「ある言葉」を下に書きます。その言葉を見た瞬間に何らかのイメージが浮かぶことでしょう。(ところで、思い浮かぶイメージに正解・不正解はありません。クイズではないのでご安心を)
では行きます。下にスクロールしてください。
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
「お嫁さん」
.
.
.
さて、たった今頭の中になんらかのイメージがうかんだことでしょう。それはどんなイメージですか？お嫁さんの着ている服、服の色や柄、装飾、背景やシーンなどはどんなものでしょう？
ほとんどの人はある特定の文化の「お嫁さん」の特徴をイメージしたと思います。
ところで、世界中にはたくさんの文化があって、お嫁さんの特徴も様々です。例えば、
インドのお嫁さん
韓国のお嫁さん
中国のお嫁さん
アフリカのお嫁さん
中東のお嫁さん
イタリアなお嫁さん
アメリカ原住民のお嫁さん
ジャングルに住む民族のお嫁さん
世界にはたくさんのお嫁さんのイメージが事実として存在しています。
つまり「お嫁さん」という言葉が表すイメージはいく通りもある。だけれど、人はそれぞれのこれまでの個人の体験によって、ある一定の、偏りのあるイメージを持っています。知らず知らずのうちに、つまり無意識にバイアスを持っているのです。そしてこれはわるいことではありません。それぞれ違うイメージを持っている、というだけの話です。
さて、AIのバイアスも同様に、例えば画像生成AIに「お嫁さん」と入力すると、ある特定の文化のお嫁さんの画像が出てくることが多いです。これはトレーニングに使った写真データに、たまたまその文化の「お嫁さんの写真」が多く含まれていたので、確率的にそのイメージが生成されたのです。
これはサンプルのバイアスとも呼ばれていて、訓練データそのものに偏りがあるのでAIモデルもそのバイアスを反映してしまうのです。
人もAIも、どうしてもバイアスがかかってしまいます。人間の場合はある程度意識をする事で、バイアスを修正することができます。ただし、これにはメタ思考もいうある程度高次の思考が出来ることが条件になります。AIはこれからの課題です。
ちなみにMicrosoftの社員教育ではもう数年前から"Reaponsible AI"というトピックが全社員に義務付けられています。AIは無責任に活用するのではなく、それの社会的、経済的、文化的なインパクトを考慮して、特定のグループや個人が不当に不利益を得ないようにしなくてはならない、という風に教えられます。
AIに責任を求めるのと同様に、人もそれぞれが無意識バイアスを理解して、責任感を持って発言・行動すべきですよね、という話でした。
