二つ目が、AIを用いている点である。そこがこの問題をより深刻にしている。スタンフォード大は、AI開発においても進んでおり、その使用法や危険性についても多くの提言を行ってきている。学内の機関であるスタンフォード人間中心人工知能研究所は、人間が現場で「偏ったデータ」をAIに与えることが、どれほど深刻な差別やバイアスの固定化を生むかを実証し、世界中の企業や政府に向けて「データの透明性と、AIに学習させる前の徹底的なチェック」を提言し続けている。
つまりこういうことである。AIは人間が作り出したデータをデフォルト（正しい標準）として学習してしまう危険性をもつため、データに偏りや歪みがあると、その偏りや歪みごと現実のルールとして吸収してしまう。AIは吸収した偏ったデータに基づいて新しい画像などを出力し、それがまたインターネット上に流れて次のAIの学習の素材となるというフィードバックループが発生する。
今回のケースに当てはめると、ラテン系の男性を消してアフリカ系の女性を加えた方がより「好ましい」多様性となるとか、アジア系の女性は、細身にした方が好ましいといった入力がよりによってスタンフォード大学によってなされてしまったということになる。大学の宣伝写真に過ぎなかった一枚の写真の意図的な偏りが、AIにとっての正解として固定化されていく恐れがあるというのである。
起こしてしまった重い罪
これまでスタンフォード大学は多様性を重視する大学であるとの評判を打ち立てて来た。ところが今回の事件で、多様性を推進していると謳うスタンフォード大学が、実は推進しているのは自分たちに都合のいい形での多様性でしかないということを露呈しただけでなく、人類のために自分たちがAIの使用法について提言してきたことと全く逆のことを行っていたということが明るみに出たことになる。評判が良かっただけに、そして提言が的を射ていただけに、同大学の罪は重いと言える。
