前回は音声操作技術による「聴覚メディア」の可能性と問題について議論した。高度な情報技術が社会の利便性を向上させる一方、飛行機が空を飛ぶ原理の詳細を知らないように、情報技術の原理について我々が知ることは少ない。
そして技術が我々に問題をもたらす際、我々は技術を点検する術を持ち、かつそれが社会に開かれていなければならない。しかし現在の情報技術、特に人工知能技術のベースとなる「アルゴリズム」の多くはいくつもの問題を孕んでいる。今回はアルゴリズムの問題について議論したい。
我々の生活を支えるアルゴリズム
アルゴリズムとは、コンピュータ業界においては「計算方法」と定義され、コンピュータがある操作を行う時の手順や方式を指す。例えば囲碁でコンピュータが勝負するための戦い方や、Google検索の方法などが該当し、昨今の人工知能技術のベースとなるものだ。
現代社会を生きる中で、我々はアルゴリズムと切っても切れない関係にある。人々は毎日Googleで検索し、電車や車の移動経路情報をアプリから得る。ネットショッピングサイトで買い物をする際に人工知能がオススメを提供する時など、これら全てがアルゴリズム（を利用した人工知能）によってなされている。
アルゴリズムを利用した社会は便利だが、同時にアルゴリズムの「偏見」によって問題も生じる。米マサチューセッツ工科大学のMIT Media Labの研究者たちは、スマホなどで行われる顔認証の認識精度を分析した。その結果、女性よりも男性、浅黒い人よりも色白の人の方の認識率が高かったことが判明した。研究者は、女性や少数民族といった顔認識レベルが低い人々が、空港などで不当にセキュリティチェックを受ける機会が増えることから、白人男性と比べて構造的な差別につながると指摘する。
顔認識問題については数年前から議論が続いている。2015年、Googleが提供するgoogle photoの画像認識サービスにおいて、ある黒人2名の写真に人工知能が「ゴリラ」とタグをつけたことが問題になった。グーグルは謝罪したが、この問題はアルゴリズムにあり、現在においても適切な修正はされていないという指摘もある。
他にも、Facebookが英語圏で展開する「トレンドトピックス」という話題の記事を紹介する機能でフェイクニュースを紹介したり、2016年にはアメリカの一部の州で採用されている再犯予測システム「COMPAS」が、再犯予測判定において、白人よりも黒人を不当に高くしていたことも発覚した（これらについては以前筆者が別媒体で論じた）。
