前回は自身の身体改良をめざすバイオハッキングについて議論した。身体改造が自由な社会においては、現在の人間観では許容できない人間が存在することになる。だが、人間をどのような存在として定義できるのか、という問いそのものは人類が常に経験してきたことであり、「ヒューマン」をめぐる議論は今後も様々な分野で活発に続けられるだろう。
ところで、本連載は今回もヒューマンに関わる議論を行いたい。それは顔認識ソフトが我々に与える問題であり、ネット上の「自分」と現実を生きる「自分」が、技術によって分割されるという問題だ。これらはバイオハッキングに比較すればより身近な事例であり、我々の関心を呼ぶが、大きな意味でこれも「ヒューマン」をめぐる問題だと筆者は感じている。加えて今回は情報銀行などいくつかのテーマを横断的に議論することで、問題の所在を探ってみたい。
アマゾンの顔認識ソフト
「レコグニション」をめぐる問題
アマゾンといえば通販サイトのイメージがあるが、一方でアマゾンがAmazon Web Services(AWS)というクラウドサービスを運営しており、大きな利益を生んでいることは一般にはあまり知られていない。AWSはWebサーバをはじめとして、分析ツールやアプリケーションなど、インターネット経由で様々なサービスを提供している（その他音声読み上げ機能なども話題になった。詳しくはアマゾンのサイトを参照）。
「レコグニション（Rekognition）」もAWSのひとつであり、画像分析や顔認識を得意とするサービスとして、2016年から提供を開始している。一枚の画像から100人の人間を認識するだけでなく、テキスト分析や動画分析等が可能であり、監視カメラの映像から即座に人間を特定できる。犯罪者のリアルタイム追跡を可能とすることから、アメリカで一部の警察が導入しているレコグニションだが、様々な観点から問題が指摘されている。
2018年7月26日、人権団体のACLU（アメリカ自由人権協会）は興味深い発表を行った。ACLUはレコグニションを利用し、2万5000人分の公開されている犯罪者の写真を利用してデータベースを構築。それをアメリカ議会上下両院の全議員の顔写真と照合したところ、28人の議員が犯罪者の顔に一致する結果を得たと発表したのだ（さらにこのテストにかかった費用は12.33ドルと非常に安価であった）。
それだけでも問題だが、この誤って検出された28人のうち、有色人種の割合が高かったことも批判を呼んだ。アメリカの全議員の中で有色人種の割合はおよそ20％だが、検出されたのは全体の約39％にあたる11人と倍近い値だ。このことが示すのは、レコグニションは有色人種ほど判断を誤るということだ。
この報道を受けてアマゾンも反論している。ACLUの調査はレコグニションの信頼水準（精度の数値）をデフォルトの80％に設定しているが、アマゾンでは法執行機関がレコグニションを使用する場合、信頼水準を99％以上にするよう推奨しているという。実際、99％の数値でACLUの30倍以上の85万人の顔データで同じ実験をしたところ、誤検出はゼロだったとブログで反論している。つまりACLUの調査には問題があるというのだ。
