他方でこの現象は人間によっても促進される。中国ではどのような行為が社会信用スコアアップにつながるかが議論されている。本来の自分では行わないような寄付行為を積極的に行うことで点数がアップするならば、普段は寄付をしなくとも、データ上の自分が「善人」と判断されるために人々は積極的に寄付を行うだろう。
このことはすなわち、コンピュータと人間双方の側から、「現実の自分」と「データ上の自分」の乖離を積極的に推進する可能性を示唆する。以前の連載でも指摘したことだが、寄付を行うことで結果的に当人が善人になるにせよ、現実とデータの間の乖離が進めば、いずれ問題が顕在化することが予測される（すでにSNS上の人格と現実の人格の齟齬に苦しむ人々が散見される）。
データ分析に抵抗するための「情報銀行」
これらの問題に対処するにあたっては、まずもってコンピュータの偏見から自分の身を守る必要があるだろう。そのためには、どのようなデータによって自分が分析されてしまうのかを見極め、不当な分析を阻止する必要がある。2018年5月25日からEUで施行されたGDPR(一般データ保護規則)はその対策のひとつだが、日本でも「情報銀行」という概念が提唱されはじめている。
情報銀行とは、グーグルやアマゾンなど企業が独自に収拾した個人データではなく、自ら自分自身のデータを銀行に預け、企業は欲しい情報を銀行から借り入れ、その際にユーザーに金銭を支払うというものだ。2019年から三菱UFJ信託銀行が参入を計画していることが報道されている。
例えば健康情報を情報銀行に登録しておけば、ヘルスケア関連企業はその情報を用いて、適切な時期に適切な医療情報を提供できることもあり、大きなビジネスチャンスとなる。断片的な個人情報に限定される今のIT企業では、アルゴリズムによってデータ上の自分が不当に判断される可能性がある。情報銀行構想は、そのような不適切な判断をされる前に、自ら明け渡す情報を選択できる、というメリットがある。
情報銀行がどのようなものになるのか。その見通しはまだついておらず、筆者が述べたようなものとは異なるものになるかもしれない。現状では、アルゴリズムによる不当な判断を抑止するというより、自己データを積極的に売ることで金銭を得ようとするユーザー向けだ、との指摘もある。ともあれ、勝手にデータで判断されてしまう、という懸念を回避できるようなものであれば望ましい。
ただしここにも問題はある。それは、どのデータが分析されるかによって自分がどのような損得を生じ得るのかを、ユーザーが個々に選択しなければならない、ということだ。我々がウェブサービスの規約を読まずに「同意」をクリックするように、そこまで自己情報をコントロールできるユーザー、またその意志のあるユーザーはむしろ少数だ。
このように、データ分析を巡るアルゴリズムの偏見問題には、簡単な解決法は存在しない。それでも、日々進展するIT技術が我々を不当に判断しかねない現状において、常に議論が続けられなければならない。
▲「WEDGE Infinity」の新着記事などをお届けしています。
