その他のサービス業、製造業の現場では、20世紀末以来の米国が世界に先駆けて業務の自動化に取り組んできた。産業の海外移転による空洞化と並んで、こうした自動化が国内雇用の縮小を招くとともに、現業部門と知的産業の間に大きな格差を生み出した。2015年に始まった「トランプ現象」はこの反動とも言える。
これに今後はAIによる、中付加価値以下の知的労働の自動化というトレンドが加われば、更なる雇用縮小と格差の拡大を招く可能性は十分にある。その時、米国はより激しいポピュリズムの嵐に見舞われるかもしれない。
AIの暴走を人間が止められない可能性
第三段階は、AIによる人間の支配という問題だ。AIが暴走し、やがて人間との力関係が逆転することで、人間が支配されるというのは、あくまでSF映画の話か、少なくとも遠い未来の話に聞こえる。だが、この問題でも、危機はすぐそこまで迫っているという意見もある。
例えば、あるSNSのシステムが、自動生成されたメッセージの拡散を許す仕様となっていたとする。そこで、全くの誤情報がどんどん広がるということはあり得る。それが、例えば重要な選挙結果を左右するとか、重要な政策決定を歪めるということは可能性としてはある。
現時点では、そうした懸念も、そもそもは誤情報の生成にしても、拡散にしても「人間の悪意」が介在するという理解をした上で、対抗したり防止するということになる。また、それで構わないという理解がとりあえず共有されている。だが、一部の専門家によれば、「人間とAIが共に参加するアルゴリズム」が上手く設計されていないと、AIの暴走を人間が止められなくなる現象が、遅くとも10年後の2033年には懸念されるという意見もある。
こうした問題を防止するには、人間社会における論理性リテラシーの底上げに取り組むとともに、悪意による技術の悪用を禁止すること、また先端技術に関する透明性確保などに留意した国際ルールが必要であろう。
