人類の知恵の源泉は、人類は救済措置のないまま損害を生み出すシステムを長く容認しないという点で一致している。したがって、道徳的に成熟した個人、企業、政府が責任を負うならば、寛容な法的形態を想定することができるだろう。
しかし、そうなると、個人も集団的な文化としても、社会の現状について自らの判断を維持し、不確実性を機械に任せてしまう道を避けるべきである。
* * *
両極に広がる是非
AIが職を奪う、アンソロピックのクロード・ミトスのように高すぎる自律的能力が深刻な危険をもたらす等、AIは様々な角度で論じられている。上記は、 AI と人との関係という視点から、ローマ教皇レオ14世の回勅とアルゼンチンのミレイ大統領の政策という両極の考え方があることを紹介し、責任ある人間の判断の重要性を論じている。
レオ14世は先月回勅を発表し、AIの「武装解除」を訴えた。先端技術の否定ではなく、AIの脅威を指摘し、権力者がそれを制御する責任があることを訴え、また少数の権力者がAIを駆使して人類を支配することへの警告だった。いかに優れていても AIと人間の知能は異なり、人間が認知的降伏をすることの危険性を指摘している。
一方、ミレイ大統領は AIアルゴリズムの活動範囲に規制を課さず、AIによって完全に運営される「非人間法人」という新たな法的分類を導入すると発表した。ミレイはアルゼンチンの経済立て直しのために数年前から米国のIT企業の投資誘致に努めてきたが、今回の発表は究極の手法であろう。
しかし、「非人間法人」の判断が誤った場合、誰が責任をとるのか。責任の所在の曖昧さを利用し責任を回避するような市場支配は既に行われてきている。
例えばSNSは法律の穴を利用し賠償責任を逃れたり、Uberはタクシー会社でなく技術プラットフォームで運転手は従業員でなくギグ労働者だと主張したりしている。チャットボットの医学的アドバイスに対し医療過誤責任を求めることはできず、チャットボットは人間の医師のように資格も求められない。AIの野放し状態に対し、レオ14世は正義を維持し、技術の歪んだ影響を抑制できる適切な規制手段を確立する必要性を訴えた。
