ネット社会は悪意とどう向き合うか？
ところで、このようなネット社会が抱える「悪意」に対し、技術的な対処が後追いになりがちなのはどうしてだろうか。それは、そもそもインターネットというシステムが人の悪意をほとんど想定しておらず、「性善説」に基づいて設計・運用されてきた歴史があるからだ。
インターネットの起源とされるARPAnetは主に米国の大学や研究機関を結ぶネットワークであり、当時のユーザーは限られた研究者やエンジニアのみで、相互信頼が前提の閉じたコミュニティであった。意図的にネットワークを攻撃したり、他人を騙して情報を盗んだり、ニセ情報を流したりするようなインセンティブは、かつてはほとんど存在しなかった。古くから運用されているDNSや電子メールといった技術においても、セキュリティを高めるためのさまざまな仕組みは後付けで追加されているのである（「ドメイン名をドロップキャッチされた！ そのとき当事者は――長崎県立大学学生自治会が経緯と実情を語る」）。
一方、こうした初期の「性善説」は、世界中で無数のユーザーが参加する現代のウェブ環境においては限界を迎えているように思われる。悪意の利用にも一定のインセンティブが見込まれる現状、悪用しようとする試みはより巧妙かつ組織的に行われるようになっている。それに対して、個人レベルで騙されないための対策も重要だが、ヒトの生物学的な特性を踏まえると、抜本的な解決は難しいだろう。
たとえば、人間には基本的に受け取った情報を真実だと仮定し処理する傾向がある（真実バイアス）。これは、情報を一旦受け入れてから評価する方が認知的効率が良いためで、全ての情報を常に疑い続けるのは不可能である。
同様に、人間は他人の噓を見抜くのが苦手であり、単なる個人的な能力差ではなく、ヒト全体に根ざした普遍的な傾向であることがよく知られている。実際、これまでに嘘を見抜く研究も数多く行われてきたが、偶然レベルの確率でしか嘘を見抜けないことが示されている（Charles F Bond Jr, Bella M DePaulo (2006): Accuracy of deception judgments, Pers Soc Psychol Rev., 10(3), pp.214-234.）。
弾力的な運営はできるのか
先日、デマ情報を配信して名誉を傷つけたとしてNHKから国民を守る党党首の立花孝志氏が逮捕されたが、彼の流布していた情報を一部の人が正しいものとして受け取ってしまったことも、こうした特性に由来する。不安や怒りといった強い感情に訴えかけ、既存の権威への不信感を煽るような言説は、我々の心に根差した「信じたい」という本能を刺激し、自分では気づかないうちに熱狂的な信奉者になってしまうこともある。
おそらく今後、社会システムの次元での対策を講じていく必要があるだろう。もちろん、単に性悪説に振っていくだけでは、利便性が著しく損なわれたり、自由さがなくなり息苦しくなったりと、デメリットも大きい。
理想的には、ネット社会やそれを扱う人間の特性を踏まえたうえで、悪意が顕在化した際にすぐに回復できる弾力性を備えた社会設計が望ましいと考えるが、実装は簡単ではないだろう。ネット社会に適した社会システムについて、議論が必要だ。
