ビクター・マイヤー=ショーンベルガー ケネス・クキエ 「ビッグデータの正体」第8章

  これまでのようにプロファイリングを実施するにせよ、差別的な側面をなくし、もっと高度に、個人単位で実行できるようになる。それがビッグデータに期待できるメリットだ。そう言われると、あくまで良からぬ行為の防止が狙いなら、受け入れてもよさそうな気がする。しかし、まだ起こってもいない行為の責任を取らせたり、制裁を加えたりする道具にビッグデータ予測が使われるとすれば、やはり危険このうえない。
  個人の性格や傾向を基に罰するという考え方には、強い嫌悪感を覚える。将来、何かしでかしそうというだけで人を指弾するのは、正義を根底から覆すものだ。責めを負わせる以上、その原因となる行為が先に発生していなければならない。良からぬことを想像するだけなら違法ではない。行為に及んで初めて法に触れるのだ。個人が選択・実行した行為に対して、個人の責任が問われる。それが我々の社会の基本ではないか。
  ビッグデータ予測が完璧で、アルゴリズムが我々の未来を寸分違わずはっきりと見通せるなら、我々の行動にはもはや選択の余地など存在しないことにならないか。完璧な予測が可能なら、人間の意思は否定され、自由に人生を生きることもできない。皮肉なことだが、我々に選択の余地がないとなれば、何ら責任を問われることもない。 

  そのようなシステムがあれば、社会は安全になったり、効率化したりするかもしれないが、人間が人間たる所以はもろくも崩れ去る。自ら行動を選択し、その責任を自ら負う。それが人間を人間たらしめている根幹ではないか。ビッグデータは、社会での人間の選択の集団主義化をもたらし、自由意志を断念させる道具になってしまう。
  言うまでもなく、ビッグデータには数々のメリットがある。人間性抹消の兵器になってしまうのは、欠陥があるからだ。それもビッグデータ自体の欠陥ではなく、ビッグデータによる予測結果の使い方の欠陥である。予測された行為について実行前に責任を負わせることからして大問題だが、とりわけ、相関関係に基づくビッグデータ予測を使っていながら、個人の責任については因果的な判断を下している。問題の核心はここにある。

斎藤栄一郎 訳