ビクター・マイヤー=ショーンベルガー ケネス・クキエ 「ビッグデータの正体」第1章

  人間の社会は、これまで何千年にもわたり人間の行動を解明し、おかしなことをしないように常に目を光らせてきた。しかし、コンピュータのアルゴリズムは何をしでかすかわからない。コンピュータ時代に入って当局者は、プライバシー侵害の脅威を感じ取り、個人情報保護のための膨大な規則を築き上げた。ところがビッグデータの時代になると、そんな規則は防御線として何の役にも立たなくなる。すでに人々はネット上で積極的に情報共有している。だいいち、今どきのオンラインサービスでは、共有機能がセキュリティ上の脅威どころか、客寄せの目玉になっているほどだ。

  これから我々個人にとって怖いのは「プライバシー」よりも「確率」となる。心臓発作を起こす(=医療保険が上がる)とか、住宅ローンの返済が焦げ付く(=今後の融資を渋られる)とか、罪を犯す(=逮捕される)といった可能性も、アルゴリズムが予測する。となれば、「人間の神聖なる自由意志」か、はたまた「データによる独裁」かという、倫理問題にまで発展する。たとえ統計によるご託宣があったとしても、個人の意志はビッグデータに打ち勝つことができるのか。印刷機が出現したからこそ、表現の自由を保障する法律が生まれた。それ以前は保護すべき表現はほとんどなかった。おそらくビッグデータの時代には、個人の尊厳を守る新たなルールが必要になる。

斎藤栄一郎 訳