監視社会――『1984年』の先へ
デジタル植民地化は、多くのSF作家が予見した現象、すなわち監視社会を生み出した。しかし、遍在する国家が市民を公然と、強制的に監視する『1984年』のオーウェル的世界とは異なり、現代のデジタル監視は、より巧妙で隅々にまで行き渡っている。恐怖や抑圧に依存するのではなく、説得と同意に基づいているのである。
今日、監視を行うのは国家だけではない。利用者の同意を得て大量の個人データを収集する企業も行っている。接続された機器、ソーシャルメディア、仮想アシスタントを通じて、技術企業は、睡眠のパターンから政治的意見に至るまで、私たちの生活のあらゆる側面に関する情報を得ている。これらのデータは、行動を予測し変化させるために使われ、利用者の判断がアルゴリズムによる推薦にますます左右される環境を生み出している。
この新たな監視の危険は、それが便利さや快適さをもたらす手段として現れることにある。人々は、個別化された推薦、無料のサービス、自分の必要に合わせられているように見える情報へのアクセスなど、見返りとして利益を受けていると感じるため、監視を脅威として認識しない。しかし、この絶え間ない監視には、深刻な代償がある。自律性と、外部の影響から自由に判断する能力の侵食である。
操作された同意――自由という幻想
デジタル監視における大きなジレンマの一つは、同意の問題である。技術プラットフォームはしばしば、利用規約やプライバシーポリシーを受け入れた時点で、利用者は監視に同意していると主張する。しかし、この同意は往々にして形だけのものだ。利用規約は、ほとんどの利用者が読まず、理解もしない専門用語で満ちた長大な文書である。たとえ読んだとしても、利用者には実質的な選択肢がほとんどない。規約を受け入れてサービスを使うか、現代のデジタル生活の大部分から排除されるかの、いずれかなのである。
このような同意は、真に自由なものではなく、操作されたものである。プラットフォームは、自らと利用者の間にある力の非対称性を利用し、支配の実態を覆い隠す形式的な手続きとして同意を提示する。人々が十分な情報に基づいて判断できるようにする代わりに、現行のシステムは、日常生活にますます不可欠となるサービスへのアクセスと引き換えに、利用者がプライバシーを差し出す循環を永続させている。
アルゴリズムによる監視と未来の支配
デジタル時代における最も陰湿な監視の形は、アルゴリズムによる監視である。そこでは、誰をどのように監視するかという判断が、リアルタイムでデータを収集・分析し、関連づけるアルゴリズムを通じて下される。アルゴリズムによる監視は、私たちが行ったことを記録するだけでなく、これから行おうとすることも予測する。それは機械学習の手法を使って将来の行動を予測し、それが起こる前に介入するのである。
この予測的な手法は、個別化された広告だけでなく、治安や政治といった、より重大な問題にも利用されている。一部の国では、治安機関がすでに予測システムを用い、オンライン上の行動に基づいて、特定の人が犯罪を犯すリスクを評価している。その結果、あるサービスを利用できるか、潜在的な脅威とみなされるかといった、個人の未来に関わる判断が、不透明で不正確なアルゴリズムのモデルに基づいて行われる環境が生まれている。
アルゴリズムによる監視は、重大な倫理的問題を提起する。行動の予測に使う基準を、誰が決めるのか。これらのアルゴリズムに偏見やバイアスが反映されないことを、どう保証するのか。そして何よりも、アルゴリズムによる監視に依存する社会は、自らを真に自由だと考えられるのだろうか。