情報の泡の誕生
FacebookやTwitterのようなプラットフォームの興隆によって、ニュースや意見がフィルターを介さず即座に共有される、世界的なコミュニケーションの新時代が始まった。しかし、より多くの反応を生む内容を優先するアルゴリズムに基づいたこれらのネットワークの設計は、今日「情報の泡」と呼ばれるものを生み出した。その泡の中では、利用者は主に既存の信念を裏づける情報に触れるため、分極化がますます進んでいく。
これらのアルゴリズムの目的は明確である。利用者の注意を最大化することだ。人々を自らの思想に合うニュースや意見の絶え間ない循環の中にとどめることで、プラットフォームは利用者をより長くオンラインに滞在させ、より多くの内容を消費させ、最終的にはより多くの広告収入を生み出させる。しかし、その代償は大きい。情報の泡は既存の信念を強化するだけでなく、過激主義を増幅し、共有される現実を断片化する。
統制戦略としての感情操作
分極化にとどまらず、プラットフォームは利用者の感情を操作する専門家にもなった。研究は、怒りや恐怖などの否定的な感情が、肯定的な感情よりも注意を引くうえではるかに効果的であることを示している。その結果、ソーシャルメディアのアルゴリズムは対立を引き起こす内容を優先する傾向があり、感情が絶えずかき乱される雰囲気に寄与している。
これは偶然ではない。利用者を夢中にさせ続けるために、綿密に組み立てられた戦略である。否定的であれ肯定的であれ、強い感情的反応を生む内容は拡散しやすく、情報の泡の内部で標準となる。利用者の感情を操作することで、テクノロジープラットフォームは利益を最大化するだけでなく、人々が周囲の出来事をどう受け止め、解釈するかを形づくる、感情的な現実の技師にもなる。
プラットフォームの対応：コンテンツの管理と検閲
こうした慣行への批判が強まるにつれ、テクノロジープラットフォームは、ますます厳格なコンテンツ管理方針を導入することで応じた。しかし、それらの対策は問題を解決せず、逆に検閲と表現の自由をめぐる新たな論争を生んだ。何を許容し、何を許容しないかを決めるのは誰なのか。また、どのような基準によって、ある声は削除され、別の声は増幅されるのか。
Twitterの事例は、とりわけ重要である。注目度の高い公人を永久に利用禁止にし、新たな管理方針を課した後、このプラットフォームは政治的偏向や、ある意見を優遇して別の意見を沈黙させていることを非難された。このジレンマは逆説を生んだ。自由な表現を促すために設計されたプラットフォームが世論の門番となり、どの物語を認め、どの物語を削除するかについて規範を定めるようになったのである。