社会変革の主体としてのアルゴリズム
現代の技術は、情報の保存や処理に使われるだけではない。今や社会変革の主体となっている。SERVICE-005、YouTube、Twitterなどのプラットフォームの背後で動くアルゴリズムは、コンテンツを整理する単なる数学的な道具ではない。人々が世界の出来事についてどのように意思疎通し、考え、反応するかに影響を与える、デジタルな現実の見えない設計者である。これらのアルゴリズムは特定の話題を押し上げ、他を沈黙させることができ、それによって集団の態度、ひいては社会の進路を形づくることができる。
こうしたアルゴリズムの効果は、特定のオンライン集団の過激化から、政治的な現状に挑戦する大衆運動の形成に至るまで、幅広い社会現象に見られる。アラブの春と、抗議活動を組織するためのソーシャルメディアの利用は、これらの道具が持つ変革の可能性を明確に示している。しかし、アルゴリズムの力は、人々を動員する能力をはるかに超えている。社会で何が普通であり、何が受け入れられるかを変えることもできるのである。
技術を通じた行動の常態化
アルゴリズムはコンテンツを提案するだけではなく、行動の基準も定める。ソーシャルネットワークでの一つひとつのやり取り、動画の推薦、宣伝される記事は、暗黙の社会規範の一式を強化する。アルゴリズムはパターンや傾向を見つけるにつれて、利用者の関与を最大化するよう適応する。それはしばしば、感情に訴えたり、論争を生んだりするコンテンツを優先することを意味する。
たとえば、YouTubeのような動画プラットフォームは、利用者をより長くプラットフォームにとどめる動画を推奨する傾向があり、それはしばしば、より過激で扇情的なコンテンツを優先することを意味する。これが、過激な見解の常態化や意見の分極化につながり得る。このように、アルゴリズムは現実を反映するだけでなく、現実そのものをつくり、デジタル領域における人間の行動に新たなパラダイムを打ち立てる。
行動工学におけるAIの役割
人工知能の登場によって、この行動工学はさらに高度になった。従来のアルゴリズムと異なり、現代のAIは一つひとつのやり取りから学び、応答をリアルタイムで調整し、利用者の好みを予測することができる。そのため、利用者が気づかないうちに意思決定へ影響を与える、非常に効果的な操作主体となる。
インターフェースの設計やコンテンツの最適化にAIを使うことは、利用者の自律性と自由意志に深い意味を持つ。AIが人間の行動を予測・操作する能力を高めるにつれて、人々のアイデンティティや意志が、利用者の利益と必ずしも一致しない目標を追求する見えない存在によって形づくられているのではないかという懸念が生じる。