生成AIはテクノ封建制を強化する

――この本では、生成AIについてはそれほど触れられていなかったと思うのですが、今はまさに毎日のように生成AI関連の技術やサービスが登場しています。生成AIによって、テクノ封建制の負の循環はさらに強化されていくのでしょうか。

大澤　その通りです。実際、いまのクラウドというのは、基本的にAIのアルゴリズムと不可分の関係にあります。単純にユーザーが情報を検索して、その結果がそのまま返ってくるというような素朴な仕組みではもうありません。
　僕たちが「こういうことが知りたい」と思いそうな内容を、あらかじめアルゴリズムが予測したうえで提示してくる。あるいは、僕なら僕、あなたならあなた、それぞれの行動履歴や嗜好に応じて、ピンポイントで「これが欲しいんでしょう？」という形で結果が出てくる。Amazonの「おすすめ商品」を思い浮かべてください。そうしたAI技術は、まさにクラウド領主たちの“最大の武器”になっているんです。
　この本の英語版が出たのは2023年で、ちょうど大規模言語モデルに基づく生成AIが登場し始めた時期でした。単なる検索を超える形で、私たちはこの新しい封建領主たちのもとで、さらに高度な農奴のようになっていく。それも自発的に、です。
　つまり、僕たちが生成AIに向かって「人生で悩んでいること」や「欲しい情報」を自ら積極的に打ち明けるような形になる。そのやりとりの中で、僕たちの個人的な欲望や不安、関心が次々とクラウドに吸い上げられていく。そして、AIはそれをもとに「こういうのが欲しいんでしょ？」と先回りして情報を提供してくるようになる。
　これはたとえば、Amazonのアレクサのような家庭用AIにも通じる話です。こういった機械学習型AIは、クラウド領主たちの搾取力――特に農奴（ユーザー）に対する搾取の力を、飛躍的に増強させることになります。だからこそ、僕は著書『生成AI時代の言語論』（左右社）の中でも『テクノ封建制』を取り上げたんですね。
　生成AIによって集められる情報というのは、結局のところ、特定の個人の利益に奉仕するように設計されたり、あるいは特定の国家の政策に都合よく利用されるように設計されたりしている。そうした構造が、いまや非常に危険なレベルに達しつつある。
　そもそも、「クラウド」に個人情報の所有権が設定されているということ自体、大きな問題なんです。これをどうにかしなければならない。バルファキスが指摘しているこの問題意識を、自分の本でもはっきりと書いておいたんです。
（後編へ続く）

• ＜前ページ：努力して働く者が報われない構造