『ブラックボックス・ソサエティ』|現代の搾取構造

意思を代替される心地よい監獄

あなたは悪くない。毎日、情報の濁流に飲み込まれ、分刻みの決断を迫られる現代社会において、脳が疲弊しきってしまうのは至極当然の結果だ。

何を食べ、何を買い、誰の意見に賛同すべきか。それを一つひとつ吟味するエネルギーなど、今のあなたには残っていないだろう。だからこそ、AIが提示する「おすすめ」に身を委ねる。その選択は、あまりにも甘美で、抗いがたい。

だが、その心地よさこそが、あなたの主体性を溶かす酸であることを自覚すべきだ。あなたが「便利だ」と感じるその瞬間、あなたの脳は、前頭前野による能動的な思考を放棄している。

本来、人間が人間たる所以である「選択の苦痛」を、AIという外部装置にアウトソーシングした結果、あなたの脳は刺激に対して受動的に反応するだけの、ただの受像体へと成り下がっている。

これは、あなたが怠慢だからではない。過酷な情報社会が、あなたから選ぶ権利を実質的に剥奪したのだ。

しかし、その「救済」の代償として、あなたは自分が何者であるかという定義さえも、ブラックボックスの中に閉じ込めたアルゴリズムに委ね始めている。あなたは今、壁のない、しかし一歩も外へ出ることのできない「情報の監獄」の中にいる。

報酬系を支配する見えない数式

なぜ、あなたはスマートフォンのスクロールを止められないのか。その答えは、AIのブラックボックスの中に潜む「深層学習(ディープラーニング)」と、あなたの脳内にある「報酬系」の残酷なまでの相性の良さにある。

AIは、あなたの過去のクリック、滞在時間、スワイプの速度といった膨大なログから、あなたのドーパミン放出のトリガーを正確に特定する。そして、数理モデルに基づき、脳内の「腹側被蓋野(VTA)」から「側坐核」へと続く報酬経路を最短距離で刺激し続ける。

このプロセスは、ブラックボックス化されているがゆえに、開発者でさえ「なぜその結果が出たのか」を完全には説明できない。論理を超えた、純粋な生物学的ハッキングだ。

あなたが「自分の好み」だと思っているものは、実はアルゴリズムによって学習・強化された「条件反射」に過ぎない。AIは、あなたが最も依存しやすいタイミングで、最も脳が喜ぶ情報を差し出す。

そこにあなたの自由意志が介入する余地はない。ニューラルネットワークが複雑化すればするほど、その制御は人間の理解を離れ、ただ「ユーザーを画面に釘付けにする」という目的関数のみを、最適化という名の暴力で遂行する。

あなたは今、見えない数式によって、神経レベルから書き換えられているのだ。

思考の死が生むデジタル家畜化

このブラックボックス化がもたらす最終的な被害は、単なる「時間の浪費」ではない。それは、人間としての「内面的な死」と、システムへの完全な隷属である。

あなたがAIのレコメンドに従い続けることで、あなたの世界は「エコーチェンバー」と「フィルターバブル」によって徹底的に濾過される。自分にとって不快なもの、理解を要するもの、予測不可能なものは、アルゴリズムによって排除される。

その結果、あなたの認知能力は退化し、自分と異なる意見や未知の概念に触れるだけで、脳は過剰な拒絶反応を示すようになる。

これは、管理する側にとって非常に都合の良い状態だ。思考を放棄し、与えられた刺激にのみ反応する個体は、もはや「人間」ではなく、データを供給し続ける「デジタル家畜」に他ならない。

あなたはAIを飼い慣らしているつもりかもしれないが、実際には、あなたがAIという巨大な搾取構造を維持するための燃料として、その生命時間と注意力を吸い取られている。

さらに恐ろしいのは、この構造が不可視である点だ。ブラックボックス化されたアルゴリズムは、差別の助長や偏見の固定化を、中立的な「計算結果」という仮面の下で平然と行う。

あなたは、自分が偏った思想に染まっていることすら気づかず、それが「客観的な事実」であると信じ込まされる。あなたの正義感も、あなたの怒りも、すべては収益最大化のために計算された演出なのだ。

搾取を拒絶する認識のアップデート

では、あなたはどうすべきか。この絶望的な構造から逃れるためには、もはや「便利さ」という名の毒を、自らの意志で拒絶するしかない。

第一に、AIが提示する「正解」に対して、意図的な摩擦(フリクション)を生じさせる。レコメンドされたものをあえて選ばず、自らの手で検索し、自らの足で未知の情報を探しに行く。その無駄とも思える遠回りこそが、アルゴリズムにハックされた脳を取り戻すためのリハビリテーションとなる。

第二に、ブラックボックスの存在を常に意識する。「なぜ、今これが表示されたのか」「この情報は私のどの弱さを突こうとしているのか」というメタ認知を働かせなければならない。

脳科学的に言えば、前頭前野を強制的に再起動させる作業だ。受動的な快楽に流される回路を断ち切り、思考の主導権を自分の手に取り戻さなければならない。

最後に。あなたは、自分が搾取されているという事実を認め、その痛みを直視する。あなたが「悪くない」のは、システムが強大すぎるからだ。

しかし、その事実に甘え、思考を停止させたまま生きるなら、あなたは永遠にシステムの歯車として使い潰されるだろう。今、この瞬間から、不便さを愛し、予測不能なノイズを生活に取り入れろ。それが、現代における唯一の、そして最大の反逆である。

現代において、AIを使わない選択肢はなくなりつつある。しかし、人間が人間らしくあるためにはこの事実を知り、思考の癖があることを理解しなければならない。私たちは深く考えることが苦手だ。そして、AIやビックデータは私たちの速い思考を狙い撃ちしてくる。以下の記事では、人間が持つ2つの思考回路について解説している。

【引用原典・関連資料】

フランク・パスパーレ 著:『ブラックボックス・ソサエティ:アルゴリズムとデータが支配する現代社会