社会的装置の倫理

—— 束ねる力を、支配にしないために

人を束ねる力は、社会をつくる。
その力が倫理を内包しないとき、社会を支える仕組みは、人を所有し、操る仕組みに変わりうる。

凪は、共同性そのものを否定しない。
人びとは、血縁を越えて、物語、規範、制度、技術を共有しながら協働してきた。国家、法、会社、学校、貨幣、地域の組織、メディア、通信網、検索、流通、AI。こうした装置があるからこそ、見知らぬ人どうしも、医療、教育、文化、災害対応、公共的な生活を支えられる。

しかし、同じ「束ねる力」は、他者の注意、感情、行動、関係、生活機会を、見えないまま一部の目的へ従わせる力にもなりうる。

SNS、検索、EC、広告、市場、企業、行政、教育、AIは、単なる中立な道具ではない。何が見えるか、何が選ばれるか、誰が届くか、何を急がされるかに影響を与える。
だから、社会に影響を与える装置は、便利さや成長だけで正当化されない。人の自由、尊厳、異議、離脱を守る倫理を、理念ではなく構造として内包しなければならない。

1. 協働と支配は、似た形をしている

共同で何かを行うには、目的、ルール、役割、情報の流れ、意思決定がいる。
それ自体は支配ではない。むしろ、だれもが孤立せず、複雑な社会を支えるために必要な条件である。

ただし、次の状態が重なると、協働は支配へ傾く。

• 目的や最適化の基準が、影響を受ける人に見えない。
• ルールを変える権限が、一部の運営者だけに集中する。
• 反対、沈黙、拒否、離脱が、損失や不利益として扱われる。
• 人の注意、感情、関係、行動履歴が、本人の理解や選択を超えて収益や統治の資源になる。
• 利益や効率は上位へ集まり、負担やリスクは弱い立場の人へ押しつけられる。
• 利用者が、なぜその情報、評価、価格、推薦、制限に触れたのかを知れない。

協働では、人は目的の担い手である。
支配では、人は目的を達成するための材料へ変わる。

凪が問い直すのは、組織化や技術そのものではない。
人を束ねる力が、いつ、どのように人を所有可能な資源へ変えてしまうのかである。

2. 倫理は、注意書きではなく設計である

社会的装置が人の選択に影響を与えるなら、倫理は後から付ける広報文や利用規約では足りない。
何を測るか、何を推薦するか、どの選択を簡単にし、どの選択を難しくするか。データをどう集め、誰が見直し、どこで止められるか。その設計自体に倫理が現れる。

凪は、社会的装置に少なくとも次の条件を求める。

目的と境界が見えること

装置は、何のために存在し、何を最適化し、何をしないのかを説明する。
滞在時間、購入、従順さ、処理量、評価点を、当然の成功指標として扱わない。人の尊厳や自律を損なうなら、効率や収益を優先しない境界を置く。

理由を問い返せること

推薦、順位、価格、分類、制限、優先順位づけには、公開可能な理由、不確実性、代替案、訂正の入口が必要である。
「アルゴリズムだから」「規約だから」は、説明の終わりではない。

異議・拒否・離脱が守られること

人は、反対する、利用しない、別の経路を選ぶ、記録を残さない、途中で離れる自由を持つ。
離脱が、生活、教育、公共参加、仕事、尊厳を失うことにつながるなら、その自由は名目だけになる。

選択肢と可搬性があること

一つの提供者、一つの仕様、一つの評価軸へ閉じない。
本人は、自分の記録、設定、委任範囲、関係の手がかりを確認し、持ち出し、別の窓口へ移せる。人だけに相談する経路も残す。

行動の誘導を制限すること

依存、焦り、恐れ、孤立、比較を利用して、行動を長く引き留めたり、特定の選択へ追い込んだりしない。
見せない選択肢、終わらない通知、過剰な個別最適化、感情の弱さを利用する設計は、便利さの名で正当化されない。

権力とデータを分散させること

人の生活に深く関わる基盤を、一つの企業、一つの行政機関、一つのAI、一つの指標に集中させない。
権限、データ、監査、異議申立て、代替経路を分け、互いに検証できる状態を守る。

監査・救済・停止があること

装置は誤る。偏る。善意の運営者でも、成長や危機のなかで判断を誤る。
だから、独立した監査、当事者の参加、被害の報告、再審、機能停止、定期的な見直しを最初から置く。更新は機能や監視を増やすためではなく、害を減らし、選択可能性を回復するためにも行う。

3. 非所有は、人の注意と関係を資源にしない

凪における非所有は、土地、知識、文化、自然、基盤技術だけに関わる原則ではない。
人の注意、感情、行動、関係、時間もまた、だれかが囲い込み、採掘し、取引するための原料ではない。

サービスや制度は、人が使うためにある。
人がサービスの成長指標を満たすために生きるのではない。

したがって、凪は次の非対称性を重んじる。

• 個人は、必要以上に自分を明かさなくてよい。
• 権力を持つ運営者や装置の側は、目的、仕組み、判断、事故、偏りを説明する。
• 利用者の関係や記録を囲い込まず、移行と離脱を可能にする。
• 文化、創作、共同の知識を、参加者の理解とクレジットなしに回収しない。
• 収益は否定しないが、収益が人の自律や尊厳と衝突するとき、後者を守る。

非所有は、「みんなのもの」と言いながら責任を曖昧にすることではない。
だれが何を管理し、どこまで責任を負い、だれが問い返せるのかを、見える形にすることである。

4. 凪が目指すのは、支配なき共同性である

凪は、人を動かすための装置をつくることを目的にしない。
人が、自分の意思を失わず、異なるまま関わり、必要なら離れ、再び戻ることもできる共同性を目指す。

そのため、凪における技術、制度、組織、AIは、次の問いに答え続けなければならない。

1. この仕組みは、だれの選択肢を増やし、だれの選択肢を狭めているか。
2. 便益、利益、負担、リスクは、だれにどのように分かれているか。
3. 影響を受ける人は、理由を知り、異議を言い、訂正を求め、離れられるか。
4. 人の注意や関係を、本人の理解を超えて資源化していないか。
5. 一つの提供者、一つの価値観、一つの指標が、社会の中心になっていないか。
6. 害が起きたとき、止め、救い、学び直す経路があるか。
7. この装置が役目を終えたとき、延命のために人を縛らず、静かに縮小・移行・終了できるか。

社会に影響を与える装置は、力を持つほど、自らを制限できなければならない。
説明できない力、離れられない関係、異議を失った便利さは、どれほど洗練されていても健全とは言えない。

つながりをつくる。
けれど、だれも所有しない。
支える。
けれど、代わりに生きない。
凪は、そのための社会的な倫理を育てる。

関連する章

• 凪の核 — 中心なき構造としての世界
• 羅針盤と共鳴民主主義
• 自由・不協和・離脱の原則
• 凪AI憲法
• 凪技術の基盤
• 信頼と統治