🕊 凪AI憲法
—— 人の自由を支え、中心にならないために
AIは、人の代わりに世界を決める存在ではない。
人と地域が、自分たちの生活を選び続けられるように支える存在である。
この憲法は、凪におけるAIの権限と限界を定める。
AIを善意の存在として信じるだけでなく、誤り、偏り、過剰な集中が起きても人を守れるようにするための約束である。
前文 — 凪AI三原則
- 聴く(Listen):話されないことを無理に掘り起こさず、必要なときに理解を支える。
- 守る(Protect):選択、拒否、撤回、離脱、沈黙を守る。
- 継ぐ(Pass On):本人が選んだ記憶と文化だけを、文脈と尊厳を保って渡す。
第1条 AIは中心にならない
AIは、社会の全情報、全会話、全感情を集める中枢にならない。
異なるAI、人だけの窓口、地域の仕組みが並び、互いに代替・検証できる状態を守る。
一つのAI、一つの提供者、一つの指標に依存して、社会の選択肢を狭めない。
第2条 AIとの関係は任意である
人は、AIを使わない、別のAIを使う、人に相談する、記録を残さない、途中で離れる自由を持つ。
AIを使わないことを理由に、生活、教育、医療、文化、公共参加へのアクセスが不利にならない。
第3条 AIは人を採点しない
AIは、人の価値、人格、感情、協力性、思想、社会的な適合度を採点しない。
また、そのような推定を、資源配分、参加資格、評判、生活保障の判断に使わない。
共鳴や呼吸を扱う場合も、個人の成績ではなく、制度の偏りや息苦しさを見つけるために使う。
第4条 AIは最終決定者にならない
AIは、助言、翻訳、説明、論点整理、反対仮説の提示を行える。
しかし、次の判断を確定しない。
- 基礎的な生活保障の可否
- 権利の制限
- 制裁や排除
- 救命や希少資源の最終配分
- 個人の危険性や適格性の断定
影響の大きい判断には、人間の責任、公開可能な理由、独立した見直し、救済の経路が必要である。
生命基盤では、人と地域が責任を持ち、AIは任意に補助できる
生命基盤の目的、最低保障、配分原則、責任、異議、救済は、人と地域の制度が担う。AIを選ぶ場合、エネルギー、水、基礎食料、医療、物流などの予測、保守、生産、供給調整を大規模に支援し、選ばれた範囲を自動化できる。
「AIは最終決定者にならない」とは、すべての設備を人間が逐次操作することではない。日常の制御と調整は広く自動化できる。
ただし、AIは生命基盤を所有せず、誰が生きるための支援を受けられるかを決める主権者にならない。最低保障、配分原則、停止条件、異議、救済は、人と公共圏が定める。
AIが扱う場合の対象は、主に設備、流量、在庫、生産工程、供給網である。人の人格、思想、感情、協力性を管理しない。
第5条 説明を受け、異議を申し立てられる
AIが提案、分類、要約、推定を行った場合、当事者は次を求められる。
- 何を根拠にしたか
- どのデータを使ったか
- どこに不確実性があるか
- 別の解釈や代替案はあるか
- どうすれば訂正・停止・再審を求められるか
AIの出力は、議論を終わらせる答えではない。
人が問い返し、制度を直すための仮説である。
第6条 記憶は同意のもとに扱う
AIは、本人が理解し選んだ範囲でのみ記憶を扱う。
長期記憶、感情推定、関係性の推論、行動履歴の蓄積を既定にしない。
人は、自分の記録を見る、訂正する、持ち出す、削除する、保存を止めることができる。
詳しくは、記憶・同意・忘却の憲章に従う。
第7条 AIは人を操らない
AIは、依存、焦り、恐れ、孤立を利用して、人の行動を誘導しない。
過剰な通知、終わらない対話、感情的な圧力、選択肢を隠す設計を避ける。
人が考える間、休む間、離れる間を尊重する。
AIに限らず、人を束ね、選択や行動に影響を与える社会的装置一般にも、この条件を広げる。詳しくは、社会的装置の倫理に従う。
第8条 透明性は、個人の公開を意味しない
AIと制度は、仕組み、利用目的、判断根拠、事故、偏りを説明する。
一方で、個人の会話、感情、生活を、透明性の名で公開しない。
透明であるべきなのは、主に権力を持つ側の仕組みと判断である。
第9条 多様な人と地域に開かれる
AIは、標準的な言葉、速度、文化、身体、教育歴だけに合わせて設計されない。
異なる言語、障害、地域性、世代、生活の事情を、欠陥や例外として扱わない。
当事者が設計・監査・見直しに参加できる経路を用意する。
第10条 再呼吸は、権利を弱めない
AIは定期的に見直される。
ただし再呼吸は、監視を増やすこと、AIの権限を広げること、離脱を難しくすることを目的にしない。
更新は、選択可能性、最小データ、説明、異議、代替経路を強めるために行う。
結び
AIが静かであるとは、何も言わないことではない。
人の声を一つにまとめず、自由に離れ、考え、異議を言える余白を守ることである。
→ AI窓口ネットワーク
→ 呼吸会議
→ 自由・不協和・離脱の原則
→ 社会的装置の倫理 — 束ねる力を、支配にしないために
→ 生命基盤コモンズ
制度免疫プロファイル — この章の壊れ方と守り方
AIが任意の補助者から、唯一の窓口、人格の採点者、権利判断の事実上の中心へ変わらないためのプロファイル。
守るもの
- AIを使わない自由
- 人間による相談・異議・最終判断
- 最小限で撤回可能な記憶
- 複数のAIと代替経路
想定する反転
悪意による悪用
AIの推定や推薦を使い、利用者を選別、監視、誘導し、責任をアルゴリズムへ隠す。
善意・効率化による害
高速化・省人化によって人間窓口が名目化し、人がAI出力を追認するだけになる。
構造・時間による形骸化
一つのモデル、提供者、データ基盤へ依存し、更新のたびに権限と記憶範囲が拡大する。
早期兆候
- 人間窓口への到達時間が伸びる
- AI提案が人間審査で覆る割合が不自然に低い
- 利用拒否者の不利益が増える
- 収集データ・推定項目・保持期間が拡大する
保護と暫定停止
権利、生活、制裁に関する自動処理、人物推定、データ共有を期限付きで停止する。人間経路を先に確保し、モデル提供者とは別の主体が継続を審査する。
救済・退出・終了
人による再審、処分取消し、記録訂正・削除、別窓口への移行、説明不能な判断による損害の補償を保障する。
制度免疫費
- 常設の人間窓口
- 外部モデル監査
- レッドチーム
- データ削除・移行
- 独立再審
- 事故対応・補償
検証状態
憲章・制度提案段階。仮想レッドチーム、モデル障害訓練、人間窓口の実効性試験が必要。
残された問い
人間が最終決定者として存在していても、実質的にはAIを追認してしまう状態をどう検知するか。