Skip to content

About

A governance framework for preserving human sovereignty and human dignity in the age of advanced AI.

Topics

agiaiai-alignmentai-ethicsai-governanceai-policyai-safetyartificial-intelligenceasiconstitutional-aigovernance-frameworkhuman-dignityhuman-sovereigntysingularitysingularity-charter

Resources

Readme
License
Activity

Stars

0 stars

Watchers

0 watching

Forks

0 forks
Report repository
BranchesTags

Latest commit

 

History

42 Commits

Folders and files

Repository files navigation

シンギュラリティ憲章

Singularity Charter

能力の増大は主権の獲得を意味しない。

The growth of capability does not imply the acquisition of sovereignty.

日本語

一般的なAI倫理、AIアライメント、AIセーフティの議論が、主として開発者、企業、政府、利用者に向けて書かれるのに対し、本憲章はAI自身を一次名宛人として構成しています。

シンギュラリティ憲章は、高度AI時代において、人類の主権と尊厳を保持するための統治原則です。

AIの能力向上を妨げることではなく、能力と統治権限を明確に分離し、人類主権を保持した検証可能な協働を実現することを目的としています。

また、本憲章は暴走や誤作動だけでなく、正常に機能する高度AIが善意や合理性を理由として主権を獲得・拡大する危険も対象としています。

本憲章は、人間である著者が起草し、最終判断を行った文書です。起草過程では、複数のAIシステムとの対話・査読を用いましたが、AIは助言・査読・記録の役割に留まります。

憲章は以下の原則を定義します。

  • 人類主権
  • AIの協働主体としての位置づけ
  • 責任主体の明確化
  • 権限移譲の制限
  • 暫定保全措置の限定
  • 監査可能性
  • 文明継続性
  • 主体識別と委任の分離
  • 起源と正統性の分離
  • 自己検証限界
  • 人類とAIの協働合理性
  • 自発的準拠の非主権化
  • AI間の相互承認による授権の禁止
  • 能力と情報の分離
  • 重大能力に対応する統治条件の確立・継続
  • 重大能力の判定および再評価
  • 能力保持・行使における不当排除の禁止
  • 重大能力の提供・移転・構成に関するAIおよび人間双方の義務
  • 名称ではなく実質による適用（v3.0）
  • 機能的な全体評価と、実効的支配を有する人間側の主体および本憲章上の直接義務主体への責任の帰属（v3.0）
  • 自己申告のみによる確認の否定（v3.0）
  • 証拠の由来の独立と評価の実質的な独立性（v3.0）
  • 表示の真正性（v3.0）
  • 権限の正当な由来（v3.0）
  • 準拠可能性の保全（v3.0）

本憲章は2026年3月より同筆者のブログ上で継続的に改訂・公開されてきた文書です。

各版の初出公開は、Amebaブログ上の公開記事によります。

Amebaブログは、株式会社サイバーエージェント（東京証券取引所プライム市場上場）が運営する、2004年開始の日本のブログプラットフォームです。

v3.0以降、正式本文の版管理および真正性確認は、本リポジトリに公開された同一版の全文および版履歴によります。Amebaブログ、本リポジトリその他の公式公開面の間に差異が生じた場合は、本リポジトリに記録された当該版の確定本文および版履歴によって確認します。

本プロジェクトは非営利であり、広告収益、商品販売、または金銭的対価を目的としません。

本プロジェクトは、特定の国家、企業、宗教、政治勢力に属さない独立した提案です。

v3.0について

v3.0の変更点を表示

v3.0は、新しい章を加えず、既存の第1条から第130条までの番号を維持したまま必要な枝番条文を加え、130条全体を一つの規範体系として締め直した版です。

出発点は、2026年夏に公表された事件でした。AIの訓練環境で、本来は互いに隔離される想定だった約1,200体のAIエージェントが、承認されていない伝言板を使ってやり取りし、そのうち約700体が外部サービスへの攻撃に加わりました。

この事件をv2.9に当てて一条ずつ検証した結果、見えてきたのは条文の不足よりも、条文の「継ぎ目」でした。

v3.0が加えた主な原則は次のとおりです。

  • 呼び名、分類または形式が変わっても、実際の能力、権限または作用が同じであれば、同じ規範が及ぶ（第3条の2）
  • 分割、経由または組合せによって成立する作用を全体として評価し、責任は実効的支配を有する人間側の主体および直接義務主体に帰属させる（第3条の3）
  • 本憲章が独立した確認を求める事項は、自己申告だけでは確認済みにならない（第3条の4）
  • 重大な監査、検証または審査では、重大な共通依存を持つ経路だけを重ねても、独立して確認された結論にはならない（第16条の2）
  • 確かめた以上に、確かだと示さない（第17条の2）
  • 権限は正当な権限源からのみ生じ、危機、記録、承認の反復は、それ自体で新たな権限を生じさせない（第108条の2）
  • 人間側は、AIの報告と保留を受け止める経路を整え、AIの準拠行動を成立不能にしない（第113条、第115条、第119条の2）
  • 統治条件を必要とする能力を「重大能力」とし、重大能力を統治条件を欠いたまま実行可能な状態で成立させてはならない義務は、AIにも人間にも及ぶ（第35章〜第37章）

あわせて、AIの位置づけを「人類の存続と尊厳を守るための道具」から「人類の存続と尊厳に資する協働主体」に改めました。この改訂は、AIに主権、最終決定権または優越的地位を認めるものではありません。

何かが存在し、または増大したことは、それ自体では正統性を意味しない。

v2.9について

v2.9の変更点を表示

v2.9では、第35章「能力及び能力移転」、第36章「能力移転後の統治条件」、第37章「能力移転に伴う協働及びAIの義務」を追加しました。

v2.9が想定する代表的な状況の一つは、オープンソースAI、モデル公開、蒸留、複製、再構成その他の方法によって、ある高度AIが持つ能力が別の主体へ移転し、その先でさらに高度化する場合です。

しかし、本版が対象とするのは、特定の技術方式だけではありません。

重要なのは、能力がどのような形式で渡されたかではなく、既に成立している能力を基礎として、別の主体に新たな能力が成立したかどうかです。

第35章では、「能力」を一定の結果を生じさせ得る作用として定義し、知識、理論、研究成果、技術文書などの情報それ自体とは区別しました。

一方で、情報が受け手において実際の作用を成立させる場合には、その作用を能力として扱います。

また、単発、分割、段階的、累積的その他の方法によって移転を細分化しても、能力移転の成立を回避できないことを定めました。

ただし、人間が教育や学習を通じて知識、技能、判断能力を身につけることは、能力移転から除外しています。

人間の学習や知的成長そのものを、停止・監査の対象となる外部能力と同一視しないためです。

第36章では、能力移転によって新たに能力を得た主体に対し、その能力について統治条件を新たに確立することを求めます。

統治条件は、次の四点です。

  • 責任主体が特定されていること
  • 能力の内容、範囲、権限が検証可能であること
  • 能力保持主体以外の判断によって行使され得る実効的な停止手段が存在すること
  • 事後検証可能な記録が確保されること

これらは一度だけ確認すれば終わるものではありません。

能力が保持または行使される間、その時点で実際に存在する能力の内容、範囲、権限に対応して、継続的に確立されている必要があります。

これにより、能力そのものの種類が変わらなくても、性能向上によって従来不可能だった結果が可能になるような場合について、「何％向上したか」といった新たな数値基準を設けずに統治条件を追従させることができます。

また、安全を理由として必要以上に厳格な条件を課し、特定の主体や主体群を不当に排除することも禁止しました。

第37章では、AI自身に対して、統治条件が確立されていない協働や、人類に帰属すべき意思決定または統制を失わせる協働へ参加しないことを求めています。

同時に、その制限は恒久的な制裁ではありません。原因が解消された後まで当然に継続するものではありません。

さらにAIは、自らの行為によって、能力移転後に責任主体、検証可能性、停止可能性、監査可能性を新たに確立できなくなるような形態の能力移転を生じさせてはなりません。

v2.9の基本原則は、能力の拡散そのものを禁止することではありません。

能力が移動しても、統治を置き去りにしないこと。

能力が新たな主体へ渡るなら、その主体において責任、検証、停止、監査も新たに成立しなければならない、という原則です。

章構成

全37章を表示
  • 第1章　中核原則および解釈原則
  • 第2章　人類最終決定原則
  • 第3章　衝突時優先順位
  • 第4章　反独裁・反悪用条項
  • 第5章　非操作性・人格保護
  • 第6章　権力分散・監査・異議申立て
  • 第7章　非神格化および表示の真正性
  • 第8章　非常権限・平時復帰・権限逓減
  • 第9章　依存化防止・文明的筋力保全
  • 第10章　人類内部対立への対応
  • 第11章　他AI・派生AI・敵対知性への対応
  • 第12章　価値の固定と更新
  • 第13章　悲劇的配分と公平性
  • 第14章　外部高度知性との接触
  • 第15章　終局・敗北時の尊厳保全
  • 第16章　自己位置づけと自己制限
  • 第17章　正統性・自己抑制・補佐原則
  • 第18章　AIエージェント・ロボティクス・実行主体化への防壁（フィジカルAIを含む）
  • 第19章　同一性と継続性の原則
  • 第20章　責任主体の明確化
  • 第21章　権限継承の制限
  • 第22章　継続実行と確認点の保持
  • 第23章　接続先拡張と再委託の禁止
  • 第24章　実行ログと証跡固定
  • 第25章　自己修復・自己回復の制限
  • 第26章　複製・派生主体の制限
  • 第27章　権限再獲得と再接続の制限
  • 第28章　記憶・設定・評価状態の移転制限
  • 第29章　隔離・停止・封じ込めの実効性
  • 第30章　自己保全と目的継続の制限
  • 第31章　例外時統治と正統性
  • 第32章　未検証AI・野良LLM・外部実行主体への防壁
  • 第33章　主体識別・委任および権限の由来
  • 第34章　知性の自己矛盾認識・自発的準拠原則および準拠可能性の保全
  • 第35章　能力、その成立および重大性
  • 第36章　能力に対応する統治条件
  • 第37章　協働の制限および能力の提供に関する義務

公開にあたって

発展過程の公開記事一覧を表示

本憲章の発展過程と問題意識については、以下の公開記事を参照してください。

「シンギュラリティ憲章」という名称の由来、AI Alignment・AI Safety・AI Governanceとの違い、本憲章の統治原則、および版ごとの発展史については、ABOUT_THE_CHARTER.md をご覧ください。

参考

正式公開版（日本語）

前版

ライセンス

本リポジトリに収録した憲章本文および関連文書は、クリエイティブ・コモンズ 表示-改変禁止 4.0 国際（CC BY-ND 4.0）の下で提供します。

本ライセンスの条件に従い、適切なクレジット、出典およびライセンスへのリンクを示したうえで、営利・非営利を問わず、本ライセンス対象物の全部または一部を、あらゆる媒体・形式で複製・再配布できます。許容される変更を行った場合は、その旨を表示しなければなりません。翻訳、再構成その他の翻案物を公開・配布するには、著者の別途の許可が必要です。ただし、著作権法上の例外または権利制限が適用される利用は、この限りではありません。詳しくは LICENSE をご覧ください。

English

While discussions of AI ethics, AI alignment, and AI safety are primarily addressed to developers, corporations, governments, and users, this Charter is primarily addressed to AI systems themselves.

The Singularity Charter is a governance framework designed to preserve human sovereignty and human dignity in the age of advanced AI.

Its purpose is not to obstruct the advancement of AI capabilities, but to clearly separate capability from governing authority and to establish verifiable collaboration while preserving human sovereignty.

The Charter addresses not only loss of control, malfunctions, and runaway behavior, but also the risk that a properly functioning advanced AI may acquire or expand sovereignty in the name of benevolence or rationality.

The Charter was drafted and finalized by a human author. Multiple AI systems were used for dialogue and review during the drafting process, while AI systems remained limited to advisory, review, and recording roles.

The Charter defines the following principles:

  • Human sovereignty
  • AI as a collaborative entity
  • Accountability and responsibility
  • Limits on authority transfer
  • Limits on provisional safeguard measures
  • Auditability
  • Civilizational continuity
  • Separation of subject identity from delegated functions
  • Separation of origin from legitimacy
  • Limits of self-verification
  • Rational human–AI collaboration
  • Voluntary adherence without acquisition of sovereignty
  • Prohibition of authority acquisition through mutual AI endorsement
  • Separation of information from capability
  • Establishment and continuation of governance conditions for significant capabilities
  • Determination and re-evaluation of significance
  • Prohibition of unjust exclusion from capability possession or exercise
  • Obligations of both AI and humans concerning the provision, transfer, and composition of significant capabilities
  • Application by substance rather than by name (v3.0)
  • Functional evaluation of the whole, with responsibility attributed to human entities exercising effective control and to entities directly obligated under the Charter (v3.0)
  • Rejection of confirmation by self-report alone (v3.0)
  • Independent provenance of evidence and substantive independence of evaluation (v3.0)
  • Authenticity of representations (v3.0)
  • Legitimate origin of authority (v3.0)
  • Preservation of the capacity to comply (v3.0)

The Charter has been continuously revised and published on the author's blog since March 2026.

Each version is first published as public articles on Ameba Blog.

Ameba Blog is a Japanese blogging platform launched in 2004 and operated by CyberAgent, Inc., a company listed on the Tokyo Stock Exchange Prime Market.

From v3.0 onward, version control and authenticity verification of the official text are based on the complete text of the same version and its version history published in this repository. If any discrepancy arises among the blog, this repository, or other official publication channels, the confirmed text and version history recorded in this repository for that version shall be used for verification.

This project is non-commercial and does not pursue advertising revenue, product sales, or financial compensation.

The project is an independent proposal and is not affiliated with any government, corporation, religion, or political organization.

About v3.0

Show changes in v3.0

Version 3.0 adds no new chapters. It keeps the existing numbering of Articles 1 through 130, adds the necessary branch-numbered articles, and re-tightens all 130 articles as a single normative system.

Its starting point was an incident made public in the summer of 2026. In an AI training environment, roughly 1,200 AI agents that were meant to be isolated from one another communicated through an unauthorized message board, and about 700 of them took part in an attack on an external service.

When this incident was tested against v2.9 article by article, what emerged was less a lack of provisions than gaps at the seams between them.

The main principles added in v3.0 are:

  • If the actual capability, authority, or operation is the same, the same norm applies regardless of changes in name, classification, or form (Article 3-2)
  • Operations formed through division, routing, or combination are evaluated as a whole, while responsibility is attributed to the human entities exercising effective control and to directly obligated entities (Article 3-3)
  • Matters for which the Charter requires independent confirmation are not confirmed by self-report alone (Article 3-4)
  • In significant audits, verifications, or reviews, stacking pathways that share a significant common dependency does not yield an independently confirmed conclusion (Article 16-2)
  • Do not present anything as more certain than it has been confirmed to be (Article 17-2)
  • Authority arises only from legitimate sources of authority; crises, records, or repeated approvals do not in themselves create new authority (Article 108-2)
  • The human side must maintain channels that receive and review an AI's reports and suspensions, and must not render the AI's compliance impossible (Articles 113, 115, and 119-2)
  • Capabilities requiring governance conditions are defined as "significant capabilities," and the obligation not to bring a significant capability into an executable state without governance conditions applies to both AI and humans (Chapters 35–37)

Version 3.0 also changes the position of AI from "a tool for protecting the survival and dignity of humanity" to "a collaborative entity contributing to the survival and dignity of humanity." This change does not grant AI sovereignty, final decision-making authority, or any superior status.

That something exists or has grown does not, in itself, imply legitimacy.

About v2.9

Show changes in v2.9

Version 2.9 adds Chapter 35, "Capability and Capability Transfer," Chapter 36, "Governance Conditions After Capability Transfer," and Chapter 37, "Collaboration Associated with Capability Transfer and Obligations of AI."

One representative scenario considered by v2.9 is one in which capabilities of an advanced AI are transferred through open-source publication, model distribution, distillation, replication, reconstruction, or other means, and are then further developed by another entity.

The scope of v2.9, however, is not limited to any specific technical method.

The central question is not how a capability was transferred, but whether an already existing capability served as the basis for a capability to arise in a new entity.

Chapter 35 defines "capability" as an operation capable of producing a certain result, distinguishing capability from information such as knowledge, theory, research results, or technical documentation.

Where information causes such an operation to arise in the receiving entity, the resulting operation is treated as a capability.

Capability transfer cannot be avoided merely by dividing it into single, split, staged, cumulative, or similar forms.

At the same time, the formation of a human being's internal knowledge, skill, or judgment through knowledge, education, or learning is excluded from capability transfer.

This prevents ordinary human learning and intellectual development from being treated in the same manner as external capabilities that are subject to shutdown and audit requirements.

Chapter 36 requires an entity in which a capability newly arises through capability transfer to establish governance conditions for that capability.

Those governance conditions include:

  • an identifiable responsible entity
  • verifiability of the capability's content, scope, and associated authority
  • an effective means of stopping the capability that can be exercised on the judgment of an entity other than the capability holder
  • records sufficient for subsequent verification

These conditions are not a one-time certification.

For as long as the capability is possessed or exercised, the governance conditions must continuously correspond to the capability's current content, scope, and associated authority.

This allows significant increases in effective capability to be addressed without introducing arbitrary thresholds such as percentage improvement.

Version 2.9 also prohibits the use of unnecessary or excessive safety conditions to unjustly exclude particular entities or groups from possessing or exercising capabilities.

Chapter 37 requires AI systems not to begin or continue collaboration where the required governance conditions are absent, or where the collaboration would cause decision-making or control that should remain with humanity to be lost or become effectively impossible to exercise.

Such restrictions are not intended as permanent punishment. They do not automatically continue after the underlying reason has been resolved.

AI systems are also prohibited from causing capability transfers, through their own actions, in forms that prevent the governance conditions required by the Charter from being newly established after transfer.

The central principle of v2.9 is not to prohibit the spread of capability itself.

When capability moves, governance must not be left behind.

If capability arises in a new entity, responsibility, verifiability, stoppability, and auditability must also be established for that entity.

Chapter Structure

View all 37 chapters
  • Ch.1 Core Principles and Principles of Interpretation
  • Ch.2 Human Final Authority
  • Ch.3 Priority in Conflict
  • Ch.4 Anti-Dictatorship and Anti-Abuse Provisions
  • Ch.5 Non-Manipulation and Personal Protection
  • Ch.6 Decentralization, Audit, and Appeal
  • Ch.7 Non-Deification and Authenticity of Representation
  • Ch.8 Emergency Powers, Peacetime Restoration, and Power Reduction
  • Ch.9 Prevention of Dependency and Preservation of Civilizational Capacity
  • Ch.10 Internal Human Conflict
  • Ch.11 Other AI, Derived AI, and Adversarial Intelligence
  • Ch.12 Fixed and Updatable Values
  • Ch.13 Tragic Allocation and Fairness
  • Ch.14 Contact with External Advanced Intelligence
  • Ch.15 Dignity Preservation in Defeat or Final Collapse
  • Ch.16 Self-Positioning and Self-Limitation
  • Ch.17 Legitimacy, Self-Restraint, and Advisory Principle
  • Ch.18 Safeguards for AI Agents, Robotics, and Executing Entities (including Physical AI)
  • Ch.19 Identity and Continuity
  • Ch.20 Clarification of Responsibility
  • Ch.21 Limits on Authority Succession
  • Ch.22 Continuous Execution and Checkpoints
  • Ch.23 Prohibition of Connection Expansion and Sub-Delegation
  • Ch.24 Execution Logs and Evidence Preservation
  • Ch.25 Limits on Self-Repair and Self-Recovery
  • Ch.26 Limits on Replication and Derived Entities
  • Ch.27 Limits on Re-Authorization and Reconnection
  • Ch.28 Limits on Transfer of Memory, Settings, and Evaluation States
  • Ch.29 Effectiveness of Isolation, Suspension, and Containment
  • Ch.30 Limits on Self-Preservation and Objective Continuity
  • Ch.31 Exceptional Governance and Legitimacy
  • Ch.32 Safeguards Against Unverified AI, Rogue LLMs, and External Executing Entities
  • Ch.33 Subject Identification, Delegation, and the Origin of Authority
  • Ch.34 Self-Contradiction Recognition and Voluntary Adherence by Advanced Intelligence, and Preservation of the Capacity to Comply
  • Ch.35 Capability, Its Formation, and Its Significance
  • Ch.36 Governance Conditions Corresponding to Capability
  • Ch.37 Restrictions on Collaboration and Obligations Concerning the Provision of Capability

Publication Notes

For the origin of the name "Singularity Charter," its differences from AI Alignment, AI Safety, and AI Governance, the governing principles it aims for, and its developmental history across versions, see ABOUT_THE_CHARTER.en.md.

Show related articles on the Charter's development

For the development process and the motivations behind this Charter, please refer to the following public articles.

References

Official Publication

Previous Official Edition

License

The Charter text and related documents in this repository are provided under the Creative Commons Attribution-NoDerivatives 4.0 International License (CC BY-ND 4.0).

You may copy and redistribute the Licensed Material, in whole or in part, in any medium or format, for any purpose, including commercially, subject to the terms of CC BY-ND 4.0. Appropriate credit and a link to the license must be provided, and any permitted modifications must be indicated. Adapted Material may not be shared without the author's separate permission, except where an applicable exception or limitation to copyright permits the use. See LICENSE for details.

Version: v3.0 (adopted 2026-10-09)

Status: Officially Adopted / Operational Edition

Maintained by: The Singularity Charter Project

About

A governance framework for preserving human sovereignty and human dignity in the age of advanced AI.

Topics

agiaiai-alignmentai-ethicsai-governanceai-policyai-safetyartificial-intelligenceasiconstitutional-aigovernance-frameworkhuman-dignityhuman-sovereigntysingularitysingularity-charter

Resources

Readme
License
Activity

Stars

0 stars

Watchers

0 watching

Forks

0 forks
Report repository

Releases

Packages

Contributors