Building an AI Alignment research network in Japan and beyond.
Founded in 2023 as a nonprofit, the AI Alignment Network (ALIGN) aims to create an ecosystem for researchers and practitioners in the field of AI alignment. By leveraging its members' networks in both academia and industry within AI research, it aims to enhance the research landscape in Japan and surrounding areas, thus contributing to the cultural and geographical diversity in this field. Its activities include research, webinars and study groups, symposia, and policy proposals.
AIと人間の未来を先導する研究ネットワークを目指して
AIアライメントネットワーク（ALIGN）は、AIと人間の調和した未来を目指す「AIアライメント」に取り組む研究者と実務者のエコシステムを構築します。産学にまたがるメンバーのネットワークを活かし、日本および周辺地域からこの分野を活性化させることを通じて、その文化的・地理的多様性に貢献します。研究、ウェビナーや勉強会、シンポジウム、政策提言などの活動を行っています。
Our Vision
AIと人類の希望ある未来
A Hopeful future for AI and humanity
いま、私たちは、人工知能（AI）の急速な発展に直面しています。「自律性」を志向する点でこれまでのどの技術とも異なるAIは、かつてない便益をもたらしうる反面、人間の意思に反する行動をとったり、コントロールできなくなったりする危険性をはらみます。AIと人類の関係に横たわる巨大なリスクに対峙し、希望を持てる世界をつくる。そのためには、技術だけでなく、人間、社会、環境との相互作用を理解すること、そのための多彩な専門知と、分野・セクターの垣根を越えた協働が必要です。私たちALIGN（アライン）はそのハブとなる場を構築し、研究者の輪を広げ、「AIと人類の希望ある未来」を目指します。
We are facing rapid advances in artificial intelligence. Unlike any earlier technology, AI aims at autonomy. It could bring unprecedented benefits, but it also carries the danger of acting against human intentions or slipping out of human control. To face the great risks that lie between AI and humanity, and to build a world we can be hopeful about, we need to understand not only the technology but its interactions with people, society and the environment. That takes a wide range of expertise and collaboration across disciplines and sectors. ALIGN builds a hub for this collaboration, widens the circle of researchers, and works toward a hopeful future for AI and humanity.
Activities - 活動内容
1. Research
We conduct and support research to overcome the risks that lie between AI and humanity, while realizing the new value AI can bring.
AIがもつ新たな価値の可能性を開花させつつ、AIと人類の間にある様々なリスクを乗り越えるための研究実践、およびその支援。
2. Community building
We foster a community of researchers and practitioners, and connect the many stakeholders concerned.
研究者と実務家の育成とコミュニティ構築。社会の様々なステークホルダーを包含するネットワークの形成。
3. Outreach
We engage with society through events and media, and make practical proposals for building a new society.
イベントやメディアを通した社会との対話。新しい社会をつくるための、実効性ある提言活動。
News - お知らせ
2026.10.15 英語のページ「About ALIGN」を公開しました。
2026.10.2 知性共生チャプターが提案したワークショップが、AAAI-27 に採択されました（2027年2月、モントリオール）。AAAI-25、AAAI-26 に続くシリーズ第3回です。
2026.7.22 日本AGI基盤（NAGI）構想の第三版（v3.1.0）を公開しました。
2026.6 人工知能学会2026年全国大会で、知性共生チャプターの企画セッション2件を開催しました。2026.5.15 知性共生チャプターより、ポジションペーパー「Humanity in the Circle (HITC): A Position Paper」のプレプリントを公開しました。[Zenodo]
2026.4.16 ブログ記事 NAGI構想の公開にあたって を公開しました。
2026.2.23 AAAI-26で開催されたEmergent Machine Ethicsに関わるWorkshopの報告書を公開しました。 [日本語版] [英語版]
2026.2.9 知性共生エッセイ1 AI社会に免疫系は必要か: Yampolskiyの不可能性定理を踏まえたAI免疫システム（AIS）の意義を公開。 Lesswrong記事はこちら。
2026.2.9 公開記事 UAE-日本シンポジウムで、山川氏が「AI免疫システム」構想を発表 ― 日UAE共同プロジェクトを提唱
2026.2.6 フィジカルAIの熱力学的限界：論文「Thermodynamic Limits of Physical Intelligence」を公表しました。ブログ記事はこちら。lesswrong記事はこちら。
2025.12.4 山川宏(ALIGN, 東大)らは、「Emergent Machine Ethics: A Foundational Research Framework for the Intelligence Symbiosis Paradigm」をLessWrongにて公開しました。
2025.12.1 山川宏 ALIGN/東大による、「 AI制御のブーメランパラドックス - 制御減衰の動的理論と時間確保戦略」が、 第31回汎用人工知能研究会(SIG-AGI)で発表されました。(Slide)
2025.10.14 ブログ記事 AGI時代の日本の役割 （AGIの理論、AGIと社会、そして日本の選択：パート３）を公開しました。
2025.10.11 ブログ記事 スケーリング競争の先に見えるAGIと局在リスク （AGIの理論、AGIと社会、そして日本の選択：パート２）を公開しました。
2025.10.7 ブログ記事 TransformerはAGIに到達できるか？ （AGIの理論、AGIと社会、そして日本の選択 ：パート１） を公開しました。
2025.10.7 林祐輔(ALIGN, Humanity Brain)が執筆した「Lowering Collective Free Energy for Consensus in LLM Agent Collectives: Common Ground via Collective Predictive Coding」がALife 2025で発表されました。
2025.8.10 林祐輔(ALIGN, Humanity Brain)と高橋恒一(理研)が執筆した「Universal AI maximizes Variational Empowerment」がAGI 2025で発表されました。
2025.6.20 AIアライメントネットワーク(ALIGN)は、現在、事務スタッフ（事務局長候補）を募集しています。「AIと人類の希望ある未来」を目指すALIGNの活動に共感し、コミュニティを共に成長させていただける方のご応募をぜひお待ちしております。詳細はこちら。
2025.6.04 林祐輔(ALIGN, Humanity Brain)が執筆に参加した「Collective predictive coding as model of science-formalizing scientific activities towards generative science」がRoyal Society Open Science誌に掲載されました。
2025.5.29 AAAI-25 Report: “Frontiers of AI Alignment”を公開しました。Part 1: AI Alignment Research at AAAI-25 および Part 2: 1st Workshop on Post-Singularity Symbiosis (PSS 2025)
2025.5.29 ALIGNが主催した「超知能がある未来社会シナリオコンテスト」が、人工知能学会のAI ELSI賞（特別部門）を受賞しました。
2025.04.15 [CFP] Invitation to Submit: ICONIP 2025 Special Session "Toward Safe Brain-Inspired AI" (supported by ALIGN)
2025.04.06 JSAI2025＠大阪内にて、企画セッション「希望ある未来に向けたAGIの安全性とアライメント」を5月29日9:00より開催します。
2025.02.27 山川宏(ALIGN, 東大)は、「Reframing AI Safety Through the Lens of Identity Maintenance Framework」をLessWrongにて公開しました。
2025.03.17 高橋恒一(理研)は、第29回汎用人工知能研究会にて「AGIの制御可能性」のテーマで招待講演を行いました。
2025.03.17 山川宏(ALIGN, 東大)は、第29回汎用人工知能研究会にて「NAIAビジョンの提案」を発表しました。
2025.03.03 Post-Singurality Symbiosis WS (PSS-2025) が無事に開催されま終了しました。（主催の山川によるIntroduction）
2025.02.27 山川宏(ALIGN, 東大)は、「NAIA構想にもとづく人類生存のため戦略提案」をLessWrongにて公開しました。
2025.02.27 林祐輔(ALIGN)と高橋恒一(ALIGN、理研、慶應義塾)は、AGIの制御可能性と安全性に関する新しい論文を公開しました。これを解説するブログ記事を掲載しました。
2025.01.17 2025年4月12日(土)開催のTAIS2025（12:00～17:00、東京ミッドタウンタワー、参加無料）に、ALIGNはブロンズスポンサーとして参加します。国内外の研究者を交えて、AIアライメントを含むAI安全性について議論がされる予定です。
2025.01.17 AIアライメントネットワーク 設立記念シンポジウムレポート【後編】を公開しました。
2025.01.16 第13回Webinar Allison Duettmann (Foresight Institute CEO) 「未来技術の安全な発展とは？」(1/25 10:00）登録開始
2025.01.11 第14回Webinar Vanessa Kosoy 「 infra-Bayesian physicalism and its applications」(1/27 21:00）登録開始
2025.01.11 AIアライメントネットワーク 設立記念シンポジウムレポート【前編】を公開しました。
2024.08.23 2024年9月9日に「AIアライメントネットワーク（ALIGN）設立記念シンポジウム」を開催します。暫定プログラムはこちら。
2024.07.02 AIアライメントネットワーク（ALIGN）は、現在、ボランティアスタッフを募集しています。「AIと人類の希望ある未来」を目指すALIGNの活動に共感し、コミュニティを共に成長させていただける方のご応募をぜひお待ちしております。詳細はこちら。
2024.05.08 2024年7月24-25日のDeSci Tokyo/Funding the Commons Tokyoに、ALIGNはスポンサーとして参加します。公共財の新しい在り方を議論するFunding the Commons Tokyoのテーマの一つとしてAIアライメントが扱われる予定です。
2024.05.03 2024年6月30日のWCCI公開フォーラム「Open Forum on AI Governance」に、ALIGNはスポンサーとして参加し、代表理事の高橋が「Session 1: Future prospects and dangers of AI」にてトークを行います。
2024.04.18 ALIGNが主催する「超知能がある未来社会シナリオコンテスト」の優秀作品の一部に対して、2024年5月31日の人工知能学会の企画セッションの一部で表彰式を実施します。
Events - イベント
ALIGN organizes events, seminars, and study groups to promote understanding of AI alignment and to foster researchers. Some are in Japanese, some in English
ALIGNでは、AIアライメントの研究・実践のための学習機会として、さまざまなイベント、セミナー、勉強会を実施しています。
2024年7月-8月に行われた「AIアライメント入門コース」のカリキュラムの説明動画。
（external link - 外部リンク）2024年3月7日（木）、松尾・岩澤研究室と日本ディープラーニング協会（JDLA）が主催し、東京大学で開催された「Yoshua Bengio氏来日特別講演会」の講演録の翻訳をALIGNが担当しました。講演録はJDLAのウェブサイトで公開されています。
AI Alignment Network（ALIGN）では、活動を支える寄付でのご支援を募集しています。
We welcome donations to support out work.
…more to come. Please follow us on X.
