BLOG
Blog
Our blog is currently in Japanese only. We plan to publish it in more languages soon.
- NAGI構想の公開にあたって
- AI Safety Field Building in Japan
- フィジカルAIの熱力学的限界：論文「Thermodynamic Limits of Physical Intelligence」公表
- 人間とAIの「時間の感じ方」は同じか？AI時間構造学の提案
- AGI時代の日本の役割 （AGIの理論、AGIと社会、そして日本の選択：パート３）
- スケーリング競争の先に見えるAGIと局在リスク （AGIの理論、AGIと社会、そして日本の選択：パート２）
- TransformerはAGIに到達できるか？ （AGIの理論、AGIと社会、そして日本の選択 ：パート１）
- AGIの制御と好奇心：論文「Universal AI maximizes Variational Empowerment」公表
- AIによる電力需要はどこまで増えるのか？～「AI電力問題」の予備的検討～AIの電力問題（ないし環境問題）についてパースペクティブを得るため、公開情報をもとに予備的調査を行った。
- 【2025/1/15 10:00 開催】ALIGN Webinar #12 Jesse Hoogland : Singular Learning Theory for AI Safety
- AIが“こっそり策略”を学ぶとき 〜最新の研究が示す新時代のリスク〜
- 2024年AIアライメント入門コース 参加報告ALIGNボランティアスタッフの小林竜己（LangCloudテクノロジーズ）さんに2024年夏、ALIGN主催のAIアライメント入門コースの参加報告をいただきました。
- 【開催記録】ALIGN Webinar #11 David A. Dalrymple (davidad) : the Safeguarded AI program at ARIAALIGNウェビナー第11回では、英国ARIAの”Safeguarded AI Program”を率いるDavid A. Dalrymple氏をお招きし、Safeguarded AI Programと全貌と、その中核に位置する数学的なアイデ…
- 【開催記録】ALIGN Webinar #10「LLMのアライメント技術」（ゲスト：今井翔太さん）ALIGN Webinarの第10回ではAI研究者の今井翔太さんをお迎えしました。大規模言語モデル（LLM）のアライメント技術の代表的な手法であるRLHFとDPO（direct preference optimization）の関係性と比較…
- 【開催記録】ALIGN Webinar #9 Dr. Albert Webson: A Brief History of Pretraining and Post-Training Large Language ModelsALIGNウェビナー第9回では、Google DeepMindのシニア・リサーチ・サイエンティストであるAlbert Webson博士をお招きし、現代の大規模言語モデル（LLM）の事前学習と事後学習（SFTとRLHF）について、AIアライメ…
- 【開催記録】ALIGN Webinar #8「SFから考える未来のAIリスク」（ゲスト：大澤博隆さん）ALIGN Webinarの第8回では慶應義塾大学准教授の大澤博隆さんをお迎えし、HAIの分野における大澤さんの研究の来歴と、SFを研究テーマにし始めたきっかけ、そしてSFが未来のAIをどのように描いてきたのか、とりわけ、悪意のある使用、A…
- 【開催記録】ALIGN Webinar #7 「テクノロジーの〈解釈学〉」から考えるAI（ゲスト：小林茂さん）第7回のALIGNウェビナーでは、情報科学芸術大学院大学（IAMAS）教授の小林茂さんをお迎えしました。 本ウェビナーでは、2024年5月に「草稿第3版」としてWeb公開された書籍『テクノロジーの〈解釈学〉』をベースにポスト現象学、基礎情…
- 【開催記録】ALIGN Webinar #6 Evan Hadfield on AI and Democracy: Harnessing Collective IntelligenceALIGNウェビナー第6回では、Collective Intelligence Project（CIP）のEvan Hadfieldさんをお迎えし、Collective Intelligence Projectのモチベーションや企業や政府と…
- 【開催記録】ALIGN Webinar #5 「AIガバナンスとフェアネス」ゲスト：工藤郁子さんALIGNウェビナーで初の日本語開催となる第5回では、大阪大学社会技術共創研究センター特任准教授の工藤郁子（くどう・ふみこ）さんに講演いただきました。AI技術について法学と国際ルール形成の観点から見てこられた工藤さんより、近年のAIガバナン…
- 【開催記録】ALIGN Webinar #4 Dr. Ryan Kidd on AI Safety field building第4回のALIGNウェビナーでは、ML Alignment & Theory Scholars (MATS) の共同ディレクターであり、London Initiative for Safe AI (LISA) の共同創設者のRyan Kid…
- 「AIアライメント」小史――用語の発祥と歴史的背景「AIアライメント」という言葉の発祥とその歴史的背景について、AIのもたらす深刻なリスクに関する発信を行っているエンジニアのbioshokさんに解説いただきました。
- 【開催記録】ALIGN Webinar #3 Dr. Evan Miyazono (Atlas Computing)第3回のALIGNウェビナーでは、2023年に創設された非営利組織Atlas ComputingのCEO、Evan Miyazono博士をお招きしました。形式検証の手法に基づいた安全保証付きのAIの開発を目指すAtlas Computing…
- 【開催記録】ALIGN Webinar #2 Tan Zhi Xuan氏2024年5月18日のALIGN Webinarシリーズの第2回では、マサチューセッツ工科大学（MIT）Probabilistic Computing Project and Computational Cognitive Science …
- 【2024年7-8月開催】AI アライメント入門コース2024年7～8月にALIGNが実施するAIアライメント入門コースの紹介。AIアライメントに関する基礎的および高度なトピックを深く理解するためにデザインされた、隔週で開催される4回のセッションからなるコースです。
- 英国政府が100億円超を投じる「Safeguarded AIプログラム」とは2024年の4月にイギリスの政府系研究支援機関であるARIA（Advanced Research and Invention Agency）が、発表した“Safeguarded AI”プログラムについての解説記事です。
- 【開催記録】ALIGN Webinar #1 Dan Hendrycks博士（Center for AI Safety）2024年5月17日のALIGN Webinarシリーズの第1回では、Center for AI Safety（CAIS）の創設者であり、AIセーフティの分野の技術的研究や提言活動で世界を先導する一人であるDan Hendrycks（ダン・…