English at the bottom.
過去9か月間、私は一般社団法人AIアライメントネットワーク（通称ALIGN：アライン）という組織にかかわってきた。具体的には、同法人の事務局業務に、ボランティア及び業務受託の形態で携った。今月（2024年9月）末で業務受託の期間が終わり、一区切りとなるため、この間経験したことをメモにしておく。
本記事の目的は、第一に自分用のメモ、第二に本ブログに目を通していただいた方にALIGNを知っていただくこと、そして第三に自分がALIGNで何をしていたのかを気にしてくださる方々に説明する資料を残しておくこと（聞かれてうまく答えられないことが多かったので）。
ALIGNとは何か
AIアライメントネットワーク（通称ALIGN）は、2023年9月に研究者5～6名が立ち上げた一般社団法人である。定款によれば、その設立目的は、
「人工知能と社会の関わりにおいて、優れた研究者を育てることで、学術的・技術的な進歩発展を促し、さらにその成果を社会共通の利益として全世界と共有できるよう努める。そのことを通じて、人工知能の恒久的な平和利用へと繋げていくこと」
となっている。壮大な内容だが、もう少しコンテクストを補った趣旨文を最近作ったので、以下引用する。
AIの技術進歩や、その社会導入が急速に進む中、日本でも産業界や政府はルール作りに関して機敏に動いています。ただし、対応されようとしているリスクの多くは、著作権侵害、プライバシー、バイアス、セキュリティなど、「今日のAIがもたらしつつあるリスク」であるのが現状です。他方、主に英米圏の有力なAI研究者たちは、2010代中盤から、近未来に登場する「まだ見ぬAI」がもたらす様々なリスクを指摘してきました。
「まだ見ぬAIのもたらす危害」という、一見不確実で備えようがないリスクに対して、過去10年、英米では非常に多くの議論が蓄積し、「AI Alignment」「AI Safety」というラベルのもと一定の研究者コミュニティが存在するようになっています。その背景には、フィランソロピー資金を背景とした、民間非営利セクターの動きがあります。AIの長期的リスクを懸念する篤志家の支援を受けた、大学のセンターや非営利組織といった研究拠点形成、新規参入者に向けた教材作成なども含む、資金や人材が循環するエコシステムができてきました。
現行の日本では「人類の存亡リスク」とまで言われるAIへの危機感はまだ広く共有されていません。海外で議論を駆動している危機感を理解し、対話の経路をもつことは重要であると考えられることから、我々はAIアライメント/AIセーフティの既存の文脈を日本にも導入し、かつ日本のステークホルダーがこの問題に独自の貢献を果たす土台作りの機能を担うべく、民間非営利セクターからの挑戦として、ALIGNを設立しました。
ただし、「リスクの軽減」や「安全性の確保」だけではなく、よりポジティブにAIと人類の未来を構想することを目指し、「希望」をビジョンに掲げています。
要は、「まだ見ぬAI」のリスクを真剣に考えその技術的な対策を検討する活動が一つの研究分野として台頭しており、英米の非営利セクターに中心にコミュニティができていることを受け、そのカウンターパートになりうるものを日本でもつくろう、ということでできたのがALIGNだと認識している。
こうした背景のもとで、活動項目として下記の3点を挙げている。
ALIGNに関わることになった経緯
ALIGNに関わり始めたのは、2023年の12月からだった。創設メンバーの理事から、やってみないかとのお誘いをいただいたのがきっかけであった。2024年3月までは前職の就業時間以外の時間でボランティアとして関わり、2024年4月に個人事業主として開業したのち、5月から9月まで「総務代行」という名目で週1～2日の稼働を想定した業務委託契約を交わした。
なぜALIGNに関わろうかと思ったかというと、前職にて、科学政策を概観するなかで、これからの「民間非営利の研究所」という存在の重要性を感じていたことが大きかった。日本にはないこのスタイルの組織が立ち上がるのであれば、その立ち上げプロセスにスタッフとして関わることは自分にとってよい経験になると考えた。キャリアの中での位置づけとしては、生活の糧を得る仕事というよりは研修、いわゆるリスキリングの期間とする想定だった（参考：前職退職時のブログ）。
ALIGNでやったこと
私がジョインしたころのALIGNは、定款をつくり登記が済み、これからどう活動していこうかというところだったので、活動をゼロから立ち上げていく作業を、理事たちに伴走しながら、経験させていただいた。週例のコアメンバー会議運営、経理業務・運営、税務、理事会・社員総会の事務局、Webサイト立ち上げ・管理、SNS立ち上げ・運用、Webinarシリーズの立ち上げ・運営、ボランティア募集、各種イベントへのスポンサー参加手続き、Slackコミュニティの立ち上げ・ファシリテーション、ブログ記事執筆・編集、外部アドバイザーの打診、設立記念シンポジウム企画・実施、海外グラント申請など、作業は多岐にわたった。
ALIGNでできたこと
この9か月間で、どこまでの活動ができるようになったのか。団体として「できた」ことをいくつか振り返ってみる。
- 国内外の専門家を招いたウェビナーを開催（全11回、開催記録）。
- AIアライメントに関する、国内初の入門コース（概要）を開始（20名が受講中）。
- 2024年3月Yoshua Bengio教授のAGI Safetyに関する講演レポートの作成。
- 人工知能学会との共催で「超知能のある未来社会シナリオコンテスト」を企画・実施。
- AIの破局的リスクに関する研究・政策提言で世界をリードする機関の一つであるCenter for AI SafetyのDan Hendrycks所長（Webinar記録）がALIGNのアドバイザーに就任（2024年9月～）。
- Slackコミュニティに200名弱が登録し、分野を超えたフォーラムとして機能。
- ALIGNの内部メンバーによる国際学会での研究発表数件。
- AI研究、AIガバナンスに関する政府・立法府・産業界（一部）・学界のキーパーソンを招いた80人規模のイベントを開催
個人的には、アクティブにこの領域を動かしていける20代前半のメンバーが数名仲間になったのが大きかったと思っている。まだまだ数は少ないが、この活動にとって一番大事なのは、「人生の一定期間をこの領域に使ってみよう」という20代の研究者がどれくらい現れるか、なのだと思う。
ALIGNでできていないこと
半面、まだできていないことも山ほどある。以下は、この期間にやりたくてできなかったこととしては、本格的な資金調達／グラント事業／海外との連携企画／事務局人材の本格的な公募／レポート・白書形式での発信などがある。これらが一通りできて初めて定款に書かれていることの一部ができることになるので、「ALIGNが動きだした」ということになるのだと思うが、残念ながらこの期間ではそこまで達しなかった。
ただし、現在ALIGNには、運営に参加することに興味がある人が多く集まってきており、そのメンバーの多彩な業務経験を生かして、これらの事業を加速していっていただけるのではないかと期待している。
ALIGNの9か月での気づき
個人的な気付きをいくつかメモしておく。
- 人員・資金・ノウハウのどれもない状態からブートストラップすること難しさを少し経験できた。多分これはスタートアップと同じで、誰かが腹をくくってスケールアップしていかなければならないのだと思う。
- 加えて、一般社団法人という組織形態の特性として、意思決定を行う「理事」と手を動かす「事務局」が分かれていることも、一つの難しさにつながっていると感じた。
- 自分自身の適性については、「起業家的な突破力」が自分にはないことを再確認した。自分でできそうな範囲に役割を限定しがちであり、人材確保、資金調達など、もっと野心的に進めるべきだったのだろうと思う。人を巻き込み、説得し、という起業家的な「押しの強さ」は自分にはなく、あくまでフォロワータイプであることを認識した。あらためて、かつての自分の雇用者に強いリスペクトが湧いた。
以上のようなことが分かったというだけでも、非常に有益な9か月間だった。なお、一つ感じていることとして、フォロワータイプであるだけでなく、実はチームワークがそれほど得意ではなく、仕事を抱え込む傾向も自分にはあるのかもしれないと感じた。そのことが新メンバーの巻き込みをしにくくしたかもしれない。
ALIGNとの今後の関わり
ALIGNのこれからについては自分が何かを考える立場にはないが、期待としては、先述のように資金調達戦略も含め、より経験や知見のあるメンバーも交えて、団体として次のフェーズに入っていくのだと思う。
自分が立ち上げ期の事務局代行メンバーとして在籍する形は今月末までになるが、今後は、Slackのコミュニティメンバーとして、また、特定のロールでALIGNから業務を受託する機会があればとも思っている。
10月から何をやるか
9月末のALIGNとの契約満了を一区切りとして、一度ALIGN事務局の有償スタッフは終了する。今見えている10月以降の活動としては、以下がある。
- 現在受託している／受託しかけているALIGN以外の仕事3件。一件は来年7月まで継続。
- ALIGNの期末決算や引継ぎに関する業務が多少残る。
- ある書籍企画の分担執筆。
- AIの長期リスクについての自分の見方をまとめた個人レポート執筆。
- 11月末に担当する予定の講義の準備（テーマは「神経科学の哲学」）。
ひとまず年内はこれくらいで手一杯かもしれない。今後の受託の方針としては、「日本語圏の研究コミュニティを局所的に活性化するような触媒役」のようなものを担ってみたい／担いうるのではないかという思いがあり、そうしたことに関係する仕事を受注するイメージを持っている。作業内容としては、レポート作成のための調査・執筆、ワークショップの企画・ファシリテーション、海外連携等など。研究という社会的な協働ゲームにおいて多様なチームメンバーが求められるなかで、自分が入ることで研究のスピードや価値の広がりをブーストできる機会があるのではないか。今、スタッフとして関わり始めているアカデミスト株式会社の柴藤さんは、こうしたロールを「Research Relations」と呼ぶことを提案している。自分がResearch Relationsとしてどこまでできるのかを、当面は引き続き模索してみたい。ALIGNで主に経験したような、経理・総務・事業企画よりは、長期的に自分の比較優位性が生かせるロールに少し的を絞っていく予定。
最後に
ALIGNでの9か月間は、私個人にとっては非常に得難い勉強の期間になった。ALIGNのような民間非営利の研究組織のバックオフィスを経験でき、そこへの自分の適性（適性のない部分を含めて）を感じることができた。このような機会を与えていただいたALIGN理事、そしてALIGNに関わっていただいた（巻き込まれていただいた）皆様に深く感謝している。
ALIGNも完全にテイクオフしたとはいえず、まだまだこれからだと思う。とはいえ、ALIGNは間違いなくこの時代、日本という場所に必要な役割を果たせる組織だと思うし、その準備はできているように思う。私自身も、今後も可能な範囲で貢献していければと思う。
また少し視野を広げると、AIの分野に限らず、「まだ分野として確立していないが、時代が要請する重要な学術テーマ」について、異なる専門知をもった研究者・実務家が集まってきて闊達に議論し、かつ、海外の議論との風通しが開かれているような「場」は必要だし、それを作るうえでは「フィランソロピー資金ベースの非営利団体」は一つの解になるのは間違いない。今回、その資金循環が出来上がるところまで伴走するに至らなかったが、その構造をつくる重要性の一端を感じることはできた。
*****
English Version: (Translation supported by Claude)
My 9-Month Experience with ALIGN (AI Alignment Network)"
For the past nine months, I have been involved with ALIGN (AI Alignment Network), a non-profit organization in Japan. I worked as a volunteer and later as a contracted staff member. As my contract ends this month (September 2024), I want to reflect on my experiences.
What is ALIGN?
ALIGN was established in September 2023 by 5-6 researchers. Its purpose, as stated in its articles of incorporation, is to foster excellent researchers in the field of AI and society, promote academic and technological progress, and share the results globally to contribute to the perpetual peaceful use of artificial intelligence.
ALIGN aims to introduce the context of AI alignment and AI safety to Japan, creating a foundation for Japanese stakeholders to make unique contributions to this field. While much of the current AI risk discussion in Japan focuses on immediate concerns like copyright infringement, privacy, and security, ALIGN seeks to address the potential risks of future, more advanced AI systems.
The organization's activities focus on three main areas:
- Research and research support
- Community building
- Outreach and dialogue with society
My Involvement with ALIGN
I joined ALIGN in December 2023, initially as a volunteer and later as a contracted staff member. My role included various administrative tasks such as managing weekly meetings, accounting, tax-related work, website management, social media operations, organizing webinars, volunteer recruitment, and event planning.
ALIGN's Progress
Achievements of ALIGN during these nine months include:
- Hosted 11 webinars featuring domestic and international experts
- Launched Japan's first introductory course on AI alignment
- Organized a "Super-Intelligence Future Society Scenario Contest" in collaboration with the Japanese Society for Artificial Intelligence
- Secured Dan Hendrycks, director of the Center for AI Safety, as an advisor
- Built a Slack community with nearly 200 members
- Some ALIGN members have begun to present their research at international conferences
- Hosted an 80-person event with key figures from government, lawmakers, industry, and academia
Personally, I found it significant that several highly motivated individuals in their early 20s joined the organization, as their dedication is crucial for the field's future.
Unaccomplished Tasks
There's much work left to be done, however. Below is the list of things we thought we could kickstart during this period but couldn't:
- Substantial fundraising
- Establishing grant programs
- Organizing international collaborative projects
- Formal recruitment of secretariat staff
- Publishing comprehensive reports or policy briefs
These tasks are essential for ALIGN to fully realize its mission, and I hope the new members with diverse professional experiences will help accelerate these initiatives.
Personal Reflections
This experience taught me several lessons:
- Recognized the difficulty of bootstrapping an organization lacking initial personnel, funding, and know-how.
- Experienced the unique challenge of running the "general incorporated association" (a type of nonprofit entity in Japan): particularly its structure where the "directors" who do the decision-making and the "staff" who implement the work are separated.
- Recognized my own strengths and limitations, particularly my lack of entrepreneurial drive and preference for a follower role.
Future Involvement with ALIGN
While my formal role with ALIGN is ending, I plan to remain involved as a community member and potentially take on specific contracted tasks. I expect ALIGN to enter its next phase with more experienced members joining and developing a comprehensive funding strategy.
My Future Plans
After the end of September, I will focus on:
- Three ongoing contracted projects
- Completing remaining ALIGN-related tasks (mainly year-end accounting)
- Contributing to a book project
- Writing a personal note on long-term AI risks
- Preparing for a lecture for an event on theoretical neuroscience scheduled in late November
Moving forward, I aim to position myself as a catalyst for activating research communities in the Japanese-speaking world. This might involve tasks such as writing reports, planning and facilitating workshops, and helping foster international collaboration. I hope to play a role in boosting research projects by alleviating bottlenecks and creating new collaborations. Ryosuke Shibato of academist, Inc. (who is one of my current clients) has coined the term "Research Relations" for such roles.
Last words
These nine months with ALIGN have been an invaluable learning experience for me. I've gained insights into the operations of a non-profit research organization and better understood my own aptitudes and limitations. While ALIGN hasn't fully taken off yet, I believe it's poised to play a crucial role in Japan's AI Safety landscape.
More broadly, there's a clear need for spaces where researchers and practitioners from various fields can come together to discuss emerging, important academic themes that haven't yet been established as formal disciplines. Non-profit organizations funded by philanthropy can be one solution to create such spaces. Although I couldn't see through the establishment of a complete funding cycle, I am more convinced of the importance of creating such structures.
