私たちについて
UTokyo AI Safety（UTAIS）は、AIの安全性とアラインメントに関心を持つ、東大を中心としたコミュニティです。高度なAIがもたらす誤用・制御の喪失・存亡リスクと、それに対して技術・政策の両面で何ができるのかを、一緒に考える場をつくっています。
キャンパス内でこうしたリスクへの理解を広げ、研究・政策・産業といった形で貢献したいと考える学生が、そのための道を見つけられるよう支援することを目指しています。
初回の入門フェローシップへの参加申込を受け付けています。講演イベントも企画中です。開催日や登壇者は、確定後にご案内します。
リソース
私たち独自の教材ができるまでの間、参考になる資料をいくつか紹介します。
- AGI入門 — AGI Hub AGIとAI安全性の全体像を学ぶ日本語の入門資料。フェローシップの応募フォームでも紹介されています。
- AI Safety Fundamentals BlueDot Impactが提供する無料のオンライン講座。AI safetyの基礎的な考え方を体系的に学べます。
- 80,000 Hours — AI safetyキャリアガイド AI safety分野における研究・エンジニアリング・政策のキャリアパスを紹介するガイドです。
- The Alignment Forum AIアラインメント研究について、専門的な議論が交わされているコミュニティです。
今後、活動の展開に合わせて、独自の読書リストやイベントの記録もここに掲載していく予定です。
日本のAI Safetyに関わる団体
日本国内でAI safetyに取り組む、他の団体・コミュニティです。
- AGI HUB 講演・記事・共同研究・政策提言を通じて、AGIとAI safety／アライメントの知見を日本に伝える東京の会社。
- AI Safety Tokyo（AI Safety 東京） 2023年発足、渋谷を拠点にAI safetyの勉強会・交流会を毎週開催するコミュニティ。
- AIアライメントネットワーク（ALIGN） 2023年設立の一般社団法人。学術界と産業界をつなぎ、日本におけるAIアライメント研究のエコシステム構築を目指す非営利団体。
- AIセーフティ・インスティテュート（AISI） 2024年発足、AI安全性の評価基準策定や海外のAI Safety Instituteとの国際連携を担う日本の政府機関。
- Shiba AI アライメント・解釈可能性・ガバナンス・セキュリティなどを研究する、東京拠点の研究ラボ。
- UT-LAB AIアライメント研究所 東京大学近くの研究拠点UT-LAB内の学生発プロジェクト。AIアライメントに関する研究・議論を活性化し、研究者・学生・起業家をつなぐことを目指しています。