AI Crash Courseとは何か
AI Crash Courseは、AI研究の重要論文とリソースを体系的にまとめたGitHubリポジトリだ。作者のHenry Shi氏はSuper.comの創業者で、同社を年間売上1.5億ドル以上に成長させた後にexitした人物。READMEによると、「伝統的なソフトウェア創業者として、AI研究の最前線に素早くキャッチアップする必要があった」ことがきっかけで、自身の学習に不可欠だったリソースを整理したものだ。
収録されている論文とリソースの構成
READMEは大きく以下のセクションに分かれている。
まずサーベイ論文から入る構成になっており、LLM Survey(2024)、Agent Survey(2023)、Prompt Engineering Survey(2024)、Context Engineering Survey(2025)が起点として提示されている。
Foundational Modellingセクションでは、Transformers(2017)、GPT-3のスケーリング則(2020)、LoRA(2021)、RLHF/InstructGPT(2022)、DPO(2023)、MoE(2024)など、基盤技術の論文が時系列で並ぶ。
Planning/Reasoningセクションでは、AlphaZero/MuZero、Chain of Thought、ReACT、DeepSeek R1(2025)、さらにRecursive Language Models(2026)まで、推論・計画領域の最新研究をカバーしている。
Applicationsセクションでは、Toolformer、GPT-4、Llama 3、Gemini 1.5、OpenHandsなどの実用モデルとエージェントフレームワークが取り上げられている。
エージェント開発者にとっての価値
AI Crash Courseが特に有用なのは、LangChainやDifyといったエージェントフレームワークを使う開発者が、その背後にある理論を理解するための道筋を示している点だ。ReACTパターンやChain of Thoughtがなぜ有効なのか、MoEアーキテクチャがどのようにコスト効率を実現するのかといった、フレームワークのドキュメントだけでは得られない知識にアクセスできる。
SWE-BenchやChatbot Arenaといったベンチマーク論文も収録されており、モデル選定の判断軸を理解する上でも参考になる。
学習の進め方
READMEでは、3Blue1Brownの「Neural Network → LLMシリーズ」を最初に視聴することが推奨されている。その後、興味のあるサーベイ論文を読み、そこから個別の論文に深掘りする流れだ。星印(*)が付いた論文が優先推奨されており、Transformers、GPT-3、RLHF、MuZero、DeepSeek R1、Llama 3などが該当する。
Andrej KarpathyのZero to Heroシリーズや、Sebastian Raschkaの『Build a Large Language Model (from Scratch)』といった実装寄りのリソースへのリンクも含まれている。
注意点と制限事項
本リポジトリはリンク集であり、ハンズオン教材やコーディング演習は含まれていない。また、AI分野の進歩は速いため、収録論文が最新の状況を反映していない可能性がある。実装レベルの学習には、収録されているビデオシリーズや書籍と組み合わせて活用することが推奨される。