A LONG-TERM ROADMAP
学习路线
从计算机基础出发，逐步走向大模型算法、机器学习系统与 AI 基础设施。状态与文章数量会随真实记录更新。
Computer Systems
学习中从 Linux、操作系统与网络理解计算机如何运行。
学习中的内容待补充具体主题
已完成内容暂无记录
相关文章0 篇
查看建议学习主题
- Linux
- Operating Systems
- Computer Networks
- Shell
- Git
- Process / Thread
- Memory
- File System
- TCP/IP
- SSH
- Docker 原理
- GPU 基础
Python Engineering
学习中建立可靠的 Python 编程与工程实践能力。
学习中的内容待补充具体主题
已完成内容暂无记录
相关文章0 篇
查看建议学习主题
- Python Basics
- Data Structures
- OOP
- Pythonic Programming
- File / IO
- Async Programming
- Multiprocessing
- Package Management
- Debugging
- Testing
- Performance Optimization
- Scientific Python
Machine Learning & Deep Learning
未开始衔接 Python 与 LLM 的数学、算法和 PyTorch 基础。
学习中的内容待补充具体主题
已完成内容暂无记录
相关文章0 篇
查看建议学习主题
- Machine Learning Basics
- Neural Networks
- Optimization
- Loss Functions
- Backpropagation
- PyTorch
- CNN
- RNN
- Attention
- Transformer Basics
- Model Training
- GPU Training Basics
LLM Algorithms
学习中记录大语言模型理论、论文阅读与代码实验。
学习中的内容待补充具体主题
已完成内容暂无记录
相关文章0 篇
查看建议学习主题
- Transformer
- Tokenization
- Pretraining
- Instruction Tuning
- SFT
- PEFT
- LoRA / QLoRA
- RLHF
- DPO
- RAG
- Embedding
- Agent
- Evaluation
- LLM Papers
- Paper Reproduction
ML Systems
未开始研究如何高效训练、管理和运行机器学习模型。
学习中的内容待补充具体主题
已完成内容暂无记录
相关文章0 篇
查看建议学习主题
- Training Pipeline
- Data Pipeline
- Experiment Management
- Distributed Training
- PyTorch DDP
- FSDP
- DeepSpeed
- Mixed Precision
- Gradient Accumulation
- Checkpoint
- Tensor Parallel
- Pipeline Parallel
- Model Serving
- Performance Analysis
AI Infrastructure
未开始深入 GPU、分布式训练、推理服务和可观测性。
学习中的内容待补充具体主题
已完成内容暂无记录
相关文章0 篇
查看建议学习主题
- GPU Architecture
- CUDA
- NCCL
- GPU Memory
- Multi-GPU
- Multi-Node Training
- Docker
- Kubernetes
- Ray
- vLLM
- TensorRT-LLM
- Inference Engine
- KV Cache
- Continuous Batching
- Model Serving
- GPU Cluster
- Scheduling
- Monitoring
- Observability
知识点之外，也记录项目与实验 ↗。英语学习单独放在English / IELTS ↗。