知识图谱

机器学习 Machine Learning

• 基础 Fundamentals
  • 什么是机器学习 What Is ML
  • 问题类型 Problem Types
  • 偏差-方差 Bias Variance
  • 训练-测试划分 Train Test Split
  • 评估指标 Evaluation Metrics
• 经典模型 Classical Models
  • 线性回归 Linear Regression
  • 逻辑回归 Logistic Regression
  • 支持向量机 SVM
  • K-means
  • 高斯混合 Gaussian Mixture
• 优化 Optimization
  • 梯度下降 Gradient Descent
  • 凸性 Convexity
  • 正则化 Regularization
  • 数值稳定性 Numerical Stability
• 概率机器学习 Probabilistic ML
  • MLE 与 MAP
  • 贝叶斯推断 Bayesian Inference
  • 图模型 Graphical Models
  • EM 算法 EM Algorithm
• 工程实践 ML in Practice
  • 特征工程 Feature Engineering
  • 数据泄漏 Data Leakage
  • 超参调优 Hyperparameter Tuning
  • 失败案例 Failure Cases

深度学习 Deep Learning

• 基础 Foundations
  • 感知机 Perceptron
  • 反向传播 Backpropagation
  • 激活函数 Activation Functions
  • 损失函数 Loss Functions
• 架构 Architectures
  • MLP
  • CNN
  • RNN
  • LSTM / GRU
  • Transformer
  • 注意力机制 Attention Mechanism
• 训练 Training
  • 初始化 Initialization
  • 归一化 Normalization
  • 优化技巧 Optimization Tricks
  • 正则化 Regularization
  • 泛化 Generalization
• 表征学习 Representation Learning
  • 自编码器 Autoencoders
  • 变分自编码器 VAE
  • 对比学习 Contrastive Learning
  • 自监督 Self Supervised
• 工程实践 DL in Practice
  • 调试 Debugging
  • 过拟合 Overfitting
  • 尺度定律 Scaling Laws
  • 部署考量 Deployment Considerations

强化学习 Reinforcement Learning

• 基础 Fundamentals
  • 马尔可夫决策过程 MDP
  • 部分可观测马尔可夫决策过程 POMDP
  • 策略与价值 Policy Value
  • 回报与折扣 Return Discount
  • 探索与利用 Exploration Exploitation
• 动态规划 Dynamic Programming
  • 策略评估 Policy Evaluation
  • 策略迭代 Policy Iteration
  • 价值迭代 Value Iteration
• 无模型 RL Model Free RL
  • 蒙特卡洛 Monte Carlo
  • TD 学习 TD Learning
  • Q 学习 Q Learning
  • SARSA
• 深度强化学习 Deep RL
  • 深度 Q 网络 DQN
  • 策略梯度 Policy Gradient
  • 演员-评论家 Actor-Critic
  • 近端策略优化 PPO
  • 软演员-评论家 SAC
• 进阶主题 Advanced Topics
  • 离策略 Off Policy
  • 信用分配 Credit Assignment
  • 稳定性问题 Stability Issues
  • 记忆与递归 Memory Recurrence
  • 多智能体 Multi Agent RL
• 工程实践 RL in Practice
  • 奖励设计 Reward Design
  • 课程学习 Curriculum Learning
  • 仿真到现实 Sim2real
  • 失败分析 Failure Analysis

交叉概念 Cross Cutting Concepts

• 优化理论 Optimization Theory
• 概率回顾 Probability Review
• 信息论 Information Theory
• 泛化 Generalization
• 研究最佳实践 Research Best Practices