陈天奇｜访谈内容与知识整理

访谈基本信息#

访谈内容整理#

• 开源传奇的进化史：
  • XGBoost 时代：在华盛顿大学期间将梯度提升树（GBDT）系统推到极致，成为 Kaggle 数据科学竞赛必备神枪。
  • MXNet 时代：早于 PyTorch / TensorFlow 探路深度学习框架，主打极致内存优化与多卡并行。
  • TVM 时代：开创深度学习编译器领域，打通“不同神经网络框架”到“不同芯片硬件”之间的自动化编译桥梁。
  • MLC LLM 时代：在大模型时代推动“端侧大模型部署”，让几百亿参数的模型流畅运行在手机、电脑等端侧设备上。
• 长期主义与“敢于失败”：分享如何在学术教职、商业创业（OctoML）与开源社区治理三者间保持平衡，以及在AI浪潮迅速更迭中如何抵御短期浮躁、坚持高价值长线研发。

技术与商业知识#

1. XGBoost：陈天奇开发的开源梯度提升树（GBDT）高效实现库，因极高的计算速度与准确率在机器学习竞赛与工业界被广泛使用。
2. TVM（深度学习编译器）：一个开源的端到端深度学习编译栈，可将任意深度学习框架生成的模型自动优化并部署到异构硬件（CPU、GPU、NPU）上。
3. MLC LLM（Machine Learning Compilation for LLM）：陈天奇团队发起的开源项目，旨在利用深度学习编译技术实现大语言模型在各种设备（包括手机、笔记本、嵌入式硬件）上的高效端侧部署。
4. 端侧推理（On-Device Inference）：无需依赖云端服务器算力，直接在用户本地设备（如智能手机、PC、汽车）上运行 AI 大模型推理的技术。

JW 的个人心得#

待 JW 观看原访谈后补充。欢迎在下方评论区分享你的理解、补充与不同看法。