专题# TensorRT-LLM TensorRT-LLM 简介 可以用 TensorRT-LLM 做什么? 在 Linux 上安装 TensorRT-LLM 快速入门指南 LLM API Cookbook TVM 长廊 Daobook xgrammar 安装 测试 编译语法 使用语法生成 Daobook mlc-llm mlc-llm 简介 使用 TVM nn.module 工作流在 MLC-LLM 中添加新模型架构 定义 GPT-2 模型 在 gpt2_model.py 中定义配置类 在 gpt2_model.py 中定义模型架构 使用 nn.spec 定义模型规范 在 gpt2_loader.py 中定义加载器 将模型添加到支持的预构建模型工作流 编译 GPT-2 模型库和权重 使用 DebugChat 调试编译的 MLC 模型 MLC mlc-python 📥 安装 🔑 关键特性 🏗️ 使用 MLC 数据类定义 IRs 🐍 为 IRs 设计基于 Python 的文本格式 🎯 使用 MLC 结构感知工具测试 IRs ⚡ 逐步迁移到 C++ 并使用 MLC 插件 ⛽ 开发 ⚙️ 可编辑构建 🎡 构建 Wheels mlc.cc.jit_load() 工具 FAQs Docker FAQs VSCode VSCode Remote 开发 FAQ GitHub FAQs 如何在 Colab 上运行 GitHub 代码 conda 配置 anaconda3/lib/libstdc++.so.6: version `GLIBCXX_3.4.*‘ not found 问题处理 外部资源 垃圾站 在线资源库 未加筛选的资源清单 书籍 scikit-image librosa 语音信号处理 Natural Language Toolkit — NLTK TensorBoardX C++ 学习 编辑器 python 与 office 套件 AI 修图 图像修复 其他 3D Photography using Context-aware Layered Depth Inpainting Old Photo Restoration via Deep Latent Space Translation