大模型 | Geeks_Z の Blog

大模型: 大模型

目录

# 1. 基础篇: 1-1. LLM概述 1-2. 分词 1-3. 词嵌入 1-4. LLM术语

# 2. 架构篇: 2-1. 模型架构 2-2. KV Cache

# 3. 训练篇: 3-1. 从零训练大模型 3-2. 大模型的数据 3-3. 模型训练 3-4. 分布式训练 3-5. DeepSpeed-Megatron MoE并行训练

# 4. 微调篇: 4-1. LLM微调 4-2. 大模型应用优化路径 4-3. Prompt Engineering 4-4. RAG 4-5. Fine-tuning 4-6. 大模型之Adaptation

# 5. 常见模型篇: 5-1. 常见大模型综述 5-2. LLAMA

# 6. 大模型持续学习: 6-1. Towards Lifelong Learning of Large Language Models A Survey 6-2. Recent Advances of Foundation Language Models-based Continual Learning A Survey 6-3. Continual Learning for Large Language Models A Survey

# 7. 实战篇: 7-1. 大模型部署
# 7-2. Qwen2.5-7B-Instruct
7-2-1. Qwen2.5-7B-Instruct FastApi 部署调用 7-2-2. Qwen2.5-7B-Instruct Langchain 接入 7-2-3. Qwen2.5-7B-Instruct 部署调用 7-2-4. Qwen2.5-7B-Instruct WebDemo部署 7-2-5. Qwen2.5-7B-Instruct Lora 微调 7-2-6. Qwen2.5-7B-Instruct o1-like 推理链实现 7-2-7. Qwen2.5-7B-Instruct 微调 SwanLab可视化记录版

8. 智能体

9. Scaling Law

10. temp

上次更新: 2025/04/02, 12:03:38

01
Recent Advances of Multimodal Continual Learning A Comprehensive Survey 03-30

02
When Continue Learning Meets Multimodal Large Language Model A Survey 03-30

03
CosineLinear 03-30

更多文章>