手写AI-LLM大模型训练营2024

《手写AI-LLM大模型训练营2024》是一套从理论到实践的深度课程，系统讲解大模型核心技术及工业级应用。课程分为模型架构与工程应用两大模块：模型部分深入解析Llama2架构设计(包括RMSNorm、ROPE位置编码等)，手把手实现LoRA/QLoRA高效微调、PTuning方法及幻觉处理；工程部分涵盖DeepSpeed分布式训练、ChatGLM3全量微调、Int8/NF4量化等优化技术，并延伸至Prompt工程、Function Calling开发等应用实践。通过股票分析等实战项目，学员可掌握从模型研发到产品落地的完整能力链，特别适合希望深入理解大模型底层原理并具备工业级开发能力的技术人员。课程提供完整代码实现和优化文档，强调'手写实现'以加深理解。