主要功能
精选大模型技术文章
大模型驱动的技术文章聚合平台
OpenAI Cookbook中文文档
使用OpenAI API的示例和指南
vLLM中文文档
高效且易于使用的大模型推理服务库
SGLang中文文档
大型语言模型和视觉语言模型的快速服务框架
大模型调用和集成
提供主流大模型的调用代码和后端集成方案
显存计算助手
预估大模型的训练推理显存占用
大模型Debug助手
将LLaMA-Factory训练命令转换为VSCode Debug配置
Prompt指南
提供优质模板和编写技巧
精选大模型工具
收集和整合各种大模型应用开发工具
为什么选择我们？
1. 全面的大模型支持
提供主流大模型的调用代码和后端集成方案，助你快速将大模型应用于实际项目中。
2. 实用辅助工具
包括显存计算助手、大模型Debug助手，以及Prompt指南等，帮助你高效开发和调试基于大模型的应用。
3. 优质内容资源
提供英文文档的汉化版本，同时精选各类大模型相关的技术文章，为你的学习和开发提供支持。
4. 开发工具集成
收集和整合各种大模型应用开发工具，为你提供一站式的开发支持。
常见问题
最新博客
🦙 LlamaFactory：源于实践的AI工具平台
在这个AI快速发展的时代，我们很高兴为大家带来LlamaFactory - 一个为AI开发者和爱好者量身打造的实用工具平台。作为非计算机专业出身的开发者，我们深深受益于计算机世界的开放共享精神。今天，我们希望通过LlamaFactory为这个社区贡献我们的一份力量。
LlamaFactory的名字灵感来自Meta公司的大语言模型Llama，我们视其为大模型领域的明灯。 而"Factory"（工厂）体现了我们的愿景 - 打造一个AI开发和应用的"兵工厂"，为更多人提供便利工具。
如何对Llama3进行持续预训练以提升其中文能力
近年来，大语言模型（LLM）在人工智能领域取得了显著进展。然而，由于大多数LLM主要在英语语料上进行预训练，因此在处理中文任务时表现欠佳。此外，Llama3作为一个通用模型，虽然在多项任务中表现优异，但在中文领域和特定科学领域的能力仍有不足。为了解决这些问题，可以通过**持续预训练（Continual Pre-training, CPT）**来增强Llama3的中文能力，同时保留其原有的其他能力。
持续预训练的核心在于通过特定的数据选择和课程设计 (Data Curriculum)，提升模型在中文和科学推理方面的能力。具体来说，预训练过程分为两个主要阶段：双语适应阶段和合成数据增强阶段。
利用大模型高效生成训练数据[含代码]
在大模型出现之前，训练数据的构建主要依赖于人工标注、开源数据集，以及从线上数据中提取合适的监督数据。然而，开源数据通常难以完全满足特定业务需求（大部分情况下无法直接使用），而现有的线上数据也可能无法抽取出符合要求的监督数据。这时，人工标注似乎成为唯一的选择，但这种方法不仅耗费大量人力和时间，还难以保证足够的效率。
随着大模型的出现，数据生成的方式开始发生变化。通过构建高质量的 prompt，我们可以利用大模型自动生成训练数据。这一过程的原理相对简单，因此本次分享的重点不在于原理，而是向大家展示一套本人在实际工作中经常使用的代码，以便大家可以直接应用于自己的项目。
准备好探索大模型开发了吗？
立即访问LlamaFactory，获取实用工具和资源，简化你的大模型应用开发流程。