拓冰建站拓冰建站
首页 / 资讯中心 / 正文

100+开源中文大模型一站查找:Awesome-Chinese-LLM 中文LLM资源合集使用指南

100开源中文大模型一站查找Awesome-Chinese-LLM 中文LLM资源合集使用指南【免费下载链接】Awesome-Chinese-LLM整理开源的中文大语言模型以规模较小、可私有化部署、训练成本较低的模型为主包括底座模型垂直领域微调及应用数据集与教程等。项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLMAwesome-Chinese-LLM 是一个专门收集、梳理中文大语言模型中文LLM的开源资源仓库。如果你的需求是找一款能在自己服务器上私有化部署的中文对话模型、为医疗或法律业务找一个经过领域微调的模型、或者想训练一个带行业数据的定制模型这个仓库把候选的底座模型、垂直微调模型、训练数据集、微调框架、推理部署框架、评测基准和中文教程整理成了 100 条结构化条目你不需要再逐个搜索引擎拼凑。项目定位中文 LLM 生态的导航目录这个仓库本身不是一个模型而是一份持续维护的中文 LLM 资料索引以规模较小、可私有化部署、训练成本较低的开源模型为主按模型 → 应用 → 数据集 → 训练框架 → 部署框架 → 评测 → 教程 → 相关仓库的链路组织覆盖从选型到落地的完整路径。所有条目都附带简介、参数规模和关键信息方便你先建立整体认知再决定深入哪个项目。核心能力八个板块覆盖选模型、炼模型、跑模型、评模型按 README.md 的目录结构内容分为八个板块文本 LLM 底座模型收录 ChatGLM 系列、Qwen、InternLM、DeepSeek、Baichuan、XVERSE、Yi、CPM-Bee、MiniCPM、MiniMax 等 40 个底座每条都有参数量、训练数据和上下文长度说明。多模态模型VisualGLM、CogVLM、Qwen-VL、InternVL、MiniCPM-V 等支持图文理解场景。垂直领域微调模型医疗20 个如 ChatMed、Sunsimiao、Taiyi-LLM、法律獬豸、ChatLaw、DISC-LawLLM 等、金融Cornucopia、XuanYuan、FinGPT、教育、科技、电商、网络安全、农业八个方向。应用项目LangChain 知识库问答如 langchain-ChatGLM、GPT Academic 这类论文润色界面、ChatALL 多模型并行问答、智能体框架 Lagent 等。数据集预训练语料MNBVC、WuDao、CLUECorpus2020、SFT 指令数据Huatuo-26M、firefly-train-1.1M、COIG、偏好对齐数据CValues、UltraFeedback三类是你自己微调时取数据的地方。训练微调框架LLaMA Efficient Tuning、ChatGLM Efficient Tuning、DeepSpeed Chat 等支持 LoRA/QLoRA 低成本微调。推理部署框架vLLM高吞吐服务、LMDeploy4bit 量化推理性能达 FP16 的 2.4 倍以上、MLC LLM / MNN LLM端侧手机推理、AirLLM4GB 显存跑 70B等。评测基准C-Eval、OpenCompass、CMMLU、GAOKAO-Bench、HalluQA中文幻觉评测等帮你量化对比模型效果。落地路径从拿到仓库到跑通第一个中文模型第一步获取仓库git clone https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM克隆下来后重点看两个位置README.md主目录按八大板块组织全部条目doc/医疗、法律、金融等垂直方向的详细笔记.md 与 .xmind 双版本信息比 README 更细。第二步按参数和场景选底座README 开头有一张常见底座模型概览表选型时主要看三列参数大小、训练 token 数、上下文长度、是否可商用。摘取部分供快速参考底座典型参数上下文长度商用ChatGLM 系列6B32K可商用Qwen 系列1.7B ~ 235B32K可商用InternLM27B / 20B200K可商用DeepSeek1.3B ~ 67B4K可商用XVERSE7B ~ 65B8K ~ 256K可商用Baichuan27B / 13B4K可商用LLaMA 系列7B ~ 70B2K ~ 4K部分可商用经验值单张 24GB 显存显卡可推理 6B~7B 模型16bit或 13B 模型4bit 量化只有 4GB 显存可以看 AirLLM 的分层推理方案。第三步跑通最小例子以条目最多的 ChatGLM-6B 为例模型权重从其官方渠道下载后用 transformers 推理的最小代码如下from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer AutoTokenizer.from_pretrained(THUDM/chatglm-6b) model AutoModelForCausalLM.from_pretrained( THUDM/chatglm-6b, trust_remote_codeTrue ).cuda() response, _ model.chat(tokenizer, 介绍一下大语言模型的微调流程, history[]) print(response)如果你的目标是高并发服务用 vLLM 部署pip install vllm vllm serve THUDM/chatglm-6b想接入自己的本地文档做问答走 langchain-ChatGLM 这类知识库应用条目想微调出行业模型按数据集 → ChatGLM Efficient Tuning → 推理框架这条线组合即可三个板块的条目在 README 里都能直接找到。第四步用评测结果验证选型选完模型别只看榜单宣传用收录的评测基准实测。中文知识能力用 C-Eval / CMMLU 的题目自测通用能力用 OpenCompass 一键跑分安全与幻觉风险用 Safety-Prompts 和 HalluQA 的对抗性样本检验。深入理解生态按底座 → 垂直微调两层组织看 doc/LLM.md 和 src/LLM.png 可以注意到这个仓库的条目并非平铺罗列而是体现了一条清晰的生态链底层是底座ChatGLM、LLaMA、BLOOM、Baichuan、CPM-Bee 等通用基座上层是垂直衍生每个底座下挂着一批领域微调模型例如 ChatGLM 底座派生出 DoctorGLM医疗问诊、LexiLaw法律、VisualGLM多模态、Chatglm-maths数学解题LLaMA 底座派生出 ChatMed、启真 QiZhenGPT、聚宝盆 Cornucopia金融、桃里 Taoli教育等。这个结构对你选型的意义是如果你的业务在医疗、法律、金融等已收录方向优先用垂直微调模型它们已经在领域指令数据上精调过省去你自己造数据的工作量如果是冷门方向再退回到通用底座 自建数据集 LoRA 微调的路线仓库第 5 板块的数据集条目可以直接当训练语料来源。垂直方向的更详细笔记含论文、算力配置、训练数据规模在 doc/Medical.md、doc/Legal.md、doc/Financial.md 中。场景与人群谁适合用这份资源你的角色典型诉求在仓库中重点看算法工程师私有化部署中文对话模型板块 1 底座 板块 7 部署框架行业开发者医疗/法律/金融直接复用领域模型板块 3 垂直微调 doc/ 笔记微调方向研究者拿数据练 LoRA/QLoRA板块 5 数据集 板块 6 训练框架学生 / 转行者系统性入门中文大模型板块 8 教程提示工程、LangChain 中文网等评测 / 选型负责人横向对比模型效果板块 7 评测基准独立开发者快速搭演示应用板块 2 应用GPT Academic、ChatALL 等边界与注意用之前先确认这四点这是目录不是交付物。仓库本身不含模型权重和训练代码条目是索引和摘要具体模型的部署步骤、License 细节以各条目指向的原始仓库说明为准。商用授权逐模型确认。概览表中 LLaMA 系列标注部分可商用其余多数标注可商用但商用前务必核对对应项目的最新协议个别模型商用需登记或申请。垂直模型输出不能直接当决策依据。医疗、法律、金融类模型的问答结果仅可作为辅助参考面向用户的产品必须有人工复核环节医疗场景尤其如此。硬件门槛要提前评估。6B 模型 16bit 推理约需 14GB 显存13B 需 24GB 或上 4bit 量化端侧场景再考虑 MiniCPM 这类 2B 级模型和 MLC LLM / MNN LLM。条目简介里常标注训练算力如单卡 A100 13 小时可帮你预判微调成本。小结下一步怎么做Awesome-Chinese-LLM 的价值在于把找模型这件事从多轮搜索变成查目录先看底座概览表定规模再用垂直微调板块定方向最后用数据集、训练、部署、评测四个板块补齐落地链路。建议你按本文的落地路径操作一遍——克隆仓库、对照概览表选一个 6B~7B 级底座、跑通最小推理例子——如果业务在医疗、法律、金融等已覆盖方向直接评估对应垂直模型的适配度能省掉大半的选型和试错成本。【免费下载链接】Awesome-Chinese-LLM整理开源的中文大语言模型以规模较小、可私有化部署、训练成本较低的模型为主包括底座模型垂直领域微调及应用数据集与教程等。项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
分享:

看完干货,该让你的企业上线了

免费需求沟通 · 48 小时内出具建站方案 · 河南本地可上门