Hugging Face 下载模型报 Connection aborted 怎么通过 HF_ENDPOINT 镜像解决?
Hugging Face 下载模型报 Connection aborted 怎么通过 HF_ENDPOINT 镜像解决【免费下载链接】hello-agents 《从零开始构建智能体》——从零开始的智能体原理与实践教程项目地址: https://gitcode.com/GitHub_Trending/he/hello-agents在跑 hello-agents《从零开始构建智能体》教程仓库中的示例代码时只要脚本通过 Hugging Face 下载开源模型或数据集就可能中断并报Connection aborted。这是网络原因导致的仓库 FAQ 给出的解决方式是通过HF_ENDPOINT环境变量把下载入口切到镜像https://hf-mirror.com。这篇文章给出两种配置位置写在 Python 代码里或直接在命令行导出并说明各自的适用位置和判断方法。报错现象与原因判断FAQ 将该问题归类为网络原因见 Extra04-DatawhaleFAQ.md 中的 Q27Q27. Hugging Face 开源大模型报错 Connection aborted网络原因建议使用 HF_ENDPOINT 进行配置示例详见 code/chapter3/Qwen.pyhttps://hf-mirror.comFAQ 中还记录了另一条相关的报错形态如果报错中包含MaxRetryError(HTTPSConnectionPool(hosthuggingface.co, port443)同样可以用下面的镜像配置解决。遇到Connection aborted、MaxRetryError指向huggingface.co这类错误时可以先按网络问题处理如果配置镜像后仍然失败再考虑是否属于缺少 Token 的情况第九章 FAQ 中把「下载 Hugging Face 模型失败」的原因归纳为「网络问题或缺少 Token」见 code/chapter9/README.md。配置方式一在 Python 代码中设置在脚本里、所有会访问 Hugging Face 的库transformers、datasets等被导入之前设置# 增加HF_ENDPOINT避免Connection aborted. import os os.environ[HF_ENDPOINT] https://hf-mirror.com仓库中 code/chapter3/Qwen.py 就是这个写法的完整示例文件开头两行# 增加HF_ENDPOINT避免Connection aborted. import os os.environ[HF_ENDPOINT] https://hf-mirror.com之后的代码正常加载模型import torch from transformers import AutoModelForCausalLM, AutoTokenizer # 指定模型ID model_id Qwen/Qwen1.5-0.5B-Chat # 加载分词器 tokenizer AutoTokenizer.from_pretrained(model_id) # 加载模型并将其移动到指定设备 model AutoModelForCausalLM.from_pretrained(model_id).to(device) print(模型和分词器加载完成)运行该脚本时模型Qwen/Qwen1.5-0.5B-Chat会从镜像地址拉取下载成功后脚本会打印「模型和分词器加载完成」文档示例输出随后生成一段自我介绍作为对话回答。配置方式二在命令行导出环境变量如果不想改代码可以在运行脚本的终端里先导出变量再启动脚本。FAQ 按系统给出了两条命令Linux / macOSexport HF_ENDPOINThttps://hf-mirror.comWindows PowerShell$env:HF_ENDPOINT https://hf-mirror.com注意export只对当前终端会话生效新开终端需要重新执行PowerShell 的变量写法$env:HF_ENDPOINT与 bash 的export语法不同不要混用。两种方式的适用边界一致环境变量只影响当前会话或当前脚本进程仓库中的代码无需任何修改。可选分支配置 HF Token 与改用 TF-IDF如果镜像之后仍然下载失败仓库第九章 FAQcode/chapter9/README.md 的 Q3给出的原因判断是「网络问题或缺少 Token」并列了三个处理项配置 HF TokenFAQ「方案二」说明需要访问 Hugging Face 的 token 设置页获取 Token文档给出的页面为 huggingface.co/settings/tokens并在环境变量或.env中提供使用镜像export HF_ENDPOINThttps://hf-mirror.com即本文主路径改用 TF-IDF绕开 Hugging Face 模型下载os.environ[EMBED_MODEL_TYPE] tfidf第九章的运行顺序建议里也提到「配置嵌入模型后运行」需要 LLM 的示例因此嵌入模型下载失败会阻塞后续示例若暂时无法解决下载问题第 3 项是一个文档明确给出的替代路径。另外第十二章的数据生成场景下载 AIME 数据集遇到 HuggingFace 下载慢时运行指南.md 同样建议export HF_ENDPOINThttps://hf-mirror.com并给了第二条出路手动下载后使用本地路径。结果验证与限制判断镜像配置是否生效的方式重新运行之前报Connection aborted的脚本观察是否不再中断、模型或数据集能否下载完成。以 code/chapter3/Qwen.py 为例加载成功后会打印设备信息与「模型和分词器加载完成」文档示例输出再输出模型的回答。两点限制需要留意HF_ENDPOINT只解决网络问题。若失败原因是缺少 Token例如需要鉴权的模型或数据集需要按第九章 FAQ 第 1 项单独配置 HF Token镜像不会自动解决鉴权问题。镜像地址https://hf-mirror.com是仓库 FAQ 给出的地址如果该镜像当时不可用FAQ 未提供进一步的备用方案可参考第十二章运行指南中「手动下载后使用本地路径」的方式绕开在线下载。【免费下载链接】hello-agents 《从零开始构建智能体》——从零开始的智能体原理与实践教程项目地址: https://gitcode.com/GitHub_Trending/he/hello-agents创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考