Ubuntu 安装 Ollama 并配置 VS Code Continue 使用本地模型

Ubuntu 安装 Ollama 并配置 VS Code Continue 使用本地模型适用场景在 Ubuntu 开发机上部署 Ollama 本地模型服务并在 VS Code 的 Continue 扩展中使用本地大模型进行代码问答、重构、编辑与自动补全。推荐策略qwen2.5-coder:7b用于对话和代码编辑qwen2.5-coder:1.5b用于低延迟自动补全。1. 环境与资源规划当前机器配置项目配置CPUIntel Core i7-77004 核 8 线程内存约 16 GBGPUIntel HD Graphics 630 集成显卡推理模式CPU 推理为主在无独立显卡、16 GB 内存的条件下建议避免长期运行大于 14B 的模型。优先采用“小模型补全 中等模型对话”的组合功能推荐模型说明代码自动补全qwen2.5-coder:1.5b响应快、资源占用低适合 Tab 补全代码问答、解释、重构qwen2.5-coder:7b代码能力和资源占用较平衡复杂推理、长文档分析按需选择更大模型CPU 推理下速度较慢不建议作为日常常驻模型2. 安装 Ollama2.1 使用官方脚本安装在 Ubuntu 终端执行curl-fsSLhttps://ollama.com/install.sh|sh安装完成后确认 Ollama 命令可用ollama--version2.2 检查 Ollama 服务状态Ollama 在 Linux 上通常通过 systemd 服务运行systemctl status ollama正常状态应显示Active: active (running)如服务未启动可执行sudosystemctlenable--nowollama查看服务日志journalctl-uollama-f2.3 验证本地 APIOllama 默认 API 地址http://127.0.0.1:11434验证服务curlhttp://127.0.0.1:11434也可以检查 API 模型列表curlhttp://127.0.0.1:11434/api/tags3. 下载并验证模型3.1 下载代码问答模型ollama pull qwen2.5-coder:7b该模型建议用于C/C 代码解释RT-Thread、Bootloader、驱动代码分析HDMI-CEC / eARC / I2C / SPI 等逻辑梳理Python、Shell、PowerShell 自动化脚本代码重构、注释生成、Bug 定位。运行并验证ollama run qwen2.5-coder:7b可输入测试问题请分析下面的 C 代码指出潜在的空指针、数组越界和并发访问风险。退出交互/bye3.2 下载代码补全模型ollama pull qwen2.5-coder:1.5b该模型建议专用于 Continue 的自动补全功能降低输入过程中的等待时间。3.3 查看已下载模型ollama list示例输出NAME ID SIZE MODIFIED qwen2.5-coder:1.5b xxxxxxxxxxxx 986 MB ... qwen2.5-coder:7b xxxxxxxxxxxx 4.7 GB ...注意Continue 配置中的model名称必须与ollama list中的NAME字段完全一致。3.4 查看当前加载模型ollamaps如果模型暂时不使用Ollama 会在一段时间后自动卸载模型以释放内存。4. 安装 VS Code Continue 扩展打开 VS Code进入扩展市场搜索Continue安装Continue - Codestral, Claude, and more扩展安装后重载 VS Code。也可以通过命令面板打开Ctrl Shift P搜索Extensions: Install Extensions5. 配置 Continue 使用 Ollama5.1 打开 Continue 配置文件Continue 不同版本的配置位置可能略有变化。推荐通过 VS Code 命令面板打开Ctrl Shift P搜索并执行Continue: Open Config常见配置文件位置包括~/.continue/config.yaml或~/.continue/configs/config.yaml如果使用 Continue 的图形界面也可以在模型选择区域使用Autodetect自动发现本机 Ollama 模型。5.2 推荐配置文件将以下内容写入 Continue 配置文件name:Local Ollamaversion:0.0.1schema:v1models:-name:Qwen Coder Chatprovider:ollamamodel:qwen2.5-coder:7broles:-chat-edit-apply-name:Qwen Coder Autocompleteprovider:ollamamodel:qwen2.5-coder:1.5broles:-autocomplete配置说明字段含义nameContinue 中显示的模型名称provider模型提供方本地 Ollama 固定为ollamamodelOllama 中已下载的实际模型名称chat对话问答功能edit选中代码后进行编辑或重构apply将模型生成的修改应用到文件autocomplete编辑器 Tab 自动补全5.3 重载 VS Code保存配置后执行Ctrl Shift P选择Developer: Reload Window重新打开 Continue 面板选择Qwen Coder Chat用于提问、代码分析、编辑Qwen Coder Autocomplete用于自动补全。6. 使用建议6.1 代码问答在 Continue Chat 中可直接提问例如分析这个 HDMI-CEC 状态机的状态转换是否存在异常分支。根据这个 I2C 驱动代码补充超时重试、错误码和日志输出。解释这段 Bootloader 初始化代码中 GPIO 高阻态配置的执行时机。6.2 选中代码后编辑选中一段代码后在 Continue 中输入将此函数重构为单一职责结构保留原有接口不改变业务行为。为这段 C 代码添加 Doxygen 风格注释并说明返回值和错误码。检查该函数在多线程调用场景下是否安全并给出最小修改方案。6.3 自动补全模型使用原则自动补全对延迟敏感因此推荐使用qwen2.5-coder:1.5b不要使用 7B 或更大模型作为主要 Tab 补全模型否则在 CPU 推理下可能影响 VS Code 输入体验。7. 常见问题排查7.1 Continue 无法识别模型执行systemctl status ollama ollama list确认Ollama 服务处于active (running)模型已成功下载config.yaml中的模型名与ollama list输出完全一致YAML 缩进正确修改配置后已经重载 VS Code。7.2 连接 Ollama 失败检查本地端口ss-lntp|grep11434检查 APIcurlhttp://127.0.0.1:11434/api/tags若服务异常重启sudosystemctl restart ollama并查看日志journalctl-uollama-n100--no-pager7.3 模型响应较慢CPU 推理慢是正常现象可按以下顺序优化自动补全改用qwen2.5-coder:1.5b对话模型使用qwen2.5-coder:7b避免使用超大模型关闭其他占用内存较高的应用减少一次提交给模型的代码和日志长度对大型工程先限定问题范围例如指定文件、函数或模块。7.4 内存不足或系统卡顿检查系统内存free-h检查模型运行状态ollamaps建议不同时运行多个大模型编码时优先运行1.5b补全模型需要深度分析时再启动7b对话模型不建议在当前硬件上长期运行 14B 以上模型。8. 可选允许局域网其他设备访问 Ollama默认 Ollama 仅监听本机地址127.0.0.1这是更安全的默认配置。仅当确实需要让其他设备或远程 VS Code 访问时才进行以下设置。创建 systemd 覆盖配置sudosystemctl edit ollama写入[Service] EnvironmentOLLAMA_HOST0.0.0.0:11434重载并重启服务sudosystemctl daemon-reloadsudosystemctl restart ollama确认监听地址ss-lntp|grep11434如果启用了 UFW 防火墙并且只希望某台局域网主机访问可限制来源 IPsudoufw allow from客户端IP地址to any port11434proto tcp不建议直接把11434端口暴露到公网。若必须远程使用优先采用 SSH 隧道、VPN 或反向代理认证方案。9. 最终检查清单ollama --version能正常执行systemctl status ollama显示active (running)ollama list可查看已下载模型已下载qwen2.5-coder:7b已下载qwen2.5-coder:1.5bVS Code 已安装 ContinueContinue 配置中的模型名与ollama list一致Continue Chat 可正常回答问题Continue 可完成选中代码编辑Tab 自动补全响应正常。10. 参考链接Ollama 官网https://ollama.com/Ollama 模型库https://ollama.com/libraryContinue 官方文档https://docs.continue.dev/Continue 使用 Ollama 指南https://docs.continue.dev/guides/ollama-guide