TextGen本地大模型快速部署，浏览器打开即用

TextGen本地大模型快速部署浏览器打开即用【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen本地大模型难上手Text Generation Web UI 是一款开源本地大模型界面集成对话、视觉理解与工具调用100% 离线私有运行三步就能跑起来。三步完成部署克隆仓库打开终端执行git clone https://gitcode.com/GitHub_Trending/te/text-generation-webui运行启动脚本按系统选择——Windows 执行start_windows.batLinux 执行./start_linux.shmacOS 执行./start_macos.sh按提示选择显卡厂商即可。启动服务即用安装完成后运行python server.py浏览器打开 http://127.0.0.1:7860 开始对话。功能亮点 角色系统定制你的专属对话伙伴想让模型按特定人设说话创建角色就行。在 user_data/characters/ 下放置配置文件定义它的性格、语气和回应方式。随时切换角色对话风格立刻改变。工具调用模型能上网搜索和使用工具需要模型不只聊天、还能执行动作内置工具调用开箱即用。搜网页、抓页面、算数学、掷骰子每个工具只需一个.py文件也支持 MCP 服务器。OpenAI 兼容 API本地替代服务想用本地模型接入现有脚本无需改代码。它提供 OpenAI/Anthropic 兼容端点把请求指向127.0.0.1:7860原有代码直接跑通。定制与调优方案怎么选量化默认用 GGUFllama.cpp免额外安装追求更高速度可切换 ExLlamaV3 或 TensorRT-LLM模型放置模型文件丢进user_data/models/界面自动识别参数预设user_data/presets/ 里保存采样风格一键切换LoRA 微调支持多轮对话与纯文本数据集中断的训练可断点续训生态与扩展coqui_tts把角色对话合成为语音silero_tts轻量级语音合成whisper_stt语音输入自动转文字superboogav2接入私有知识库做 RAG 问答sd_api_pictures连 Stable Diffusion API 生成图片google_translate对话中即时翻译全部扩展见 extensions/ 目录。常见疑问速答Q模型文件从哪里来、放哪里A下载 GGUF 格式文件放进user_data/models/目录界面自动检测无需其他操作。Q使用过程需要联网吗A不需要。全程 100% 离线无遥测、无外部资源请求数据不出本机。Q各标签页功能在哪查Adocs/ 目录下有逐页教程从「01 - Chat Tab」读起即可。部署完成后把模型丢进指定目录打开浏览器本地大模型就是你的了。【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考