Semantica接入9大LLM提供商全解：OpenAI/Anthropic/Gemini/Groq/Ollama配置指南

Semantica接入9大LLM提供商全解OpenAI/Anthropic/Gemini/Groq/Ollama配置指南【免费下载链接】semanticaGraph-Native Infrastructure for Context and Accountable AI Systems项目地址: https://gitcode.com/GitHub_Trending/sema/semanticaSemantica语义化知识图谱平台的semantica.llms模块提供了统一的 LLM 提供商接口让你用一套代码接入 OpenAI、Anthropic Claude、Gemini、Groq、Ollama、DeepSeek、Azure、AWS Bedrock 和 HuggingFace 共 9 大 LLM 提供商——换提供商只需改一行代码无需重写应用逻辑。为什么选择 Semantica 的统一 LLM 接口新手最头疼的问题每家大模型厂商的 SDK 都不一样换一家就要重写一堆调用代码。Semantica 用同一个LLMProvider接口解决了这个问题✅一行切换llm_provider参数接受任意提供商即插即用✅统一方法所有提供商都实现相同的.generate()接口✅本地免费HuggingFaceLLM 完全本地运行无需 API Key、无需联网✅企业网关OpenAI类可通过base_url指向任意兼容 OpenAI 协议的私有部署核心源码位于 semantica/llms/ 目录官方文档详见 docs/reference/llms.md。一分钟完成 LLM 提供商安装Semantica 采用extras 按需安装机制装哪个提供商就装哪个依赖pip install semantica[llm-all] # 一次安装全部提供商 pip install semantica[llm-openai] # 只装 OpenAI pip install semantica[llm-anthropic] # 只装 Anthropic pip install semantica[llm-gemini] # 只装 Gemini pip install semantica[llm-groq] # 只装 Groq pip install semantica[llm-ollama] # 只装 Ollama本地完整的依赖声明可在 pyproject.toml 中查看安装说明详见 docs/installation.md。9 大提供商配置速查表提供商接入类API Key 环境变量上下文最适合OpenAIOpenAIOPENAI_API_KEY128k生产级抽取、函数调用AnthropicLiteLLMANTHROPIC_API_KEY200k复杂推理、长文档GeminiLiteLLMGOOGLE_API_KEY1M超长上下文、多模态GroqGroqGROQ_API_KEY128k极速推理、高吞吐OllamaLiteLLM无需本地视模型隐私优先、离线部署DeepSeekLiteLLMDEEPSEEK_API_KEY64k高性价比大批量任务Azure OpenAILiteLLMAZURE_API_KEY128k企业合规场景AWS BedrockLiteLLMAWS 凭据视模型AWS 原生工作负载HuggingFaceHuggingFaceLLM无需本地视模型自定义模型、自带模型选型口诀要快选 Groq要准选 OpenAI/Claude省钱选 DeepSeek保密选 Ollama/HuggingFace长文选 Gemini。OpenAI 与 Groq最常用的两个直连提供商OpenAI 和 Groq 拥有独立封装类源码semantica/llms/openai.py、semantica/llms/groq.py配置最直接import os from semantica.llms import OpenAI, Groq llm OpenAI(modelgpt-4o, api_keyos.getenv(OPENAI_API_KEY), temperature0.0) llm Groq(modelllama-3.3-70b-versatile, api_keyos.getenv(GROQ_API_KEY)) response llm.generate(Explain GraphRAG in one paragraph.)⚠️注意不显式传model时会使用实现默认值OpenAI 为gpt-3.5-turbo、Groq 为llama-3.1-8b-instant生产环境请始终显式指定模型以保证结果可复现。Anthropic / Gemini / Ollama通过 LiteLLM 一个类接入Anthropic、Gemini、Ollama、DeepSeek、Azure、Bedrock 等全部走LiteLLM统一入口源码semantica/llms/litellm.py只需记住一个模式LiteLLM(model提供商/模型名)。import os from semantica.llms import LiteLLM # Anthropic Claude —— 最强推理 llm LiteLLM(modelanthropic/claude-sonnet-4-20250514, api_keyos.getenv(ANTHROPIC_API_KEY)) # Google Gemini —— 百万级长上下文 llm LiteLLM(modelgemini/gemini-1.5-pro, api_keyos.getenv(GOOGLE_API_KEY)) # Ollama 本地模型 —— 零 API Key llm LiteLLM(modelollama/llama3.2:3b, api_basehttp://localhost:11434)Ollama 本地部署三步走安装并启动 Ollama拉取模型ollama pull llama3.2:3b确认服务在运行默认端口 11434用上面的LiteLLM代码即可数据完全不出内网 API Key 安全配置最佳实践环境变量优先在.bashrc/.zshrc中export OPENAI_API_KEY...后重载 shell代码里用os.getenv()读取配置文件方式在config.yaml中声明llm_provider的name、model、temperature参考 cookbook/introduction/config.yaml绝不硬编码API Key 写死在代码里再提交到版本库是常见事故请一律走环境变量或密钥管理服务把 LLM 接入实体抽取三步上手配好的 LLM 可以直接传给所有抽取器NER、关系、三元组from semantica.semantic_extract import NERExtractor, RelationExtractor from semantica.llms import Groq llm Groq(modelllama-3.3-70b-versatile, api_keyos.getenv(GROQ_API_KEY)) ner NERExtractor(methodllm, llm_providerllm, max_retries3)设置max_retries3可自动重试限流和瞬时错误适合大批量文本处理。模块说明见 semantica/semantic_extract/用法文档见 docs/reference/semantic_extract.md。场景化模型推荐清单 使用场景推荐提供商理由实体抽取Groq llama-3.3-70b速度快、结构化任务准确关系抽取OpenAI gpt-4o复杂关系推理最强复杂分析Anthropic claude-sonnet多跳推理能力最高大批量低成本DeepSeek deepseek-chat单 Token 成本最低私有化/离线Ollama / HuggingFaceLLM数据零外发常见问题FAQQ报错 litellm library not installed 怎么办A执行pip install semantica[llm-litellm]安装依赖即可。Q如何接入公司内部的模型网关A用OpenAI类并传入base_url指向你的网关地址。注意base_url仅允许 HTTP(S)非标准协议会抛出ValueError以防止 SSRF 攻击。Q如何验证提供商是否可用A任何实例都提供.is_available()方法调用失败时如未设 Key会抛出ProcessingError并给出明确提示。总结Semantica 的 LLM 模块让换大模型从重写代码变成改一行参数直连 OpenAI/Groq/HuggingFace 用专属类其余 6 家提供商通过LiteLLM的提供商/模型名格式统一接入。按场景选型、显式指定模型、Key 走环境变量——记住这三点你的知识图谱抽取流水线就能稳定跑在任意 LLM 之上。延伸阅读docs/guides/llm-integrations.md · docs/reference/llms.md · 提供商源码 semantica/llms/【免费下载链接】semanticaGraph-Native Infrastructure for Context and Accountable AI Systems项目地址: https://gitcode.com/GitHub_Trending/sema/semantica创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考