oMLX 菜单栏应用完全指南：一键启动、停止与实时监控

oMLX 菜单栏应用完全指南一键启动、停止与实时监控【免费下载链接】omlxLLM inference server with continuous batching SSD caching for Apple Silicon — managed from the macOS menu bar项目地址: https://gitcode.com/GitHub_Trending/om/omlxoMLX 是专为 Apple Silicon 打造的本地 LLM 推理服务器支持连续批处理与 SSD 分级缓存而其 macOS 菜单栏应用让你无需打开终端就能完成服务器的启动、停止与性能监控。无论你是用 Claude Code 写代码还是连接 OpenCode、Copilot 等工具这个常驻菜单栏的小企鹅都能帮你把本地 AI 管得明明白白。5 分钟装好 oMLX零命令行安装从发行版页面下载 oMLX 的.dmg安装包双击后把应用拖入「应用程序」文件夹全程无终端命令启动应用它会常驻在 macOS 菜单栏图标为一个小企鹅图标同时安装了一个轻量 CLI 垫片Apple Shortcuts 等场景同样可控应用内置自动更新机制以后升级只需在菜单栏点一下不需要重新下载 首次启动前无需安装 Python 环境应用已内置运行所需的依赖层。首次设置向导三步完成初始配置首次启动会打开欢迎向导按三步走即可完成全部初始配置选位置设定基础目录默认~/.omlx和模型目录下载好的 MLX 模型放在哪都能用设端口默认 8000仅当端口被占用时才需要修改服务器默认绑定127.0.0.1只在本地生效不会暴露到网络建密钥生成一个 API Key至少 4 位字符它同时就是 Web 管理面板的登录密码点 Start Server向导会自动创建目录、写入~/.omlx/settings.json配置并拉起服务器成功后直接打开 Web 面板下载第一个模型菜单栏就是控制台启动与停止服务点击菜单栏图标下拉菜单顶部就是彩色状态头状态颜色可操作的按钮running运行中绿色Stop Serverstarting / stopping蓝色 / 橙色等待中按钮短暂禁用stopped已停止灰色Start Serverunresponsive / failed橙色 / 红色Force Restart强制重启几个实用的细节服务器运行中时菜单栏图标从空心变为实心扫一眼就知道状态服务意外卡死时会出现Force Restart选项崩溃还会自动重启端口被占用会弹出明确告警甚至告诉你占用者的 PID去「Settings」换个端口即可启动失败时对话框里可以直接Open Log查看日志或一键打开设置界面修正Serving Stats 与实时速度吞吐量一眼看穿菜单栏里有两个「监控神器」Serving Stats 子菜单——悬停展开即可看到Live Activity当前正在处理的请求详情Session本会话总 Token 数、缓存命中 Token、缓存效率百分比、平均 PP预填充速度与 TG解码速度All-Time历史累计统计持久保存在本地重启服务后依旧保留LIV / AVG / ALL 菜单栏指标项可在外观设置中开启——直接在菜单栏旁显示实时吞吐点击弹出迷你趋势图无需点开任何窗口就能判断「机器现在忙不忙」。系统级监控CPU、GPU、内存与日志System Stats 子菜单内置 CPU、GPU、内存三块实时面板展开即刷新判断推理是否跑满硬件一目了然Logs 界面在「Settings…」快捷键Cmd ,打开的原生窗口里侧边栏包含 Server、Status、Network、Performance、Logs 等十余个分区日志流式可读Web 面板菜单里的Open Web Dashboard会带自动登录打开浏览器管理面板Chat with oMLX则直达内置聊天界面适合快速验证模型是否正常工作常见问题速查端口冲突、卡死与更新端口冲突启动时提示Port 8000 is in use——在 Settings 中修改端口或先结束占用进程服务卡死状态头变为橙色 unresponsive直接点Force Restart统计会自动恢复历史数据不受影响想彻底退出只有菜单栏的Quit oMLXCmd Q会真正结束应用关闭窗口只是隐藏服务器继续后台运行有新版本菜单会自动出现Install oMLX x.x.x…下载进度实时显示一键完成升级想改更多参数~/.omlx/settings.json保存着全部服务器配置Web 面板与原生设置窗口改的任何东西都会即时生效、无需重启 想了解实现细节菜单栏逻辑在 apps/omlx-mac/Sources/Menubar/菜单结构见 MenubarController.swift欢迎向导在 WelcomeWindow.swift指标开关定义在 MenubarMetricPrefs.swift完整架构说明参见 README.md。【免费下载链接】omlxLLM inference server with continuous batching SSD caching for Apple Silicon — managed from the macOS menu bar项目地址: https://gitcode.com/GitHub_Trending/om/omlx创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考