搭建家庭聊天服务器并通过手机管理账户

我有一台家庭服务器,通过 llama.cpp 运行 Qwen3.6-35B-A3B,并使用 Open WebUI 作为用户界面。我的青少年对 AI 兴趣不大,但每当他们感到好奇时,可以在家庭网络上使用自己的账户。任务:用户在家庭服务器上通过 llama.cpp 部署了 Qwen3.6-35B-A3B,并使用 Open WebUI 作为界面,为包括青少年在内的家庭成员提供聊天服务。一个由同一本地模型驱动的 Hermes 代理通过手机完成了服务器设置和账户管理。作者因控制力、隐私及运行无审查临时模型的能力,更倾向于在个人场景使用本地模型。;工具:Hermes Agent。人工角色:原始帖子没有说明人如何参与。;局限:运行本地模型需要大量硬件资源;作者指出性能因设备而异(例如 M3 Max 约 55 tokens/秒,RTX 4090 约 190 tokens/秒)。在共享本地服务器上,父母访问青少年对话存在隐私争议。该设置涉及代理和服务器软件的手动配置,需要一定的技术能力。。

工具

Hermes Agent

Agent Work Atlas 发布日期:

概述

我有一台家庭服务器,通过 llama.cpp 运行 Qwen3.6-35B-A3B,并使用 Open WebUI 作为用户界面。我的青少年对 AI 兴趣不大,但每当他们感到好奇时,可以在家庭网络上使用自己的账户。

工作流程

用户在家庭服务器上通过 llama.cpp 部署了 Qwen3.6-35B-A3B,并使用 Open WebUI 作为界面,为包括青少年在内的家庭成员提供聊天服务。一个由同一本地模型驱动的 Hermes 代理通过手机完成了服务器设置和账户管理。作者因控制力、隐私及运行无审查临时模型的能力,更倾向于在个人场景使用本地模型。

原文报告的结果

原文未报告具体的测量结果、性能指标或特定故障。作者主观表示在个人任务中更偏好本地模型而非付费订阅,主要基于定制化和隐私优势。未提供关于使用频率或错误率的量化数据。

人工角色

原始帖子没有说明人如何参与。

局限

运行本地模型需要大量硬件资源;作者指出性能因设备而异(例如 M3 Max 约 55 tokens/秒,RTX 4090 约 190 tokens/秒)。在共享本地服务器上,父母访问青少年对话存在隐私争议。该设置涉及代理和服务器软件的手动配置,需要一定的技术能力。

试一试

我想使用 llama.cpp 和 Open WebUI 在本地搭建一个基于 Qwen3.6-35B-A3B 的家庭 AI 聊天服务器。目标是为家庭成员(包括青少年)提供私密、无审查的聊天界面,同时通过手机使用 Hermes 代理管理服务器配置和用户账户。 请指导我完成以下步骤: 1. 验证我的硬件是否满足本地运行 Qwen3.6-35B-A3B 的要求(检查 RAM/GPU 规格)。 2. 提供安装 llama.cpp 和 Open WebUI 的确切命令。 3. 解释如何配置 Hermes 代理,以便通过移动界面处理账户创建和服务器管理任务。 4. 为我的青少年设置一个独立的用户账户,如有需要限制访问权限,并确保隐私边界清晰。 5. 运行一个示例聊天会话以测试延迟和响应质量。 在最终确定设置之前,请向我展示配置文件和账户权限供我审查。未经我明确确认,不要将服务器发布或共享到外部。如果任何步骤失败,请提供错误日志和建议的修复方案。

原始来源

来源报告未经独立核验。发布日期为本站案例发布日期,并非原始文章日期。

更多同类案例 · 生活事务