想本地运行时就本地运行,需要连接时再连接。
Ollama 提供直接的本地路径,无需云端账户。服务商连接可添加托管的聊天、图像、视频、embedding 和语音服务,而不会把它们折叠进一个不透明的 backend。
使用模型可以流式获取简单答案,也可以跨多个模型持续完成长期工作。Libre 让对话保持清晰,同时展示那些会实质改变模型所见内容和回答方式的控制项。
Ollama 提供直接的本地路径,无需云端账户。服务商连接可添加托管的聊天、图像、视频、embedding 和语音服务,而不会把它们折叠进一个不透明的 backend。
使用模型在流式生成期间将后续问题加入队列,用同一提示词比较多个模型,为完整对话创建分支,并使用上下文计量器和可撤销压缩,让长对话保持在模型窗口内。
探索高级技巧限定 scope 的 API token 可在 OpenAI 兼容的 /v1 接口上提供模型列表和无状态聊天补全。有状态聊天、工具和知识仍使用 Libre 原生事件 API。
查看 API 边界知识、工具、提示词和技能是彼此独立的构件。精确组合助手应看到的内容,再把副作用置于清晰可见的决策之后。
solo 路径保持轻量。team 部署增加共享持久化、worker、协调和对象存储,以及运维人员理解质量、成本和健康状态所需的控制能力。