Tổng quan sản phẩm
Libre WebUI đưa các mô hình cục bộ và đám mây vào một không gian làm việc tự lưu trữ duy nhất dành cho trò chuyện, hành động, bằng chứng, cộng tác và sáng tạo. Bắt đầu bằng một cuộc trò chuyện đơn giản. Chỉ thêm những khả năng mà công việc của bạn cần.
Truyền trực tiếp một câu trả lời đơn giản hoặc tiếp tục một công việc dài qua nhiều mô hình. Libre giữ cuộc trò chuyện dễ theo dõi, đồng thời hiển thị những điều khiển thực sự thay đổi nội dung mô hình nhìn thấy và cách mô hình phản hồi.
Ollama là đường dẫn cục bộ trực tiếp, không bắt buộc có tài khoản đám mây. Kết nối nhà cung cấp bổ sung các dịch vụ trò chuyện, hình ảnh, video, embedding và giọng nói được lưu trữ mà không gộp chúng vào một backend thiếu minh bạch.
Làm việc với mô hìnhXếp hàng câu hỏi tiếp theo trong khi đang truyền phản hồi, so sánh nhiều mô hình với cùng một câu lệnh, phân nhánh toàn bộ cuộc trò chuyện, rồi dùng đồng hồ ngữ cảnh và tính năng nén có thể hoàn tác để giữ các cuộc trò chuyện dài trong cửa sổ mô hình.
Khám phá các mẹo nâng caoToken API có phạm vi cung cấp danh sách mô hình và hoàn thành trò chuyện phi trạng thái qua giao diện /v1 tương thích OpenAI. Trò chuyện có trạng thái, công cụ và kiến thức vẫn nằm trên API sự kiện gốc của Libre.
Xem ranh giới APIKiến thức, công cụ, câu lệnh và kỹ năng là những khối xây dựng riêng biệt. Kết hợp chính xác những gì trợ lý cần thấy, rồi đặt các tác dụng phụ sau một quyết định rõ ràng.
Mô hình có thể gọi công cụ tích hợp, thao tác OpenAPI đã ghim hoặc công cụ Streamable HTTP MCP qua nhiều vòng. Công việc chỉ đọc có thể tiếp tục; tác dụng phụ sẽ tạm dừng để chờ phê duyệt.
Khám phá tác nhân và công cụTruy xuất kết hợp BM25 và vectơ tìm các thuật ngữ chính xác và kết quả khớp ngữ nghĩa, với trích dẫn đến tận trang PDF, trang chiếu thuyết trình, trang tính bảng tính hoặc phần Markdown.
Khám phá kiến thứcHồ sơ trợ lý có thể liên kết mô hình, câu lệnh, công cụ, kỹ năng chỉ tải khi cần, bộ sưu tập kiến thức và giọng nói. Quyền được kiểm tra lại mỗi khi hồ sơ được sử dụng.
Hồ sơ trợ lýLộ trình cá nhân vẫn gọn nhẹ. Triển khai nhóm bổ sung khả năng lưu trữ bền vững dùng chung, worker, điều phối và kho đối tượng—cùng các điều khiển giúp người vận hành hiểu chất lượng, chi phí và tình trạng hệ thống.
Chạy cục bộ với SQLite và worker nhúng, hoặc dùng PostgreSQL, Redis, kho lưu trữ tương thích S3 và worker bên ngoài cho một triển khai dùng chung có nhiều bản sao.
Khám phá nền tảngBiểu giá mô hình có phiên bản chuyển mức sử dụng do nhà cung cấp báo cáo thành phân tích chi phí. Ngân sách cảnh báo và chặn sẽ từ chối lượt tạo tương tác mới khi chi tiêu được theo dõi đạt giới hạn kỳ.
Chi phí và ngân sáchThu thập phản hồi tin nhắn, tổ chức đối đầu mô hình ẩn danh với bảng xếp hạng Elo và chạy các bộ đánh giá đã lưu qua quy trình do quản trị viên quản lý.
Nền tảng đánh giá