LIBRE / Platform Deployment dan operasi Batasan yang disengaja

Platform

Mulai di satu mesin. Berkembanglah secara terencana.

Libre menjaga jalur default yang mengutamakan lokal tetap ringkas, lalu memperkenalkan infrastruktur bersama sebagai profil tim yang eksplisit. Biaya, kualitas, log, telemetri, cadangan, dan bukti failover menjadi bagian utama dalam pengoperasian sistem.

Profil runtime eksplisit
Solo + tim
Ekspor OpenTelemetry
Sesuai pilihan
Latihan failover rilis
3 replika
01 Profil

Gunakan infrastruktur yang benar-benar dibutuhkan deployment.

Solo dan tim merupakan profil operasi yang utuh, bukan rentang tersembunyi. Proses mulai memvalidasi bentuk yang dipilih agar status bersama yang setengah dikonfigurasi tidak diam-diam terpecah di antara backend.

01.1 Solo

SQLite, berkas lokal, pekerjaan tertanam.

Profil default melayani instalasi satu node dengan persistensi SQLite, penyimpanan blob lokal, dan worker persisten tertanam—jalur langsung untuk deployment pribadi dan skala kecil.

01.2 Tim

Status bersama di antara replika dan worker.

Profil tim menggunakan PostgreSQL, koordinasi Redis, penyimpanan blob terenkripsi yang kompatibel dengan S3, pencarian vektor, dan worker persisten eksternal, dengan jalur deployment Docker Compose dan Helm.

01.3 Migrasi

Beralih dari solo melalui alur kerja terpaket.

CLI migrasi menginventarisasi dan menyalin instalasi SQLite yang ada ke profil tim dengan checkpoint dan langkah penerapan yang dapat dilanjutkan.

02 Ketahanan + ketersediaan

Perlakukan pekerjaan sebagai status yang dapat dipulihkan, bukan koneksi yang kebetulan bertahan.

Operasi percakapan dan media yang berjalan lama menggunakan pekerjaan persisten dan peristiwa yang dapat diputar ulang. Profil tim memperluas model tersebut ke seluruh replika aplikasi dan worker eksternal.

02.1 Pekerjaan persisten

Lanjutkan aliran dan pulihkan pekerjaan yang telah diterima.

Respons direkam selama dialirkan, pembatalan mencapai permintaan upstream, dan pekerjaan yang diterima dapat pulih setelah kegagalan proses alih-alih menghilang bersama satu koneksi.

02.2 HA yang diuji dalam rilis

Uji bentuk tiga replika yang sebenarnya.

Gerbang rilis menjalankan latihan tiga replika yang mencakup kelanjutan aliran, kegagalan worker, fallback saat Redis terputus, pencabutan, batas laju, penghapusan objek, dan penjadwalan terkoordinasi.

02.3 Kendali Helm

Referensikan rahasia dan persempit jalur jaringan.

Chart dapat mereferensikan Secret yang ada dan secara opsional memasang NetworkPolicy untuk aplikasi dan worker. Penerapan kebijakan tetap bergantung pada CNI klaster.

03 Biaya + kualitas

Ukur biaya model dan kinerjanya.

Operasi bukan hanya waktu aktif. Libre memberi administrator alat untuk memahami penggunaan yang dilaporkan penyedia, mengendalikan pengeluaran, dan membandingkan kualitas keluaran dengan bukti yang dapat diulang.

03.1 Tarif

Buat versi harga alih-alih menulis ulang riwayat.

Tarif input dan output per model mulai berlaku pada waktu yang dipilih. Penggunaan historis mempertahankan revisi tarif yang menghitung harganya, dan penggunaan penyedia yang tidak dilaporkan tidak direka.

Tarif
03.2 Anggaran

Beri peringatan selama perjalanan dan berhenti di batas.

Anggaran dapat mengamati, memperingatkan, atau memblokir. Mode peringatan dan pemblokiran menolak generasi interaktif baru saat pengeluaran yang di-cache singkat mencapai batas; otomatisasi terjadwal tetap diukur tetapi tidak diblokir.

Anggaran
03.3 Evaluasi

Gabungkan umpan balik, pertarungan buta, dan eksekusi tersimpan.

Umpan balik pesan merekam penilaian dan topik, arena menghitung papan peringkat Elo dari suara buta, dan set tersimpan membuat eksekusi evaluasi dapat direproduksi.

Evaluasi
04 Operasikan + pulihkan

Amati tanpa mengekspor diam-diam.

Log, telemetri, catatan keamanan, dan alat pemulihan merupakan permukaan terpisah dengan batas data yang eksplisit.

04.1 Log + telemetri

Terstruktur secara lokal; diekspor hanya saat dikonfigurasi.

Log JSON mencakup pengenal korelasi dan penyuntingan rahasia. Menetapkan endpoint OTLP/HTTP memilih penggunaan span OpenTelemetry untuk permintaan dan pekerjaan persisten; membiarkannya tidak ditetapkan tidak mengekspor apa pun.

Pengaturan observabilitas
04.2 Keamanan

Sesi, cakupan, SSO, grup, dan jejak audit.

Sesi yang dapat dicabut, token bercakupan yang di-hash, OIDC generik, keanggotaan grup langsung, otorisasi terpusat, dan log audit keamanan hanya-tambah yang disunting membentuk batas akun.

Autentikasi dan keamanan
04.3 Pemulihan

Inventarisasi, cadangkan, verifikasi, dan pulihkan.

Perintah pemeliharaan terpaket membuat cadangan bertanda tangan dan dapat diverifikasi untuk profil solo dan tim. Inventaris pemulihan melaporkan status yang ada dan penghambat sebelum snapshot dimulai.

Kesiapan pemulihan