OllamaMQ(github.com)

1 pointsby chleba5 เดือนที่ผ่านมา1 comments

https://github.com/Chleba/ollamaMQ

1 comments

chleba5 เดือนที่ผ่านมา

High-performance Ollama proxy with per-user fair-share queuing, round-robin scheduling, and a real-time TUI dashboard. Built in Rust.