Două proiecte, un singur template
De ce să găzduiești singur Ollama și Open WebUI
Ollama trage modele deschise și le servește în spatele unui API local. O singură comandă pornește Llama, Qwen, Gemma, DeepSeek sau gpt-oss. Endpointul de pe portul 11434 vorbește formatul OpenAI, așa că mai tot codul de client existent se îndreaptă spre el doar cu o schimbare de URL. Proiectul are licență MIT.
Open WebUI este interfața de chat care vine în același template. Se ocupă de autentificări, de încărcarea documentelor pentru RAG și de permisiunile pe grupuri. Vorbește și cu orice backend compatibil OpenAI, deci nu trebuie ca Ollama să fie singurul lucru din spate. Rulându-le pe amândouă pe propriul tău VPS, prompturile, documentele încărcate și greutățile modelelor rămân pe un disc pe care îl închiriezi tu, nu pe al vreunui furnizor.