Interfață AI proprie cu Open WebUI pe serverul tău

Az Open WebUI egy nyílt forráskódú webes felület AI modellekhez (LLM). Úgy néz ki, mint a ChatGPT, de az Ön saját szerverén fut. Támogatja a helyi modelleket Ollamán keresztül (Llama, Mistral, Gemma) és a cloud modelleket az OpenAI vagy Anthropic API-n keresztül.

Bármely Ollama-kompatibilis modell: Llama 3.1/3.3, Mistral, Gemma, Phi-3, Qwen, DeepSeek és sok más. A modelleket közvetlenül az Open WebUI felületről töltheti le. A nagyobb modellek több RAM-ot igényelnek — a Pro csomag (16 GB) 13B-s modelleket enged, a Business csomag (32 GB) 30B+ modelleket támogat.

Igen. Az Open WebUI natívan támogatja az OpenAI és Anthropic API-kat. Adja hozzá az API-kulcsot a beállításokban, és hozzáfér a GPT-4o-hoz, a Claude-hoz vagy bármely más cloud modellhez — ugyanabból a felületről, a helyi modellek mellett.

Ha helyi Ollama modelleket használ, abszolút senki más nem látja a beszélgetéseket — még a HostX sem. A forgalom az Ön szerverén marad. Ha az OpenAI API-t csatlakoztatja, a beszélgetések áthaladnak az ő szerverein (az OpenAI ToS szerint).

Igen. Az Open WebUI szerepkör-alapú fiókrendszerrel rendelkezik (Admin, User). Minden kollégának saját fiókot hoz létre, saját beszélgetési előzményekkel és konfigurációkkal. Mindenki osztozik a VPS erőforrásain.

A modell méretétől függ. A 7B modellek (Mistral 7B, Llama 3.2 8B) kényelmesen futnak a Standard csomagon (8 GB RAM). A 13B modellekhez legalább 16 GB kell (Pro csomag). A 32 GB RAM-mal rendelkező Business csomag 30B+ modelleket támogat.