Install Open WebUI dan Ollama di Ubuntu 24.04 untuk Menjalankan Web Chat DeepSeek di VPS

Menjalankan ai chat bot di VPS sendiri sepertinya seru dan bisa di coba untuk experiment. Pada kesempatan kali ini kita akan menjalankan VPS DeepSeek AI dan disertai dengan feature web chat yang bisa di akses di alamat http://chat.yourdomain.com seperti provider AI ternama.

Yang di perlukan untuk menjalankan itu semua tentu saja sebuah dedicated server atau VPS dengan spek yang semakin tinggi semakin baik, karena untuk sekelas AI membutuhkan spek server yang mumpuni, saat ini saya akan menjalankan di VPS https://s.id/vpsindo jika belum memiliki vps bisa daftar di link berikut https://s.id/vpsindo spek vps yang saya gunakan adalah sbb:

Seharusnya untuk menjalankan server AI membutuhkan GPU agar pemrosesan data nya menjadi lebih cepat. Tetapi sebagai gambaran kita bisa gunakan CPU base saja ya.

Install Docker

# Add Docker's official GPG key:
sudo apt-get update
sudo apt-get install ca-certificates curl
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc

# Add the repository to Apt sources:
echo \
  "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
  $(. /etc/os-release && echo "${UBUNTU_CODENAME:-$VERSION_CODENAME}") stable" | \
  sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt-get update

Install Docker Packages

 sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

Install Ollama dan OpenWebUI

Installing Open WebUI with Bundled Ollama Support

Cara termudah install Ollama dan Open WebUI:

• NVidia GPU and CUDA Support: gunakan command berikut:

sudo docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

• GPU Support: Utilize GPU resources dengan command berikut:

sudo docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

• CPU Only: jika VPS kita tidak menggunakan GPU:

sudo docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

Pastikan docker running :

$ sudo docker ps

Akses Web Chat

Buka browser dan buka

http://chat.yourdomain.com:3000 atau http://ipserver:3000 

Panduan detail bisa di cek di video berikut. Selamat Mencoba