NVIDIA GPU sunucusuna ComfyUI'ı güvenli şekilde kurma

ComfyUI, difüzyon modelleri için açık kaynaklı, node tabanlı bir arayüz ve motordur: bir grafikte node'ları birbirine bağlayarak görsel, video ve ses üretim hatları kurar, bunları iş akışı (workflow) olarak kaydeder ve GPU'nuzda çalıştırırsınız. Bu rehber ComfyUI'ı resmi depodan, bir Python sanal ortamına PyTorch'un CUDA derlemesiyle kurar, kendi kullanıcısıyla bir systemd servisi olarak çalıştırır ve ComfyUI'da yerleşik kimlik doğrulaması olmadığı için onu 127.0.0.1 üzerinde tutar. Ardından ona bir SSH tüneliyle veya HTTPS ve parola kullanan Caddy üzerinden erişir, modelleri ve ComfyUI-Manager'ı ekler, yedekleme, güncelleme ve sorun gidermeyi öğrenirsiniz.

Adım 1 — NVIDIA sürücüsünü kurun

Sürücüyü NVIDIA'nın sürücü kurulum rehberinde anlatıldığı gibi NVIDIA'nın ağ deposundan kurun. Debian'da rehber ayrıca contrib bileşenini ister ve bunu Debian 13'te artık bulunmayan add-apt-repository ile etkinleştirir; bu yüzden önce APT kaynaklarınızda main yanına contrib ekleyin (/etc/apt/sources.list.d/debian.sources içindeki Components: satırına veya /etc/apt/sources.list içindeki deb satırlarına):

sudo apt update
sudo apt install linux-headers-$(uname -r)
distro=ubuntu$(. /etc/os-release && echo "$VERSION_ID" | tr -d .)
wget https://developer.download.nvidia.com/compute/cuda/repos/$distro/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt update
sudo apt install nvidia-open
sudo reboot

sudo apt update
sudo apt install linux-headers-$(uname -r)
distro=debian$(. /etc/os-release && echo "$VERSION_ID")
wget https://developer.download.nvidia.com/compute/cuda/repos/$distro/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt update
sudo apt -V install nvidia-open
sudo reboot

Yeniden başlatmadan sonra nvidia-smi GPU'nuzu listelemelidir. Başlık satırı sürücünün desteklediği en yüksek CUDA sürümünü gösterir; README'deki PyTorch derlemesi (cu130), CUDA 13.0'ı destekleyen bir sürücü ister.

Adım 2 — Servis kullanıcısını oluşturun ve sistem paketlerini kurun

ComfyUI root yetkisine ihtiyaç duymaz. Ev dizini kurulumu barındıran ayrı bir sistem kullanıcısı oluşturun ve Git ile Python sanal ortam desteğini kurun:

sudo apt install git python3 python3-venv python3-pip
sudo useradd --system --create-home --home-dir /opt/comfyui --shell /usr/sbin/nologin comfyui

comfyui kullanıcısının giriş kabuğu ve parolası yoktur. Komutları bu kullanıcıyla sudo -u comfyui aracılığıyla çalıştırırsınız; böylece oluşturduğu her dosyanın sahibi servis hesabı olur.

Adım 3 — ComfyUI'ı ve PyTorch'u kurun

comfyui kullanıcısıyla bir kabuk açın, depoyu klonlayın, bir sanal ortam oluşturun ve PyTorch'u README'deki komutla, ardından ComfyUI gereksinimlerini kurun:

sudo -u comfyui -H bash
cd /opt/comfyui
git clone https://github.com/Comfy-Org/ComfyUI.git
python3 -m venv /opt/comfyui/venv
source /opt/comfyui/venv/bin/activate
pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu130
cd ComfyUI
pip install -r requirements.txt
python -c "import torch; print(torch.__version__, torch.cuda.is_available())"

Son komut PyTorch sürümünü ve ardından True yazmalıdır. False yazıyorsa devam etmeden önce Sorun giderme bölümüne bakın. README'deki taşınabilir derlemeler NVIDIA 10 serisi ve daha eski GPU'lar için CUDA 12.6 kullanır; bu tür kartlarda PyTorch'u cu130 yerine cu126 dizininden kurun.

Adım 4 — SSH tüneli üzerinden ilk testi yapın

Sanal ortam etkinken hâlâ comfyui kabuğunda, ComfyUI'ı loopback adresinde başlatın. --listen varsayılan olarak 127.0.0.1, --port ise 8188 değerini kullanır; bunları açıkça yazmak niyeti netleştirir:

python main.py --listen 127.0.0.1 --port 8188

Log, arayüzü nerede açacağınızı söyleyen bir satırla biter. Kendi bilgisayarınızdan sunucuya bir SSH tüneli açın ve tarayıcıda http://localhost:8188 adresine gidin:

ssh -L 8188:127.0.0.1:8188 user@203.0.113.10

ComfyUI arayüzü tarayıcınızda açılır. Bir iş akışının çalışabilmesi için bir modele ihtiyacınız vardır (sonraki adım). Testi Ctrl+C ile durdurun ve comfyui kabuğundan exit ile çıkın.

Adım 5 — Model ekleyin

ComfyUI modelleri /opt/comfyui/ComfyUI/models alt klasörlerinden okur. En yaygın olanlar:

Servisin okuyabilmesi için model dosyalarını comfyui kullanıcısıyla indirin; örneğin Hugging Face'teki modelin indirme bağlantısından wget ile:

sudo -u comfyui wget -P /opt/comfyui/ComfyUI/models/checkpoints https://huggingface.co/organisation/model/resolve/main/model.safetensors

Adresi istediğiniz modelin gerçek dosya bağlantısıyla değiştirin. .safetensors dosyalarını tercih edin: bu biçim yalnızca tensörleri saklar, eski .ckpt ve .pt dosyaları ise çalıştırılabilir kod içerebilen Python pickle dosyalarıdır. Modelleri başka bir diskte tutmak için extra_model_paths.yaml.example dosyasını extra_model_paths.yaml olarak kopyalayın, base_path ve klasör eşlemelerini ayarlayın ve ComfyUI'ı yeniden başlatın.

Adım 6 — ComfyUI'ı systemd ile çalıştırın

/etc/systemd/system/comfyui.service dosyasını oluşturun:

[Unit]
Description=ComfyUI
After=network-online.target
Wants=network-online.target

[Service]
User=comfyui
Group=comfyui
WorkingDirectory=/opt/comfyui/ComfyUI
ExecStart=/opt/comfyui/venv/bin/python main.py --listen 127.0.0.1 --port 8188
Restart=on-failure
RestartSec=5

[Install]
WantedBy=multi-user.target

sudo systemctl daemon-reload
sudo systemctl enable --now comfyui
systemctl status comfyui --no-pager
curl -I http://127.0.0.1:8188

Servis active (running) durumundadır ve curl HTTP/1.1 200 OK döndürür. Logu journalctl -u comfyui -f ile izleyin. --listen seçeneğini asla adres olmadan veya 0.0.0.0 ile kullanmayın: tek başına bu seçenek ComfyUI'ın tüm IPv4 ve IPv6 adreslerinde (0.0.0.0,::) dinlemesine yol açar.

Adım 7 — Caddy ile HTTPS ve parola ekleyin

Tarayıcıdan günlük kullanım için ComfyUI'ın önüne HTTP temel kimlik doğrulamalı Caddy koyun. Bir parola özeti (hash) üretin; caddy hash-password parolayı iki kez sorar ve bir bcrypt özeti yazar:

caddy hash-password

/etc/caddy/Caddyfile dosyasına kullanıcı adınızı ve özeti içeren bir site bloğu ekleyin. Caddy, arayüzün ilerleme güncellemeleri için kullandığı WebSocket bağlantısını ek ayar gerektirmeden iletir:

comfy.example.com {
    basic_auth {
        admin $2a$14$replace-with-the-hash-from-caddy-hash-password
    }
    reverse_proxy 127.0.0.1:8188
}

Caddy'yi yeniden yükleyin ve yalnızca SSH ve web trafiğine izin verin:

sudo systemctl reload caddy
sudo ufw allow OpenSSH
sudo ufw allow 80/tcp
sudo ufw allow 443/tcp
sudo ufw enable

https://comfy.example.com adresini açın, kullanıcı adını ve parolayı girin ve bir iş akışı çalıştırın. Uzun ve benzersiz bir parola kullanın: bu ekrandan geçen herkes ComfyUI üzerinde tam denetime sahiptir.

Adım 8 — ComfyUI-Manager'ı etkinleştirin ve özel node'ları dikkatle kurun

ComfyUI-Manager, özel node'ları arayüzden kurar, günceller ve kaldırır. Güncel ComfyUI sürümleri onu manager_requirements.txt içinde listelenen bir Python paketi olarak sunar ve --enable-manager seçeneğiyle etkinleştirir:

sudo -u comfyui /opt/comfyui/venv/bin/pip install -r /opt/comfyui/ComfyUI/manager_requirements.txt

Ardından comfyui.service içindeki ExecStart satırının sonuna --enable-manager ekleyin ve sudo systemctl daemon-reload && sudo systemctl restart comfyui çalıştırın. Arayüzde bir Manager düğmesi belirir.

Özel node'lar, comfyui kullanıcısıyla ve bu kullanıcının okuyabildiği her şeye erişimle çalışan Python kodudur. ComfyUI belgeleri kötü amaçlı eklentilerin özel node'ları istismar edebileceği konusunda uyarır; yalnızca güvenilir ve yaygın kullanılan geliştiricilerin node'larını kurun ve kurmadan önce bir node'un ne yaptığını anlayın. ComfyUI-Manager'ın kullanıcı dizini altındaki config.ini dosyasında bir security_level ayarı (strong, normal, normal-, weak) vardır ve loopback dışı adreslerde dinlerken Git adreslerinden ve pip ile kurulumu reddeder. Bu kısıtlamalar ComfyUI'ın dinleme adresine bağlı olduğundan ve ComfyUI burada 127.0.0.1 üzerinde dinlediğinden, Caddy üzerinden gelen kullanıcılara uygulanmazlar; bu da siteyi güçlü bir parolayla korumak için bir neden daha. Node kurduktan sonra logda import failed mesajlarını kontrol edin.

Yedekleme ve geri yükleme

ComfyUI'ın durumu /opt/comfyui/ComfyUI altındaki birkaç klasörde tutulur: user (ayarlar ve arayüzde kaydettiğiniz iş akışları), custom_nodes, input ve output. Modeller büyüktür ve çoğunlukla yeniden indirilebilir; bu yüzden onları ayrı ve sıkıştırmadan arşivleyin:

sudo mkdir -p /opt/backups
sudo systemctl stop comfyui
sudo tar czf /opt/backups/comfyui-$(date +%F).tar.gz -C /opt/comfyui/ComfyUI user custom_nodes input output
sudo tar cf /opt/backups/comfyui-models-$(date +%F).tar -C /opt/comfyui/ComfyUI models
sudo systemctl start comfyui

extra_model_paths.yaml dosyası oluşturduysanız onu ilk arşive ekleyin. Geri yüklemek için ComfyUI'ı 2. ve 3. adımlarla kurun, arşivleri /opt/comfyui/ComfyUI içine açın, sahipliği düzeltin ve özel node'larınızın Python gereksinimlerini yeniden kurun:

sudo tar xzf /opt/backups/comfyui-YYYY-MM-DD.tar.gz -C /opt/comfyui/ComfyUI
sudo tar xf /opt/backups/comfyui-models-YYYY-MM-DD.tar -C /opt/comfyui/ComfyUI
sudo chown -R comfyui:comfyui /opt/comfyui
for f in /opt/comfyui/ComfyUI/custom_nodes/*/requirements.txt; do sudo -u comfyui /opt/comfyui/venv/bin/pip install -r "$f"; done
sudo systemctl restart comfyui

Yedekleri, özellikle iş akışlarınızı, sunucunun dışına da kopyalayın.

ComfyUI'ı güncelleme

ComfyUI sürümler sayfasındaki sürüm notlarını okuyun ve önce yedek alın. Belgelenen güncelleme yöntemi, kurulum klasöründe git pull ve ardından ComfyUI sanal ortamı içinde pip install -r requirements.txt çalıştırmaktır:

sudo systemctl stop comfyui
sudo -u comfyui git -C /opt/comfyui/ComfyUI pull
sudo -u comfyui /opt/comfyui/venv/bin/pip install -r /opt/comfyui/ComfyUI/requirements.txt
sudo -u comfyui /opt/comfyui/venv/bin/pip install -r /opt/comfyui/ComfyUI/manager_requirements.txt
sudo systemctl start comfyui

Manager'ı etkinleştirmediyseniz manager_requirements.txt satırını atlayın. 3. adımda bir sürüm etiketine geçtiyseniz git pull yerine git -C /opt/comfyui/ComfyUI fetch --tags çalıştırıp yeni etikete geçin. Ardından özel node'ları Manager'dan güncelleyin ve logda içe aktarma hatalarını kontrol edin.

Sorun giderme

Torch not compiled with CUDA enabled

Kurulu PyTorch derlemesinde CUDA desteği yok. README'deki çözüm PyTorch'u kaldırıp CUDA derlemesini yeniden kurmaktır: sudo -u comfyui /opt/comfyui/venv/bin/pip uninstall torch çalıştırın ve 3. adımdaki pip install torch torchvision torchaudio komutunu tekrarlayın.

torch.cuda.is_available() False döndürüyor

Önce nvidia-smi komutunu kontrol edin. Hata veriyorsa sürücüyü düzeltip sunucuyu yeniden başlatın. Çalışıyor ama başlığında 13.0'dan düşük bir CUDA sürümü görünüyorsa sürücü cu130 derlemesi için eskidir: sürücüyü NVIDIA deposundan güncelleyin ya da PyTorch'u uygun, daha eski CUDA dizininden kurun.

CUDA out of memory

Model, çözünürlük veya toplu iş (batch) boyutu boştaki VRAM'den fazlasını istiyor. Çözünürlüğü veya batch boyutunu düşürün, daha küçük ya da nicemlenmiş bir model kullanın ve başka bir sürecin GPU belleğini tutmadığından emin olun (nvidia-smi). ComfyUI çok küçük GPU'lar için --novram seçeneğini de sunar; --lowvram ise ComfyUI'ın dinamik VRAM yönetimi etkinken etkisizdir. Bu tür seçenekleri ExecStart satırına ekleyip servisi yeniden başlatın.

Bir özel node import failed hatası veriyor

Python bağımlılıkları eksik veya çakışıyor. Hatayı journalctl -u comfyui içinde okuyun, node'un requirements.txt dosyasını comfyui kullanıcısıyla sanal ortama kurun ya da node klasörünü kaldırın. Bir kez --disable-all-custom-nodes ile başlatmak, çökmeye bir özel node'un yol açıp açmadığını gösterir.

Tarayıcı sürekli parola soruyor veya boş sayfa gösteriyor

Caddyfile içindeki özeti kontrol edin (düz parola değil, caddy hash-password çıktısı olmalıdır) ve sudo systemctl reload caddy çalıştırın. Sayfa açılıyor ama ilerleme hiç güncellenmiyorsa proxy'yi devre dışı bırakmak için tünel üzerinden http://localhost:8188 adresini test edin ve hatalar için journalctl -u caddy çıktısını okuyun.

Sonraki adımlar

• ComfyUI'ın yanında Ollama veya vLLM ile dil modelleri sunun.
• Aynı GPU üzerinde JupyterLab ile notebook denemeleri yapın.
• Donanımı ComfyUI hosting ve GPU sunucuları sayfalarında seçin.
• İş akışları, node'lar ve modeller için https://docs.comfy.org adresindeki resmi belgeleri okuyun.