llm hakkında rehberler
- Ubuntu veya Debian'a Ollama kurulumu ve yerel LLM çalıştırma Ollama'yı systemd servisi olarak kurun, açık modelleri CPU veya GPU üzerinde indirip çalıştırın, REST API'yi test edin, model depolamasını taşıyın ve 11434 portunu açmadan API'ye güvenle erişin. Başlangıç 30 dk
- Open WebUI'ı Ollama ile Docker Compose ve HTTPS kullanarak çalıştırma Open WebUI'ı Ollama'nın yanında Docker Compose ile kurun, 11434 portunu açmadan bağlayın, yönetici hesabını gizlice oluşturun, Caddy ile HTTPS üzerinden yayınlayın ve yedekli, güncel tutun. Orta 35 dk
- llama.cpp sunucusunu OpenAI uyumlu bir API olarak çalıştırma llama.cpp'yi derleyin, llama-server'ı Hugging Face'ten bir GGUF modeliyle test edin, 127.0.0.1 üzerinde API anahtarıyla korunan bir systemd servisi olarak çalıştırın ve OpenAI uyumlu API'yi HTTPS ile yayınlayın. Orta 40 dk
- NVIDIA GPU sunucusuna Docker ile vLLM kurulumu Bir NVIDIA GPU sunucusunu hazırlayın, vllm/vllm-openai imajını Docker Compose ile 127.0.0.1 üzerinde çalıştırın, API anahtarı ve yalnızca /v1 yolunu açan bir Caddy proxy'siyle koruyun, bellek ve çoklu GPU ayarlarını yapın ya da uv ve systemd ile kurun. İleri 45 dk
- LocalAI'ı Docker Compose ile OpenAI uyumlu bir API olarak kurma LocalAI'ı resmi konteyner imajlarından kurun, her istek için API anahtarı zorunlu kılın, galeriden bir model yükleyin, OpenAI uyumlu API'yi test edin ve Caddy arkasında HTTPS üzerinden yayınlayın. Orta 35 dk
- AnythingLLM Docker ile nasıl kurulur: HTTPS ve Ollama bağlantısı Resmi AnythingLLM Docker imajını kalıcı depolama ve kendi gizli anahtarlarınızla çalıştırın, internete açmadan önce çok kullanıcılı modu açın, Caddy ile HTTPS üzerinden yayınlayın ve Ollama'ya bağlayın. Orta 30 dk
- Dify Docker Compose ve HTTPS ile nasıl barındırılır Bir Dify sürümünü klonlayın, .env içindeki varsayılan parola ve anahtarları değiştirin, paketle gelen Nginx'i Caddy arkasında localhost'a bağlayın, ilk kurulum sayfasını koruyun ve yedekleme ile yükseltme düzenini öğrenin. Orta 45 dk
- Flowise Docker Compose ve HTTPS ile nasıl kurulur Son Flowise 3.1.4 imajını Docker Compose ile kurun, veri ve anahtarları ana makinede saklayın, yönetici hesabını SSH tüneli üzerinden oluşturun, Caddy ile yayınlayın ve arşivlenmiş bir projeye göre plan yapın. Orta 30 dk
- Langflow Docker Compose ve PostgreSQL ile nasıl kurulur Resmi Langflow imajını PostgreSQL ile çalıştırın, otomatik girişi bir süper kullanıcı ve kendi gizli anahtarınızla kapatın, Caddy ile HTTPS üzerinden yayınlayın, Ollama'yı bağlayın ve kod çalıştırmayı gizli tutun. Orta 35 dk
- OpenHands yapay zeka ajan platformu Docker ile nasıl barındırılır Yapay zeka kodlama ajanları için açık kaynaklı platform olan OpenHands Agent Canvas'ı Docker Compose ile kurun, bir API anahtarı ve IP izin listesiyle koruyun, bir model bağlayın ve ajanın sandbox'ını dar tutun. İleri 40 dk