“llm api” için sonuçlar
- llama.cpp sunucusunu OpenAI uyumlu bir API olarak çalıştırma …Face'ten bir GGUF modeliyle test edin, 127.0.0.1 üzerinde API anahtarıyla korunan bir systemd servisi olarak çalıştırın ve OpenAI uyumlu API'yi HTTPS ile yayınlayın. llama.cpp,… Orta 40 dk
- LocalAI'ı Docker Compose ile OpenAI uyumlu bir API olarak kurma …resmi konteyner imajlarından kurun, her istek için API anahtarı zorunlu kılın, galeriden bir model yükleyin, OpenAI uyumlu API'yi test edin ve Caddy arkasında HTTPS… Orta 35 dk
- Ubuntu veya Debian'a Ollama kurulumu ve yerel LLM çalıştırma …modelleri CPU veya GPU üzerinde indirip çalıştırın, REST API'yi test edin, model depolamasını taşıyın ve 11434 portunu açmadan API'ye güvenle erişin. Ollama, açık büyük dil… Başlangıç 30 dk
- NVIDIA GPU sunucusuna Docker ile vLLM kurulumu …imajını Docker Compose ile 127.0.0.1 üzerinde çalıştırın, API anahtarı ve yalnızca /v1 yolunu açan bir Caddy proxy'siyle koruyun, bellek ve çoklu GPU ayarlarını yapın ya da uv… İleri 45 dk
- OpenHands yapay zeka ajan platformu Docker ile nasıl barındırılır …OpenHands Agent Canvas'ı Docker Compose ile kurun, bir API anahtarı ve IP izin listesiyle koruyun, bir model bağlayın ve ajanın sandbox'ını dar tutun. Bir yapay zeka ajan… İleri 40 dk
- AnythingLLM Docker ile nasıl kurulur: HTTPS ve Ollama bağlantısı …çok kullanıcılı sürümdür; roller, parola koruması ve bir API içerir. Bu rehber resmi mintplexlabs/anythingllm imajını Ubuntu veya Debian üzerinde Docker Compose ile çalıştırır.… Orta 30 dk
- Flowise Docker Compose ve HTTPS ile nasıl kurulur …ve arşivlenmiş bir projeye göre plan yapın. Flowise, LLM uygulamaları ve ajanlar geliştirmek için az kodlu (low-code) bir araçtır: bir tuval üzerinde modeller, istemler… Orta 30 dk
- Langflow Docker Compose ve PostgreSQL ile nasıl kurulur …çalıştırmayı gizli tutun. Langflow, yapay zeka ajanları ve LLM iş akışları için görsel bir oluşturucudur. Modeller, istemler, vektör depoları, araçlar ve ajanlar için bileşenleri… Orta 35 dk
- Dify Docker Compose ve HTTPS ile nasıl barındırılır …erişim (RAG) ve görsel iş akışları; her birinin kendi API'si vardır. Resmi self-hosting yöntemi, projenin deposundan Docker Compose ile kurulumdur. Varsayılan yığın API'yi,… Orta 45 dk
- Open WebUI'ı Ollama ile Docker Compose ve HTTPS kullanarak çalıştırma …sohbet ekranı sunar; Ollama'nın yanı sıra OpenAI uyumlu API'lerle de çalışır. Bu rehber Open WebUI'ı Docker Compose ile çalıştırır, Ollama'nın API'sini dışarı açmadan ona… Orta 35 dk