Kontrolü sizde olan sunucularda özel yapay zekâ
Açık ağırlıklı dil modellerini, sohbet arayüzlerini, ajanları ve yapay zekâ iş akışlarını kontrol ettiğiniz altyapıda çalıştırın. Küçük modeller ve barındırılan API’leri çağıran uygulama oluşturucular için bir CPU sunucuyla başlayın; daha büyük modeller, görsel üretimi ve ince ayar için ürün yelpazemize eklenen GPU sunucuları planlayın.
- Ollama, vLLM, llama.cpp veya LocalAI ile açık modeller
- Open WebUI, Dify ve Langflow ile sohbet, RAG ve ajanlar
- Küçük modeller için CPU sunucular; GPU sunucular ekleniyor
- İstemler ve belgeler sunucunuzda kalır
$ ssh [email protected]
Welcome to Ubuntu 26.04 LTS (GNU/Linux x86_64)
root@vps:~# apt update && apt upgrade -y
0 upgraded, 0 newly installed, 0 to remove.
root@vps:~# ufw allow 443/tcp
Rule added
root@vps:~# systemctl is-active nginx
active
root@vps:~#
Yapay zekâ yığınınızı seçin
Model sunucuları, sohbet arayüzleri, uygulama oluşturucular ve ajanlar: her sayfa neye ihtiyaç duyduğunu ve nasıl çalıştırılacağını açıklar.
Aramanızla eşleşen uygulama yok. Ne çalıştırmak istediğinizi yazın, kontrol edelim.
Bir uygulamayı sorunHer uygulama, tam root erişimli bir HyperDC VPS, VDS veya dedicated sunucuda çalışır. Paketler çevrimiçi olduğu anda her sayfada görünür.
Ekibiniz ve ürününüz için özel yapay zekâ
Bir model sunucusunu, bir arayüzü ve verilerinizi kontrol ettiğiniz sunucularda birleştirin.
Ekibiniz için özel bir ChatGPT
Ollama ile Open WebUI, ekibinize hesaplar, roller, belge arama ve seçtiğiniz modellerle bir sohbet sunar.
Uygulamalarınız için LLM API’si
vLLM, llama.cpp ve LocalAI açık modelleri kodunuzun zaten konuştuğu OpenAI uyumlu bir API arkasında sunar.
Belgelerinizden yanıtlar
Dify, AnythingLLM ve Langflow dosyalarınızı dizinler ve soruları kaynaklarıyla yanıtlar.
Günün her saati çalışan ajanlar
OpenClaw, Hermes Agent ve n8n ajanları zamanlanmış görevleri yürütür ve sohbet uygulamalarınızda yanıt verir.
Görseller ve medya
ComfyUI, bir GPU sunucuda görsel ve video üretimi iş akışları kurar.
Not defterleri ve eğitim
Verilerinizin yanında denemeler, değerlendirme ve ince ayar için JupyterLab ve JupyterHub.
Verileriniz sizde kalır
İstemler, dosyalar ve veritabanları paylaşımlı bir SaaS hesabı yerine kontrol ettiğiniz, seçtiğiniz lokasyondaki bir sunucuda kalır.
Kullanıcılarınıza yakın
ABD, Avrupa veya Asya’da bir veri merkezi seçin. Sipariş formu, bulunduğunuz yerden her lokasyona olan gecikmeyi tahmin eder.
Hangi model için hangi sunucu?
Hangi modellerin sığacağını bellek, ne kadar hızlı yanıt vereceklerini GPU belirler.
| Özellik |
CPU sunucu
Küçük modeller ve API tabanlı uygulamalar
|
Büyük bellekli sunucu
Orta boy modeller, daha yavaş yanıtlar
|
Önerilen GPU sunucu
Büyük modeller, çok kullanıcı, görseller
|
|---|---|---|---|
| Sığan modellerTipik nicemlenmiş açık modeller; kesin ihtiyaç modele ve bağlam uzunluğuna bağlıdır. | 7B–8B modeller | 13B–14B modeller | Daha büyük modeller |
| BellekUygulama, veritabanı ve işletim sistemi için bellek. | 8–16 GB | 32–64 GB | Modellerinize göre |
| vCPUSunucunun sanal işlemci çekirdekleri. | 4 | 8–16 | Modellerinize göre |
| Hız | Tek kullanıcı ve arka plan işleri için yeterli | Kullanılabilir, GPU’dan yavaş | Çok kullanıcıya hızlı yanıtlar |
| Sunucu türü | VPS veya VDS | VDS veya dedicated | GPU sunucu (bize sorun) |
-
CPU sunucu
Küçük modeller ve API tabanlı uygulamalar
- Sığan modellerTipik nicemlenmiş açık modeller; kesin ihtiyaç modele ve bağlam uzunluğuna bağlıdır.
- 7B–8B modeller
- BellekUygulama, veritabanı ve işletim sistemi için bellek.
- 8–16 GB
- vCPUSunucunun sanal işlemci çekirdekleri.
- 4
- Hız
- Tek kullanıcı ve arka plan işleri için yeterli
- Sunucu türü
- VPS veya VDS
-
Büyük bellekli sunucu
Orta boy modeller, daha yavaş yanıtlar
- Sığan modellerTipik nicemlenmiş açık modeller; kesin ihtiyaç modele ve bağlam uzunluğuna bağlıdır.
- 13B–14B modeller
- BellekUygulama, veritabanı ve işletim sistemi için bellek.
- 32–64 GB
- vCPUSunucunun sanal işlemci çekirdekleri.
- 8–16
- Hız
- Kullanılabilir, GPU’dan yavaş
- Sunucu türü
- VDS veya dedicated
-
Önerilen
GPU sunucu
Büyük modeller, çok kullanıcı, görseller
- Sığan modellerTipik nicemlenmiş açık modeller; kesin ihtiyaç modele ve bağlam uzunluğuna bağlıdır.
- Daha büyük modeller
- BellekUygulama, veritabanı ve işletim sistemi için bellek.
- Modellerinize göre
- vCPUSunucunun sanal işlemci çekirdekleri.
- Modellerinize göre
- Hız
- Çok kullanıcıya hızlı yanıtlar
- Sunucu türü
- GPU sunucu (bize sorun)
Ollama model sayfaları 7B modeller için en az 8 GB, 13B için 16 GB ve 70B için 64 GB RAM verir. Nicemleme ihtiyacı azaltır, uzun bağlam artırır. GPU sunucular ürün yelpazemize adım adım ekleniyor; uygunluğu bize sorun.
Fikirden özel bir yapay zekâ hizmetine
Kendi yapay zekâ yığınınıza dört adım.
-
Yığını seçin
Ollama veya vLLM gibi bir model sunucusu ve Open WebUI, Dify veya n8n gibi bir arayüz ya da oluşturucu.
-
Sunucuyu boyutlandırın
Yukarıdaki tabloyu kullanın: istediğiniz modeller için bellek, hız veya büyük modeller önemliyse GPU.
-
Uygulama seçeneği veya rehberimizle kurun
Seçenek varsa sunucuyu uygulama kurulu olarak sipariş edin ya da adım adım rehberlerimizi izleyin.
-
Güvenceye alın ve bağlayın
Model API’lerini gizli tutun, arayüzleri hesaplı HTTPS arkasına koyun ve uygulamalarınızı bağlayın.
Yapay zekâ yığınınızın çevresindeki sunucular ve araçlar
Sıkça sorulan sorular
Yapay zekâ modelleri için GPU gerekir mi?
Her zaman değil. Küçük nicemlenmiş modeller yeterli belleğe sahip bir CPU sunucuda çalışır; bu tek kullanıcı, denemeler ve arka plan işleri için yeterlidir. GPU yanıtları çok hızlandırır; daha büyük modeller, çok kullanıcı, görsel üretimi ve eğitim için gereklidir. GPU sunucular ürün yelpazemize adım adım ekleniyor; uygunluğu bize sorun.
Bir model ne kadar bellek ister?
Parametre sayısına, nicemlemeye ve bağlam uzunluğuna bağlıdır. Yol gösterici olarak Ollama model sayfaları 7B modeller için en az 8 GB, 13B için 16 GB ve 70B modeller için 64 GB RAM ister. GPU’da tam hız için modelin GPU belleğine sığması gerekir.
Hangi açık modelleri çalıştırabilirim?
Model sunucunuzun desteklediği her model. Ollama kütüphanesi Llama, Qwen, Gemma, DeepSeek, Mistral, gpt-oss ve Phi gibi aileleri ve arama için gömme modellerini içerir; vLLM ve llama.cpp modelleri Hugging Face’ten yükler.
OpenAI veya Anthropic gibi barındırılan modelleri de kullanabilir miyim?
Evet. Open WebUI, Dify, Langflow, n8n ve çoğu ajan çerçevesi barındırılan sağlayıcılarla ve yerel modellerle yan yana çalışır; göreve göre seçebilirsiniz. Anahtarlarınız ve konuşmalarınız sunucunuzun veritabanında kalır.
Kendi sunucunuzdaki yapay zekâ daha mı gizli?
Yerel bir modelle istemler ve belgeler sunucunuzdan hiç çıkmaz. Barındırılan bir modeli çağırdığınızda istek o sağlayıcıya gider; ancak geçmişiniz, dosyalarınız ve ayarlarınız yine paylaşımlı bir SaaS hesabı yerine sunucunuzda kalır.
Bir model API’sini nasıl güvende tutarım?
Çoğu model sunucusunda varsayılan olarak kimlik doğrulama yoktur: Ollama localhost’u anahtarsız dinler, LocalAI ve ComfyUI siz yapılandırana kadar açıktır. Onları localhost’ta veya özel bir ağda tutun, SSH ya da VPN ile erişin ve yalnızca hesaplı arayüzleri HTTPS arkasında yayınlayın.
GPU sunucu sunuyor musunuz?
GPU sunucular ürün yelpazemize adım adım ekleniyor. İhtiyacınız olan modelleri, kullanıcı sayısını ve lokasyonu yazın; sipariş vermeden önce neyin hazır olduğunu ve fiyatını size bildirelim.
Küçük başlayıp yükseltebilir miyim?
Evet. Birçok ekip barındırılan modellerle bir VPS’te Open WebUI veya Dify ile başlar, daha büyük bir sunucuda küçük bir modelle Ollama ekler ve kullanım büyüdüğünde çıkarımı bir GPU sunucuya taşır.
Özel yapay zekâ yığınınızı planlayın
Hangi modelleri ve araçları kaç kullanıcı için çalıştırmak istediğinizi yazın; sunucuları önerelim.