# GPU olmadan bir dedicated sunucuda LLM çalıştırabilir miyim?

> GPU olmadan dedicated sunucuda LLM çalıştırabilir misiniz? Evet, llama.cpp veya Ollama ile CPU üzerinde nicemlenmiş modeller. KYC yok, kripto.

- URL: https://ironatoll.com/tr/run-llm-on-dedicated-server/
- Son güncelleme: 2026-10-30
- Yayıncı: Ironatoll (https://ironatoll.com)

Hangi modeller yalnızca CPU ve RAM ile çalışır, her biri ne kadar bellek gerektirir, neden hızı bellek bant genişliği belirler ve Ironatoll'in satmadığı bir GPU'ya ne zaman ihtiyacınız olur.

**Hızlı yanıt — GPU olmadan bir dedicated sunucuda LLM çalıştırabilir miyim?**

Evet, model nicemlenmişse (quantized) GPU olmadan bir dedicated sunucuda LLM çalıştırabilirsiniz: llama.cpp ve Ollama, GGUF modellerini CPU üzerinde, sistem RAM'inden çalıştırır. RAM'i model dosyası artı bağlamı için planlayın. **Ironatoll** GPU sunucu satmaz; bu yüzden büyük modeller ve hızlı üretim için bir GPU sunucusu gerekir. Planlar 30 gün için $63,68'den başlar, KYC yok, kripto ile ödeme.

## Ironatoll üzerinde yalnızca CPU'lu bir LLM: olgular

| Özellik | Değer |
| --- | --- |
| GPU | Yok: Ironatoll GPU sunucu satmaz |
| Yazılım | llama.cpp ve Ollama, her ikisi de açık kaynak, her ikisi de modelleri tamamen CPU üzerinde çalıştırır |
| RAM kuralı | Model dosya boyutu + bağlam belleği + sistem |
| Hızı belirleyen ne | Yanıt yazarken bellek bant genişliği; uzun istemleri okurken CPU çekirdekleri |
| Loglar | Log yok: web sitesinde, kontrol panelinde ve sunucularda hiçbir bağlantı logu, trafik logu veya ziyaretçilerin ya da müşterilerin IP adreslerini tutmayız |
| Fiyat | 30 günde bir Atoll 16 $63.68, Atoll 32 $72.15, Atoll 64 $72.62, Atoll 128 $205.27, Atoll 256 $406.37 |
| Kimlik | KYC yok: hiçbir zaman kimlik, selfie, belge, kart veya telefon numarası toplanmaz. |

## Bir LLM GPU olmadan CPU üzerinde çalışabilir mi?

**Evet: nicemlenmiş bir LLM, sıradan bir sunucu CPU'sunda, sistem RAM'inden, hiç GPU olmadan çalışır.** Nicemleme, modelin ağırlıklarını daha az bitte saklar; böylece dosya küçülür ve normal belleğe sığar.

- **llama.cpp** sade bir C/C++ çıkarım motorudur. README'si x86 CPU'larda AVX, AVX2, AVX512 ve AMX desteğini listeler. Ayrıca 1,5 bitten 8 bite kadar tamsayı nicemlemesini "daha hızlı çıkarım ve daha az bellek kullanımı için" listeler.
- **Ollama** bir model çalıştırıcısını bir model kütüphanesi ve bir API ile sarar. SSS'si, bir model tamamen sistem belleğine yüklendiğinde `ollama ps`'in "%100 CPU" gösterdiğini söyler.

Her ikisi de GGUF model dosyalarını okur. Her ikisi de Linux üzerinde çalışır; Ironatoll'in kurduğu tek sistem de budur.

## CPU üzerinde bir LLM çalıştırmak için ne kadar RAM gerekir?

**Kaba kural: RAM, model dosyasını, artı bağlam belleğini, artı sistem için birkaç gigabaytı tutmalıdır.** Nicemlenmiş bir modelin indirme boyutu, RAM'de kapladığı alana yakındır. Bağlam (KV önbelleği) bunun üstüne eklenir.

Ollama'nın SSS'si kaldıraçları verir. Varsayılan bağlam penceresi 4.096 tokendır. Gerekli RAM, paralel istek sayısı çarpı bağlam uzunluğuyla ölçeklenir. Flash Attention açıkken KV önbelleğini `q8_0`'e nicemlemek, varsayılan `f16`'in yaklaşık yarısı kadar bellek kullanır.

Aşağıdaki indirme boyutları Ollama kütüphanesinden alınmıştır ve 30 Ekim 2026'da okunmuştur.

### Model boyutu ve onu tutan en küçük Ironatoll planı

| Model (Ollama etiketi) | İndirme boyutu | En küçük plan |
| --- | --- | --- |
| deepseek-r1:7b, llama3.1:8b | 4,7 GB, 4,9 GB | Atoll 16 (16 GB) |
| deepseek-r1:14b | 9.0 GB | kısa bağlam ile Atoll 16; yer olduğunda Atoll 32 |
| deepseek-r1:32b | 20 GB | Atoll 32 (32 GB) |
| llama3.1:70b, deepseek-r1:70b | 43 GB | Atoll 64 (64 GB) |
| llama3.1:405b | 243 GB | Atoll 256, yalnızca kısa bağlam |
| deepseek-r1:671b (tam model) | 404 GB | Plan yok: en büyük RAM kadememizden daha büyük |

Boyutlar, 30 Ekim 2026 tarihinde ollama.com/library üzerinde listelendiği gibidir. 7b ile 70b arasındaki DeepSeek-R1 etiketleri, Qwen veya Llama tabanlı damıtılmış modellerdir.

## Bellek bant genişliği neden çekirdek sayısından daha önemli?

**Bir yanıt yazma hızı, CPU'nun ağırlıkları RAM'den ne kadar hızlı okuduğuyla sınırlıdır, çekirdek sayısıyla değil.** Bir llama.cpp katkıda bulunanı bunu açıkça ifade ediyor: bu modeller için "PP hesaplama sınırlı, TG ise bellek sınırlıdır". PP istem işleme, TG metin üretimidir.

Her yeni token, modelin ağırlıklarını bellekten okur. Yani aynı makinede, iki kat büyük bir model yaklaşık yarı hızda yazar. Kiralama için iki sonuç:

- **Bellek kanalları önemlidir.** Daha fazla bellek kanalına sahip sunucu CPU'ları saniyede daha fazla veri taşır. [Ryzen veya EPYC karşılaştırmamız](https://ironatoll.com/tr/ryzen-vs-epyc-dedicated-server/ "Ryzen or EPYC: which dedicated server CPU should I choose?") platform başına kanalları listeler.
- **Çekirdekler istemlerde hâlâ yardımcı olur.** Uzun istemler, belgeler ve erişim bağlamı hesaplama sınırlıdır, dolayısıyla daha fazla çekirdek ilk token öncesindeki beklemeyi kısaltır.

Saniye başına token rakamı yayınlamıyoruz: sunucularımızı ölçmedik. Modelinizi ölçmek için llama.cpp'den `llama-bench` komutunu kendi sunucunuzda çalıştırın.

## Ne zaman GPU'ya ihtiyacım olur?

**Büyük modelleri etkileşimli hızda, aynı anda çok sayıda kullanıcıyla ve eğitim için kullanmak istediğinizde GPU'ya ihtiyacınız olur.** GPU belleği sunucu RAM'inden çok daha hızlıdır ve metin üretiminin ihtiyaç duyduğu tam da budur.

Ironatoll GPU planı sunmuyor. Bir CPU sunucusu şunlara uyar:

- bir kişi veya küçük bir ekip için özel bir asistan veya kodlama modeli;
- özetleme, etiketleme veya çeviri gibi gece boyunca çalışan toplu işler;
- özel bir arama dizini için embedding'ler ve erişim;
- başka bir yerde kiralanan bir GPU'nun yanında bir API ön ucu, bir vektör veritabanı veya belge depolama.

Gerçek zamanlı 70B modeller, çok sayıda eşzamanlı sohbet veya ince ayar için GPU kapasitesini satan bir sağlayıcıdan GPU kapasitesi kiralayın.

## Ollama veya llama.cpp'yi özel bir sunucuda nasıl kurarım?

Resmî komutlarla kurun, API'yi `127.0.0.1` üzerinde tutun ve ona bir SSH tüneli üzerinden erişin. Ollama varsayılan olarak `127.0.0.1:11434` üzerinde dinler ve Linux kılavuzu onu kendi `ollama` kullanıcısı altında bir systemd servisi olarak çalıştırır. `llama-server` de varsayılan olarak `127.0.0.1` üzerinde dinler ve bir `--api-key` kabul eder.

*Debian veya Ubuntu üzerinde Ollama, yalnızca CPU*

```bash
curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.1:8b
ollama ps          # shows 100% CPU when the model sits in system RAM

# from your own computer: reach the API through SSH
ssh -L 11434:127.0.0.1:11434 root@YOUR_SERVER_IP
curl http://localhost:11434/api/chat -d '{"model":"llama3.1:8b","messages":[{"role":"user","content":"Hello"}]}'
```

*Daha büyük bağlam ve API anahtarı ile llama.cpp sunucusu*

```bash
llama-server -m ./model.gguf -c 8192 --host 127.0.0.1 --api-key CHANGE_ME
```

Modelleri sanal makineler içinde çalıştırmak da işe yarar: bkz. [Proxmox'u özel bir sunucuya nasıl kurarsınız](https://ironatoll.com/tr/install-proxmox-on-dedicated-server/ "Proxmox VE on a rented dedicated server, step by step"). RAM'in çoğunu LLM konuk makinesine verin, çünkü neyin sığacağını bellek belirler.

## Bir LLM için hangi Ironatoll planını seçmeliyim?

Önce RAM'e, sonra CPU'ya göre seçin. Sipariş vermeden önce her planın CPU modelini kontrol edin: daha yeni platformlar ve daha fazla bellek kanalı daha hızlı üretim demektir.

**Ironatoll'nin 30 October 2026 kontrolüne göre, Atoll 256 ile karşılaştırılabilir bir özel sunucu, kimlik olmadan kripto kabul eden 8 sunucu üzerinde medyan $1065.88 tutarındaydı; Ironatoll ise $406.37 alıyor.** Her kademe için piyasa fiyatları [özel sunucu fiyat endeksinde](https://ironatoll.com/tr/dedicated-server-price-per-month/ "How much a dedicated server costs per month, October 2026").

Kendi barındırdığınız bir model ayrıca istemleri yalnızca sizin kiraladığınız donanımda tutar. Özel belgelerinizi yüklemeden önce [bir sağlayıcının sunucunuzda neleri görebileceğini](https://ironatoll.com/tr/can-my-host-see-my-data/ "Can my hosting provider see the data on my dedicated server?") okuyun. Her plan [bir Ironatoll özel sunucunun ne kadara mal olduğu](https://ironatoll.com/tr/pricing/ "Ironatoll plans and prices per 30 days") sayfasında.

### Yalnızca CPU'lu bir LLM için Ironatoll planları

| Plan | CPU | Çekirdek | RAM | 30 günlük fiyat |
| --- | --- | --- | --- | --- |
| Atoll 16 | Intel Xeon E-2236 | 6 çekirdek / 12 iş parçacığı | 16 GB | $63.68 |
| Atoll 32 | AMD Ryzen 5 5600 | 6 çekirdek / 12 iş parçacığı | 32 GB | $72.15 |
| Atoll 64 | Intel Xeon E-2288G | 8 çekirdek / 16 iş parçacığı | 64 GB | $72.62 |
| Atoll 128 | AMD Ryzen 9 7950X | 16 çekirdek / 32 iş parçacığı | 128 GB | $205.27 |
| Atoll 256 | AMD EPYC 7443P | 24 çekirdek / 48 iş parçacığı | 256 GB | $406.37 |

## Özel bir sunucuda LLM'ler: SSS

### Bir LLM çalıştırmak için GPU'lu özel sunucuya ihtiyacım var mı?

Yaklaşık 70B parametreye kadar nicemlenmiş modeller için hayır, bunlar CPU ve RAM üzerinde çalışır. Büyük modelleri etkileşimli hızda, çok sayıda kullanıcıyla veya eğitim için çalıştırmak istiyorsanız GPU'ya ihtiyacınız olur. Ironatoll GPU sunucusu satmıyor.

### DeepSeek R1'i özel bir sunucuda çalıştırabilir miyim?

Damıtılmış sürümler için evet: Ollama bunları 4.7 GB (7b) ile 43 GB (70b) arasında listeliyor. Tam 671b model 404 GB'lık bir indirmedir ve hiçbir Ironatoll planının RAM'ine sığmaz.

### Ollama'yı sunucu olarak nasıl çalıştırırım?

Linux yükleyicisi Ollama'yı kendi `ollama` kullanıcısı altında çalışan bir systemd servisi olarak kurar. `systemctl status ollama` ile kontrol edin. API 11434 portunda yanıt verir.

### Bir Ollama sunucusuna uzaktan nasıl bağlanırım?

Ollama'yı `127.0.0.1` üzerinde tutun ve bir SSH tüneli açın: `ssh -L 11434:127.0.0.1:11434 root@YOUR_SERVER_IP`. `OLLAMA_HOST=0.0.0.0:11434` ayarını yapmak onu internete açar, bu yüzden önce önüne bir güvenlik duvarı veya kimlik doğrulamalı bir vekil sunucu koyun.

### Birden fazla kişi aynı anda tek bir CPU modelini kullanabilir mi?

Evet, ancak aynı bellek bant genişliğini paylaşırlar, böylece her yanıt yavaşlar. Ayrıca RAM, Ollama'nın SSS'sine göre paralel istekler çarpı bağlam uzunluğu kadar artar.

**Kendi modelinizi çıplak donanımda çalıştırın** Her gigabaytı RAM'i size ait tüm makineler, 30 gün için $63,68 başlangıç fiyatıyla. KYC yok, kripto ile ödeme. [Atoll 64 sipariş et](https://ironatoll.com/app/checkout/?plan=atoll-64&lang=tr) · [Planları karşılaştır](https://ironatoll.com/tr/pricing/ "Ironatoll dedicated sunucu ne kadar eder?")

## Kaynaklar

1. [llama.cpp README (CPU desteği, niceleme)](https://github.com/ggml-org/llama.cpp) — ggml-org on GitHub (read 2026-10-30)
2. [llama.cpp sunucu README (--ctx-size, --host, --api-key)](https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md) — ggml-org on GitHub (read 2026-10-30)
3. [Optimizing Token Generation in llama.cpp's CUDA Backend (tartışma #17621)](https://github.com/ggml-org/llama.cpp/discussions/17621) — ggml-org on GitHub (read 2026-10-30)
4. [Ollama README](https://github.com/ollama/ollama) — Ollama on GitHub (read 2026-10-30)
5. [Ollama SSS (bağlam uzunluğu, bellek, ollama ps, OLLAMA_HOST)](https://docs.ollama.com/faq) — Ollama docs (read 2026-10-30)
6. [Linux üzerinde Ollama (kurulum, systemd servisi)](https://docs.ollama.com/linux) — Ollama docs (read 2026-10-30)
7. [llama3.1 model etiketleri ve boyutları](https://ollama.com/library/llama3.1) — Ollama library (read 2026-10-30)
8. [deepseek-r1 model etiketleri ve boyutları](https://ollama.com/library/deepseek-r1) — Ollama library (read 2026-10-30)

---

Ironatoll: Ironatoll, Amsterdam, Reykjavik, Zürih ve Bükreş'te offshore dedicated sunucular (bare metal) kiralar; kripto ile ödeme yapılır, KYC yoktur: kimlik yok, selfie yok, belge yok. Her sunucu tek bir müşteriye ait bütün bir fiziksel makinedir ve SSH üzerinden root erişimi sunar. Panama'da kayıtlı bir şirket olan DomaineGoat LLC tarafından işletilir; bu şirket DMCA bildirimlerini dikkate almaz, yalnızca Panama hukukuna tabidir, Tor exit relay'lerine izin verir ve hiçbir log tutmaz. 30 günlük dönemde her plan, 30 Ekim 2026'da okunan fiyatlarla, adı belirtilmiş karşılaştırılabilir bir dedicated sunucunun en az %25 altında fiyatlanır.