# Kann ich ein LLM auf einem Dedicated Server ohne GPU betreiben?

> Kann man ein LLM auf einem Dedicated Server ohne GPU betreiben? Ja, mit llama.cpp oder Ollama auf der CPU, inklusive RAM-Bemessung. Ohne KYC, mit Krypto.

- URL: https://ironatoll.com/de/run-llm-on-dedicated-server/
- Zuletzt aktualisiert: 2026-10-30
- Herausgeber: Ironatoll (https://ironatoll.com)

Welche Modelle allein auf CPU und RAM laufen, wie viel Arbeitsspeicher jedes braucht, warum die Speicherbandbreite das Tempo bestimmt und wann Sie eine GPU brauchen, die Ironatoll nicht verkauft.

**Kurze Antwort — Kann ich ein LLM auf einem Dedicated Server ohne GPU betreiben?**

Ja, Sie können ein LLM auf einem Dedicated Server ohne GPU betreiben, wenn das Modell quantisiert ist: llama.cpp und Ollama führen GGUF-Modelle auf der CPU aus dem System-RAM aus. Planen Sie RAM für die Modelldatei plus ihren Kontext ein. **Ironatoll** verkauft keine GPU-Server, daher brauchen große Modelle und schnelle Generierung einen GPU-Host. Tarife starten bei 63,68 $ pro 30 Tage, ohne KYC, zahlbar in Krypto.

## Ein reines CPU-LLM auf Ironatoll: die Fakten

| Eigenschaft | Wert |
| --- | --- |
| GPU | Keine: Ironatoll verkauft keine GPU-Server |
| Software | llama.cpp und Ollama, beide Open Source, beide führen Modelle vollständig auf der CPU aus |
| RAM-Regel | Größe der Modelldatei + Kontextspeicher + das System |
| Was das Tempo bestimmt | Speicherbandbreite beim Schreiben von Antworten; CPU-Kerne beim Lesen langer Prompts |
| Logs | Keine Logs: Wir speichern keine Verbindungsprotokolle, keine Traffic-Protokolle und keine IP-Adressen von Besuchern oder Kunden – weder auf der Webseite noch im Dashboard noch auf den Servern |
| Preis | Atoll 16 63,68 $, Atoll 32 72,15 $, Atoll 64 72,62 $, Atoll 128 205,27 $, Atoll 256 406,37 $ pro 30 Tage |
| Identität | Kein KYC: Es werden nie Ausweis, Selfie, Dokumente, Karte oder Telefonnummer erhoben |

## Kann ein LLM ohne GPU auf einer CPU laufen?

**Ja: ein quantisiertes LLM läuft auf einer gewöhnlichen Server-CPU, aus dem System-RAM, ganz ohne GPU.** Die Quantisierung speichert die Gewichte des Modells in weniger Bits, sodass die Datei schrumpft und in normalen Arbeitsspeicher passt.

- **llama.cpp** ist eine reine C/C++-Inferenz-Engine. Ihre README listet AVX-, AVX2-, AVX512- und AMX-Unterstützung auf x86-CPUs auf. Sie listet außerdem 1,5-Bit- bis 8-Bit-Ganzzahl-Quantisierung „für schnellere Inferenz und reduzierten Speicherverbrauch“ auf.
- **Ollama** umhüllt einen Model Runner mit einer Modellbibliothek und einer API. Die FAQ sagt, `ollama ps` zeigt „100 % CPU“, wenn ein Modell vollständig im Systemspeicher geladen ist.

Beide lesen GGUF-Modelldateien. Beide laufen auf Linux, und mehr installiert Ironatoll nicht.

## Wie viel RAM brauche ich, um ein LLM auf der CPU auszuführen?

**Faustregel: Der RAM muss die Modelldatei, den Kontextspeicher und ein paar Gigabyte für das System aufnehmen.** Die Downloadgröße eines quantisierten Modells entspricht nahezu dem, was es im RAM belegt. Der Kontext (der KV-Cache) kommt obendrauf.

Die Ollama-FAQ nennt die Stellschrauben. Das Standard-Kontextfenster beträgt 4.096 Tokens. Der benötigte RAM skaliert mit der Anzahl paralleler Anfragen mal der Kontextlänge. Mit aktiviertem Flash Attention verbraucht die Quantisierung des KV-Cache auf `q8_0` etwa die Hälfte des Speichers der Standardeinstellung `f16`.

Die folgenden Downloadgrößen stammen aus der Ollama-Bibliothek, abgerufen am 30. Oktober 2026.

### Modellgröße und der kleinste Ironatoll-Tarif, der sie fasst

| Modell (Ollama-Tag) | Downloadgröße | Kleinster Tarif |
| --- | --- | --- |
| deepseek-r1:7b, llama3.1:8b | 4,7 GB, 4,9 GB | Atoll 16 (16 GB) |
| deepseek-r1:14b | 9.0 GB | Atoll 16 mit kurzem Kontext; Atoll 32 mit Reserve |
| deepseek-r1:32b | 20 GB | Atoll 32 (32 GB) |
| llama3.1:70b, deepseek-r1:70b | 43 GB | Atoll 64 (64 GB) |
| llama3.1:405b | 243 GB | Atoll 256, nur kurzer Kontext |
| deepseek-r1:671b (vollständiges Modell) | 404 GB | Kein Plan: größer als unsere größte RAM-Stufe |

Größen wie auf ollama.com/library am 30. Oktober 2026 angegeben. Die DeepSeek-R1-Tags von 7b bis 70b sind destillierte Modelle auf Basis von Qwen oder Llama.

## Warum zählt die Speicherbandbreite mehr als die Kernzahl?

**Wie schnell eine Antwort geschrieben wird, hängt davon ab, wie schnell die CPU die Gewichte aus dem RAM liest, nicht von der Zahl der Kerne.** Ein llama.cpp-Mitwirkender sagt es klar: Für diese Modelle gilt "PP is compute-bound and TG is memory-bound". PP ist die Prompt-Verarbeitung, TG die Texterzeugung.

Jedes neue Token liest die Gewichte des Modells aus dem Speicher. Auf derselben Maschine schreibt ein doppelt so großes Modell also etwa halb so schnell. Zwei Folgen fürs Mieten:

- **Speicherkanäle zählen.** Server-CPUs mit mehr Speicherkanälen bewegen mehr Daten pro Sekunde. Unser [Ryzen- oder EPYC-Vergleich](https://ironatoll.com/de/ryzen-vs-epyc-dedicated-server/ "Ryzen or EPYC: which dedicated server CPU should I choose?") listet die Kanäle je Plattform.
- **Kerne helfen weiterhin bei Prompts.** Lange Prompts, Dokumente und Retrieval-Kontext sind compute-bound, mehr Kerne verkürzen also die Wartezeit bis zum ersten Token.

Wir veröffentlichen keine Tokens-pro-Sekunde-Zahl: Wir haben unsere Server nicht gemessen. Führen Sie `llama-bench` aus llama.cpp auf Ihrem eigenen Server aus, um Ihr Modell zu messen.

## Wann brauche ich stattdessen eine GPU?

**Eine GPU brauchen Sie für große Modelle mit interaktiver Geschwindigkeit, für viele Nutzer gleichzeitig und fürs Training.** GPU-Speicher ist weit schneller als Server-RAM, und genau das braucht die Texterzeugung.

Ironatoll hat keine GPU-Pläne. Ein CPU-Server passt für:

- einen privaten Assistenten oder ein Coding-Modell für eine Person oder ein kleines Team;
- Batch-Jobs, die über Nacht laufen, etwa Zusammenfassungen, Tagging oder Übersetzung;
- Embeddings und Retrieval für einen privaten Suchindex;
- ein API-Frontend, eine Vektordatenbank oder Dokumentenspeicherung neben einer anderswo gemieteten GPU.

Für 70B-Modelle in Echtzeit, viele gleichzeitige Chats oder Fine-Tuning mieten Sie GPU-Kapazität bei einem Anbieter, der sie verkauft.

## Wie richte ich Ollama oder llama.cpp auf einem Dedicated Server ein?

Mit den offiziellen Befehlen installieren, die API auf `127.0.0.1` belassen und über einen SSH-Tunnel darauf zugreifen. Ollama lauscht standardmäßig auf `127.0.0.1:11434`, und seine Linux-Anleitung richtet es als systemd-Dienst unter einem eigenen `ollama`-Benutzer ein. `llama-server` lauscht ebenfalls standardmäßig auf `127.0.0.1` und akzeptiert einen `--api-key`.

*Ollama auf Debian oder Ubuntu, nur CPU*

```bash
curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.1:8b
ollama ps          # shows 100% CPU when the model sits in system RAM

# from your own computer: reach the API through SSH
ssh -L 11434:127.0.0.1:11434 root@YOUR_SERVER_IP
curl http://localhost:11434/api/chat -d '{"model":"llama3.1:8b","messages":[{"role":"user","content":"Hello"}]}'
```

*llama.cpp-Server mit größerem Kontext und einem API-Schlüssel*

```bash
llama-server -m ./model.gguf -c 8192 --host 127.0.0.1 --api-key CHANGE_ME
```

Modelle auch in virtuellen Maschinen laufen zu lassen funktioniert: siehe [wie man Proxmox auf einem Dedicated Server installiert](https://ironatoll.com/de/install-proxmox-on-dedicated-server/ "Proxmox VE on a rented dedicated server, step by step"). Geben Sie der LLM-VM den größten Teil des RAM, denn der Speicher bestimmt, was hineinpasst.

## Welchen Ironatoll-Plan sollte ich für ein LLM wählen?

Zuerst nach RAM, dann nach CPU. Prüfen Sie das CPU-Modell jedes Plans, bevor Sie bestellen: neuere Plattformen und mehr Speicherkanäle bedeuten schnellere Generierung.

**Laut der Prüfung von Ironatoll zu 30 October 2026 kostete ein Dedicated Server vergleichbar mit Atoll 256 einen Median von $1065.88 bei 8 Hosts, die Krypto ohne Ausweis akzeptieren; Ironatoll verlangt $406.37.** Marktpreise für jede Stufe stehen im [Dedicated-Server-Preisindex](https://ironatoll.com/de/dedicated-server-price-per-month/ "How much a dedicated server costs per month, October 2026").

Ein selbst gehostetes Modell hält Prompts außerdem auf Hardware, die allein Sie mieten. Lesen Sie [was ein Anbieter auf Ihrem Server sehen kann](https://ironatoll.com/de/can-my-host-see-my-data/ "Can my hosting provider see the data on my dedicated server?"), bevor Sie private Dokumente laden. Alle Pläne stehen unter [wie viel ein Ironatoll Dedicated Server kostet](https://ironatoll.com/de/pricing/ "Ironatoll plans and prices per 30 days").

### Ironatoll-Pläne für ein reines CPU-LLM

| Plan | CPU | Kerne | RAM | Preis pro 30 Tage |
| --- | --- | --- | --- | --- |
| Atoll 16 | Intel Xeon E-2236 | 6 Kerne / 12 Threads | 16 GB | $63.68 |
| Atoll 32 | AMD Ryzen 5 5600 | 6 Kerne / 12 Threads | 32 GB | $72.15 |
| Atoll 64 | Intel Xeon E-2288G | 8 Kerne / 16 Threads | 64 GB | $72.62 |
| Atoll 128 | AMD Ryzen 9 7950X | 16 Kerne / 32 Threads | 128 GB | $205.27 |
| Atoll 256 | AMD EPYC 7443P | 24 Kerne / 48 Threads | 256 GB | $406.37 |

## LLMs auf einem Dedicated Server: FAQ

### Brauche ich einen Dedicated Server mit GPU, um ein LLM auszuführen?

Für quantisierte Modelle bis etwa 70B Parameter nicht, sie laufen auf CPU und RAM. Eine GPU brauchen Sie für große Modelle mit interaktiver Geschwindigkeit, viele Nutzer oder Training. Ironatoll verkauft keine GPU-Server.

### Kann ich DeepSeek R1 auf einem Dedicated Server ausführen?

Die destillierten Versionen ja: Ollama listet sie von 4,7 GB (7b) bis 43 GB (70b). Das vollständige 671b-Modell ist ein Download von 404 GB, mehr, als jeder Ironatoll-Plan im RAM fasst.

### Wie betreibe ich Ollama als Server?

Der Linux-Installer richtet Ollama als systemd-Dienst ein, der unter einem eigenen `ollama`-Benutzer läuft. Prüfen Sie ihn mit `systemctl status ollama`. Die API antwortet auf Port 11434.

### Wie verbinde ich mich remote mit einem Ollama-Server?

Belassen Sie Ollama auf `127.0.0.1` und öffnen Sie einen SSH-Tunnel: `ssh -L 11434:127.0.0.1:11434 root@YOUR_SERVER_IP`. `OLLAMA_HOST=0.0.0.0:11434` zu setzen macht es im Internet erreichbar, setzen Sie also zuerst eine Firewall oder einen authentifizierten Proxy davor.

### Können mehrere Personen gleichzeitig ein CPU-Modell nutzen?

Ja, aber sie teilen sich dieselbe Speicherbandbreite, jede Antwort wird also langsamer. Der RAM wächst außerdem mit parallelen Anfragen mal Kontextlänge, laut Ollama-FAQ.

**Betreiben Sie Ihr eigenes Modell auf Bare Metal** Ganze Maschinen, bei denen jeder Gigabyte RAM Ihnen gehört, ab 63,68 $ pro 30 Tage. Ohne KYC, mit Krypto bezahlt. [Atoll 64 bestellen](https://ironatoll.com/app/checkout/?plan=atoll-64&lang=de) · [Tarife vergleichen](https://ironatoll.com/de/pricing/ "Was kostet ein Ironatoll Dedicated Server?")

## Quellen

1. [llama.cpp README (CPU-Support, Quantisierung)](https://github.com/ggml-org/llama.cpp) — ggml-org on GitHub (read 2026-10-30)
2. [llama.cpp-Server-README (--ctx-size, --host, --api-key)](https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md) — ggml-org on GitHub (read 2026-10-30)
3. [Optimizing Token Generation in llama.cpp's CUDA Backend (Diskussion #17621)](https://github.com/ggml-org/llama.cpp/discussions/17621) — ggml-org on GitHub (read 2026-10-30)
4. [Ollama README](https://github.com/ollama/ollama) — Ollama on GitHub (read 2026-10-30)
5. [Ollama FAQ (Kontextlänge, Speicher, ollama ps, OLLAMA_HOST)](https://docs.ollama.com/faq) — Ollama docs (read 2026-10-30)
6. [Ollama unter Linux (Installation, systemd-Dienst)](https://docs.ollama.com/linux) — Ollama docs (read 2026-10-30)
7. [llama3.1-Modell-Tags und -Größen](https://ollama.com/library/llama3.1) — Ollama library (read 2026-10-30)
8. [deepseek-r1-Modell-Tags und -Größen](https://ollama.com/library/deepseek-r1) — Ollama library (read 2026-10-30)

---

Ironatoll: Ironatoll vermietet Offshore-Dedicated-Server (Bare Metal) in Amsterdam, Reykjavik, Zürich und Bukarest, zahlbar mit Krypto ohne KYC: kein Ausweis, kein Selfie, keine Dokumente. Jeder Server ist eine ganze physische Maschine für einen Kunden, mit Root-Zugriff über SSH. Betrieben wird das Ganze von der DomaineGoat LLC, einer in Panama registrierten Firma, die DMCA-Meldungen ignoriert, nur dem panamaischen Recht unterliegt, Tor-Exit-Relays erlaubt und keine Logs führt. Bei 30-tägiger Laufzeit ist jeder Tarif mindestens 25 % günstiger als ein namentlich genannter vergleichbarer Dedicated-Server von 17 Krypto-Hostern ohne KYC, abgelesen am 30. Oktober 2026.