Setzt auf günstigen Strom, nicht auf GPUs: Ein Standort-Playbook für KI-Infrastruktur für CTOs

Im Jahr 2026 ist Ihre größte KI-Restriktion nicht die GPU-Verfügbarkeit. Es sind Elektronen. Investoren finanzieren Strom-zuerst-Startups, um KI-Rechenzentren zu versorgen, ehemalige Big-Tech-KI-Führungskräfte drängen offen auf 10–1000x Energieeffizienz, und die Netzanschluss-Warteschlangen sind in vielen US-Regionen in Jahren statt in Quartalen zu messen. Wenn Sie die Standortwahl als Nachgedanken behandeln, liegt Ihre KI-Kostenkurve um eine Größenordnung daneben — oder Sie werden schlicht aus der Kapazität gedrängt.

Das ist kein philosophischer Punkt. Strompreis, -verfügbarkeit und Kühlungseffizienz (PUE) bestimmen heute drei Unverhandelbare: Unit Economics, Kapazitäts-Timing und CO₂-Offenlegungen, die Ihre Unternehmenskunden zunehmend verlangen. Die gute Nachricht: Sie müssen kein Rechenzentrumsentwickler werden. Sie brauchen eine Standortstrategie und eine Beschaffungs-Checkliste, die sich in echte Marge übersetzen.

Erste Prinzipien: Warum Standortwahl die KI-Ökonomie jetzt dominiert

• Stromkosten skalieren mit der Größe. Eine einzelne GPU der H100‑Klasse zieht unter Last rund 700 W. Multipliziert mit Hunderten oder Tausenden und hochgerechnet mit der PUE (außerhalb der Hyperscaler oft 1,2–1,6) kaufen Sie Megawatt — selbst wenn Sie „nur GPUs mieten“. Anbieter geben diese Stromkosten durch.
• Stromverfügbarkeit begrenzt GPUs. Viele Regionen können neue Lasten im Multi‑Megawatt‑Bereich nicht schnell anschließen. Wenn Ihr Anbieter keine Kapazität sichern kann, rutschen Ihre Reservierungen. Deshalb sollten Sie nicht nur fragen „Haben Sie H100s?“, sondern „Welches Umspannwerk versorgt uns und in welcher Netzanschluss‑Warteschlange stehen wir?“
• Latenz zählt nur für Interaktives. Der Großteil der KI-Arbeit ist Batch- oder verzögerungstolerant: Embedding-Generierung, Fine‑Tuning, nächtliche Index-Rebuilds, Modelldistillation. Führen Sie das dort aus, wo Strom günstig und Kühlung effizient ist. Halten Sie nur wirklich interaktive Inferenz in Nutzernähe.
• CO₂ wird zum Vertragsbestandteil. Enterprise‑RFPs verlangen zunehmend 24/7‑CO₂‑Berichterstattung statt jährlicher Kompensation. Regionen mit sauberen Netzen (Wasser-, Windkraft) vereinfachen Vertrieb und Compliance.

Die Mathematik, die Entscheidungen verändert

Setzen wir runde Zahlen mit typischen veröffentlichten Leistungsaufnahmen an:

• GPU der H100/H200‑Klasse: ~700 W TDP unter Last
• GPU der L40S‑Klasse: ~350 W unter Last
• PUE: 1,2 (guter Hyperscale) bis 1,6 (Legacy‑Colo)

Beispiel A: ein Trainingscluster mit 512 GPUs (H100‑Klasse), 70 % durchschnittliche Auslastung, PUE 1,3.

• IT‑Last ≈ 512 × 0,7 × 700 W = 250 kW
• Facility‑Last ≈ 250 kW × 1,3 ≈ 325 kW
• Monatlicher Energiebedarf ≈ 325 kW × 720 h ≈ 234 MWh
• Bei $0.05/kWh: ≈ $11.7k/Monat; bei $0.15/kWh: ≈ $35k/Monat

Beispiel B: 5.000 L40S für High‑Throughput‑Inferenz bei 40 % Auslastung, PUE 1,2.

• IT‑Last ≈ 5.000 × 0,4 × 350 W = 700 kW
• Facility‑Last ≈ 700 kW × 1,2 = 840 kW
• Monatlicher Energiebedarf ≈ 840 kW × 720 h ≈ 605 MWh
• Bei $0.05/kWh: ≈ $30k/Monat; bei $0.20/kWh: ≈ $121k/Monat

Sind das die Mehrheit Ihrer All-in-Kosten? Nein — Hardware, Miete und Plattformmarge übersteigen oft den reinen Strom. Aber in der Größenordnung sind die Differenzen echte Dollar ($1M+/Jahr), und noch wichtiger: Stromverfügbarkeit und PUE bestimmen, ob Ihr Anbieter Ihre Bestellung überhaupt bis nächstes Quartal bedienen kann.

Das Standort-Framework für CTOs: nach Workload wählen, nicht nach Logo

Hören Sie auf, „AWS, GPU Cloud oder Colo?“ zu fragen, und fragen Sie stattdessen: „Für diesen Workload: Welche Toleranz habe ich bei Latenz und Datenresidenz, und welche Mischung aus Strompreis, PUE und Kapazität gewinnt?“

Segmentieren Sie Ihre KI nach Latenz und Datengravitation

• Tier 1 – Interaktive Inferenz (sub-150 ms TTFB): Chat-UI, Inline-Code-Assist, Such-Autovervollständigung. Muss in Nutzernähe laufen (oder nahe der API, die Ihr Produkt aufruft). Zielen Sie auf dieselbe Metropolregion oder höchstens einen Backbone‑Hop entfernt. Latenzbudgets kippen bei zusätzlichen 100+ ms RTT. São Paulo–Miami ist oft 110–140 ms Round‑Trip; das allein sprengt Ihr Budget, wenn Ihre Nutzer in Virginia sind.
• Tier 2 – Nahe Echtzeit (0,5–5 s): Post‑Processing, Ranking‑Reruns, leichtgewichtiges Function Calling, das sich hinter Spinners oder Hintergrundjobs verbergen lässt. Kann 1–2 Regionen entfernt laufen, wenn Sie sauber pipelinen.
• Tier 3 – Batch/tolerant (Minuten bis Stunden): Embedding-Generierung, nächtliche Index‑Rebuilds, Fine‑Tuning, Modelldistillation, Offline‑Evaluation. Führen Sie es dort aus, wo Strom günstig und sauber ist. Verschicken Sie die Artefakte nach vorn.

Wählen Sie je Tier ein Regionsmuster

• Tier 1: Wählen Sie Latenz-arme Metropolregionen mit vertretbaren Stromkosten. In den USA heißt das oft Northern Virginia, Ohio, Dallas, Phoenix. Verhandeln Sie moderne Facilities (PUE ≤ 1,3). Meiden Sie überlastete Küstenzonen mit hohem $/kWh, außer Sie brauchen zwingend die unmittelbare Endnutzer‑Nähe.
• Tier 2: Schieben Sie Workloads in günstigere Netze, die dennoch an schnellen Backbones hängen: US‑Midwest, Quebec, Oregon, Teile von Spanien/Portugal für EU‑Nutzer. Viele bieten wasser-/windkraftdominierte Mixe und deutlich geringere CO₂‑Intensität.
• Tier 3: Jagen Sie weltweit günstigem, sauberem Strom nach. Wasserkraftdominierte Provinzen in Kanada, Windkorridore im US‑Binnenland, Nordschweden/Finnland in der EU sowie Wasser-/Windkraft in Brazil. Das Netz von Brazil ist mehrheitlich erneuerbar (Wasser + Wind + wachsende Solarenergie), was die CO₂‑Bilanz vereinfacht; die tatsächlich vertraglich vereinbarten Tarife variieren, können für gleichmäßige Hochlastkäufer aber sehr wettbewerbsfähig sein.

Nearshore‑Realitätscheck: Die Rolle von Brazil in Ihrem Mix

Brazil ist nicht der Ort, an dem Sie einen US‑gerichteten Chat‑Endpoint hosten. Es ist der Ort, an dem Sie Tier‑3‑ (und einige Tier‑2‑) Workloads sinnvoll laufen lassen können, wenn Sie Preis- und CO₂‑Vorteile mit Nearshore‑Zeitzonenüberlappung wollen.

• Strom und CO₂: Der Strommix von Brazil ist überwiegend erneuerbar, getragen von Wasser- und Windkraft. Das bedeutet oft geringere CO₂‑Emissionen pro kWh als der US‑Durchschnitt — hilfreich bei Enterprise‑Audits, die inzwischen über Offsets hinausblicken.
• Latenz-Mathematik: São Paulo ↔ Miami RTT liegt typischerweise bei 110–140 ms. Das ist für Batch- und Hintergrundarbeit in Ordnung. Nicht in Ordnung für interaktive Token‑Streams zu US‑Nutzern.
• Team‑Overlap: 6–8 Stunden Überschneidung mit US‑Zeitzonen erleichtern Betrieb und Incident Response gegenüber weit entfernten Optionen.
• Trade‑offs: Einfuhrzölle und Logistik sind schmerzhaft, wenn Sie eigene Racks kaufen; die Partnerwahl ist entscheidend. GPU‑Clouds in Brazil sind noch kapazitätsärmer als in Nordamerika, aber das ändert sich. Behandeln Sie Brazil als Batch‑Anker, nicht als Ihre einzige Region.

Drei pragmatische Architekturen, die wir tatsächlich empfehlen

1) Split‑Plane‑KI: die Hot Loop lokal halten, Schweres in günstigen Strom schieben

• Was: Tier‑1‑Inferenz in ein oder zwei US‑Metropolregionen nahe Ihrer Nutzer. Tier 2/3 in einer günstigen, CO₂‑armen Region (z. B. Quebec, US‑Binnenland mit Windstrom oder Brazil).
• Wie: Versionieren Sie Modelle und Embedding‑Indizes. Promoten Sie Artefakte über eine Registry (OCI‑basiert funktioniert gut). Nutzen Sie CDC, um von Nutzern freigegebene Inhalte für Batch‑Jobs zu bewegen; halten Sie hochriskante personenbezogene Daten (PII) nach Möglichkeit in ihrer Ursprungsregion.
• Warum: Sie erhalten vorhersehbare Latenz, günstigere Bulk‑Compute und sauberere CO₂‑Kennzahlen, die Sie tatsächlich vorzeigen können.

2) Neocloud‑Sandwich: Hyperscaler‑Edges + spezialisierte GPU‑Regionen

• Was: Frontend und latenzkritische Microservices auf Ihrem bestehenden Hyperscaler. GPU‑schwere Jobs bei einem Spezialanbieter, der Vorteile bei Strompreis und PUE belegt.
• Wie: Anbindung über Private Links oder dedizierte VPNs; Datenverträge und DPA für grenzüberschreitende Flüsse abschließen. Fordern Sie vom GPU‑Anbieter Details zu Umspannwerk/Feeder und PUE/WUE‑Nachweise, nicht nur „wir haben H100s“.
• Warum: Sie kaufen Flexibilität und schnellere Kapazitätsramps, ohne den gesamten Stack zu verlagern. Das ist der schnellste Weg zu realen Einsparungen, den die meisten Series‑B–D‑Teams umsetzen können.

3) Ein eigener Slice: reservierte Racks dort, wo der Strom passt

• Was: Verpflichten Sie sich auf eine kleine Anzahl reservierter Racks (eins bis vier) in einer Facility mit nachweislich niedrigem $/kWh und PUE. Bestücken Sie mit dem GPU‑Mix, den Ihre Workloads wirklich brauchen (oft L40S/A100‑Klasse für Inferenz, H100‑Klasse für spezifisches Training).
• Wie: Arbeiten Sie mit einem Partner, der Beschaffung, Import/Export und smarte RMA‑Logistik übernimmt. Fordern Sie transparente Stromabrechnung — Sie wollen eine kWh‑Zeile, keine gemischte Schätzung.
• Warum: Wenn Ihre KI‑Last stabil ist, übersteigt die Spanne zwischen Retail‑GPU‑Miete und Eigentum/Langzeit‑Leasing Strom- und Ops‑Kosten deutlich. Außerdem entgehen Sie Regionalknappheiten bei der Kapazität.

Die Beschaffungs‑Checkliste, die Anbieter wirklich filtert

Wenn Sie Ihr RFP ausschreiben oder einen Anbieter hart abklopfen, stellen Sie Fragen, die seine Stromposition und operative Realität offenlegen. Wenn er sie nicht beantworten kann, betreibt er kein relevantes Scale.

• Strompreis und Struktur: Wie lautet unser effektiver $/kWh und wie ist er indexiert? Ist es ein Pass‑Through aus einem PPA oder ein Netztarif? Gibt es saisonale oder Demand‑Charges, die wir modellieren sollten?
• PUE und WUE: Wie sehen PUE und Wasserverbrauch der letzten 12 Monate je Facility aus? Bitte Drittbestätigung oder Telemetrie‑Screenshots. Für Neubauten wollen wir ≤ 1,3 PUE.
• Kapazität und Interconnection: Welches Umspannwerk speist Sie? Wie viel Headroom gibt es heute und auf der 12–18‑Monats‑Roadmap? Gibt es aktive Interconnection‑Queue‑IDs?
• CO₂‑Bilanzierung: Stündliche, standortbezogene CO₂‑Intensität (gCO₂/kWh) und etwaige 24/7‑Carbon‑Free‑Energy‑Matching‑Nachweise. Jährliche Offsets gelten in RFPs, die das abfragen, nicht als „sauber“.
• Latenz‑Transparenz: Round‑Trip‑Latenzen von Ihrer Facility zu den für uns relevanten Metropolregionen. Zeigen Sie Traceroutes, nicht Marketing‑Karten.
• Thermalstrategie: Luft- vs. Flüssigkühlung jetzt und in 12 Monaten. Hot‑Aisle‑Containment? Liquid‑ready? Können Sie die Dichte erhöhen, ohne Cages zu verlegen?
• Failure Domains: Wie sind Stromzuführungen, Chiller und Netzwerkpfade isoliert? Zeigen Sie mindestens N+1 bei Strom und Kühlung.
• Vertragliche Ausstiege: Explizite Möglichkeit, herunterzurampen oder Regionen zu wechseln, falls Latenz‑ oder PUE‑Ziele verfehlt werden. Auditrechte bei Stromrechnungen, wenn wir im Pass‑Through sind.

Ehrliches Budgeting: Wohin das Geld wirklich fließt

Für die meisten Startups, die GPUs monatlich mieten, ist Rohstrom nur ein Minderteil der Rechnung. Aber das macht die Standortwahl nicht zur Rundungsdifferenz. Sie schlägt auf drei Arten durch:

• Anbieter‑Marge: Teure Regionen erzwingen höhere Preise oder engere Kontingente. Die gleiche GPU‑Stunde ist in einer wasserstromversorgten Region oft netto 10–30 % günstiger, sobald Sie verhandeln.
• Kapazitäts‑Timing: Wenn Ihr Anbieter keine Megawatt sichern kann, können Sie nicht skalieren. „Wir haben H200s in Q1“ heißt nichts, wenn das Umspannwerk ausgelastet ist.
• CO₂ im Sales‑Zyklus: Wenn Sie an Enterprises oder den Öffentlichen Sektor verkaufen, verkürzen Clean‑Region‑Nachweise Security‑ und Sustainability‑Reviews. Das spart echte Kalenderzeit.

Sicherheit und Data Governance: Blocker, die Sie tatsächlich aus dem Weg räumen können

• PII‑Grenzen: Halten Sie hochriskante personenbezogene und regulierte Daten in‑Region. Verschieben Sie für Batch‑KI nur die minimal erforderlichen Felder (tokenisiert oder maskiert). Nutzen Sie Objekt‑Level‑Zugriffskontrollen und Datenverträge, die Sie einem Auditor zeigen können.
• Grenzüberschreitende Verträge: Aktualisieren Sie DPAs und benennen Sie Ihre Batch‑Regionen und Verarbeiter explizit. Für Brazil (LGPD), EU (GDPR/DSGVO) und US‑Bundesstaaten: dokumentieren Sie, was fließt und warum.
• Provenienz und Artefakte: Versionieren Sie Modelle, Embeddings und Datensnapshots. Provenienz macht Cross‑Region‑Promotion überprüfbar und reversibel.

30/60/90‑Tage‑Plan zum Risikoabbau und Sparen

Tag 0–30: Instrumentieren und modellieren

• Messen Sie kWh pro 1.000 Tokens für Ihre wichtigsten Inferenzpfade (Anbieter können schätzen, wenn Sie es nicht können). Tracken Sie Auslastung sowie p95/p99‑Latenz.
• Klassifizieren Sie Workloads nach den drei Tiers. Seien Sie gnadenlos — die meisten „Echtzeit“-Jobs sind es nicht.
• Erstellen Sie ein einfaches TCO‑Sheet: GPU $/h, angenommene Auslastung, PUE, $/kWh und Latenzaufschlag bei Remote‑Betrieb. Sanity‑Check gegen Anbieter‑Quotes.

Tag 31–60: Den Split beweisen

• Pilotieren Sie Tier 3 in einer günstigen, sauberen Region (Quebec, US‑Windgürtel oder Brazil mit geprüftem Partner). Verschieben Sie eine Embedding‑Pipeline oder einen nächtlichen Index‑Rebuild.
• Instrumentieren Sie End‑to‑End. Validieren Sie Artefakt‑Promotion, Datenmaskierung und Incident‑Runbooks über Zeitzonen hinweg.
• Führen Sie einen Failure‑Game‑Day durch: entfernte Region kappen, lokale Fallbacks halten SLAs intakt.

Tag 61–90: Kapazität und SLAs festzurren

• Verhandeln Sie 6–12 Monate Kapazität in der günstigsten Clean‑Power‑Region. Vereinbaren Sie PUE‑ und Latenzziele in der MSA mit Ausstiegsklauseln.
• Rechtsskalieren Sie Tier‑1‑Kapazität mit realistischer Parallelität und Caching. Überprovisionieren Sie weniger, sobald das Batch‑Offload real ist.
• Veröffentlichen Sie CO₂‑Kennzahlen in Ihrem Security‑Paket. Das verkürzt Enterprise‑Zyklen und entspricht steigenden Board‑Erwartungen.

Was ist mit „Zukünftige Chips werden es schon richten“?

Ja, Hersteller arbeiten an Sub‑1‑nm‑Nodes, neuen Interposern und Inferenz‑spezifischem Silizium. Die Effizienz wird steigen. Aber die Physik sagt: Zwei Dinge bleiben wahr — das Bewegen von Tokens verbraucht Energie, und neue Megawatt ans Netz zu bringen, dauert. Die Gewinnerteams budgetieren Strom, den sie im nächsten Quartal tatsächlich bekommen können, und platzieren die richtigen Workloads jetzt in den richtigen Regionen — Effizienzgewinne nehmen sie dann als Upside mit.

Wo DHD Tech hineinpasst

Wir entwerfen und betreiben Split‑Plane‑KI‑Backends für US‑Startups mit Nearshore‑Pods in Brazil. Praktisch heißt das: Wir nehmen pro Quartal einen teuren „Always‑on“-KI‑Job, verlagern ihn in eine günstigere, sauberere Region, ohne Latenz oder Compliance zu brechen, und hinterlassen Ihnen Dashboards, die sowohl Dollar als auch Gramm CO₂‑Einsparung zeigen. Sie müssen nicht das ganze System umkrempeln, um spürbare Effekte zu sehen — Sie brauchen eine einzige, gut gewählte Verlagerung.

Kernaussagen

• Strompreis und -verfügbarkeit bestimmen KI‑Kapazität und Unit Economics heute ebenso stark wie die GPU‑Verfügbarkeit.
• Segmentieren Sie Workloads nach Latenz: Tier 1 lokal halten; Tier 2/3 in günstige, saubere Regionen schieben.
• Verlangen Sie Transparenz zu PUE, CO₂ und Interconnection von GPU‑Anbietern — nicht nur Modellnamen.
• Brazil ist ein starker Nearshore‑Anker für Batch‑KI: erneuerbarer Strommix, Kostenvorteile und Zeitzonen‑Overlap.
• Führen Sie einen 90‑Tage‑Split‑Plane‑Piloten durch, um Einsparungen zu realisieren, ohne Ihre SLAs zu riskieren.