29d • General discussion
Bir AI Eğitimi, New York'un Tüm Elektriğine Bedel
Bir düşünce deneyi: New York eyaleti, 20 milyon insan, gökdelenler, metrolar, hastaneler, milyonlarca klima. Tüm bu sistemin en yüksek anlık elektrik tüketimi 29.6 GW.
2025 sonu itibarıyla dünya genelindeki AI veri merkezlerinin toplam güç kapasitesi de 30 GW'a ulaştı. Yani sadece AI altyapısı, New York eyaletinin tamamı kadar elektrik çekebilecek durumda. IEA'ya göre 2026'da tüm veri merkezlerinin toplam elektrik tüketimi 1,100 TWh'i bulacak, bu da Japonya'nın yıllık tüketimine eşit.
## Grok 4 ve Tek Bir Eğitimin Faturası
xAI, Grok 4'ü eğitmek için Colossus adlı süper bilgisayarında 200.000'den fazla NVIDIA GPU (H100, H200, GB200) çalıştırdı. Toplam hesaplama: 246 milyon H100-saat. Harcanan enerji: 310 GWh. Maliyet: 490 milyon dolar.
Somutlaştıralım:
• 140.000 ton CO2 salındı
• Bu, 4.000 kişilik bir Amerikan kasabasının yıllık elektrik tüketimine denk
• Soğutma için 750 milyon litre su harcandı (300 olimpik havuz)
• 28.000 benzinli arabanın bir yıl boyunca ürettiği karbon
Ve bu sadece tek bir model. Llama 3.1 405B'nin eğitimi 11.390 ton CO2 üretti. GPT-3 zamanında bu rakam 552 tondu. Her nesil, bir öncekinin 10-100 katı enerji istiyor.
## Eğitim Buzdağının Görünen Kısmı
Asıl sessiz katil inference, yani modelin her gün milyonlarca kullanıcıya cevap vermesi. 2026'da frontier modellerin toplam yaşam döngüsü enerjisinin %63'ü inference'tan geliyor, sadece %37'si eğitimden. İki yıl öncesinin tam tersi.
Bir GPT-5.5 sorgusu ortalama 0.84 Wh harcar. Reasoning modelleri (o3, DeepSeek-R1) tek bir uzun prompt'ta 33 Wh'in üzerine çıkabiliyor, GPT-4.1 nano'nun 70 katı.
Google'ın 2024 çevre raporuna göre şirketin toplam karbon emisyonları bir önceki yıla göre %48 arttı. Tek sebep: AI altyapısı.
## Yarış Hızlanıyor, Fren Yok
ABD ve Çin arasındaki AI yarışı "önce kazan, sonra temizle" mantığıyla ilerliyor. 2026 sonunda beş ayrı AI veri merkezinin tek başına 1 GW kapasiteye ulaşması bekleniyor. Uptime Institute'a göre büyümenin önündeki tek engel talep değil, şebekenin fiziksel olarak yetişememesi.
## Çözüm Var mı?
Mixture of Experts mimarileri (MoE) 400 milyar parametreli bir modelde her sorguda sadece 50-70 milyar parametre çalıştırarak enerjiyi düşürebilir. Ama bu bir çözüm değil, sadece hız düşürücü.
Gerçek soru şu: bu faturayı kim ödeyecek?
0
0 comments
Bir AI Eğitimi, New York'un Tüm Elektriğine Bedel
