GPU Sunucu Kiralama Nedir? AI ve ML İş Yükleri İçin

GPU sunucu, içinde bir veya birden fazla güçlü ekran kartı bulunan ve bu kartların paralel hesaplama gücünü kullanmaya odaklanmış bir sunucu türüdür. Binlerce sade çekirdek, aynı matematiksel işlemi devasa veri kümeleri üzerinde eş zamanlı yürütür. Bu mimari, derin öğrenmenin temelindeki matris çarpımlarıyla birebir örtüştüğü için model eğitimi ve büyük ölçekli çıkarımda işlemciye göre çok daha yüksek verim sağlar.

Yapay zeka konuşulmaya başlandığı andan itibaren neredeyse otomatik bir refleks devreye giriyor: “O zaman bize bir GPU sunucu lazım.” Oysa sahadaki gerçek çok daha ayrıntılı. Yapay zeka projelerinin bir kısmı gerçekten özel GPU donanımı olmadan yürümez; ama önemli bir bölümü, iyi yapılandırılmış klasik bir sunucuda gayet mutlu çalışır. Yanlış tarafa yatırım yapmak ise iki yönlü zarar üretir: gereksiz GPU kiralayıp bütçe yakmak ya da GPU gerektiren bir işi CPU üzerinde haftalarca sürünerek yürütmek.

Bu yazı, bir ürün tanıtımı değil; bir karar rehberidir. GPU sunucunun ne olduğunu, hangi iş yüklerinde şart olduğunu, hangi durumlarda gereksiz bir masraf hâline geldiğini ve donanım seçerken bakmanız gereken teknik ölçütleri mühendislik gözüyle ele alıyoruz. Baştan şeffaf olalım: Alastyr bir GPU sunucu ürünü sunmamaktadır. Bu yazının amacı, doğru kararı vermenize yardımcı olmaktır; GPU gerektiren iş yükleri için özel GPU sağlayıcılarına yönelmeniz gerektiğini açıkça söylüyoruz.

GPU Sunucu Nedir?

Klasik bir sunucu ağırlıklı olarak CPU gücüne dayanır. GPU sunucu ise bunun yanına binlerce hesaplama çekirdeği ekler. Bir CPU, az sayıda ama son derece yetenekli çekirdekle karmaşık ve sıralı görevleri hızlı çözer. Bir GPU ise binlerce sade çekirdekle aynı işlemi büyük veri kümeleri üzerinde eş zamanlı yürütür. Yapay zekanın temel matematiği tam olarak bu türden bir paralellik gerektirdiği için, GPU’lar model eğitiminde CPU’lara kıyasla çoğu senaryoda 10 kat ve üzeri hızlanma sağlayabilir.

GPU kaynağına erişim sektörde iki biçimde sunulur. Birincisi, tüm fiziksel sunucunun ve üzerindeki ekran kartlarının tamamen size ayrıldığı ayrılmış (dedicated) GPU sunucu. İkincisi, sanallaştırma katmanı üzerinden GPU’nun tamamının ya da bir diliminin tahsis edildiği GPU’lu sanal sunucu modelidir. İlki tam yalıtım ve maksimum performans; ikincisi daha düşük giriş maliyeti ve hızlı ölçeklenebilirlik sunar. Her iki modelde de mantık aynıdır: hızla değer kaybeden pahalı donanımı satın almak yerine, ihtiyaç duyduğunuz süre boyunca kullanırsınız.

GPU Neden CPU’dan Bu Kadar Hızlı?

Farkı anlamak için basit bir benzetme kullanalım. CPU, birkaç doktora seviyesinde uzmandan oluşan küçük bir ekiptir: her biri son derece yeteneklidir, karmaşık ve birbirine bağımlı problemleri sırayla çözer. GPU ise binlerce lise öğrencisinden oluşan devasa bir sınıftır: tek tek çok güçlü değildirler, ama hepsine aynı basit çarpma işlemini verdiğinizde tümü aynı anda çalışır ve toplam iş kısa sürede biter.

Sinir ağı eğitimi ve çıkarımı, esasen dev matrislerin çarpımından ibarettir. Bu işlemler birbirinden bağımsız yürütülebildiği için GPU mimarisiyle mükemmel uyum içindedir. NVIDIA’nın CUDA platformu ve Tensor çekirdekleri, bu paralel hesaplamayı PyTorch ve TensorFlow gibi çerçeveler üzerinden erişilebilir kılan yazılım katmanıdır. Uygulamada karşılaşacağınız en sık teknik engel de buradan doğar: “CUDA out of memory” hatası, modeliniz kartın belleğine (VRAM) sığmadığında ortaya çıkar. Bu yüzden GPU seçiminde ham hızdan önce bakılması gereken ölçüt çoğu zaman bellektir.

Buradan çıkan ikinci sonuç ise sıkça atlanır: işiniz paralelleştirilemiyorsa GPU size hiçbir şey kazandırmaz. Sıralı mantık, dallanmalı iş kuralları, veritabanı sorguları, web istekleri ve klasik uygulama sunucusu yükleri GPU’dan fayda görmez. Bu tür işlerde bir GPU sunucu yalnızca fatura kabartır.

Hangi İş Yükleri GPU İster, Hangileri CPU ile Çalışır?

“Yapay zeka” tek bir iş yükü değildir. Aynı şemsiye altındaki senaryoların donanım profilleri birbirinden tamamen ayrılır. Aşağıdaki tablo, GPU’nun gerçekten gerekli olduğu durumlarla CPU’nun yeterli olduğu durumları karşılaştırır.

İş yükü	GPU gerekli mi?	Neden?	Pratik yaklaşım
Sıfırdan model eğitimi	Evet, zorunlu	Gradyanlar ve optimize edici durumları da bellekte tutulur; iş tamamen paralel	Özel GPU sağlayıcısı, çoğu zaman çok kartlı küme
Tam ince ayar (full fine-tuning)	Evet	Eğitimin bellek profiline yakın; yüksek VRAM ister	Özel GPU sağlayıcısı, dönemsel kiralama
LoRA / QLoRA ince ayar	Evet, ama daha mütevazı	Yalnızca küçük bir ek parametre kümesi güncellenir	Tek kartlı GPU çoğu zaman yeter
Büyük dil modelini kendi sunucunuzda çalıştırma (self-host inference)	Genellikle evet	Düşük gecikme ve yüksek eşzamanlılık için paralellik şart	Orta segment GPU; küçük modellerde CPU denenebilir
Hazır yapay zeka API’lerini tüketen uygulama	Hayır	Ağır hesaplama sağlayıcının tarafında; siz yalnızca istek gönderirsiniz	Standart bulut sunucu veya VDS
Veri hazırlama, ETL, temizleme, etiketleme	Hayır	Disk ve bellek yoğun; hesaplama sıralı ve dallanmalı	Çok çekirdekli CPU, hızlı NVMe depolama
Klasik makine öğrenmesi (regresyon, karar ağacı, XGBoost)	Hayır, çoğunlukla	Bu algoritmalar CPU üzerinde verimli çalışacak şekilde tasarlanmıştır	Güçlü CPU’lu sanal sunucu
Öneri motoru, arama, vektör veritabanı sorgulama	Hayır (küçük-orta ölçekte)	Yaklaşık en yakın komşu aramaları CPU’da makul hızda çalışır	Bellek ağırlıklı bulut sunucu
Yapay zeka destekli web uygulaması / API katmanı	Hayır	Yük tamamen istek işleme, kuyruk ve veritabanı yönetimi	Bulut sunucu, VDS, yönetilebilir ölçekleme
Görüntü, video ve 3B render	Evet	Render motorları GPU çekirdeklerini doğrudan kullanır	Özel GPU sağlayıcısı
Bilimsel simülasyon ve HPC	Değişir	Paralelleştirilebilen problemlerde GPU büyük fark yaratır	Problemin yapısına göre karar verin

Tablodaki en kritik satır muhtemelen ikinci gruptakiler. Türkiye’deki birçok ekip, yapay zeka ürününü model eğitmeden geliştirir: hazır bir modeli API üzerinden çağırır, çevresine iş mantığı, kuyruk, önbellek, veritabanı ve arayüz kurar. Bu mimaride ağır hesaplamanın tamamı model sağlayıcısının tarafında gerçekleşir. Sizin sunucunuzun görevi istekleri yönetmek, veriyi saklamak ve uygulamayı ayakta tutmaktır. Bu iş için GPU değil, dengeli CPU, yeterli RAM ve hızlı disk gerekir.

GPU’ya Gerçekten İhtiyacınız Var mı? Adım Adım Karar Akışı

Aşağıdaki soruları sırayla yanıtlayın. İlk “hayır”da durabilirsiniz; büyük olasılıkla GPU’ya ihtiyacınız yoktur.

1. Bir modeli eğitiyor musunuz, yoksa çalıştırıyor musunuz? Eğitiyorsanız (sıfırdan eğitim veya tam ince ayar) GPU zorunludur; doğrudan özel bir GPU sağlayıcısına yönelin. Yalnızca çalıştırıyorsanız bir sonraki adıma geçin.
2. Modeli kendi sunucunuzda mı barındırıyorsunuz, yoksa bir API’yi mi çağırıyorsunuz? API çağırıyorsanız hesaplama sizde değildir; GPU gerekmez. Karar burada biter, standart bir bulut sunucu yeterlidir.
3. Kendi barındırdığınız modelin boyutu ne? Milyarlarca parametreli bir dil modelini kendiniz servis edecekseniz GPU’suz gecikme kabul edilemez seviyeye çıkar. Küçük bir sınıflandırma, gömme (embedding) ya da OCR modeli ise CPU üzerinde ölçün: birçok durumda saniyenin altında yanıt alırsınız.
4. Gecikme ve eşzamanlılık hedefiniz ne? Dakikada birkaç istek mi, saniyede yüzlerce istek mi? Toplu (batch) işlemde gece boyunca çalışan bir CPU işi çoğu zaman yeterlidir; anlık yanıt gereken canlı serviste GPU’ya ihtiyaç doğar.
5. Ölçtünüz mü? Bu adımı atlamayın. Gerçek verinizle CPU üzerinde bir kıyaslama (benchmark) çalıştırın. “GPU olmadan olmaz” varsayımı, ölçüm yapılmadan verilmiş bir karardır ve çoğu zaman yanlış çıkar.
6. Kullanım süreniz ne kadar? GPU’ya gerçekten ihtiyacınız varsa, kullanım süreklililiğine bakın. Kart günün büyük bölümünde boş duracaksa kiralama; 7/24 dolu çalışacaksa satın alma daha ekonomik olabilir.
7. Geri kalan mimari nerede duracak? Model GPU’da çalışsa bile uygulamanız, veritabanınız, kuyruklarınız, arka plan işleriniz ve arayüzünüz CPU tabanlı sunucularda barınır. Bu katmanı GPU faturasının içine sıkıştırmak gereksiz maliyettir; ayırın.

Belirleyici Ölçüt: VRAM ve Model Boyutu

GPU seçiminde en sık yapılan hata, yalnızca çekirdek sayısına ya da saat hızına bakmaktır. Oysa pratikte “projeyi çalıştırabilir miyim” sorusunu belirleyen ölçüt VRAM (video belleği) miktarıdır. Pratik bir başparmak kuralı şudur: FP16 (yarı hassasiyet) formatında her 1 milyar parametre kabaca 2 GB bellek ister. Buna girdi verileri, ara katman çıktıları ve çıkarım sırasında biriken bağlam için pay eklemek gerekir.

Eğitim ve ince ayarda tablo daha ağırdır. Tam ince ayar, gradyanlar ve optimize edici durumları nedeniyle çıkarımın kat kat üzerinde bellek tüketir. LoRA ve QLoRA gibi parametre-verimli yöntemler ise bu yükü büyük ölçüde hafifletir.

İş yükü türü	Örnek model boyutu	Yaklaşık VRAM ihtiyacı	Tipik senaryo
Çıkarım (Inference)	7B parametre	14-20 GB	Kendi barındırdığınız sohbet asistanı
Çıkarım (Inference)	13B-30B parametre	32-60 GB	Orta ölçekli üretim yükü
İnce ayar (LoRA/QLoRA)	7B parametre	12-24 GB	Kendi verinizle uyarlama
Tam ince ayar (Full)	13B parametre	200 GB üzeri	Kurumsal, çok kartlı küme
Eğitim (Training)	70B ve üzeri	Çok kartlı küme	Büyük ölçekli araştırma-geliştirme

Tablodaki değerler yaklaşık ve yuvarlanmış referanslardır; gerçek tüketim çerçeveye, nicemleme (quantization) seviyesine ve bağlam uzunluğuna göre değişir. Yine de mesaj nettir: önce modelinizin bellek profilini çıkarın, donanımı ondan sonra seçin.

GPU Gerekiyorsa: Kiralama mı, Satın Alma mı?

Ölçümleriniz gerçekten GPU’yu işaret ediyorsa, sıradaki soru teknik olmaktan çok finansaldır. Amiral gemisi bir veri merkezi GPU’sunun tek başına maliyeti on binlerce dolar seviyesindedir ve bu donanım her yeni nesille hızla değer kaybeder. Karar verirken üç eksene bakın:

• Kullanım süreklililiği: Kart günün büyük bölümünde boş duracaksa kiralama neredeyse her zaman daha ekonomiktir. 7/24 dolu çalışacaksa satın alma uzun vadede kendini amorti edebilir.
• Öngörülebilirlik: İş yükünüz ani sıçramalar gösteriyorsa, kiralamanın esnek ölçeklenmesi paha biçilmezdir. İhtiyaç arttığında kart ekler, azaldığında bırakırsınız.
• Sorumluluk yükü: Satın aldığınız donanımın soğutması, güç beslemesi, ağ altyapısı ve arıza yönetimi tamamen sizin sorumluluğunuzdadır. Kiralamada bunlar sağlayıcının işidir.

Genel olarak kısa vadeli, deneysel veya değişken projeler için kiralama; uzun vadeli, kesintisiz ve tahmin edilebilir yükler için satın alınmış donanım öne çıkar. Birçok ekip ikisini birlikte kullanır: sürekli servis yükünü sabit altyapıda tutar, dönemsel eğitim ihtiyacını GPU sağlayıcısından kiralayarak karşılar.

GPU Gerektirmeyen Yapay Zeka İş Yükleri İçin Doğru Altyapı

Şeffaf olalım: Alastyr GPU sunucu hizmeti sunmamaktadır. Model eğitimi, tam ince ayar veya büyük ölçekli GPU çıkarımı gerektiren iş yükleri için özel GPU sağlayıcılarına yönelmeniz gerekir; bunu açıkça söylemeyi doğru buluyoruz.

Ancak yapay zeka projelerinin büyük bölümü GPU’nun dışında kalan bir katmandan oluşur ve bu katman en az model kadar belirleyicidir. Hazır modelleri API üzerinden tüketen uygulamalar, veri hazırlama ve ETL süreçleri, klasik makine öğrenmesi modelleri, arama ve öneri servisleri, kuyruk ve arka plan işleri, veritabanları, izleme ve arayüz katmanı: bunların tamamı CPU tabanlı sunucularda çalışır. Bu iş yükleri için ihtiyacınız olan şey güçlü bir ekran kartı değil, istikrarlı, hızlı ve ölçeklenebilir bir sunucu altyapısıdır.

Bu tarafta size destek olabiliriz. Değişken yüklerde esnek biçimde büyüyüp küçülebilen bulut sunucu çözümleri, kaynakların tamamen size ayrıldığı VDS seçenekleri ve daha yüksek kapasite gerektiren senaryolar için sunucu çözümleri ile bir yapay zeka uygulamasının GPU dışındaki tüm katmanlarını sağlıklı biçimde barındırabilirsiniz. Projeniz büyüdükçe kaynakları nasıl artıracağınızı büyüyen altyapı sayfamızda, kesintisizlik yaklaşımımızı ise uptime ve istikrar sayfamızda inceleyebilirsiniz. Daha hafif projeler ve tanıtım siteleri içinse hosting paketleri yeterli olacaktır.

Donanımın Altındaki Altyapı da En Az Kart Kadar Önemli

GPU sunucu denince akla yalnızca ekran kartının modeli gelir, ama sağlıklı bir üretim ortamı bundan çok daha fazlasını gerektirir. Kartın tam kapasite çalışabilmesi için altındaki depolama, ağ, güç ve soğutma mimarisinin de dengeli olması şarttır. Yüksek verimli bir GPU’yu yavaş bir diskle beslerseniz, kart veri bekleyerek boşta oturur ve ödediğiniz gücün karşılığını alamazsınız. Aynı ilke CPU tabanlı sunucular için de geçerlidir: darboğaz nadiren tek bir bileşendedir.

Bu yüzden sağlayıcı seçerken yalnızca işlemci veya kart modeline değil; disk teknolojisine, ağ kapasitesine, yedeklilik mimarisine, yedekleme politikasına ve DDoS koruma yaklaşımına da bakın. Bir başka pratik ölçüt veri merkezinin konumudur. Kullanıcılarınıza yakın bir konumdan servis vermek gecikmeyi düşürür ve bu, canlı servislerde doğrudan kullanıcı deneyimine yansır. Türkiye içindeki bir kitleye hizmet veriyorsanız, yurt içi bir veri merkezi hem gecikme hem de veri yerelliği açısından avantaj sağlar.

Alastyr olarak 2002’den bu yana yürüttüğümüz altyapı işletmeciliğinde İzmir’deki kendimize ait veri merkezinde, N+1 yedekli güç ve soğutma, RIPE NCC üyesi olarak işlettiğimiz bağımsız AS3188 ağı, yedekli internet çıkışı, all-flash depolama ve yüksek erişilebilirlik kümeleri kullanıyoruz. TÜRKAK onaylı ISO 9001 ve ISO 27001 sertifikalarımız, süreçlerin belgelendirilmiş bir kalite yönetimi altında yürütüldüğünün göstergesidir. Bir kez daha netleştirelim: bu altyapı CPU tabanlı sunucu, bulut ve barındırma hizmetleri içindir; GPU sunucu ürün yelpazemizde yer almamaktadır.

Sıkça Sorulan Sorular

GPU sunucu nedir?

İçinde bir veya birden fazla güçlü ekran kartı bulunan ve bu kartların paralel hesaplama gücünü kullanmaya odaklanmış bir sunucudur. Binlerce çekirdek aynı işlemi büyük veri kümeleri üzerinde eş zamanlı yürütür; bu da derin öğrenmenin temelindeki matris çarpımlarını işlemciye kıyasla çok daha hızlı tamamlar.

Her yapay zeka projesi için GPU gerekli mi?

Hayır. Model eğitimi, tam ince ayar, büyük dil modellerinin kendi sunucunuzda servis edilmesi ve render gibi işler GPU ister. Buna karşılık hazır yapay zeka API’lerini tüketen uygulamalar, veri hazırlama, klasik makine öğrenmesi, arama ve öneri servisleri, uygulama ve veritabanı katmanı çoğunlukla CPU tabanlı sunucularda sorunsuz çalışır.

GPU’ya ihtiyacım olup olmadığını nasıl anlarım?

Sırayla şunu sorun: modeli eğitiyor muyum yoksa çalıştırıyor muyum? Kendim mi barındırıyorum yoksa bir API mi çağırıyorum? Model boyutu ne, gecikme hedefim ne? En önemlisi, gerçek verinizle CPU üzerinde bir kıyaslama çalıştırın. Ölçüm yapmadan verilen “GPU olmadan olmaz” kararı çoğu zaman yanlış çıkar.

Yapay zeka için neden GPU gerekiyor, CPU yeterli değil mi?

Yapay zeka hesaplamalarının temeli, birbirinden bağımsız yürütülebilen dev matris çarpımlarıdır. CPU birkaç güçlü çekirdekle görevleri sırayla çözerken, GPU binlerce çekirdeğiyle bu işlemleri aynı anda yapar. Ancak bu avantaj yalnızca paralelleştirilebilen işlerde geçerlidir; sıralı mantık, veritabanı sorguları ve web istekleri GPU’dan fayda görmez.

VRAM neden bu kadar kritik?

Çünkü modeliniz kartın belleğine sığmıyorsa hiç çalışmaz; ünlü CUDA out of memory hatasını alırsınız. Ham hesaplama hızı yalnızca modeliniz zaten belleğe sığdığında anlam kazanır. Bu nedenle donanım seçiminde ilk bakılması gereken ölçüt çoğu zaman çekirdek sayısı değil, VRAM miktarıdır.

Çıkarım (inference) ve eğitim (training) için aynı GPU mu gerekir?

Hayır. Eğitim, model ağırlıklarının yanı sıra gradyanları ve optimize edici durumlarını da bellekte tuttuğu için çok daha fazla VRAM ister ve genellikle çok kartlı kümeler gerektirir. Çıkarım ise daha az bellekle çalışır; iyi optimize edilmiş orta segment bir kart çoğu üretim servisi için yeterli olabilir.

LoRA ve QLoRA nedir, neden önemli?

LoRA ve QLoRA, bir modelin tümünü değil yalnızca küçük bir ek parametre kümesini güncelleyen parametre-verimli ince ayar yöntemleridir. Bellek ihtiyacını dramatik biçimde düşürerek 7 milyar parametreli bir modelin ince ayarını 12-24 GB VRAM’e sığdırabilir; böylece daha ekonomik donanımlarla çalışmayı mümkün kılarlar.

GPU kiralamak mı, satın almak mı daha mantıklı?

Kart günün büyük bölümünde boş duracaksa ya da iş yükünüz değişkense kiralama neredeyse her zaman daha ekonomiktir. Yükünüz 7/24 dolu ve öngörülebilir ise satın alma uzun vadede kendini amorti edebilir. Birçok ekip sürekli servis yükünü sabit altyapıda tutup, dönemsel eğitim ihtiyacını kiralayarak ikisini birleştirir.

Alastyr GPU sunucu hizmeti veriyor mu?

Hayır. Alastyr bir GPU sunucu ürünü sunmamaktadır; GPU gerektiren iş yükleri için özel GPU sağlayıcılarına yönelmeniz gerekir. Buna karşılık yapay zeka projelerinin GPU gerektirmeyen katmanları, yani hazır model API’lerini tüketen uygulamalar, veri işleme, klasik makine öğrenmesi, veritabanı ve uygulama barındırma için bulut sunucu ve VDS çözümlerimiz uygun bir zemin sağlar.