AI Agent Nedir, Kendi Sunucunuzda Nasıl Kurulur?

AI Agent (yapay zeka ajanı), bir büyük dil modelini (LLM) karar verme motoru olarak kullanan; araçları çağırabilen, hafıza tutan ve çok adımlı görevleri kendi kendine planlayıp yürüten bir yazılımdır. Sıradan bir sohbet botundan temel farkı, yalnızca metin üretmekle kalmayıp dış sistemlerle (API, veritabanı, e-posta, web araması) gerçek eylemler gerçekleştirebilmesi ve aldığı sonuçlara göre bir sonraki adımına kendisi karar verebilmesidir. Bu rehberde AI agent’ın ne olduğunu, nasıl çalıştığını ve kendi sunucunuzda baştan sona nasıl kuracağınızı, kuruluma kalkışmadan önce bilmeniz gereken donanım ve güvenlik ayrıntılarıyla birlikte anlatıyoruz.

AI agent’larınızı gizli, hızlı ve sabit maliyetle çalıştırmanın en temiz yolu, onları kendi sunucunuza kurup yerel bir LLM’e bağlamaktır. Böylece verileriniz Türkiye’deki bir sunucudan dışarı çıkmaz, jeton (token) başına ücret ödemezsiniz ve agent’ı dilediğiniz gibi özelleştirirsiniz.

AI Agent ile Chatbot Arasındaki Fark

Bir chatbot, sorduğunuz soruya metinle yanıt verir ve orada durur. Bir AI agent ise hedefe ulaşmak için araçlar kullanır: web’de arama yapar, bir veritabanını sorgular, e-posta gönderir, bir API’yi tetikler ve dönen sonucu değerlendirip gerekirse yeni bir adım atar. Yani agent “konuşan” değil, “iş yapan” bir yapay zekadır. Aradaki farkı şöyle özetleyebiliriz:

Bu yetenek farkı, agent’ı otomasyonun çok daha güçlü bir biçimine dönüştürür. Bir chatbot size “kargonuz yolda” diyebilir; bir agent kargo firmasının API’sini sorgular, gecikme varsa müşteriye özür e-postası taslağı hazırlar ve gerekirse bir destek kaydı açar.

AI Agent Nasıl Çalışır? ReAct Döngüsü

Bir AI agent’ın kalbinde “düşün–eyle–gözlemle” (reason–act–observe) döngüsü, kısaca ReAct bulunur. Akış şöyle ilerler: agent kullanıcıdan veya bir tetikleyiciden görev alır → LLM ile bir plan oluşturur → gereken aracı (web araması, veritabanı sorgusu, hesaplama, e-posta) çağırır → dönen sonucu gözlemler → hedefe ulaşana kadar bu adımları tekrarlar.

Pratikte LLM, her turda ya bir araç çağırma kararı verir ya da “işim bitti” sinyali üretir. Modern agent platformları bu döngüye bir iterasyon sınırı koyar; örneğin n8n’in AI Agent düğümünde varsayılan üst sınır 10 adımdır. Bu sınır önemlidir: hatalı bir araç ya da belirsiz bir görev, agent’ı sonsuz döngüye sokup hem zaman hem de jeton maliyeti yaratabilir. Bu döngüsel mantık, agent’ı statik bir asistandan ayıran ve karmaşık görevleri parçalara bölerek çözmesini sağlayan şeydir.

AI Agent Ne İşe Yarar? Gerçek Kullanım Senaryoları

Teori güzel ama agent’ı asıl değerli kılan, gerçek işleri otomatikleştirmesidir. Türkiye’deki KOBİ’ler ve e-ticaret işletmeleri için sık görülen senaryolar:

• Müşteri destek asistanı: Kendi ürün kataloğunuzu ve SSS belgelerinizi bilen, gece yarısı bile doğru cevap veren, gerektiğinde insana yönlendiren bir asistan.
• İç dokümantasyon arama: Şirket içi prosedür, politika ve teknik belgeler arasında doğal dille arama yapıp özet çıkaran bir agent.
• Rapor ve içerik üretimi: Veritabanından satış verisini çekip haftalık özet rapor hazırlayan, ardından e-posta ile gönderen bir akış.
• Sipariş ve süreç takibi: Kargo, fatura veya CRM API’leriyle konuşup durum sorgulayan, müşteriye bildirim üreten otomasyonlar.
• Geliştirici yardımcısı: Sunucu loglarını okuyup hata özeti çıkaran, basit bakım görevlerini tetikleyen iç araçlar.

Ortak nokta şu: bu işlerin hepsi sizin verinize dokunur. İşte tam da bu yüzden agent’ı bulutta bir başkasının sunucusunda değil, kontrolünüzdeki bir sunucuda çalıştırmak çoğu zaman daha mantıklıdır.

Kendi Sunucunuzda AI Agent Kurma Yolları

Mantık her araçta aynıdır: görsel/akış tabanlı bir orkestrasyon platformu kurarsınız → LLM olarak Ollama (yerel) veya bir bulut API’sini bağlarsınız → araçlar ve tetikleyiciler ekleyip agent’ı çalıştırırsınız. En pratik üç araç şunlardır.

Flowise — Sürükle-bırak, kod gerektirmez

Görsel bir tuval üzerinde düğümleri bağlayarak agent ve RAG akışları kurarsınız. İlk kez agent kuracaklar için en yumuşak başlangıçtır. Docker ile kurulumu:

git clone https://github.com/FlowiseAI/Flowise.git
cd Flowise/docker
cp .env.example .env
docker compose up -d        # http://SUNUCU_IP:3000

n8n — Otomasyon + yerleşik AI Agent düğümleri

Zaten güçlü bir otomasyon platformu olan n8n, AI Agent düğümleriyle agent’ları daha geniş iş akışlarına gömmenizi sağlar. Düğüm; bir sohbet modeli, isteğe bağlı bir vektör veritabanı ve araç listesi (HTTP istekleri veya n8n alt akışları) alır. Model sağlayıcısı olarak OpenAI, Anthropic, Mistral, Google ve yerel için Ollama desteklenir.

docker volume create n8n_data
docker run -d --restart unless-stopped --name n8n -p 5678:5678
 -e N8N_RUNNERS_ENABLED=true
 -v n8n_data:/home/node/.n8n docker.n8n.io/n8nio/n8n

Dify — Üretime hazır agentic platform + RAG

Daha kurumsal, çok kullanıcılı agent uygulamaları için Dify güçlü bir seçimdir. Yerleşik RAG, kullanıcı yönetimi ve API yayınlama özellikleriyle gelir.

git clone https://github.com/langgenius/dify.git
cd dify/docker
cp .env.example .env
docker compose up -d        # http://SUNUCU_IP/install

Üç araçta da LLM sağlayıcısı olarak “Ollama”yı seçip URL’e http://host.docker.internal:11434 yazarak yerel modelinize bağlanırsınız. Böylece hiçbir veri dışarı çıkmaz ve API ücreti ödemezsiniz. LangChain ise hazır bir sunucu değil, agent kodunu sıfırdan yazmak isteyenler için bir kütüphanedir; hız ve görsellik istiyorsanız yukarıdaki üç araç çok daha pratiktir.

Yerel LLM mi, Bulut API’si mi?

Kuruluma başlamadan vereceğiniz en önemli karar budur. İkisinin de yeri vardır:

Pratik bir denge de mümkündür: ağır akıl yürütmeyi bulut modeline, ucuz sınıflandırma ve gömme (embedding) işlerini yerel Ollama’ya yaptırarak maliyeti aşağı çekebilirsiniz. KVKK kapsamına giren kişisel veriyle çalışıyorsanız, verinin yurt dışına çıkmaması açısından yerel modeli Türkiye’deki bir sunucuda çalıştırmak ciddi bir avantajdır.

Sistem Gereksinimleri ve Model Seçimi

Platformun kendisi (Flowise/n8n/Dify) hafiftir ve 2 GB RAM’li bir sunucuda rahat çalışır. Asıl yükü, bağladığınız LLM oluşturur. Bulut API’si kullanacaksanız küçük bir sunucu yeterlidir. Yerel model çalıştıracaksanız kaba kural şudur: model parametre sayısının yaklaşık yarısı kadar GB bellek (Q4 sıkıştırmada) gerekir. Aşağıdaki tablo yaygın model boyutları için pratik bir başlangıç noktasıdır:

Önemli bir ayrıntı: bağlam penceresi (context window) büyüdükçe bellek ihtiyacı modelin kendisinin ötesine geçer. 7B bir modelde 2K bağlam sadece birkaç yüz MB ek bellek isterken, 128K bağlam tek başına onlarca GB tutabilir. Uzun belgelerle çalışacaksanız bunu hesaba katın. GPU şart değildir; modern bir CPU ve yeterli RAM ile küçük modeller çalışır, ancak yanıt hızı için GPU veya bol RAM gözle görülür fark yaratır. AI agent yükü artıp tek sunucu yetmemeye başladığında, kaynakları esnek ölçeklendirebileceğiniz bir bulut sunucu daha uygun bir zemin sunar.

RAG: Agent’ı Kendi Verinizle Beslemek

RAG (Retrieval-Augmented Generation), agent’ın yanıt verirken kendi belgelerinizi, kataloglarınızı veya bilgi tabanınızı kullanmasını sağlar. Belgelerinizi bir vektör veritabanına yükler, agent’a “bilgi tabanı” olarak bağlarsınız; böylece genel bir model değil, sizin verinizi bilen, doğru ve güncel cevaplar üreten özel bir asistan elde edersiniz. Flowise ve Dify bu süreci görsel arayüzle çok kolaylaştırır. Müşteri destek botları ve iç dokümantasyon asistanları için en güçlü senaryo budur. RAG aynı zamanda modelin “uydurma” (halüsinasyon) yapma eğilimini azaltır, çünkü agent cevabı tahmin etmek yerine sizin verdiğiniz kaynaktan çekmeye yönlendirilir.

Güvenlik ve Sık Yapılan Hatalar

Agent’ı kurmak kolay; güvenli ve istikrarlı çalıştırmak asıl iştir. Üretime almadan önce şunlara dikkat edin:

• Arayüzü internete açık bırakmayın. Flowise, n8n ve Dify’ın yönetim panelini doğrudan halka açık porttan değil, güçlü parola, ters proxy ve SSL arkasından yayınlayın. Ücretsiz SSL sertifikası ile trafiği şifrelemek ilk adımdır.
• API anahtarlarını koruyun. Bulut LLM anahtarlarını kod içine gömmeyin; ortam değişkeni veya platformun kimlik bilgisi (credential) deposunu kullanın.
• İterasyon sınırı koyun. Agent’ın döngüde takılıp maliyet patlatmasını önlemek için adım sınırını ve zaman aşımını mutlaka ayarlayın.
• Araç yetkilerini daraltın. Agent’a yalnızca işini görecek kadar yetki verin; veritabanına salt okunur erişim, e-posta için onay adımı gibi sınırlar koyun.
• Yedek alın. Akış tanımlarınızı ve vektör verinizi düzenli yedekleyin; günlük yedekleme alışkanlığı bir gün sizi kurtarır.

Bu önlemlerin çoğu, sunucu tarafında doğru bir altyapıyla kendiliğinden kolaylaşır: izole bir ortam, düzenli yedekleme, DDoS koruması ve 7/24 destek, agent’ınızın arkasındaki sunucunun da sizin kadar uyanık olması demektir.

Sıkça Sorulan Sorular

AI agent ile chatbot aynı şey mi?

Hayır. Chatbot yalnızca yanıt üretir; agent araç kullanıp eylem yapar ve çok adımlı görevleri kendi planlayarak yürütür.

Kod bilmeden agent kurabilir miyim?

Evet. Flowise, n8n ve Dify görsel arayüzleriyle kod yazmadan agent kurmanıza imkan tanır; sürükle-bırak ile akış tasarlarsınız.

Yerel mi yoksa bulut LLM mi kullanmalıyım?

Gizlilik, KVKK uyumu ve sabit maliyet önemliyse Ollama ile yerel; en yüksek yanıt kalitesi gerekiyorsa bulut API’leri tercih edilir. İkisini birlikte de kullanabilirsiniz.

AI agent için ne kadar güçlü sunucu gerekir?

Bulut LLM ile platformu çalıştırmak için 2 GB RAM yeterlidir. Yerel model çalıştıracaksanız 7B için 8 GB, 13-14B için 16 GB RAM önerilir; uzun bağlam kullanacaksanız daha fazlası gerekir.

RAG ne zaman gerekir?

Agent’ın şirketinize özel, güncel ve doğru cevaplar vermesi gerektiğinde RAG kullanılır. Müşteri desteği ve iç doküman asistanlarında neredeyse şarttır.

LangChain nedir, kurmam gerekir mi?

LangChain hazır bir sunucu değil, agent kodu yazmak için kullanılan bir kütüphanedir. Görsel araçlar yeterliyse LangChain’e ihtiyacınız olmaz.

Verilerim güvende kalır mı?

Yerel LLM kullandığınızda veriler sunucunuzdan dışarı çıkmaz. Paneli SSL ve güçlü parola ile koruyup Türkiye’deki bir sunucuda barındırdığınızda kontrol tamamen sizde olur.

Ollama nedir?

Ollama, açık kaynaklı LLM’leri kendi sunucunuzda tek komutla indirip çalıştırmanızı sağlayan bir araçtır. Flowise, n8n ve Dify ona kolayca bağlanır.

Agent’ı üretimde sürekli çalışır tutmak için ne lazım?

İstikrarlı bir sunucu, düzenli yedekleme, SSL, DDoS koruması ve sorun anında erişebileceğiniz 7/24 destek; agent’ın kesintisiz çalışması altyapının sağlamlığına bağlıdır.