Yerel Yapay Zeka Rehberi: Kendi Bilgisayarında AI Çalıştırmak (2026)

Yerel yapay zeka, modeli bir şirketin sunucusunda değil kendi bilgisayarında çalıştırmak demek. Yazdığın her şey makinende kalıyor, internet kesildiğinde de çalışmaya devam ediyor ve kullandıkça kimseye ödeme yapmıyorsun. Karşılığında iki şey veriyorsun: modeli kaldıracak donanım ve en büyük bulut modellerinin seviyesinden bir miktar taviz.

Bu sayfa yerel yapay zekanın haritası. Her bölüm kısa bir özet veriyor ve konuyu derinlemesine anlatan rehbere yönlendiriyor. Nereden başlayacağını bilmiyorsan sırayla oku; belli bir sorunun varsa doğrudan o bölüme atla.

Yerel yapay zeka nedir, kime göre?

ChatGPT ya da Claude kullandığında yazdığın metin internet üzerinden şirketin sunucusuna gidiyor, cevap orada üretilip sana geri geliyor. Yerel yapay zekada bu yolculuk yok. Modelin dosyasını bir kere indiriyorsun, sonra bütün iş senin ekran kartında ya da işlemcinde dönüyor.

Bu yaklaşım üç durumda gerçekten anlamlı:

Verin dışarı çıkmamalıysa. Müşteri bilgisi, şirket içi belge, sağlık ya da hukuk evrakı gibi bir üçüncü tarafa göndermek istemediğin metinlerle çalışıyorsan yerel model bu sorunu kökünden çözüyor.

İnternetin güvenilir değilse. Model bilgisayarında olduğu için bağlantı koptuğunda da çalışıyor.

Zaten güçlü bir ekran kartın varsa. Oyun ya da tasarım için aldığın kart boşta duruyorsa, onu yapay zeka için kullanmanın ek maliyeti yok denecek kadar az.

Yerel modeli "ücretsiz ChatGPT" gibi düşünmek ise yanıltıcı. Bedeli abonelik yerine donanımla ödüyorsun; sıfırdan kart ya da bilgisayar alacaksan bu hesap çoğu kişi için tutmuyor. Rakamlarla hesabı Ücretsiz Yapay Zeka Hakkında Bilmediğin 4 Şey rehberinde bulabilirsin.

Gerçekten sana lazım mı? Karar tablosu

Durumun	Mantıklı tercih
Verinin bilgisayarından çıkmaması şart	Yerel model
İnternetin sık kesiliyor ya da hiç yok	Yerel model
Ekran kartın zaten var, merak ediyorsun	Yerel model, sıfır maliyetle dene
Kart ya da bilgisayar satın alman gerekiyor	Önce hesabı yap; çoğu kullanımda bulut daha ucuz
En iyi kaliteyi istiyorsun, gizlilik ikinci planda	Bulut modeli
Hangi bulut modelinin sana uyduğunu bilmiyorsun	Hangi yapay zeka modelini ne için kullanmalısın?

Açık ve kapalı modeller arasındaki farkı daha geniş bir çerçevede görmek istiyorsan Açık Kaynak mı, Kapalı AI mı? rehberine bak.

[mindi_yorum]
💰 Ekran kartın varsa yerel modelin maliyeti elektrik faturasından ibaret. Yoksa donanım, yıllarca ödeyeceğin bir aboneliği peşin almak gibi.
🟢 Gizlilik ve internetsiz çalışma gerçekten şartsa yerel tek seçenek; bu durumda maliyet hesabı ikinci planda kalır.
🟡 Ev bilgisayarında çalışan bir model, en büyük bulut modelleriyle yarışmıyor. Yazı, özet ve belge okumada fark küçük; uzun akıl yürütme ve zor kodlama işlerinde belirgin.
🔵 Karar vermeden önce elindeki bilgisayarda küçük bir modeli bir hafta gerçek işinde kullan. Farkı tablodan değil kendi işinden gör.

Bilgisayarın neyi kaldırır?

Yerel modelde belirleyici olan tek sayı ekran kartının belleği, yani VRAMiekran kartının kendi belleği; model çalışırken buraya yükleniyor. Model bu belleğe sığarsa hızlı çalışıyor. Sığmazsa normal RAM'e taşıyor ve belirgin şekilde yavaşlıyor.

İndirdiğin modeller çoğunlukla quantizationimodelin sayılarını sıkıştırıp dosyayı küçülten yöntem; az bir kalite kaybıyla çok daha az bellek istiyor uygulanmış hâlde geliyor. Bu sıkıştırılmış hâllerde kaba bir hesap şöyle:

Ekran kartı belleği	Rahat çalışan model boyutu	Ne bekleyebilirsin
Ekran kartı yok, 8-16 GB RAM	1-4 milyar parametre	Kısa yazışma ve özet; yavaş ama çalışıyor
6-8 GB	7-8 milyar parametre	Günlük asistan, e-posta ve metin işleri
12-16 GB	12-20 milyar parametre	Uzun belge okuma, daha tutarlı cevaplar
24 GB	30 milyar parametre civarı	Kodlama ve akıl yürütmede belirgin sıçrama

Bu tablo kaba bir çerçeve. Konuşma uzadıkça model daha fazla bellek istiyor; bu yüzden sınırda kalan bir model kısa sohbette rahat, uzun belgede zorlanabilir. Bazı modeller MoEⁱher adımda modelin yalnızca küçük bir kısmını çalıştıran yapı; hızlı çalışıyor ama dosyanın tamamı yine belleğe yükleniyor yapısında. Bu modellerin hızı küçük model gibi, ama bellek ihtiyacı toplam boyutlarına göre hesaplanıyor.

Apple Silicon işlemcili Mac'lerde ekran kartı ve sistem ayrı bellek kullanmıyor, ikisi aynı belleği paylaşıyor. Bu yüzden 32 GB ya da daha fazla belleği olan bir Mac, aynı fiyattaki birçok PC'den daha büyük modelleri açabiliyor. Belleğin tamamı modele ayrılmıyor tabii; bir kısmı işletim sistemine ve açık programlara kalıyor.

Kendi kartında tam olarak hangi modellerin çalıştığını tahmin etmene gerek yok. Bilgisayarımda hangi yapay zeka çalışır? sayfasında ekran kartını listeden seçiyorsun; sayfa sana hangi modellerin rahat döndüğünü, hangilerinin zar zor açıldığını gösteriyor.

Daha büyük modelleri çalıştırmak isteyenler için masaüstü yapay zeka kutuları da var. NVIDIA'nın GB10 çipiyle gelen bu kutularda 128 GB ortak bellek bulunuyor; Gigabyte, kendi modelinin 200 milyar parametreye kadar modelleri çalıştırabildiğini, iki kutu birbirine bağlandığında bu sınırın 405 milyara çıktığını açıklıyor. Türkiye'de hangi kutunun kaça satıldığını Türkiye'de Satılan GB10 Kutuları ve Fiyatları rehberinde, bu kutuların kimin işine yaradığını NVIDIA DGX Spark Nedir? rehberinde bulabilirsin.

Kurulum için dört yol

Yerel yapay zekayı bilgisayarına kurmanın dört yolu var ve hangisini seçeceğin bilgisayar bilgine göre değişiyor.

Masaüstü uygulaması. Normal bir program gibi indirip kuruyorsun, her şeyi fareyle yapıyorsun. Hiç terminal açmak istemiyorsan başlangıç noktan bu.

Terminal. Tek bir komut yazarak model indirip çalıştırıyorsun. Kopyala-yapıştır yapabiliyorsan zor değil.

Docker. Yapay zekayı bir servis olarak kurup tarayıcıdan ya da başka bir cihazdan kullanmak istiyorsan bu yol. Ekip için ortak bir sohbet paneli kurmak gibi işlerde işe yarıyor.

Kod editörü eklentisi. Kod yazıyorsan ve editöründen çıkmadan yerel modelle çalışmak istiyorsan bu yol.

Her yolun adım adım kurulumu, hangi durumda hangisinin seçileceği ve indirdiğin modelin lisansını nasıl okuyacağın Açık Kaynak Yapay Zeka Araçları Nasıl Kurulur? rehberinde anlatılıyor.

Hangi araçla başlamalı?

Yerel yapay zekada üç araç öne çıkıyor. Üçü de aynı açık modelleri çalıştırıyor; aralarındaki fark modelde değil, onu nasıl kullandığında.

	LM Studio	Ollama	AnythingLLM
Nasıl kullanılıyor	Programı açıp tıklıyorsun	Terminale komut yazıyorsun	Programı açıp tıklıyorsun
Güçlü olduğu yer	İlk kez deneyene en kolay başlangıç	Modeli başka uygulamalara ve otomasyonlara bağlamak	Kendi belgelerinle sohbet etmek
Sohbet ekranı	İçinde hazır	Ek arayüz gerekiyor	İçinde hazır
Yerel kullanım ücreti	Ücretsiz	Ücretsiz, açık kaynak	Ücretsiz, açık kaynak
Ayrıntılı rehber	LM Studio rehberi	Ollama rehberi	AnythingLLM rehberi

Bilgisayarında ilk kez yerel model çalıştıracaksan LM Studio ile başla. Programı kurup listeden bir model seçiyorsun ve sohbet ekranı hazır geliyor; terminal açmana gerek kalmıyor.

Ollama'ya, modeli kendi uygulamana ya da otomasyonuna bağlamak istediğinde geç. Kurulduğu anda bilgisayarında bir APIibaşka programların modele soru gönderip cevap almasını sağlayan bağlantı noktası açıyor ve onlarca uygulama bu bağlantı üzerinden Ollama'yla konuşabiliyor. Sohbet ekranı istersen Open WebUI gibi ücretsiz bir arayüzü üzerine ekleyebilirsin.

AnythingLLM ise belgelerinle çalışmak istediğinde öne çıkıyor. PDF'lerini ve notlarını bir çalışma alanına atıyorsun, model onlara bakarak cevap veriyor; belgeler bilgisayarından çıkmıyor. Son sürümlerde toplantıları yine bilgisayarın üzerinde yazıya döküp özetleyen bir asistan da eklendi.

Üçünü aynı bilgisayara kurabilirsin, birbirlerini bozmuyorlar. AnythingLLM ve Open WebUI, LM Studio ya da Ollama'yı arka planda motor olarak da kullanabiliyor.

[mindi_yorum]
💰 Üç aracın da yerel kullanımı ücretsiz. LM Studio'nun ücretli Bionic+ (aylık 20 dolar) ve Pro (aylık 100 dolar) planları yalnızca şirketin kendi sunucularındaki bulut modelleri için; bilgisayarında çalışan modele dokunmuyor.
🟢 Yanlış seçim yapma riski düşük: üçü de aynı modelleri aynı hızda çalıştırıyor, beğenmediğini kaldırıp diğerine geçebilirsin.
🟡 "Ollama daha güçlü" diye bir şey yok. Hız modelden ve ekran kartından geliyor, araçtan değil.
🔵 Sadece sohbet edeceksen terminal öğrenmek için Ollama'ya gitme; LM Studio ya da AnythingLLM yeter.

Hangi modeli indirmeli?

Model seçimi ilk bakışta karışık görünüyor, ama birkaç kural işi kolaylaştırıyor.

Önce belleğe göre ele. Yukarıdaki tabloda kartına uyan boyut aralığını bul, onun dışındakilere hiç bakma.

Kademeyle başla. Aralığın küçük ucundaki bir modelle başla. Cevaplar yetersiz gelirse bir boy büyüğüne çık. Tersini yapmak, bilgisayarını gereksiz yere zorlar ve her cevabı yavaşlatır.

Türkçeyi ayrıca test et. Küçük modeller İngilizcede iyi olup Türkçede zorlanabiliyor. Kendi Türkçe işinden bir örnekle dene; bulut modellerinin Türkçe performansını merak ediyorsan Türkçesi En İyi Yapay Zeka Modelleri testine bak.

Güvenilir kaynaktan indir. Modelleri araçların kendi kataloğundan ya da Hugging Face gibi bilinen yerlerden indir; rastgele bir siteden gelen model dosyasına güvenme.

Ekran kartı belleğine göre somut model önerileri LM Studio rehberinde, açık modellerin fiyat ve özellik karşılaştırması model dizininde var. Hugging Face'ten model bulup denemeyi Hugging Face rehberi anlatıyor.

Kurduktan sonra neler yapabilirsin?

Yerel modelin işi sohbetle sınırlı değil. Kurduktan sonra şu yönlere açılabilirsin:

Belgelerinle sohbet. Sözleşmeleri, raporları ya da notlarını modele verip onlar üzerinden soru sorabilirsin. Bu yönteme RAGimodelin cevap vermeden önce senin belgelerinde arama yapması deniyor. Hem AnythingLLM'de hem LM Studio'da hazır geliyor.

Kendi uygulamana bağlama. Ollama ve LM Studio bilgisayarında bir API açıyor. Böylece yazdığın bir script, bir otomasyon aracı ya da tablo programın yerel modele soru gönderebiliyor. Ayrıntısı Ollama rehberinde.

Ajan çalıştırma. Ajanlar, kendilerine verilen işi adım adım kendileri yürüten yapay zeka programları. Yerel modelle çalışan seçenekler arasında LM Studio'nun kendi ajanı Bionic ve kendi sunucunda çalıştırabileceğin Hermes Agent var. Ollama da OpenClaw gibi ajanlara ve kodlama araçlarına tek komutla bağlanabiliyor.

Modeli kendi işine göre eğitme. Bir modeli kendi verilerinle ince ayardan geçirip belli bir işte daha iyi hâle getirebilirsin. Bu ileri seviye bir adım; nasıl yapıldığını Fine-Tuning Nedir? rehberi anlatıyor.

Güvenlik: iki kural

Yerel yapay zeka varsayılan olarak güvenli, çünkü her şey senin bilgisayarında. Bu güvenliği bozan iki yaygın hata var.

Paneli internete açma. Kendi bilgisayarında localhost adresinden kullandığın bir arayüz yalnızca sana açık. Aynı arayüzü bir sunucuya kurup dışarıya açtığında internetteki herkes o adrese ulaşabiliyor; giriş ekranı olması tek başına yeterli koruma değil. Sunucuya kuracaksan önce erişimi kısıtla ve kimlik doğrulamayı aç.

Model dosyasını rastgele yerden indirme. Model dosyaları da bir program gibi bilgisayarına giriyor. Araçların kendi kataloğunu ya da bilinen kaynakları kullan.

Sunucu kurulumunda uygulanacak adımların tam listesi Açık Kaynak Yapay Zeka Araçları Nasıl Kurulur? rehberinin güvenlik bölümünde var.

Şimdi ne yaparsın?

1. Bilgisayarının neyi kaldırdığını öğren. Bilgisayarımda hangi yapay zeka çalışır? sayfasında ekran kartını seç.
2. LM Studio'yu kur. Listeden kartına uyan küçük bir model indir ve sohbeti başlat.
3. Bir hafta gerçek işinde kullan. Örnek soru değil, gerçekten yapman gereken bir yazı, özet ya da belge işi ver.
4. Yetersiz kalırsa bir boy büyük modele geç. Hâlâ yetmiyorsa bu işin buluta ait olduğunu kabul et; her iş yerelde dönmek zorunda değil.
5. Belgelerinle çalışacaksan AnythingLLM'i, otomasyona bağlayacaksan Ollama'yı ekle.

Yerel yapay zeka bulutun yerini tutmak için değil, verinin dışarı çıkmaması gereken işler için var. O işleri yerelde, gerisini bulutta yapmak çoğu kişi için en dengeli düzen.

---

Son güncelleme: Ekim 2026. Araçlar ve fiyatlar sık değişiyor; ücretli bir plana geçmeden önce aracın kendi fiyat sayfasına bak.