Büyük dil modeli (LLM) nedir? ChatGPT cevabı nasıl üretiyor
ChatGPT, Claude ve Gemini'nin arkasındaki teknoloji büyük dil modelleri. Nasıl eğitildiklerini, cevabı nasıl ürettiklerini ve neden bazen çok akıllı, bazen çok basit hatalar yaptıklarını sade bir dille anlattık.
Yapay TU Editör · 3 dk okuma
Büyük dil modeli (LLM), çok büyük miktarda metinle eğitilerek dildeki kalıpları öğrenmiş bir yapay zekâ modelidir. Temel olarak bir metnin devamında hangi kelime parçasının gelmesinin en olası olduğunu tahmin eder ve cevabı bu tahminleri art arda yaparak üretir. Eğitimin ilk aşamasında genel dil bilgisi öğrenilir, sonraki aşamalarda model insan geri bildirimiyle yardımcı ve güvenli cevaplar vermeye yönlendirilir. ChatGPT, Claude ve Gemini bu tür modellerin üzerine kurulu ürünlerdir.
"Yapay zekâ" kelimesi çok geniş. Spam filtresi de yapay zekâ, satranç programı da, telefonundaki yüz tanıma da. Ama son yıllarda gündemi değiştiren şey, belirli bir yapay zekâ türü: büyük dil modelleri. İngilizce adının kısaltmasıyla LLM.
ChatGPT, Claude, Gemini, DeepSeek ve daha niceleri bu teknolojinin üzerine kurulu. Peki nasıl çalışıyorlar?
Kısaca: çok gelişmiş bir tahmin makinesi
Bir büyük dil modelinin temel görevi şaşırtıcı derecede basit: bir metnin devamını tahmin etmek.
"Türkiye'nin başkenti..." dediğinde, devamında "Ankara" gelmesinin çok yüksek olasılıklı olduğunu biliyor. "Bir varmış bir..." dediğinde "yokmuş". Bu tahmini kelime kelime (teknik olarak token token) yaparak koca paragraflar üretiyor.
Kulağa basit geliyor ama işin sırrı ölçekte. Bu tahmini iyi yapabilmek için modelin dilbilgisini, bilgileri, mantık kalıplarını, üslupları ve hatta bir problemi çözme adımlarını öğrenmesi gerekiyor. Yeterince büyük bir model, yeterince çok metinle eğitildiğinde, bu "tahmin" yeteneği soru cevaplamaya, kod yazmaya ve çeviri yapmaya dönüşüyor.
"Büyük" kısmı nereden geliyor
İki anlamda büyük:
Veri olarak büyük. Modeller kitaplar, makaleler, web siteleri, kod depoları gibi kaynaklardan gelen inanılmaz miktarda metinle eğitiliyor. Bir insanın binlerce ömür boyunca okuyamayacağı kadar.
Model olarak büyük. Modelin içinde "parametre" denen ve eğitim sırasında ayarlanan milyarlarca sayı var. Bu sayılar, modelin öğrendiği kalıpları saklıyor. Kabaca bir benzetmeyle, beynin sinir hücreleri arasındaki bağlantıların gücü gibi düşünülebilir.
Bir model nasıl eğitiliyor
Eğitim genelde birkaç aşamadan oluşuyor.
1. Ön eğitim. Model devasa metin yığınından bir sonraki kelimeyi tahmin etmeyi öğreniyor. Bu aşama aylar sürebiliyor ve on binlerce özel işlemci gerektiriyor. Sonunda dilin genel yapısını ve dünya hakkında çok sayıda bilgiyi içeren bir model çıkıyor. Ama bu model henüz iyi bir sohbet asistanı değil; sadece metin tamamlıyor.
2. İnce ayar. Model, örnek soru-cevap çiftleriyle yardımcı bir asistan gibi davranmayı öğreniyor. Soruyu anlayıp ona göre cevap vermeyi, talimatlara uymayı öğreniyor.
3. İnsan geri bildirimi. İnsanlar modelin farklı cevaplarını karşılaştırıp hangisinin daha iyi, daha doğru ve daha güvenli olduğunu işaretliyor. Model bu tercihlerden öğrenerek daha iyi cevaplar vermeye yönlendiriliyor. Zararlı isteklere nasıl tepki vereceği de büyük ölçüde bu aşamada şekilleniyor.
Neden bazen çok akıllı, bazen çok basit hata yapıyor
Büyük dil modelleri en zor matematik problemlerinde ilerleme kaydedebilirken, bir kelimedeki harfleri saymak gibi basit bir işte takılabiliyor. Bunun birkaç sebebi var.
Metni harf harf görmüyorlar. Model kelimeleri token denen parçalara bölerek görüyor. "Kalem" kelimesindeki harfleri saymak bizim için kolay, ama model kelimeyi tek parça olarak görüyorsa harflerini doğrudan "görmüyor".
Anlamak ile kalıp yakalamak arasındaki fark. Model çok sayıda örnekten kalıp öğreniyor. Eğitim verisinde sık görülen problem türlerinde çok iyi, alışılmadık şekilde sorulmuş basit bir soruda ise şaşırabiliyor.
Bilmediğini her zaman bilmiyor. En olası cevabı ürettiği için, bilmediği bir konuda da akıcı ve kendinden emin bir cevap verebiliyor. Bu durum halüsinasyon olarak biliniyor.
Model ile ürün arasındaki fark
Sık karıştırılan bir nokta: model ve ürün aynı şey değil.
- Model: Arka plandaki yapay zekâ. Örneğin OpenAI'ın GPT modelleri, Anthropic'in Claude modelleri, Google'ın Gemini modelleri.
- Ürün: Modeli kullanan uygulama. ChatGPT, Claude sohbet uygulaması, Gemini uygulaması.
Ürünler modele ek özellikler katıyor: internette arama, dosya okuma, hafıza, görsel üretme, kod çalıştırma. Bu yüzden aynı model, farklı ürünlerde farklı yeteneklere sahip görünebiliyor.
Açık ve kapalı modeller
Bazı şirketler modellerini sadece kendi ürünleri ve API'leri üzerinden sunuyor; bunlara kapalı modeller deniyor. Bazıları ise modelin kendisini indirilebilir şekilde yayınlıyor. Bu açık modelleri, örneğin Ollama gibi araçlarla kendi bilgisayarında çalıştırabiliyorsun.
Kısacası
Büyük dil modeli, devasa miktarda metinden dilin kalıplarını öğrenmiş ve bu kalıplarla bir sonraki kelimeyi tahmin eden bir sistem. Bu basit fikir, yeterince büyük ölçekte uygulandığında bugün kullandığımız yapay zekâ asistanlarını ortaya çıkarıyor. Nasıl çalıştığını bilmek, ondan ne bekleyeceğini ve nerede kontrol etmen gerektiğini anlamanı kolaylaştırıyor.
Yeni duyduğun terimler için yapay zekâ sözlüğümüze göz atabilirsin.
Sık sorulanlar
ChatGPT ile GPT aynı şey mi?
Değil. GPT, OpenAI'ın geliştirdiği dil modellerinin adı. ChatGPT ise bu modelleri kullanan sohbet ürünü. Benzer şekilde Claude hem Anthropic'in modellerinin hem de sohbet ürününün adı.
Büyük dil modelleri internete bağlı mı?
Modelin kendisi eğitildiği tarihe kadarki bilgiyle sınırlı. Ancak birçok ürün, modele internette arama yapma aracı ekleyerek güncel bilgiye erişmesini sağlıyor.
Modeller her seferinde aynı cevabı neden vermiyor?
Cevap üretirken her adımda tek bir kesin kelime yerine olasılıklara göre seçim yapıldığı için, aynı soruya farklı ama benzer cevaplar gelebiliyor. Bu, cevapların daha doğal ve çeşitli olmasını sağlıyor.
Haftada bir e-posta. Sadece işe yarayanlar.
Haftanın en iyi yapay zekâ araçları ve yeni rehberler. Reklam yok, istediğin an çık.
Yapay zekâ sözlüğü: 41 terim, sade Türkçe
