Services
Platforms
Industries
Customers
Insights
About
LLM Nedir? Büyük Dil Modelleri Nasıl Çalışır ve Nerede Kullanılır?
Token, transformer, halüsinasyon, RAG ve kurumsal riskler: büyük dil modeline bakış
LLM (large language model, Türkçesiyle büyük dil modeli), çok büyük miktarda metin üzerinde eğitilerek dili anlayan ve yeni metin üreten bir yapay zekâ modelidir. Soru yanıtlamak, özet çıkarmak, çeviri yapmak, e-posta ya da kod yazmak gibi dil temelli işleri, bir cümlede bir sonraki kelimenin ne olması gerektiğini tahmin ederek yerine getirir.
ChatGPT’nin hayatımıza girmesiyle “LLM nedir?” sorusu teknik ekiplerin gündeminden yönetim kurullarına taşındı. Bu yazıda büyük dil modellerinin nasıl çalıştığını matematiğe girmeden anlatıyor, neleri yapıp neleri yapamadığını, kurumlarda hangi işlerde kullanıldığını ve hangi riskleri taşıdığını ele alıyoruz. Son bölümde de bir şirketin LLM kullanımına nereden başlaması gerektiğini adım adım özetliyoruz.
LLM nedir ve ne demek?
LLM, İngilizce “large language model” ifadesinin kısaltmasıdır. “Büyük” kelimesi iki şeyi anlatır: modelin eğitildiği metin miktarının çok büyük olmasını ve modelin içindeki ayarlanabilir değer (parametre) sayısının çok yüksek olmasını. “Dil modeli” ise modelin temel görevini tanımlar: bir metin verildiğinde, devamında en olası kelimeyi tahmin etmek.
Bu basit görünen görev, yeterince büyük ölçekte yapıldığında şaşırtıcı yetenekler ortaya çıkarır. Model, dilbilgisini, kavramlar arasındaki ilişkileri, farklı yazım üsluplarını ve pek çok alandaki genel bilgiyi metinlerden öğrenir. Bugün sohbet asistanlarının, akıllı arama araçlarının ve birçok kurumsal yapay zekâ çözümünün arkasında bir LLM bulunur.
Büyük dil modeli nasıl çalışır?
Bir LLM’in çalışma mantığını üç kavramla anlamak mümkündür: token, eğitim ve transformer mimarisi.
Token: modelin okuduğu birim
LLM’ler metni kelime kelime değil, token adı verilen küçük parçalar halinde işler. Bir token bazen tam bir kelime, bazen bir kelimenin eki ya da bir noktalama işaretidir. Örneğin “sözleşmelerimizi” gibi uzun bir Türkçe kelime birkaç token’a bölünebilir. Modelin ne kadar metin okuyabildiği, ne kadar yanıt üretebildiği ve kullanım maliyeti genellikle token sayısıyla ölçülür.
Ön eğitim ve ince ayar
Modelin oluşturulması iki ana aşamadan geçer:
- Ön eğitim (pre-training): Model; kitaplar, makaleler, web sayfaları ve kod gibi devasa bir metin koleksiyonu üzerinde, bir sonraki token’ı tahmin etmeyi öğrenir. Bu aşama çok yüksek işlem gücü gerektirir ve modelin genel dil ve bilgi temelini oluşturur.
- İnce ayar (fine-tuning): Ön eğitimli model, talimatlara uyması, soruları yararlı biçimde yanıtlaması ve zararlı içerik üretmemesi için daha seçilmiş örneklerle ve insan geri bildirimiyle ayrıca eğitilir. Sohbet asistanlarının “konuşur gibi” yanıt vermesi bu aşamanın sonucudur.
Transformer ve dikkat mekanizması
Günümüz LLM’lerinin neredeyse tamamı transformer adı verilen bir sinir ağı mimarisine dayanır. Transformer’ın temel fikri dikkat mekanizmasıdır (attention): model, bir kelimeyi yorumlarken cümledeki ve metindeki diğer tüm kelimelere bakar ve hangilerinin o an daha önemli olduğuna karar verir. Örneğin “Müşteri, sipariş geciktiği için firmayı aradı ve onun ne zaman teslim edileceğini sordu” cümlesinde “onun” kelimesinin firmayı değil siparişi işaret ettiğini bu sayede anlar. Bu yapı, modelin uzun metinlerde bağlamı korumasını ve çok sayıda hesaplamayı paralel yapabilmesini sağlar.
LLM neler yapabilir, neler yapamaz?
Büyük dil modelleri dil temelli işlerde çok güçlüdür:
- Uzun dokümanları özetlemek ve ana maddeleri çıkarmak
- Soru yanıtlamak ve bir konuyu farklı seviyelerde açıklamak
- E-posta, rapor, teklif ve içerik taslağı yazmak
- Diller arasında çeviri yapmak
- Metni sınıflandırmak, duygu ve niyet analizi yapmak
- Kod yazmak, açıklamak ve hata ayıklamaya yardım etmek
Ancak bir LLM’in sınırlarını bilmek, onu doğru kullanmanın ön koşuludur:
- Halüsinasyon: Model, bilmediği bir konuda da akıcı ve kendinden emin bir yanıt üretebilir. Var olmayan bir kaynak, yanlış bir tarih ya da uydurma bir rakam bu yüzden ortaya çıkar. Kritik bilgiler mutlaka doğrulanmalıdır.
- Bilgi kesim tarihi: Model yalnızca eğitildiği verideki bilgiyi bilir. Eğitimden sonra yaşanan gelişmelerden ve şirketinizin iç verilerinden, ayrıca bağlanmadıkça haberi yoktur.
- Bağlam penceresi: Modelin tek seferde dikkate alabildiği metin miktarı sınırlıdır. Çok uzun bir doküman setini tek seferde “okutmak” her zaman mümkün değildir; bu yüzden ilgili parçaları seçip modele vermek gerekir.
- Hesap ve mantık hataları: LLM’ler metin tahmini yapar, hesap makinesi gibi çalışmaz. Çok adımlı hesaplarda ve kesin kurallara dayalı kararlarda ek kontrol gerekir.
Bilinen LLM aileleri hangileridir?
Piyasada farklı şirketlerin ve toplulukların geliştirdiği birçok büyük dil modeli ailesi vardır. Yaygın bilinen örnekler arasında OpenAI’ın GPT ailesi, Anthropic’in Claude ailesi, Google’ın Gemini ailesi ve Meta’nın Llama ailesi sayılabilir. Bu modellerin bir kısmı yalnızca bulut hizmeti olarak sunulurken, bazıları açık ağırlıklı olarak yayımlanır ve kurumun kendi altyapısında çalıştırılabilir. Kurumsal seçimde “hangi model en iyisi” sorusundan çok, kullanım senaryosuna, veri politikasına ve maliyete uygunluk belirleyicidir.
LLM, üretken yapay zekâ, AI agent ve RAG arasındaki fark nedir?
Bu kavramlar sık sık birbirinin yerine kullanılır, ancak farklı şeyleri anlatır:
| Kavram | Ne anlatır? | Kısa örnek |
|---|---|---|
| LLM | Metni anlayan ve metin üreten model | Bir sözleşmeyi özetleyen dil modeli |
| Üretken yapay zekâ | Metin, görsel, ses ya da kod gibi yeni içerik üreten yapay zekâ sistemlerinin genel adı | Metinden görsel üreten bir araç |
| AI agent | Bir LLM’i araçlarla birleştirip hedefe yönelik adımları kendi planlayan ve uygulayan sistem | Talebi okuyup kayıt açan, ilgili kişiye görev atayan asistan |
| RAG | LLM’in yanıt vermeden önce kurumun kendi dokümanlarından ilgili bilgiyi bulup kullanması | İç prosedürlerden kaynak göstererek yanıt veren asistan |
Kısacası LLM motordur; üretken yapay zekâ bu motorun da içinde olduğu geniş kategoridir. RAG modeli şirketinizin bilgisiyle besler, AI agent ise modele iş yaptırır. Ajanların nasıl çalıştığını ise AI agent nedir? yazımızda ayrıntılı anlattık.
LLM’ler kurumlarda nasıl kullanılır, riskleri nelerdir?
Kurumsal kullanım alanları
Büyük dil modelleri, bilginin metin olarak dolaştığı hemen her süreçte değer üretebilir:
- Müşteri hizmetleri: Gelen talepleri sınıflandırmak, yanıt taslağı hazırlamak ve temsilcilere bilgi önermek
- Satış ve pazarlama: Teklif ve e-posta taslakları, toplantı notlarından özet ve sonraki adım listesi
- Doküman ve bilgi yönetimi: Sözleşme, prosedür ve teknik dokümanlardan soru yanıtlamak, özet çıkarmak
- İnsan kaynakları: İş ilanı taslakları, çalışanların politika ve prosedür sorularına yanıt
- Yazılım geliştirme: Kod üretimi, kod açıklama ve test yazımı
- İş akışları: Gelen e-posta ya da formdaki bilgiyi okuyup doğru sürece ve kişiye yönlendirmek
LLM’lerin ve eylem odaklı modellerin iş dünyasına etkisini daha geniş bir perspektifle LLM ve LAM’lerin iş dünyasına etkisi yazımızda inceledik. Asıl kazanç ise modeli tek başına kullanmaktan değil, onu iş akışlarına entegre etmekten gelir.
Kurumsal riskler
Bir çalışanın bir dokümanı kopyalayıp herkese açık bir sohbet aracına yapıştırması birkaç saniye sürer. Kurumların LLM kullanımında dikkat etmesi gereken başlıca riskler şunlardır:
- Veri gizliliği: Modele gönderilen müşteri, personel ya da ticari sır niteliğindeki veriler, hizmet sağlayıcının koşullarına bağlı olarak saklanabilir veya işlenebilir.
- KVKK ve verinin konumu: 6698 sayılı Kişisel Verilerin Korunması Kanunu kapsamında kişisel verilerin hangi ülkede tutulduğu ve yurt dışına aktarılıp aktarılmadığı önemli bir sorudur. Bir LLM çözümü seçerken verinin nerede işlendiğini ve saklandığını baştan sormak gerekir. Örneğin CloudOffix, Türkiye’deki müşterilerinin verilerini Türkiye’de tutar.
- Kontrolsüz kullanım: Çalışanların BT’nin bilgisi dışında yapay zekâ araçları kullanması, “gölge yapay zekâ” riskini doğurur. Bu konuyu Shadow AI nedir? yazımızda ele aldık.
- Yanlış bilgi: Halüsinasyon nedeniyle doğrulanmadan kullanılan bir yanıt, hatalı bir karara ya da müşteriye yanlış bilgi verilmesine yol açabilir.
- Yetki ve erişim: Kurumsal verilere bağlanan bir asistanın, kullanıcının zaten erişebildiği bilgiden fazlasını göstermemesi gerekir.
Kurumlar LLM kullanımına nasıl başlamalı?
Başarılı projeler genellikle büyük bir dönüşüm planıyla değil, net bir ilk senaryoyla başlar:
- Kullanım senaryosunu seçin: Tekrar eden, metin yoğun ve sonucu ölçülebilir bir iş belirleyin; örneğin destek taleplerinin sınıflandırılması ya da sözleşmelerden özet çıkarılması.
- Veriyi hazırlayın: Modelin kullanacağı dokümanların güncel, tekil ve düzenli olması gerekir. Dağınık klasörlerdeki çelişkili sürümler, en iyi modelin bile yanlış yanıt vermesine neden olur.
- Doğru mimariyi belirleyin: Kurum bilgisine dayalı yanıtlar için RAG, iş yaptırmak için agent, basit metin işleri için doğrudan LLM kullanımı uygun olabilir.
- Yönetişimi baştan kurun: Hangi araçların hangi verilerle kullanılabileceğini, kimin onay vereceğini ve çıktıların nasıl doğrulanacağını yazılı bir politikayla belirleyin.
- Küçük başlayıp ölçün: İlk senaryoyu sınırlı bir ekiple deneyin, sonuçları ölçün, ardından yaygınlaştırın.
Bu adımlar, kurumunuzun önceliklerine göre bir yapay zekâ yol haritasına dönüştürüldüğünde tek seferlik denemeler kalıcı kazanımlara dönüşür.
MechSoft LLM projelerinde nasıl yardımcı olur?
MechSoft, 2008’den bu yana 1.000’den fazla müşteriyle 1.500’ü aşkın projede dijital dönüşüme eşlik eden bir dijital dönüşüm ve yapay zekâ danışmanlık şirketidir. Yapay zekâ danışmanlığı kapsamında kullanım senaryolarını belirliyor, veriyi hazırlıyor ve yönetişim çerçevesini birlikte kuruyoruz.
Uygulama tarafında CloudOffix ve M-Files platformlarını kullanıyoruz. CloudOffix Agentic App Builder, ekibinizin kullandığı AI geliştirme aracını MCP üzerinden CloudOffix’e bağlar; uygulamalar ve iş akışları bu araçlarla, kullanıcının yetkileri içinde ve sürümlü modüller olarak geliştirilir. Doküman tarafında ise M-Files Aino, dokümanlarınızı sınıflandırır, özetler ve sorularınızı kaynak bağlantılarıyla yanıtlar; bu, RAG yaklaşımının kurumsal hayattaki somut bir örneğidir.
Sık sorulan sorular
LLM ne demek?
LLM, “large language model” yani büyük dil modeli demektir. Çok büyük miktarda metinle eğitilen, dili anlayan ve yeni metin üreten yapay zekâ modellerinin genel adıdır.
LLM ile ChatGPT aynı şey mi?
Hayır. ChatGPT, OpenAI’ın GPT ailesinden büyük dil modellerini kullanan bir sohbet uygulamasıdır. LLM ise bu uygulamanın arkasındaki model türünün adıdır; Claude, Gemini ve Llama gibi başka LLM aileleri de vardır.
LLM neden yanlış bilgi verir?
LLM’ler bilgiyi bir veri tabanından okumaz, en olası metni tahmin ederek üretir. Bu nedenle bilmediği konularda da akıcı ama yanlış yanıtlar üretebilir; buna halüsinasyon denir ve RAG ile kaynak gösterme bu riski azaltır.
LLM şirket verileriyle nasıl kullanılır?
En yaygın yöntem RAG’dir: model, yanıt vermeden önce kurumun dokümanlarından ilgili bölümleri bulur ve yanıtını bunlara dayandırır. Bu sırada kullanıcının yalnızca yetkili olduğu verilere erişmesi sağlanmalıdır.
LLM seçerken nelere dikkat edilmeli?
Kullanım senaryosuna uygunluk, verinin hangi ülkede işlendiği ve saklandığı, yurt dışına aktarım olup olmadığı, maliyet ve mevcut sistemlerle entegrasyon başlıca kriterlerdir.
Kurumunuzda LLM’leri nereden ve nasıl kullanmaya başlayacağınızı birlikte planlayalım. Bizimle iletişime geçin.
İlgili yazılar: LLM ve LAM’lerin iş dünyasına etkisi · AI agent nedir? · AI ve generative AI aynı şey değil
Let’s talk about this in your own processes.
Let’s work out together how to put what you have read into practice in your organisation.
Related articles
Puantaj nedir? Puantaj cetveli nasıl tutulur, nasıl hesaplanır?
Çalışma günleri, izinler, fazla mesai ve hafta tatili: bordronun doğru veriyle başlaması için puantaj
Bordro nedir? Bordrolama nasıl yapılır, bordroda neler yer alır?
Brütten nete hesap, kesintiler, bordro takvimi ve bordrolamayı İK ile tek yerde yönetmek
Yıllık izin süreleri: yıllık izin kaç gün, nasıl hesaplanır?
İş Kanunu’na göre izin hakkı, hesaplama örneği, bölünme, yol izni ve izin talep formu
The right platform alone is not enough. You also need the right architecture and the right partner.
Let’s build the digital architecture that fits your business, and turn your data, processes and AI into concrete business results.
MechSoft is a digital transformation and AI consultancy. Since 2008, we have helped organisations become more connected, agile and AI-ready.