Mistral, Large 4 (Le Chonk) modelinin ağırlıklarını yayımladı ve kodlamada açık ağırlıklı modellerin en iyisi olduğunu söylüyor

Mistral AI, ilk kez ayın başında halka açık önizleme olarak sunduğu Large 4 (takma adıyla "Le Chonk") modelinin ağırlıklarını yayımladı. Şirket, önizlemeden sonra pekiştirmeli öğrenmeyi (modelin ödül sinyaliyle denenip geliştirildiği eğitim yöntemi) üç hafta daha sürdürdüğünü söylüyor. Yayımlanan sürüm bu çalışmayla geliştirilmiş hali. Mistral, modelin kodlamada açık ağırlıklı modeller arasında en iyisi olduğunu öne sürüyor; The Verge da bu ifadeyi şirkete atfediyor.

Açık ağırlıklı model, eğitilmiş parametrelerin indirilip kendi sunucunuzda çalıştırılabildiği model demek; eğitim verisi ve kodu bunun kapsamında olmak zorunda değil. Açık kaynak ise kullanım alanına göre kısıtlama getirmeyen bir lisans ister. Bu modelin lisansında ek bir şart bulunduğu için bu yazıda "açık kaynak" denmiyor.

Hugging Face model kartına göre Large 4, yaklaşık 1 trilyon parametreli, metin ve görsel girdi alıp metin üreten bir "uzmanlar karışımı" (MoE) modeli. Uzmanlar karışımında her kelime için parametrelerin yalnızca bir bölümü çalışır: burada token başına yaklaşık 52 milyar (gömme katmanları hariç 49 milyar) parametre etkin. Bağlam uzunluğu 1 milyon token, desteklenen dil sayısı 160'tan fazla.

Model, talimat uygulama, akıl yürütme ve kodlamayı tek ağırlık setinde birleştiriyor. Akıl yürütme için düşük, orta ve yüksek (varsayılan) olmak üzere üç mod var. Model kartına göre eğitim, Mistral'in Avrupa'daki kendi veri merkezlerinde 3.800 NVIDIA Grace Blackwell GPU ile yapıldı.

Ağırlıklar Hugging Face'te. Mistral, kendi altyapıda çalıştırmak için vLLM veya SGLang kullanılmasını öneriyor. Model ayrıca Mistral Studio, Mistral API, OpenRouter, NVIDIA'nın barındırdığı uç noktalar ve Microsoft Foundry üzerinden kullanılabiliyor. API fiyatı bir milyon token başına 0,70 dolar girdi, 0,07 dolar önbellekteki girdi ve 2,10 dolar çıktı.

Model "Mistral Ecosystem Open-Weight" lisansıyla sunuluyor. Lisans metni kendini değiştirilmiş bir MIT lisansı olarak tanımlıyor. Kullanma, kopyalama, değiştirme, ek eğitim ve dağıtma serbest. Tek ek şart şu: Model-as-a-Service (hizmet olarak model) işi yürüten bir kişi ya da kuruluş, modeli ticari amaçla kullanmadan önce Mistral'le ayrı bir ticari lisans yapmak zorunda.

Metne göre bu tanım, üçüncü bir tarafa modelin çıkarım ya da ek eğitim için, girdilere, parametrelere veya eğitim verisine anlamlı biçimde müdahale edebileceği şekilde sunulmasını kapsıyor. Şart, modeli üçüncü kişilere sunmayan iç kullanımı ve Mistral'in resmi ürünleri üzerinden yapılan kullanımı kapsamıyor.

Bu bölümdeki rakamlar Mistral'in duyuru sayfasındaki grafiklerden alındı. Sayfada Cognition ve Artificial Analysis gibi kuruluşların ölçümleri aktarılıyor; bağımsız bir tekrar ölçüm yayında yer almıyor.

Hugging Face model kartı genel tabloyu da veriyor. Artificial Analysis Intelligence Index v5'te Large 4 26 puan alarak batılı açık ağırlıklı modeller arasında en yükseği. Kart, Çin'deki önde gelen açık ağırlıklı modellerin bu toplam endekste daha yüksek puan aldığını da belirtiyor.

Mistral, Artificial Analysis Cyber Index'te yüzde 51 aldığını söylüyor. Endeks, modelin bir kod tabanındaki açıkları bulma, yeniden üretme ve mevcut işlevi bozmadan yama üretme becerisini ölçüyor. Duyuru sayfasındaki grafikte yüzde 56 ve yüzde 57 alan iki model de Large 4'ün üstünde görünüyor.

Şirket ayrıca JailbreakBench, StrongREJECT ve AgentHarm'daki siber istemlerde kötü niyetli isteklere ortalama yüzde 96,6 ret oranına ulaştığını ve bunun ölçtüğü açık modeller arasında en yüksek değer olduğunu söylüyor. Önizleme sürümünde bu oran grafikte yaklaşık yüzde 95. Meşru savunma görevlerinde gereksiz ret olmadığı da şirketin beyanı.

Mistral bir çekince de paylaşıyor. Önizlemeden bu yana canlı trafiği izleyen şirket, modelin canlı hedeflere yönelik kara kutu saldırılara uymayı reddettiğini gördü, ancak gerçek saldırılar için katkı sağlama potansiyeli bulunduğunu yazıyor. Koruma önlemlerini buna göre değiştirdiğini ve değiştirmeye devam edeceğini belirtiyor. Penetrasyon testi ve kırmızı takım çalışması için optimize edilmiş özel bir varyant, Orange Cyberdefense gibi kurumsal tasarım ortaklarına sıkı denetim ve sözleşme şartlarıyla önizlemede sunuluyor.

Mistral ayrıca BrowseComp'ta yüzde 84,5, finans iş akışlarını ölçen Finch'te yüzde 73,3 ve B3 ajan güvenliği testinde saldırıların yüzde 97,1'ine direnç bildiriyor. Önizleme sürümünün B3 sonucu yüzde 93,3 olarak verilmiş.

Mistral, modeli "egemen yapay zeka" çerçevesinde konumlandırıyor. Duyuru sayfasında Cisco, Cloudflare, CrowdStrike, ENISA, NVIDIA ve Booz Allen gibi kurumların görüşleri yer alıyor; bunlar Mistral'in kendi sayfasına eklenmiş beyanlar ve bağımsız değerlendirme sayılmaz.