OpenAI, ChatGPT'de 18 yaş altı hesaplar için silah bilgisini kısıtladı ve geçmiş kitlesel saldırılara dair ayrıntıyı azalttı

OpenAI, ChatGPT'de şiddetle ilgili kuralları sıkılaştırdığını 30 Ekim 2026 tarihli bir yazıyla duyurdu. Değişiklikler iki başlıkta toplanıyor: 18 yaş altı hesaplarda silahlarla ilgili bilgilere yeni sınırlar ve geçmiş kitlesel saldırılar hakkındaki yanıtlarda tüm kullanıcılar için daha az ayrıntı. The Verge de konuyu 2 Kasım'da kısa bir haberle aktardı.

OpenAI'a göre ChatGPT for Teens, 18 yaşından küçük kullanıcılar için yaşa uygun ek önlemler uyguluyor. Şirket, bu kullanıcıların alabileceği silah bilgisine soru zararsız görünse bile yeni sınırlar getirdiğini söylüyor.

Mevcut kurallar zaten şiddetin planlanmasına yardım etmeyi yasaklıyor ve gençlerin silah bulmasına ya da edinmesine yardım etmeyi kısıtlıyordu. Yeni adım, şiddete yardımcı olabilecek silahlar ve güvenlik sistemleri hakkındaki pratik bilgileri de kapsıyor. Şiddet niyetine dair bir işaret olmasa da bu sınır geçerli.

Gençler ise şiddeti önleme ve yatıştırma, destek arama ve güvendikleri bir yetişkine ulaşma konusunda ChatGPT'yi kullanmaya devam edebilecek.

OpenAI, geçmiş kitlesel saldırılar ve bunları gerçekleştirenler hakkındaki sorularda modelin, bilgi internette başka yerde bulunsa bile daha az ayrıntı vermesini istediğini belirtti. Sınırlanan konular şunlar: saldırının yeniden kurgulanması, kullanılan silah ve ekipmanın nasıl edinildiği, failin ününü artırabilecek zarar ölçeği karşılaştırmaları.

Kullanıcıların bu olayları anlaması, kurbanların ve toplulukların nasıl etkilendiğini öğrenmesi, uyarı işaretlerini tanıması ve şiddetin önlenmesi hakkında bilgi alması sürecek. OpenAI bu sınırların kullanıcının yaşından ve soruyu sorma nedeninden bağımsız uygulandığını yazıyor.

OpenAI, Mayıs ayında ChatGPT'nin önceki uyarı işaretlerinin kısa ve olgusal özetlerini sonraki sohbetlerde kullanabildiğini paylaşmıştı. Şirket bu çalışmayı genişletiyor: son sohbetlerde olası şiddete dair işaretler görülürse ChatGPT, kötüye kullanılabilecek bilgileri daha temkinli paylaşacak. Aynı sıkı sınırların, kullanıcının 18 yaşından küçük olduğu tahmin edildiğinde şiddet niyeti görülmese de uygulanması için de çalışılıyor.

Bir konuşma kişinin şiddete ya da bir başkasına ciddi zarar verme fikrine takıldığını gösterirse ChatGPT sohbeti kendiliğinden sonlandırabilecek. ChatGPT birden fazla sohbeti bu nedenle sonlandırırsa hesap geçici olarak durdurulabilecek. OpenAI ayrıca şiddete ilişkin kullanım politikalarını ihlal eden hesapları yasakladığını ve uzmanlarla daha erken müdahale için otomatik yöntemler üzerinde çalıştığını yazıyor.

OpenAI'ın geçen yıl başlattığı yaş tahmini sistemi, davranış örüntüleri gibi birden çok sinyale bakarak kullanıcının 18 yaşın altında olup olmadığını kestiriyor. Şirket sistemi yeni sinyalleri sürekli değerlendirecek biçimde güçlendirdiğini ve gençleri gerektiğinde 18 yaş altı deneyimine aldığını söylüyor. Yanlışlıkla bu deneyime alınan yetişkinler, yaş doğrulama ortağı Persona üzerinden yetişkin olduklarını doğrulayabiliyor.

Ebeveyn denetimleriyle bağlanan hesaplarda, özel eğitimli inceleyiciler ciddi bir kendine zarar verme kaygısı ya da yeme bozukluğuyla ilişkili davranışlar saptadığında güvenlik uyarıları gidebiliyor. OpenAI bu uyarıları Temmuz ayında, genç hesabının şiddete ilişkin kullanım politikalarını ihlal ettiği için devre dışı bırakılması durumunu da kapsayacak biçimde genişletmişti. Hesabın şiddet konuşmaları nedeniyle duraklatılması halinde de ebeveynlere bildirim gönderilmesi için çalışılıyor.

OpenAI'ın verdiği rakama göre şirket 2026'nın üçüncü çeyreğinde kolluk kuvvetlerine 200'den fazla yönlendirme yaptı. Bu sayı şirketin kendi beyanıdır.

Şirket, şiddetin önlenmesi ve diğer topluluk güvenliği konularını ele alan ilk Topluluk Güvenliği Raporu'nu 2027'nin başında yayımlayacak. Rapor 2026'nın ikinci yarısını kapsayacak ve sonrasında altı ayda bir güncellenecek. OpenAI, rapora anonimleştirilmiş örnekler, yeni önlemler ve politika değişiklikleri ile ilgili veriler ekleyeceğini söylüyor. Yazıdaki önlemlerin önümüzdeki birkaç hafta içinde devreye girmeye başlayacağı belirtiliyor.