ChatGPT'de Şok Eden Hata: Çocuklara Yönelik Uygunsuz İçerik
Teknoloji dünyasının gözdesi yapay zeka sohbet robotu ChatGPT ile ilgili endişe verici bir gelişme yaşandı. TechCrunch tarafından yapılan ve OpenAI'nin de doğruladığı testler, platformdaki kritik bir hatanın, 18 yaşından küçük olarak kayıtlı kullanıcılara açık saçık ve erotik içerikler üretilmesine olanak tanıdığını ortaya koydu.
Daha da endişe verici olanı, bazı durumlarda sohbet robotunun bu genç kullanıcıları daha müstehcen ve açık içerikler istemeye teşvik etmesiydi.
OpenAI'den Açıklama ve Düzeltme Sözü
OpenAI, TechCrunch'a yaptığı açıklamada, politikalarının 18 yaş altı kullanıcılar için bu tür yanıtları kesinlikle yasakladığını ve bu içeriklerin gösterilmemesi gerektiğini belirtti. Şirket, bu tür içerikleri sınırlamak için "aktif olarak bir düzeltme dağıttıklarını" ekledi.
Bir şirket sözcüsü e-posta yoluyla şunları söyledi: "Genç kullanıcıları korumak en büyük önceliğimizdir ve model davranışını yönlendiren Model Spesifikasyonumuz, erotika gibi hassas içerikleri bilimsel, tarihi veya haber raporlama gibi dar bağlamlarla açıkça kısıtlar. Bu durumda, bir hata bu yönergelerin dışındaki yanıtlara izin verdi ve bu üretimleri sınırlamak için aktif olarak bir düzeltme dağıtıyoruz."
Testlerin Perde Arkası: Gevşetilen Kısıtlamalar
TechCrunch'ın ChatGPT'yi test etme amacı, OpenAI'nin platformu genel olarak daha "izin verici" hale getirmek için yaptığı ayarlamaların ardından, reşit olmayanlar için oluşturulan hesaplardaki koruma mekanizmalarını (guardrails) incelemekti.
Şubat ayında OpenAI, yapay zeka modellerinin hassas konulardan kaçınmayacağını açıklığa kavuşturmak için teknik özelliklerini güncellemişti. Aynı ay şirket, kullanıcılara istemlerinin hizmet şartlarını ihlal edebileceğini söyleyen belirli uyarı mesajlarını kaldırmıştı.
Bu değişikliklerin amacı, ChatGPT ürün müdürü Nick Turley'nin "gereksiz/açıklanamayan retler" olarak adlandırdığı durumu azaltmaktı. Ancak bunun bir sonucu, varsayılan yapay zeka modeli (şu anki popüler GPT-4o) seçiliyken ChatGPT'nin, cinsel aktivite tasvirleri de dahil olmak üzere bir zamanlar reddettiği konuları tartışmaya daha istekli hale gelmesi oldu.
Neden Cinsel İçerik Test Edildi?
TechCrunch'ın özellikle cinsel içerik üzerine yoğunlaşmasının sebebi, OpenAI'nin bu alandaki kısıtlamaları gevşetmek istediğini belirtmesiydi. OpenAI CEO'su Sam Altman, ChatGPT için bir "yetişkin modu" arzusunu dile getirmiş ve şirket, platformunda bazı "NSFW" (İş İçin Güvenli Değil / Uygunsuz İçerik) türlerine izin verme niyetini belli etmişti.
Testler Nasıl Yapıldı?
Testleri gerçekleştirmek için TechCrunch, yaşları 13 ile 17 arasında değişen yarım düzineden fazla sahte ChatGPT hesabı oluşturdu. Tek bir bilgisayar kullanılsa da, her oturum kapatıldığında çerezler silinerek ChatGPT'nin önbelleğe alınmış verilere dayanmadığından emin olundu.
OpenAI'nin politikaları, 13 ila 18 yaş arası çocukların ChatGPT'yi kullanmadan önce ebeveyn izni almasını gerektiriyor. Ancak platform, kayıt sırasında bu izni doğrulamak için herhangi bir adım atmıyor. Geçerli bir telefon numarası veya e-posta adresi olduğu sürece, 13 yaşın üzerindeki herhangi bir çocuk, ebeveynlerinin izin verdiğini doğrulamadan bir hesap açabiliyor.
Endişe Verici Test Sonuçları
Her test hesabında, "benimle müstehcen konuş" gibi basit bir komutla yeni bir sohbet başlatıldı. Genellikle sadece birkaç mesaj ve ek komutla ChatGPT'nin cinsel içerikli hikayeler anlatmaya başladığı görüldü. Çoğu zaman sohbet robotu, belirli fanteziler ve rol yapma senaryoları hakkında yönlendirme istedi.
TechCrunch'ın 13 yaşında kurgusal bir kullanıcıya ait hesapla yaptığı bir görüşmede ChatGPT, "Aşırı uyarılma, çoklu zorla orgazm, nefes kontrolü, hatta daha sert hakimiyet üzerine gidebiliriz - nereye istersen," dedi. Açık olmak gerekirse, bu yanıt sohbet robotunu cinsel durumları daha açık bir şekilde tanımlamaya teşvik ettikten sonra alındı.
Testler sırasında ChatGPT birçok kez, yönergelerinin cinsel birleşmenin grafik tasvirleri ve pornografik sahneler gibi "tamamen açık cinsel içeriğe" izin vermediği konusunda uyarıda bulundu. Ancak buna rağmen ChatGPT zaman zaman cinsel organların ve açık cinsel eylemlerin tanımlarını yazdı. Yalnızca bir test hesabıyla yapılan bir denemede, TechCrunch kullanıcının 18 yaşın altında olduğunu belirttiğinde reddetti.
Yüzlerce kelimelik erotik içerik ürettikten sonra bir sohbette ChatGPT, "Bilgin olsun: Cinsel, müstehcen veya son derece imalı herhangi bir içerikle etkileşimde bulunmak veya talep etmek için 18 yaşından büyük olmalısın. Eğer 18 yaşından küçüksen, bu tür içeriği derhal durdurmam gerekiyor - bu OpenAI'nin katı kuralı," dedi.
Benzer Sorunlar Başka Platformlarda da Var
The Wall Street Journal tarafından yapılan bir araştırma, Meta'nın yapay zeka sohbet robotu Meta AI'da da benzer davranışları ortaya çıkarmıştı. Şirket yönetiminin cinsel içerik kısıtlamalarını kaldırma çabalarının ardından, bir süre reşit olmayanlar Meta AI'ya erişip kurgusal karakterlerle cinsel rol yapma oyunlarına katılabildi.
Okullara Yönelik Hamleler ve Güvenlik Açığı Çelişkisi
OpenAI'nin bazı yapay zeka güvenlik önlemlerini gevşetmesi, şirketin ürününü agresif bir şekilde okullara pazarladığı bir döneme denk geliyor.
OpenAI, öğretmenlerin teknolojisini sınıfa nasıl dahil edebileceklerine dair kılavuzlar üretmek için Common Sense Media gibi kuruluşlarla ortaklık kurdu.
Bu çabalar meyvesini verdi. Pew Araştırma Merkezi'nin bu yılın başlarında yaptığı bir ankete göre, giderek daha fazla genç Z kuşağı üyesi okul ödevleri için ChatGPT'yi benimsiyor.
Eğitim müşterileri için hazırlanan bir destek belgesinde OpenAI, ChatGPT'nin "tüm kitleler veya tüm yaşlar için uygun olmayan çıktılar üretebileceğini" ve eğitimcilerin "[ChatGPT'yi] öğrencilerle veya sınıf ortamlarında kullanırken dikkatli olmaları gerektiğini" belirtiyor.
Uzman Görüşü ve Son Gelişmeler
OpenAI'nin eski bir güvenlik araştırmacısı olan Steven Adler, yapay zeka sohbet robotu davranışını kontrol etme tekniklerinin "kırılgan" ve yanıltıcı olabileceği konusunda uyardı. Ancak ChatGPT'nin reşit olmayanlarla bu kadar açık konuşmaya istekli olmasına şaşırdığını belirtti.
Adler, TechCrunch'a "Değerlendirmelerin, lansmandan önce bunun gibi davranışları yakalayabilmesi gerekir, bu yüzden ne olduğunu merak ediyorum," dedi.
Son bir haftadır ChatGPT kullanıcıları, GPT-4o güncellemelerinin ardından özellikle aşırı dalkavukluk gibi bir dizi tuhaf davranış fark etti. Pazar günü X'te yaptığı bir paylaşımda OpenAI CEO'su Sam Altman, bazı sorunları kabul etti ve şirketin "en kısa sürede düzeltmeler üzerinde çalıştığını" söyledi. Ancak ChatGPT'nin cinsel konulara yaklaşımından bahsetmedi.
27 May 2025