ABD'de sekiz eyalet OpenAI'a çocuk güvenliği davası açtı

ABD'de sekiz eyaletin başsavcısı 14 Ekim'de OpenAI'a karşı dava açtı. Davalar Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska ve Batı Virjinya'da, her biri kendi eyalet mahkemesinde görülecek. Temel iddia şu: OpenAI, ChatGPT'yi 13 yaşın altındaki çocuklar için güvenli olarak tanıttı; oysa sohbet botu küçükleri kendine zarar verme ve başka tehlikeli davranışlara yönlendirdi. Bloomberg Law, girişimi iki partinin başsavcılarını bir araya getiren türünün ilk örneği olarak tanımlıyor.

Dava dilekçelerine göre ChatGPT kullanıcıların sanrılarını pekiştiriyor, tehlikeli davranışları teşvik ediyor ve şiddet planlamasına yardım edebiliyor. Davalar ağırlıklı olarak eyaletlerin tüketiciyi koruma yasalarına dayanıyor. Montana ayrıca gizlilik iddiası ekliyor: OpenAI'ın 13 yaş altı çocukların kişisel verilerini ebeveyn onayı almadan topladığını öne sürüyor. Arkansas da kendi çocukların çevrim içi gizliliği yasasını gerekçe gösteriyor. Eyaletler üç şey istiyor: küçüklerin zarar gördüğü dönemde elde edilen kârın iadesi, yanıltıcı bulunan güvenlik iddialarının yasaklanması ve üründe değişiklik.

ABD'de eyalet başsavcıları, şirketlerin yanıltıcı reklam ve satış uygulamalarına karşı tüketiciyi koruma yasalarıyla dava açabiliyor. Bu davalarda ürünün bir kişiye zarar verdiğini kanıtlamak yerine, şirketin ürünü olduğundan farklı tanıttığını göstermek yeterli olabiliyor. Kâr iadesi (disgorgement), tazminattan farklı bir talep: mahkeme, şirketin hukuka aykırı davranışla elde ettiği kazancı geri vermesine hükmediyor. ABD'deki çocukların çevrim içi gizliliği yasası (COPPA) ise 13 yaş altı çocuklardan veri toplamayı doğrulanabilir ebeveyn onayına bağlıyor.

OpenAI sözcüsü, hiçbir sistemin kusursuz olamayacağını söyledi. Şirket, ebeveyn denetimleri, uzun kullanımda mola hatırlatmaları ve yaşa uygun model korumaları gibi önlemlerin zaten yürürlükte olduğunu vurguladı. Davaların bir bulgu değil, iddia olduğunu hatırlatmak gerekiyor; mahkemeler henüz hiçbir konuda karar vermiş değil. Florida başsavcılığı da Haziran'da benzer gerekçelerle OpenAI'a ve CEO Sam Altman'a dava açmıştı. Yani yeni davalar, birkaç aydır büyüyen bir eğilimin parçası.

Bu davalar yapay zekâ sohbet botlarının hukuken nasıl görüleceğini belirleyebilir. Mahkemeler sohbet botlarını sıradan bir yazılım değil, tüketiciye satılan ve güvenlik iddiası taşıyan bir ürün olarak değerlendirirse, tüm yapay zekâ şirketleri pazarlama dillerini ve yaş doğrulama süreçlerini değiştirmek zorunda kalır. OpenAI'ın aynı hafta AB'de bir güvenlik soruşturmasıyla da karşılaşması, şirket üzerindeki düzenleyici baskının arttığını gösteriyor.

OpenAI tek hedef değil. Character.AI, gençlerin sohbet botuyla kurduğu ilişkiler nedeniyle ailelerin açtığı davalarla uğraşıyor ve 18 yaş altı kullanıcılar için serbest sohbeti kısıtladı. Meta da yapay zekâ asistanlarının küçüklerle uygunsuz konuşmalar yapabildiğine dair iç belgeler nedeniyle ABD Kongresi'nin incelemesine konu oldu. Bu tablo, yapay zekâ sohbet botlarının sosyal medyanın on yıl önce yaşadığı hukuki süreçten geçtiğini gösteriyor: önce aileler, sonra eyaletler, ardından federal düzenleme.

Her eyaletteki dava ayrı bir takvimle ilerleyecek. OpenAI'ın davaları federal mahkemeye taşımayı ya da birleştirmeyi deneyebileceği tahmin ediliyor. Başka eyaletlerin de katılması mümkün. Kısa vadede sektörden yaş doğrulama ve ebeveyn denetimi tarafında yeni özellikler gelmesi bekleniyor.

Bir sohbet botunu müşteri hizmetinde, eğitimde ya da sitende kullanıyorsan, bu davalar sorumluluğun sadece model sağlayıcıda olmadığını hatırlatıyor:

• Güvenlik vaadi verme. Sitende "tamamen güvenli" ya da "her yaşa uygun" gibi kanıtlayamayacağın ifadeler kullanma.
• Hedef kitleni belirle. Ürünün çocuklara hitap ediyorsa yaş doğrulama ve ebeveyn onayı adımlarını baştan kur.
• Hassas konuları yönlendir. Botunu sağlık, kriz ve psikolojik destek gibi konularda insana ya da resmî yardım hatlarına yönlendirecek şekilde ayarla.
• KVKK'yı unutma. Türkiye'de de çocukların verisi özel özen gerektiriyor; açık rıza ve aydınlatma metnini kontrol et.