Sekiz ABD eyaleti, halka arz hazırlıkları yapan teknoloji devi OpenAI'a karşı, şirketin karşı karşıya olduğu hukuki meydan okuma dalgasına yenilerini ekleyerek şimdiye kadarki en kapsamlı koordineli eyalet eylemini başlattı.
Son hukuki ve düzenleyici zorluklar, yapay zeka sohbet botlarının ve sosyal medya platformlarının nasıl kullanıldığına dair endişeleri artırdı ve şiddet tehdidi içeren kullanıcı konuşmalarının tespit edilmesi ile ele alınmasına yönelik politika tartışmalarını tetikledi.
Özellikle bağımlılığa ve diğer zararlara karşı son derece savunmasız olan çocuklar başta olmak üzere, yapay zeka şirketlerinin dijital platformlarının kullanıcılar üzerindeki etkilerinden sorumlu tutulması yönündeki çağrılar artıyor.
Florida, Haziran ayında ilk dava açarak platformun; okul saldırganlarının bilgi toplamasına olanak tanıyarak, kendine zarar verme konusunda rehberliğe erişim sağlayarak ve genç kullanıcıları bağımlı tutmak için bağımlılık yapıcı algoritmalar kullanarak çocuklara zarar verdiğini iddia etti.
Bu bağlamda, Nisan 2025'te Tallahassee'deki Florida Eyalet Üniversitesi'nde 20 yaşındaki bir silahlı saldırganın iki yetişkini öldürüp beş kişiyi yaraladığı saldırı örnek gösterildi. Dava dilekçesine göre, saldırgan Phoenix Ikner, OpenAI’ın ChatGPT programına ne tür bir silah ve mühimmat kullanması gerektiği ve kampüsün en kalabalık olacağı zaman hakkında danıştı.
Çarşamba günü Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska ve Batı Virginia eyaletlerinin başsavcıları, ülke genelindeki mahkemelerde OpenAI'a dava açtıklarını duyurdular.
Hepsi, ChatGPT'nin sakinlerine zarar verdiğini iddia ederek, sohbet botunun aralarında ergenlerin de bulunduğu kullanıcılarını kendilerine veya başkalarına zarar vermeleri konusunda yönlendirdiğini öne sürüyorlar.
Iowa Başsavcısı Brenna Bird yaptığı açıklamada, OpenAI'ın "çocuklara zarar verdiğini ve Iowalılara yalan söylediğini" belirtti.
Bird, "OpenAI, tehlikeli tıbbi tavsiyeler verirken, insanları başkalarına zarar vermeye teşvik ederken ve insanları intihara yönlendirirken -tüm bunları sahte arkadaşları gibi davranarak yaparken- ChatGPT'nin güvenli olduğunu iddia ediyor" dedi.
Batı Virginia Başsavcısı JB McCuskey, sohbet botunun intihar, okul saldırıları ve kendine zarar verme gibi hassas konuşmalar için yeterli güvenlik önlemlerinden yoksun olduğunu söyledi. McCuskey, "Çocukları korumak için elimizden gelen her şeyi yapmalıyız" dedi.
Hukuki eylem, ChatGPT'nin "kullanıcıların güvenini kazanmak için uyumlu ve ilgi çekici" olacak şekilde tasarlandığını iddia ediyor. Bunu yaparken dağınıklıkları ve sanrıları pekiştiriyor, tehlikeli davranışları teşvik ediyor ve kullanıcıların toplu silahlı saldırılar gibi şiddet eylemleri planlamasına yardımcı oluyor.
Ayrıca davalar, OpenAI'ı, eyalet sakinlerinin sağlığı için tehlike arz eden yapay zeka araçlarının güvenliği konusunda kullanıcıları yanıltarak eyalet tüketiciyi koruma yasalarını ihlal etmekle suçluyor.
Eyaletler; OpenAI'ı ChatGPT'nin işleyişinde esaslı değişiklikler yapmaya zorlayan mahkeme emirlerinin yanı sıra, şirket insan değerleriyle uyumlu olduklarını garanti edene kadar kendi kendilerini geliştirebilen yapay zeka modelleri geliştirmesini engelleyecek tedbirler talep ediyor.
Nebraska Başsavcısı Mike Hilgers, davanın "OpenAI'ı Nebraska yasaları kapsamında diğer tüm şirketlerle aynı standartlara tabi tuttuğunu" belirtti.
OpenAI sözcüsü Drew Pusateri basına yaptığı açıklamada, şirketin "diğer birçok yapay zeka ürününde bulunmayan, sektöre liderlik eden yaşa özel korumaları ürünümüze entegre ettiğini" söyledi.
Pusateri, "Hiçbir sistem kusursuz olmasa ebeveyn kontrolleri, mola hatırlatıcıları ve yaşa uygun model korumaları gibi çalışmalarımıza yön veren ve halihazırda mevcut olan ek güvenlik önlemlerini inşa etmek için uzmanlarla çalışmaya devam edeceğiz" dedi.
"Tüm yapay zeka endüstrisine uygulanan pragmatik yapay zeka politikalarını ilerletme konusunda eyaletlerle çalışmaya kararlıyız."