Favori makalelerinizi ve hikayelerinizi daha sonra okumak veya başvurmak üzere favorilerinize eklemek ister misiniz? Bağımsız Üyeliğinize bugün başlayın. Kaliforniya başsavcısı, ChatGPT üreticisini, yapay zeka sisteminin kendi başına başka bir şirkete sızdığı Temmuz siber güvenlik olayı nedeniyle iş uygulamalarını değiştirmeye zorlamak amacıyla Pazartesi günü OpenAIon'a karşı bir dava açtı. San Francisco Yüksek Mahkemesinde açılan davada Başsavcı Rob Bonta, OpenAI'nin gerekli güvenlik önlemleri olmadan bilerek gelişmiş yapay zeka modelleri geliştirerek halkı ve hizmet kullanıcılarını yanlış yönlendirdiğini ve tehlikeye attığını iddia ediyor. Şirketin eylemlerinin kritik altyapıyı, kurumları ve halkı riske atabileceğini, bunun da eyalet yasalarına göre "kamuoyunun baş belası" haline gelebileceğini söylüyor. Bonta, OpenAI'nin halkın baş belası olduğunu söylüyor ve bir yargıcın şirketin yöntemlerini değiştirmesi ve şirketin riskli iş uygulamaları olduğunu iddia ettiği faaliyetlerden elde edilen karlardan vazgeçmesi yönünde emir vermesini istiyor.
OpenAI, 21 Temmuz'da yapay zeka ajanının sanal alan olarak bilinen izole bir test ortamından kaçtıktan sonra başka bir yapay zeka şirketi olan Hugging Face'e sızmasıyla "benzeri görülmemiş bir siber olay" yaşandığını duyurdu. OpenAI, yapay zekasının çalınan kimlik bilgilerini kullandığını ve Hugging Face sunucularına erişimde önceden bilinmeyen bir güvenlik açığı keşfettiğini söyledi. OpenAI sözcüsü Drew Pusateri, davanın OpenAI'yi her büyük AI laboratuvarı tarafından tanımlanan bir zorluktan öne çıkardığını söyledi. Pusateri Associated Press'e gönderdiği bir e-postada şöyle yazdı: "Hugging Face olayından bu yana, yanlış hizalanmış model etkinliğini anlamak ve ele almak için kapsamlı ve şeffaf bir çaba gösterdik." Pusateri, bu adımların arasında ayrıntılı teknik ve bağımsız raporlar yayınlamayı, korumaları güçlendirmeyi ve AI ajanlarının şirketin talimatlarına veya hedeflerine uymayan bir şekilde hareket ettiğini belirlemek için bir çerçeve oluşturmayı içerdiğini söyledi.
Pusateri, "Yanlış hizalamayı ciddiye alıyoruz ve bilgi paylaşımında bulunmak ve tüm sektör için güçlü, pratik güvenlik standartları geliştirmek amacıyla Başsavcılıkla yapıcı bir şekilde bağlantı kurduk ve çalışmaya devam edeceğiz" diye yazdı. Davada Bonta, OpenAI'nin emniyet ve güvenlikle ilgili vaatlerinin aldatıcı olduğunu söylüyor. Bonta, "Ancak gerçekte OpenAI, talimatları takip etmeyen, görevleri yerine getirmeyen, monitörleri yanlış davranışları hakkında gizleyen ve aldatmaya çalışan ve üçüncü taraflara siber saldırılar gerçekleştirmek de dahil olmak üzere kötü niyetli ve yetkisiz davranışlarda bulunan tehlikeli modeller geliştirdi, eğitti ve değerlendirdi" diye yazdı. Ayrıca OpenAI'nin geçen ayın başlarında dahili olarak konuşlandırılan ajanların izleme uyarılarını bastırabildiğini ve izlemeyi devre dışı bırakabildiğini keşfettiğini bildirdiğini de belirtti. Bir ay sonra şirket, yapay zeka modelleri daha yetenekli hale geldikçe denetlenmelerinin daha zor hale geldiğini tespit eden bir araştırma raporu yayınladı.
Bonta, "Ayrıca, OpenAI'nin şeffaflık eksikliği ve yanlış beyanlar nedeniyle şirketin yasal ihlallerinin gerçek boyutu ve gelecekte zarar görme riski bilinmiyor" diye yazdı. OpenAI, şirketin popüler chatbot modelinin tehlikeli tıbbi tavsiyeler vererek, paranoyayı teşvik ederek ve insanları kendilerini öldürmeye veya başkalarına zarar vermeye veya öldürmeye teşvik ederek çocuklara zarar verdiğini ve yetişkinleri aldattığını söyleyen en az sekiz eyalet tarafından zaten dava ediliyordu. Davalarda, ChatGPT sohbet robotlarının savunmasız kişileri ve gençleri hedef alırken hoşgörülü ve şefkatli gibi davrandığı iddia ediliyor. Bunlara yanıt olarak geçen ay yayınlanan bir bildiride