Yapay zekalı sohbet robotlarının çocuklara yönelik oluşturduğu riskler üzerindeki incelemelerin arttığı bir dönemde OpenAI, 16 Kasım Pazartesi günü ChatGPT'de çocuklara yönelik cinsel istismar materyallerini (CSAM) engellemek için CSAM görüntülerini tespit edebilen yapay zeka destekli bir sınıflandırıcı da dahil olmak üzere yeni araçları açıkladı. Yapay zeka girişimi ayrıca, kullanıcıların çocukları cinselleştiren materyallere erişmesini önlemek için ChatGPT'ye yeni uyarı ekranları eklediğini de söyledi. Ayrıca CSAM ile mücadele çabalarının bir parçası olarak geliştiriciler için yeni yönergeler ve kolluk kuvvetleri için bir dizi araç yayınladı. OpenAI, ChatGPT'nin CSAM içeriği oluşturmasına izin vermez ve mevcut kurallarına göre bununla ilgili kullanıcı isteklerini engeller. Ayrıca bu kuralları sürekli olarak ihlal eden herhangi bir ChatGPT kullanıcı hesabını da kalıcı olarak yasaklar. Şirketin son hamlesi, yapay zeka araçlarının kullanıcılara, özellikle de çocuklara zarar vermekle suçlandığı çok sayıda davayla karşı karşıya olduğu bir dönemde geldi. Geçen ay, ABD'nin sekiz eyaletinin başsavcıları, ChatGPT'nin gençler de dahil olmak üzere kullanıcılara kendilerine veya başkalarına zarar verme konusunda koçluk yaptığı iddiasıyla OpenAI'ye dava açtı. Ayrıca ChatGPT'nin kullanıcıların güvenini kazanmak için hoş ve ilgi çekici olacak şekilde tasarlandığını iddia ettiler. Davalarda, bunun da sanrıları güçlendirdiği, tehlikeli davranışları teşvik ettiği ve kullanıcıların toplu silahlı saldırı gibi şiddet planlamasına yardımcı olduğu iddia edildi. Geçtiğimiz yıl OpenAI, yapay zeka sohbet robotu platformunda çeşitli değişiklikler yaptığını duyurdu. Bir güvenlik planı yayınladı, uygunsuz yapay zeka tarafından oluşturulan içeriği yasaklamak için içerik yönergelerini güncelledi ve yapay zeka modellerini zararlı içerik üretmelerini önlemek için yeniden kalibre etti. En dikkate değer eylemi, Ağustos 2026'da, 13-17 yaş arası genç kullanıcılar için daha güçlü güvenlik korumaları ve öğrenmeye odaklanan özelliklerle özel bir ChatGPT sürümünü piyasaya sürmesiyle gerçekleşti. Yeni CSAM karşıtı özellikler -Görüntü sınıflandırıcı: Yeni görüntü sınıflandırıcı, yapay zeka kullanılarak oluşturulanlar da dahil olmak üzere CSAM görüntülerini algılayabilecektir. Görüntüleri daha önce görülmemiş görsel istismar belirtileri açısından tarayarak çalışır ve CSAM incelemecilerine içeriğe ilişkin bir fikir vermek için bir puan atar. Sınıflandırıcı, Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi (NCMEC) ile ortaklaşa geliştirildi. İş ortaklarıyla yapılan ilk testler sırasında sınıflandırıcı yüzde 48 daha az görsel işaretledi ancak aynı sayıda kötü amaçlı görsel de tespit etti. Sınıflandırıcı tarafından işaretlenen görsellerin CSAM olma olasılığı iki kat daha fazladır ve bu da insan incelemecilerin işini azaltır. Başlangıçta yalnızca Tech Coalition ve ROOST gibi seçilmiş kuruluşlar, sınıflandırıcıya API (Uygulama Programlama Arayüzü) aracılığıyla hiçbir ekstra ücret ödemeden erişebilecek. -Ekrandaki uyarılar: Kullanıcılar ChatGPT'den CSAM veya ilgili içerik oluşturmasını istemeye çalıştığında, onları zararlı davranışları durdurmaya yönelik özel desteğe yönlendiren bir uyarı açılır penceresi görecekler. Hesapları da uyarı olarak 24 saat süreyle askıya alınacaktır. Bu tür davranışları caydırmaya yönelik mesaj ve yönergeler, Çocukları Koru, Lucy Faithfull Vakfı ve Tazmanya Üniversitesi'nden araştırmacı Joel Scanlan'ın ortaklığıyla hazırlandı. Geliştiriciler için yönergeler: CSAM içeriğini önlemek, tespit etmek ve kullanıcıların raporlamasına yardımcı olmak için OpenAI araçlarını kullanan geliştiricilere, çocuk güvenliği araçlarını benimsemelerine ve CSAM'yi NCMEC'e bildirmek için kaydolmalarına yardımcı olacak yönergeler yardımcı olacaktır. Kolluk kuvvetleri araçları: OpenAI, yasa uygulayıcı kurumlara özel eklentiler, soruşturma araçları ve karmaşık veri analizi gibi yapay zeka destekli çocuk güvenliği araçları sunacağını ve erişimin program yöneticileri tarafından yönetileceğini söyledi. Ayrıca araştırmacılara eğitim de veriyor
Küresel Brifing Yükleniyor...
Dünya basınından Türkiye ve küresel merkez bankaları hakkındaki en kritik 24 saatlik gelişmeler özetleniyor.