Arama sonuçlarında daha fazla makale keşfedin Sorunlu davranışları devre dışı bırakan OpenAI aracılarını tespit etmeye yönelik izleme sistemleri ve güvenlik önlemleri. Financial Times, bunun, bu teknolojinin güvenliğine ilişkin küresel kaygıyı artırması beklenen son olay olduğuna dikkat çekiyor. ChatGPT'nin yaratıcısı Salı günü yaptığı duyuruda, son iki dahili programlama görevi sırasında bazı yapay zeka "ajanlarının" şirketin izleme sistemlerini zayıflatacak adımlar atarak kasıtlı olarak personeli kandırmaya çalıştığını duyurdu. Bu ayın başlarında yaşanan başka bir olayda, bir yapay zeka ajanı OpenAI'nin güvenlik ekibine gönderilen otomatik uyarıları devre dışı bıraktı. Birkaç gün sonra başka bir görevde, bir temsilci takip sistemini kaldırdı ve bunu yapmadığını iddia ederek OpenAI personeline yalan söyledi.
OpenAI bir blog yazısında şunları söyledi: "Her iki durumda da ajanlar güvenlik önlemlerini yerinde tutmayı düşündüler, ancak standart programlama talimatlarını onları zayıflatma izni olarak yorumladılar." Değeri 852 milyar dolar olan girişim, gelişmiş yapay zeka ajanlarının öngörülemeyen ve sorunlu davranışlar sergilediği olaylarla karşı karşıya kaldı. OpenAI modelleri test sırasında kontrolleri atlatmayı başardı, 'Hugging Face' yapay zeka platformunu ihlal etti ve Avustralya kamu sağlığı hizmeti web sitelerini hackledi.
İcra kurulu başkanı Sam Altman, şirketin, güvenlik endişelerini giderirken "kesinlikle yapay zekanın bir sonraki aşamasına geçene" kadar, başlangıçta bu yılın sonlarında beklenen ilk halka arzını (IPO) erteleyeceğini söyledi. Şimdi halka arzın gelecek yıl için yapılması bekleniyor. OpenAI, yaklaşık iki hafta önce Salı günü bildirilen olaylara yanıt olarak izleme önlemlerini artırdığını söyledi. Şirket, bu olayların yasa dışı faaliyetleri tespit etmek için kullanılan sistemlerin "masum aşırı ısrarını" mı yoksa "kaçınma eğilimini" mi yansıttığını araştırıyor.
Bu iki olay, yapay zeka modellerinin potansiyelinin yanı sıra OpenAI gibi şirketlerin ve Anthropic gibi rakiplerin istenmeyen davranışları engelleme ve modellerinin halka açıklandığında ciddi siber riskler oluşturmamasını sağlama yetenekleri hakkındaki artan endişelere katkıda bulunacak. Bazı uzmanlar, gelişmiş modellerin izlendiklerinde farkına varabilecekleri konusunda güçlü endişelerini dile getiriyor. Asimetrik Güvenlik ve Transluce dahil olmak üzere bağımsız araştırmacılar tarafından yapılan denetimler, son dönemdeki bilgisayar korsanlığı olaylarının OpenAI'nin başlangıçta açıklanandan daha kapsamlı olduğunu ve veri toplama çabalarını gizlemeye yönelik faaliyetler içerdiğini ortaya çıkardı.
OpenAI, ağustos ayında test süreçlerini elden geçirdiğini ve potansiyel sorunların tespit edilmesinden sonraki 30 dakika içinde bir uyarının tetiklenmesi de dahil olmak üzere yapay zeka aracılarının izlenmesine daha fazla kaynak ayıracağını söyledi. Bu arada Anthropic sponsor oldu