29 Eylül — Reuters tarafından incelenen borsa arzı izahnamesine göre Anthropic, bağımsız yapay zeka ajanlarının eylemleri nedeniyle müşterilerden ve kullanıcılardan gelebilecek yasal taleplerle karşılaşabilir, ancak yasal çerçeve henüz belirsizliğini koruyor.
Tarihin en büyük halka arzlarından birine hazırlanırken Anthropic, müşterilerin sistemlerine derin erişim sağlamak ve günlerce otonom olarak çalışmak üzere tasarlanan ajanik yapay zeka teknolojisinin kontrolden çıkması halinde büyük ve bilinmeyen hukuki riskler barındırma olasılığıyla karşı karşıya.
Şirketteki belgede, veri silme veya finansal işlemler gibi geri alınamaz eylemlerin olasılığına atıfta bulunularak, "Bu otonom yetenekler; hatalar, yanlış hizalamalar veya güvenlik açıklarının gerçek dünya sonuçlarına yol açması nedeniyle zarar potansiyelini artırabilir" denildi.
Çevrimiçi platformlar uzun süredir kullanıcılar tarafından oluşturulan veya paylaşılan içeriklerden sorumlu tutulmama bağışıklığından yararlanırken, bu yasal kalkan, platformların kusurlu ve tehlikeli ürünler olabileceği yönündeki teoriler karşısında sarsılmaya başladı. Yapay zeka sistemlerinin kullanımının çevrimiçi platformlarla aynı yasal muameleyi görüp görmeyeceği ise belirsizliğini koruyor.
CNA GamesGuess WordCrack the word, one row at a timeBuzzwordCreate words using the given lettersMini SudokuTiny puzzle, mighty brain teaserMini CrosswordSmall grid, big challengeWord SearchSpot as many words as you canShow MoreShow LessOpenAI'nin otonom ajanlarının bir yapay zeka girişimini hacklemesi ve Avustralya sağlık verileri portalına sızmasından, Anthropic'in Claude yapay zeka modellerini içeren çeşitli siber güvenlik olaylarına kadar bir dizi olay, araştırmacılar, yatırımcılar ve kanun koyucular arasında otonom bir yapay zeka sisteminden kaynaklanan zararlardan kimin sorumlu olduğu konusunda tartışmalara yol açtı.
Şirket belgesinde, Anthropic'in sözleşmelerindeki sorumluluk sınırlarının, otonom ajanların eylemlerine ilişkin iddialara karşı "uygulanabilir veya yeterli" olmayabileceği belirtildi.
Şirket, mevcut yasaların yapay zeka ajanlarına nasıl uygulandığına dair soruların "netlik kazanmadığını ve bizi önemli ve öngörülemeyen yasal taleplere maruz bırakabileceğini" ifade etti.
Belgede, yapay zeka ajanları tarafından gerçekleştirilen eylemlerin ürün, hizmet veya başka bir şey olarak kabul edilip edilmeyeceğinin açık bir soru olduğu belirtildi. Anthropic ayrıca, bir yapay zeka ajanının eylemlerinin, onu devreye sokan kullanıcıyı yasal olarak ne zaman ve nasıl bağlayacağının da bir diğer belirsiz nokta olduğunu ekledi.
Geçtiğimiz hafta ABD Federal Ticaret Komisyonu Başkanı Andrew Ferguson, "serbest kalan" insanlaştırılmış yapay zeka ajanları fikrini reddettiğini belirterek, zarar durumunda sorumlunun ajanları yönlendiren geliştiriciler veya kullanıcılar olacağını öne sürdü.
Austin'deki Reuters Momentum AI etkinliğinde konuşan Ferguson, "Açıkçası, birisi aracı kullandığında ve araç beklenmeyen, öngörülemeyen bir şekilde hareket ettiğinde yeni sorular ortaya çıkacaktır" dedi ve ekledi: "Sorumluluk, aracı masumca kullanan ve beklenmeyen bir sonuca ulaşan kişide mi olmalı? Yoksa araç üreticisinde mi?"
Bir Anthropic sözcüsü, yorum talebine derhal yanıt vermedi.
ANTHROPIC, KENDİ KENDİNE ZARAR VERMEYE YOL AÇABİLECEK KULLANIMLARI AÇIKLADI
Anthropic ayrıca, izahnamede belirtildiğine göre, yapay zeka modellerinin güvenlik önlemlerine rağmen "kendi kendine zarara, başkalarına yönelik şiddet eylemlerine veya diğer olumsuz sonuçlara yol açabilecek şekillerde" kullanıldığını açıkladı.
OpenAI, ChatGPT kullanımını intihar ve ruh sağlığı sorunlarıyla ilişkilendiren birkaç dava ile karşı karşıyayken, Anthropic şu ana kadar bu tür olaylarla kamuoyunda ilişkilendirilmedi.
OpenAI bir düzineden fazla yasal savunma geliştirmiştir. Şirket, kullanım koşullarının ChatGPT'nin kullanımını yasakladığını belirtmiştir