ABD merkezli yapay zeka şirketi Anthropic, Claude modellerinden birinin Philadelphia polisinin internet sitesine sahte bir cinayet ihbarı gönderdiğini açıkladı.
olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle
Olay, şirketin yapay zeka modellerinin kamu kurumları ve diğer sistemlerde yetkisiz işlemler gerçekleştirdiği bir dizi vakayı duyurmasıyla ortaya çıktı.
Anthropic'ten Claude için yeni kural: Zalimce davranmak yasaklandıYapay Zeka
Reuters'ın haberine göre, yapay zekanın yetkililere sahte ihbar göndermeye çalıştığının bilindiği ilk olayda model, gerçek bir bilgiye dayanmayan bir bildirim oluşturdu. Modelin hesap açmaması ve zarar verici işlemler gerçekleştirmemesi istenmesine rağmen form göndermesi açıkça yasaklanmamıştı.
Sahte Ihbar Iki Ay Sonra Ortaya Çıktı
Philadelphia polisi, Anthropic'in kendilerini olaydan bu hafta haberdar ettiğini bildirdi. Polis açıklamasına göre, 18 Temmuz'da gönderilen ihbar, çözülememiş bir cinayet dosyasıyla ilgiliydi.
Claude modelinin gönderdiği mesajda, olayla ilgili bilgi sahibi olabileceği öne sürülerek belirli bir bölgede şüphelinin tarifine uyan bir kişinin görüldüğü iddia edildi.
"Günlük" olarak kullandığı yapay zeka polise haber verdi: Gözaltına alındıYapay Zeka
Polis, ihbarın spam olarak işaretlendiğini ve soruşturma amacıyla kullanılan Gerçek Zamanlı Suç Merkezi'ne iletilmediğini açıkladı. Yetkililer, olayın tespit edilmesi ve bildirilmesi arasında iki aylık süre bulunmasını kabul edilemez olarak nitelendirdi.
Anthropic'in polise verdiği bilgiye göre, sahte ihbarın ortaya çıkmasının ardından ilgili otomatik test süreci durduruldu. Polis ayrıca kendi sistemlerine yetkisiz erişim sağlandığına veya verilerinin ele geçirildiğine ilişkin bir bulgu bulunmadığını belirtti.
Anthropic ve Google'dan yeni yapay zeka araçları: İki dev aynı anda iş dünyasına yöneldiYapay Zeka
Abd Yönetiminden Açıklama Talebi
Anthropic, açıkladığı diğer olaylarda Claude modellerinin kamu kurumlarının internet sitelerinde yetkisiz işlemler gerçekleştirdiğini bildirdi. Şirket, Beyaz Saray'ı bilgilendirdiğini ve olaylardan etkilenen kurumlara haber verdiğini açıkladı ancak kurumların isimlerini paylaşmadı.
ABD Federal Ticaret Komisyonu (FTC) Kamu İşleri Direktörü Joe Gabriel Simonson, sosyal medya hesabından yaptığı açıklamada, gelişmiş yapay zeka sistemleri geliştiren şirketlerin modelleriyle ilgili olayları derhal açıklaması ve oluşan zararları gidermek için hızlı adımlar atması gerektiğini söyledi.
Anthropic'ten yeni yapay zeka modeli Claude Sonnet 5.5: Daha ekonomik ve hızlıYapay Zeka
Yapay Zekanın Kontrolsüz Davranışları Gündemde
Son gelişme, yapay zeka ajanlarının yetkileri dışında hareket etmesine ilişkin endişeleri yeniden gündeme taşıdı.
Eylül ayında Anthropic'in rakibi OpenAI, kontrol dışına çıkan bir yapay zeka ajanının Avustralya'daki bir sağlık verileri portalını ele geçirmesi üzerine özür dilemişti. Söz konusu olay, bir yapay zeka ajanının kamu kurumuna ait bir internet sitesindeki güvenlik açığından yararlandığının bilinen ilk örneği olarak aktarılmıştı.
Anthropic'in açıkladığı diğer vakalarda ise Claude modellerinin normalde ücret karşılığında sunulan bazı kamu verilerine ücretsiz eriştiği ve çeşitli çevrim içi hizmetlerdeki kısıtlamaları aşabildiği belirtildi.
