ABD'nin Florida eyaletinde yapay zeka sohbet botuna yazdığı ifadeler nedeniyle bir kadın hakkında ağır suç kapsamında işlem başlatıldı.
olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle
Bonita Springs kentinde yaşayan Carli Michelle Heller'ın, 26 Eylül'de Anthropic'in yapay zeka asistanı Claude'a bir şerif ofisine yönelik saldırı planından söz ettiği iddia edildi.
Heller'ın daha sonra Claude'u bir tür "günlük" olarak kullandığını söylediği belirtildi.
Milyonlarca müşterinin verileri çalındı: Bazı hesaplarda ödül puanları da kullanıldıTeknoloji
Claude'un Güvenlik Sistemi Konuşmayı Işaretledi
Olayla ilgili polis raporuna göre Claude'un güvenlik sistemleri söz konusu ifadeyi işaretledi ve konuşma insan incelemesine gönderildi.
İncelemeyi yapan kişi, mesajların gerçek bir tehdit oluşturabileceği değerlendirmesinin ardından durumu kolluk kuvvetlerine bildirdi.
Anthropic, ölüm veya ciddi fiziksel yaralanmayı önlemek için gerekli olduğuna inandığı sınırlı sayıdaki acil durumda kullanıcı bilgilerinin paylaşılabileceğini belirtiyor.
Polis ekipleri Heller'ın kimliğini tespit ederek evine gitti. Heller'ın olay çıkarmadan gözaltına alındığı ve soruşturmanın daha sonra Lee County Şerif Ofisi'nin istihbarat birimine devredildiği aktarıldı.
Yapay zekayla iş aramak kolaylaşıyor! En sık yapılan 5 hata ne?Yapay Zeka
Florida'da Ağır Suç Kapsamında Değerlendiriliyor
Heller, Florida yasaları kapsamında yazılı şiddet tehdidinde bulunmakla suçlanıyor.
Florida'daki ilgili yasa, başka kişilerin görebileceği şekilde iletilen yazılı veya elektronik bir kayıtta öldürme ya da yaralama tehdidinde bulunmayı, toplu saldırı gerçekleştirme veya terör eylemi tehdidini ikinci derece ağır suç olarak değerlendiriyor.
Yapay Zeka Sohbetleri Ne Kadar Özel?
Olay, yapay zeka sohbetlerinin geleneksel anlamda kişisel bir günlük gibi değerlendirilmemesi gerektiği tartışmasını yeniden gündeme getirdi.
Son dönemde ChatGPT ve diğer yapay zeka platformlarının güvenlik politikaları da benzer tartışmaların odağında yer alıyor. OpenAI hakkında Kanada'nın British Columbia eyaletinde açılan bir davada, şirketin bir saldırganın silahlı şiddet içerikli konuşmalarına ilişkin daha erken adım atıp atamayacağı tartışma konusu olmuştu.
Florida'da da OpenAI ve Sam Altman'a karşı, ChatGPT'nin gerçek dünyadaki bazı zararlara katkıda bulunduğu iddiasıyla dava açılmıştı.
Öte yandan geçtiğimiz ay Microsoft Copilot'un görüntü düzenleme aracındaki bazı konuşmaların ve yüklenen görsellerin insan inceleyiciler tarafından görülebildiğine ilişkin haberler de gündeme gelmişti.
Bu gelişmeler, kullanıcıların yapay zeka sohbetlerine yazdıkları bilgilerin her koşulda yalnızca kullanıcı ile chatbot arasında kalmayabileceğini gösteriyor.
Meloni'den yapay zeka hamlesi: Sesinin telif hakkını alıyorYapay Zeka
