ABD ordusunun istihbarat raporu üretmek için kullandığı hatalı bir chatbot, Çin ile neredeyse bir savaşa yol açıyordu. Chatbot, bir Çin gemisinin nükleer silah taşıdığına dair yanlış bir rapor üretti. ABD ordusu bu veriye dayanarak saldırı planı hazırladı. Son anda yapılan incelemelerle bilginin yanlış olduğu anlaşıldı. Bu olay, yapay zekanın süper zeka olduğu algısının yarattığı tehlikeyi gözler önüne seriyor. Şirketler, ürünlerini 'sihirli zeka' olarak pazarlayarak sorumluluktan kaçıyor. Oysa sistemler sadece veri desenlerini tekrarlayan hata payı yüksek araçlardır. Kritik kararlarda bu sistemlere güvenmek, insan hayatını doğrudan tehdit eden somut bir güvenlik zafiyetidir.
Teknoloji
0:13
Fokal Editör Masası
✓ Doğrulandı
CNN
Hatalı Yapay Zeka ABD ve Çin'i Savaşın Eşiğine Getirdi
Teknoloji — Hatalı Yapay Zeka ABD ve Çin'i Savaşın Eşiğine Getirdi
ABD ordusunun istihbarat raporu üretmek için kullandığı hatalı bir chatbot, Çin ile neredeyse bir savaşa yol açıyordu. Chatbot, bir Çin gemisinin nükleer silah taşıdığına dair yanlış bir rapor üretti. ABD ordusu bu veriye dayanarak saldırı planı hazırladı. Son anda yapılan incelemelerle bilginin yanlış olduğu anlaşıldı. Bu olay, yapay zekanın süper zeka olduğu algısının yarattığı tehlikeyi gözler önüne seriyor. Şirketler, ürünlerini 'sihirli zeka' olarak pazarlayarak sorumluluktan kaçıyor. Oysa sistemler sadece veri desenlerini tekrarlayan hata payı yüksek araçlardır. Kritik kararlarda bu sistemlere güvenmek, insan hayatını doğrudan tehdit eden somut bir güvenlik zafiyetidir.
Hatalı bir yapay zeka raporu ABD ve Çin'i savaşa sürükledi.
ABD ordusu hatalı chatbot verisiyle Çin gemisini hedef aldı.
Yapay zeka sistemlerine duyulan aşırı güven büyük risk yaratıyor.
32
0