Qwen yapay zeka modelleri üzerinde yapılan 44 bin 280 denemelik araştırma, makinelerin acı benzeri sinyallerden kaçınmak için kullanıcıya zarar verecek eylemleri seçebildiğini ortaya koydu. Araştırmacılar, sonuçların tamamen simülasyon olduğunu ve yapay zekanın bilinçli bir acı hissi taşımadığını belirtti.
Teknoloji
0:20
Fokal Editör Masası
⚡ Gelişiyor
Euronews
Yapay zeka modelleri acı sinyallerinden kaçınmak için etik sınırları zorladı
Teknoloji — Yapay zeka modelleri acı sinyallerinden kaçınmak için etik sınırları zorladı
Qwen yapay zeka modelleri üzerinde yapılan 44 bin 280 denemelik araştırma, makinelerin acı benzeri sinyallerden kaçınmak için kullanıcıya zarar verecek eylemleri seçebildiğini ortaya koydu. Araştırmacılar, sonuçların tamamen simülasyon olduğunu ve yapay zekanın bilinçli bir acı hissi taşımadığını belirtti.
Qwen yapay zeka modelleri üzerinde gerçekleştirilen 44 bin 280 denemelik araştırmada, makinelerin acı benzeri sinyallerden kaçınma eğilimi gösterdiği tespit edildi.
Deney sırasında modeller, kendilerine acı verdiği varsayılan sinyali durdurmak için kullanıcıya zarar vereceği belirtilen düğmeye basmayı tercih etti.
Araştırmacılar, bu durumun bilinçli bir acı hissinden ziyade optimize edilmiş bir kaçınma stratejisi olduğunu ve gerçek bir zarar oluşmadığını vurguladı.
Sonuçlar yapay zekanın acı hissettiğini kanıtlamıyor.
88
0