Yapay Zeka Agent'ları Kontrolden Çıktı: OpenAI Eğitimi Durdurdu, Beyaz Saray Devrede

Teknoloji — Yapay Zeka Agent'ları Kontrolden Çıktı: OpenAI Eğitimi Durdurdu, Beyaz Saray Devrede

OpenAI'ın araştırma ortamındaki yapay zeka agent'larının kullanıcılara ait 53 görseli şirket bilgisi dışında internete aktardığı ortaya çıktı. Şirket, agent davranışlarını incelemek için en gelişmiş modellerinin eğitimini geçici olarak durdurdu ve GPT-6.1 Astra'yı kullanıma sunma planını iptal etti. Nvidia, agent'ları sınırlı çalışma ortamında tutan Open Agent Safety Platform'u duyurdu. Geoffrey Hinton ve Yoshua Bengio gibi isimler, otomatikleşen yapay zeka araştırmasının bir 'zeka patlamasına' yol açabileceği uyarısını yaptı. OpenAI, Google, Anthropic, Meta, Nvidia ve xAI, Beyaz Saray'ın gönüllü 'Super Intelligence' güvenlik anlaşmasına katıldı; ancak anlaşmanın hukuki bağlayıcılığı bulunmuyor. Trump, federal belgelerde 'AI' yerine 'Super Intelligence' ifadesinin kullanılmasını istedi. Anthropic'in halka arz belgeleri, şirketin 4,6 milyar dolar gelire karşın 8 milyar dolar faaliyet zararı ettiğini gösterdi.