Eski Anthropic Araştırmacısından Çarpıcı Uyarı: Yapay Zekanın İnsanlığı Bitirme Riski %10'dan Fazla
Anthropic’te görev yapan bir yapay zeka güvenlik araştırmacısı, şirketin güvenlik politikalarını ve hızlı gelişim sürecini eleştirerek istifa etti. Araştırmacı, yapay zekanın insanlığı ortadan kaldırma ihtimalinin %10’dan fazla olduğunu belirtti.
Teknoloji dünyasının önde gelen yapay zeka şirketlerinden Anthropic'te yaşanan ayrılık sektörü sarstı. Şirkette araştırmacı olarak çalışan Jacob Hilton, güvenlik kaygıları ve şirketin izlediği agresif ticari politikalar nedeniyle görevinden istifa ettiğini duyurdu. Hilton, yapay zeka modellerinin kontrolden çıkma riskine dikkat çekerek insanlığın sonunun gelme ihtimalinin %10'un üzerinde olduğunu ifade etti.
Anlaşmazlığın temelinde Anthropic ve OpenAI gibi devlerin, güvenlik önlemlerini ikinci plana atarak kâr odaklı ve hızlı bir yarış içine girmesi yatıyor. Araştırmacı, teknolojinin gücünün küçümsenmemesi gerektiğini belirterek yapay zekanın kısa süre içinde süper zeka sistemlerine dönüşeceğini ve radikal riskler barındırdığını vurguladı. Şirket yönetiminin güvenlik odaklı uyarıları yeterince dikkate almadığını belirten bu istifa, silikon vadisinde yapay zeka güvenliği tartışmalarını yeniden alevlendirdi.