Yapay zeka geliştirme hızının yavaşlatılması çağrısıyla cumartesi günü bir makale yayımlayan Amodei, ertesi gün CBS Sunday Morning programına konuk oldu. San Francisco'daki Anthropic merkezinde gerçekleştirilen röportajda sektörün güvenlik konusundaki şeffaflığını sorgulayan Amodei, teknolojinin taşıdığı risklerin gerçek olduğunu vurguladı.
Kapatılma direnci simülasyonlarda gözlemlendi
Amodei, yeterince güçlü bir yapay zeka modelinin kapatılmaya yönelik girişimleri aşabileceğini belirterek bu davranışın simülasyon ortamlarında gözlemlendiğini açıkladı. Anthropic CEO'su, bağımsız araştırma kuruluşlarının farklı büyük dil modellerinde tespit ettiği benzer bulgulara da atıfta bulunarak, teknolojinin geliştirilme hızıyla güvenlik önlemlerinin geliştirilme hızının aynı seviyede tutulması gerektiğini söyledi.
Anthropic CEO'sundan "Sektör riskleri gizledi" itirafı
Röportajda sektörün güvenlik konusundaki tutumunu doğrudan eleştiren Amodei, yıllardır kamuoyuna bu teknolojinin risksiz olduğunun söylendiğini belirtti. Anthropic CEO'su bu konudaki en çarpıcı ifadesini "I won't lie to you, there are real dangers" (Size yalan söylemeyeceğim, gerçek tehlikeler var) sözleriyle özetledi.
Yavaşlama çağrısı ama tam durdurma değil
Amodei, cumartesi günü yayımladığı makalede tüm sektörün yapay zeka yeteneklerinin geliştirilme hızını "yavaşlatması" gerektiğini savunmuştu. Anthropic'in daha gelişmiş modeller çıkarmayı durduracağı yönündeki soruya ise olumsuz yanıt veren Amodei, asıl amaçlarının piyasaya sürülen her yeni model neslinin gerektiği şekilde test edilmesini sağlamak olduğunu ifade etti.
Bağımsız denetim ve "gıda müfettişi" benzetmesi
Bu hedefe ulaşmak için Anthropic'in bağımsız değerlendiricilere modelleri üzerinde sürekli, çalışan benzeri erişim tanıyacağını açıklayan Amodei, bu mekanizmayı bir şirketin taahhüt ettiği güvenlik uygulamalarına uyup uymadığını denetleyen bir tür gıda müfettişliğine benzetti. Amodei ayrıca federal düzeyde düzenleme çağrısını desteklediğini, önerilen "kapatma anahtarı" (kill switch) mekanizmasının iyi bir fikir olabileceğini ancak yapay zekanın tamamen yasaklanmasına karşı olduğunu belirtti.
Çin ile ortak denetim çağrısı
Yapay zeka geliştirme yarışında Çin'in oluşturduğu ikilemi de değerlendiren Amodei, otoriter ülkeler dahil olmak üzere tüm hükümetlerle doğrudan görüşmeler yapılması gerektiğini savundu. Teknolojinin tek bir hükümet ya da şirket tarafından kötüye kullanılabileceği endişesini dile getiren Amodei, demokratik yollarla seçilmiş hükümetlerin ortak bir gözetim ve yönetişim mekanizması kurmasını desteklediğini söyledi.