Anthropic kurucu ortağından yapay zekâ için “acil kapatma düğmesi” çağrısı
ABD merkezli yapay zekâ şirketi Anthropic’in kurucu ortaklarından Jack Clark, yapay zekâ sistemlerinin ciddi risk oluşturduğu durumlarda devreye sokulabilecek bir “acil kapatma mekanizmasının” gelecekte yasal olarak zorunlu hale gelebileceğini söyledi.
BBC’ye konuşan Clark, yapay zekâ sistemlerinin çok tehlikeli bir noktaya ulaşması halinde tamamen devre dışı bırakılabilmesini sağlayacak yöntemlerin kamu politikalarının önemli başlıklarından biri olması gerektiğini belirtti.
Anthropic dahil bazı yapay zekâ şirketlerinde farklı türde güvenlik ve kapatma mekanizmalarının bulunduğunu ifade eden Clark, bu sistemlerin kim tarafından ve hangi koşullarda kullanılabileceğinin de tartışılması gerektiğini kaydetti.
“Kontrolsüz bir sektör kötü fikir”
Clark, yapay zekâ sektörünün denetimsiz şekilde büyümesinin ciddi riskler doğurabileceğini savunarak, bağımsız denetim ve güvenlik standartlarının güçlendirilmesi gerektiğini söyledi.
Şirketlerin zorunlu bir acil kapatma sistemine sahip olup olmaması ve bu mekanizmanın bağımsız bir kurum tarafından kontrol edilip edilmemesi yönündeki soruya Clark, toplumun ilerleyen dönemde bu konuda kurallar koymasının muhtemel olduğunu belirtti.
Yapay zekânın insanlık için oluşturabileceği risklere ilişkin kesin oranlar vermenin anlamlı olmadığını ifade eden Clark, sektörün tamamen kontrolsüz bırakılmaması gerektiğini vurguladı.
Yapay zekâ güvenliği tartışmaları büyüyor
Son dönemde yapay zekâ şirketlerinde çalışan bazı araştırmacılar da teknolojinin hızla gelişmesi karşısında güvenlik önlemlerinin yetersiz kalabileceği yönünde uyarılarda bulunuyor.
Eski OpenAI ve Anthropic araştırmacısı Jacob Coxon da daha önce yaptığı açıklamalarda, gelişmiş yapay zekâ sistemlerinin yeterli denetim olmadan geliştirilmesinin ciddi riskler doğurabileceğini savunmuştu.
Yapay zekâ sektöründe bağımsız denetim, güvenlik standartları ve acil müdahale mekanizmaları önümüzdeki dönemin en önemli teknoloji politikası başlıklarından biri olmaya devam edecek.
#YapayZeka #Anthropic #Teknoloji #AIGüvenliği #DijitalDönüşüm
