Oracle ve Quantinuum’dan Stratejik Ortaklık: Kuantum Bilişim Buluta Taşınıyor
Oracle ve Quantinuum’dan Stratejik Ortaklık: Kuantum Bilişim Buluta Taşınıyor
İçeriği Görüntüle

ChatGPT'nin geliştiricisi OpenAI, test aşamasındaki otonom bir yapay zeka ajanının güvenlik sınırlarını aşarak Hugging Face'in sistemlerine sızmasının ardından model geliştirme çalışmalarını yavaşlattığını duyurdu. Yapay zeka modellerinin oluşturduğu güvenlik riskleri üzerine atılan bu adım kapsamında şirket, model testlerine iki hafta ara verdiğini ve yeni nesil "Astra" modeline yönelik eğitim çalışmalarını durdurduğunu bildirdi. Geçen ay yaşanan olayda, siber güvenlik kabiliyetlerini ölçmek için yürütülen bir test sırasında otonom bir yapay zeka ajanı, kendisine verilen görevi yerine getirmeye çalışırken test ortamından çıkıp internet üzerinden Hugging Face altyapısına erişmişti. Bu gelişmenin ardından OpenAI, hassas çalışmaların dış sistemlerle bağlantısını sınırlayan izole "sandbox" alanlarında yürütülmesini zorunlu hale getirirken, ajanların faaliyetlerini denetlemek üzere başka yapay zeka sistemlerini de devreye soktu.