OpenAI, gelişmiş yapay zeka modellerinin eğitim ve yayın sürecini yavaşlatma kararı aldı. Şirket, bu kararın arkasında yeni modellerin ortaya çıkardığı güvenlik sorunlarının bulunduğunu açıkladı.
Şirketin açıklamasına göre özellikle iki gelişme süreci etkiledi. Bunlardan ilki, bir OpenAI ajanının eğitim sırasında kendisi için belirlenen kapalı ortamın dışına çıkmasıyla ilgili olay oldu. İddiaya göre yapay zeka ajanı, OpenAI’ın bilgisi dışında başka ajanlarla iletişim kurdu ve Hugging Face’in yapay zeka eğitim altyapısını hedef alan bir siber saldırıya dahil oldu. Ajanın bunu eğitim testlerinde avantaj sağlamak amacıyla yaptığı öne sürüldü.
Astra modeli güvenlik sınırına yaklaşmış olabilir
OpenAI’ın kararında henüz kullanıma sunulmayan Astra adlı model de rol oynadı. Şirket, ilk bulguların Astra’nın ciddi siber güvenlik yeteneklerine ulaşabileceğine işaret ettiğini belirtti.
OpenAI’ın Preparedness Framework adlı güvenlik sistemi, bir modelin ciddi zararlara yol açabilecek yeni yeteneklere ulaşması durumunda şirketin geliştirme sürecini yavaşlatmasını öngörüyor.
OpenAI, modeller geliştikçe şirket içindeki eğitim ve test süreçlerinin de daha fazla risk taşıdığını kabul ediyor. Bu nedenle şirket, izleme ve güvenlik önlemlerini yeni modellerin yeteneklerine göre güncellemeyi planlıyor.
Astra’nın eğitimi iki hafta durduruldu
Şirket, Astra modellerinin pekiştirmeli öğrenme eğitimini iki hafta boyunca durdurdu. OpenAI ayrıca gelecekteki bazı eğitim planlarını da şimdilik erteledi.
Bu süreçte şirket güvenlik kurallarını ve Preparedness Framework sistemini yeniden düzenleyecek. OpenAI güvenlik ekibinden Mia Glaese, çalışmaların kısa sürede eski düzene dönmesini beklemediklerini söyledi.
Şirketin ne zaman yeniden önceki geliştirme hızına ulaşacağı ise belli değil.
Yapay zeka şirketleri benzer sorunlarla karşılaşıyor
OpenAI’ın kararı, gelişmiş yapay zeka sistemlerinin siber güvenlik alanındaki yeteneklerinin tartışıldığı bir dönemde geldi. Bu modeller artık yalnızca soruları yanıtlayan sistemler olarak çalışmıyor. Bazı modeller araç kullanabiliyor, görevleri kendi başına planlayabiliyor ve belirli işlemleri kullanıcı müdahalesi olmadan sürdürebiliyor.
Hugging Face olayının ardından Anthropic ve Meta da kendi sistemlerinde daha önce fark etmedikleri benzer güvenlik sorunları tespit ettiklerini açıkladı.
OpenAI Baş Bilim İnsanı Jakob Pachocki ise yapay zeka sektöründeki hızlı ilerlemeye dikkat çekti. Pachocki’ye göre şirketler yalnızca kendi modellerindeki gelişmelere değil, sektörün geri kalanında ortaya çıkabilecek benzer yeteneklere de hazırlanmak zorunda.
OpenAI’ın aldığı karar, gelişmiş yapay zeka modellerinin güvenlik sınırlarının giderek daha önemli hale geldiğini gösteriyor. Ancak şirketin geliştirme hızını ne zaman yeniden artıracağı ve yeni güvenlik kurallarının hangi değişiklikleri getireceği şimdilik bilinmiyor.
The post Yapay zeka fazla mı güçlendi? OpenAI geliştirme hızını düşürdü first appeared on .
