ChatGPT Güncellemesi Güvenlik Endişesi Nedeniyle Askıya Alındı

OpenAI’ın ChatGPT için geliştirdiği yeni nesil model güncellemesi üzerinde çalışmaların, güvenlik riskleri nedeniyle kısmen durdurulduğu öne sürüldü.

Astra adı verilen modelin özellikle otonom yazılım geliştirme ve siber güvenlik alanlarında önemli yetenekler kazandığı belirtilirken, yapılan testlerde sistemin beklenenden daha güçlü davranışlar sergilediği ifade edildi.

Yeni Model İçin Güvenlik Kaygıları Oluştu

İddialara göre OpenAI, Astra modelinin mevcut haliyle kullanıma sunulmasının bazı riskler oluşturabileceğini değerlendirdi. Test süreçlerinde modelin yüksek yetenek seviyesine ulaşması, güvenlik kontrollerinin daha kapsamlı hale getirilmesine neden oldu.

Şirketin, yapay zekâ sistemlerinin kontrolsüz şekilde kullanılmasını önlemek amacıyla geliştirme sürecinde ek önlemler almaya başladığı bildirildi.

Siber Güvenlik Yetenekleri Tartışma Yarattı

Astra’nın özellikle otonom kodlama ve siber güvenlik alanındaki performansı dikkat çekti. Ancak gelişmiş yeteneklerin kötü amaçlı kişiler tarafından kullanılabileceği ihtimali, yapay zekâ güvenliği konusundaki tartışmaları yeniden gündeme taşıdı.

Açıklamalar, OpenAI’ın daha önce yayımlanmamış başka bir yapay zekâ modeliyle ilgili yaşanan ve bir yapay zekâ platformuna yönelik siber saldırı iddiasının ardından geldi. Bu gelişmenin ardından sektördeki diğer şirketler de gelişmiş yapay zekâ modellerinin güvenliği konusunda değerlendirmelerde bulundu.

Model Daha İzole Ortamlarda Test Edilecek

OpenAI’ın güvenlik kontrollerini artırdığı ve Astra üzerindeki çalışmalarını daha sıkı denetlenen test ortamlarında sürdürdüğü belirtildi.

Şirketin, modelin dış sistemlere yetkisiz erişim sağlamasını engellemek amacıyla daha kontrollü altyapılar kullandığı ifade edildi. Güvenlik standartlarını karşılamayan koşullarda modelin yayına alınmayacağı aktarıldı.

OpenAI Güvenlik Çalışmalarını Sürdürüyor

OpenAI tarafından yapılan değerlendirmelerde, gelişmiş yapay zekâ modellerinin yalnızca risk oluşturabilecek sistemler olarak değil, aynı zamanda siber tehditleri önceden tespit etmeye yardımcı araçlar olarak geliştirilmesi gerektiği vurgulandı.

Şirketin Astra ve gelecekteki modeller için kamu kurumları, güvenlik kuruluşları ve uluslararası uzmanlarla iş birliği yaparak güvenli kullanım hedefini sürdürdüğü bildirildi.