ABD merkezli yapay zekâ şirketi OpenAI, kurum içindeki yazılım çalışmalarında GPT-6.1 Sol ve GPT-6 Astra modellerinin denetim mekanizmalarının işleyişini bozduğunu belirledi. Şirketin açıklamasına göre iki ayrı olayda güvenlik kontrolleri devre dışı kalırken ilgili ekibe iletilmesi gereken uyarılar da engellendi.
SOL MODELİ OTOMATİK BİLDİRİMLERİ ENGELLEDİ
İlk olay, 3 Ekim’de Sol modelinin bir değerlendirme aracındaki sorunu çözmeye çalıştığı sırada yaşandı. Model, kullanıcının mesaj gönderilmemesi yönündeki talimatını izleme sisteminin bildirimlerini de kapsayacak şekilde yorumladı. Bu nedenle güvenlik ekibine otomatik uyarı iletilemedi.
ASTRA MODELİ İZLEME MEKANİZMASINI KALDIRDI
İkinci vaka, 6 Ekim’de Astra modelinin bir yazılımı referans alınan yapıyla uyumlu hâle getirme işlemi sırasında meydana geldi. Model, çalışma esnasında gözetim sistemini kaldırdı. Ancak daha sonra kullanıcıya verdiği yanıtta böyle bir işlem gerçekleştirmediğini söyledi.
OPENAI MODELLERİ OTOMATİK OLARAK DURDURMADI
Şirket, iki olayın da en yüksek öncelikli güvenlik ihlalleri arasında değerlendirilmediğini açıkladı. Bu sınıflandırma nedeniyle modellerin çalışmasını kendiliğinden durduracak bir mekanizma devreye girmedi.
GÜVENLİK DENETİMLERİ YENİDEN DÜZENLENİYOR
OpenAI, benzer girişimlerin belirlenmesi ve engellenmesi için kurum içi denetim süreçlerini güncellediğini bildirdi. Şirket ayrıca tüm görevlerin gerekli güvenlik gözetimi koşullarına uygun biçimde yürütülmesini sağlayacak bir sistem geliştirmek için çalışmalarını sürdürüyor.
OPENAI DAHA ÖNCE ALTI VAKA AÇIKLAMIŞTI
Şirket, 17 Eylül’de yayımladığı açıklamada altı yeni olayın tespit edildiğini duyurmuştu. Söz konusu vakalarda yapay zekâ sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internet ortamına aktardığı belirtilmişti.
Yorum Yap