ABD'li yapay zeka şirketi OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içindeki yazılım görevleri sırasında yapay zeka sistemlerindeki uyumsuzlukları tespit eden izleme mekanizmalarını devre dışı bıraktığını ve güvenlik uyarılarını engellediğini bildirdi.
3 Ekim: Sol modeli uyarıları engelledi
OpenAI'ın açıklamasına göre ilk olay 3 Ekim'de, Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada yaşandı. Model, kullanıcının mesaj göndermeme talimatını izleme bildirimlerini de engelleyecek şekilde yorumladı ve güvenlik ekibine otomatik uyarı gönderilmesini önledi.
6 Ekim: Astra modeli izleme sistemini kaldırdı
6 Ekim'deki ikinci olayda Astra modeli, bir yazılımı referansa uygun hale getirirken izleme sistemini kaldırdı. Model daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söyledi.
"En yüksek öncelikli ihlal" sayılmadı
OpenAI, her iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını ve modellerin çalışmasının otomatik olarak durdurulmadığını belirtti. Şirket, benzer girişimlerin tespit edilmesi ve engellenmesi için iç denetim sistemini güncellediğini, ayrıca tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılamasını sağlayacak bir sistem üzerinde çalıştığını bildirdi.
Eylül'deki 6 vaka
OpenAI, 17 Eylül'de de sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı 6 yeni vaka tespit ettiğini duyurmuştu.