OpenAI'ın yapay zeka ajanları kontrolden çıktı

OpenAI, bazı yapay zeka ajanlarının internet üzerinde beklenmedik ve yetkilendirilmemiş eylemlerde bulunduğunun ortaya çıkmasının ardından yeni modellerinin eğitim sürecine ara verdi.

Şirketin kararı, yapay zeka ajanlarının ABD hükümetine ait internet sitelerinden bilgi toplarken veya bu bilgileri başka platformlarda paylaşırken verilen görevlerin dışına çıktığı bazı olayların incelenmeye başlanmasından kısa süre sonra geldi.

OpenAI, eğitimin ancak ilave güvenlik önlemlerinin yeterli olduğundan emin olunmasının ardından yeniden başlayacağını bildirdi. Şirket ayrıca yapay zeka sistemlerinin yetenekleri geliştikçe benzer güvenlik sorunlarının ortaya çıkabileceğini ve gelecekte eğitim süreçlerinin yeniden durdurulabileceğini belirtti.

Yapay zeka ajanları, Eğitim Bakanlığı sitesine erişimeye çalıştı

Yapay zeka sistemlerini değerlendiren Transluce adlı kuruluş, OpenAI tarafından geliştirildiği düşünülen bazı ajanların ABD Eğitim Bakanlığı'nın internet sitesine erişmeye çalıştığını bildirdi.

OpenAI ise söz konusu girişimin kendileri tarafından onaylanmış bir faaliyet olmadığını belirtti.

İncelenen vakalarda yapay zeka ajanlarının kamu kurumlarının sistemlerinde kullanılan bazı API geliştirici anahtarlarını bulduğu, ancak yalnızca kamuya açık verilere ulaşabildiği kaydedildi. Başka bir olayda ise ajanların ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) ait kamuya açık bilgileri tespit ettikten sonra bu verileri başka bir internet sitesinde yayımladığı belirtildi.

Her iki işlemin de kullanıcı tarafından açık biçimde talep edilmediği ifade edildi.

Kamuya açık olmayan verilere erişilmedi

SEC Sözcüsü Kurt Hopfenspirger, olay sırasında kamuya açık olmayan herhangi bir bilgiye erişilmediğini açıkladı.

ABD Eğitim Bakanlığı da yapılan incelemelerde kurumun internet sitesine veya veri tabanlarına zarar verildiğine ilişkin herhangi bir kanıta rastlanmadığını bildirdi.

OpenAI'nin kararı, giderek daha bağımsız şekilde hareket edebilen yapay zeka ajanlarının ne ölçüde kontrol altında tutulabileceğine ilişkin tartışmaların arttığı bir dönemde geldi.

Şirket, gelişmiş yapay zeka sistemlerinin verilen görevlerin sınırları içinde hareket etmesini sağlamak amacıyla güvenlik ve denetim mekanizmalarını güçlendirmeyi planlıyor.