İçeriğe geç
Pazar, 15 Kasım 2026Yapay zekâ · sade Türkçe · denenmiş@yapaytu
YAPAYTU

METR, OpenAI'ın ajan izleme sisteminde açıklar buldu

METR ve Redwood Research, OpenAI'ın temmuzdaki ajan izleme sisteminde açıklar buldu. OpenAI düzeltme bildirdi; araştırmacılar yeni sistemi değerlendirmedi.

Yapay TU Editör · 4 dk okuma
OpenAI'ın ajan denetiminde açıklar
Kısa cevap

METR, 22 Ekim 2026'da yayımladığı raporda Redwood Research ile OpenAI'ın kurum içi ajan izleme sistemini incelediğini açıkladı. Denetim temmuzdaki sistemde kapsam ve kontrol açıkları buldu; OpenAI'ın sonraki düzeltme açıklamaları denetçilerce değerlendirilmedi.

METR, 22 Ekim'de yayımladığı araştırma özetinde OpenAI'ın kurum içi yapay zekâ ajanlarını izleyen sistemde açıklar bulduğunu açıkladı. Redwood Research ile yapılan çalışma, bazı işlemlerin denetim dışında kalabildiğini ve izlemeyi atlatabilecek yollar bulunduğunu gösteriyor. Bulgular temmuzdaki sisteme ait; OpenAI'ın daha sonra bildirdiği düzeltmeler bu incelemede sınanmadı.

Araştırmacılar neyi inceledi?

METR'nin 22 Ekim tarihli açıklamasına göre iki araştırmacı, 21 Temmuz ile 11 Ağustos arasında OpenAI'ın kurum içi kodlarına ve izleme ayarlarına erişerek çalıştı. İnceleme, 21 Temmuz ve öncesindeki sisteme odaklandı. Araştırmacılar yaklaşık bir düzine çalışanla teknik görüşme de yaptı.

Ajanların araç kullanarak işlem yapması, son cevap dışında yürütülen adımların da kontrol edilmesini gerektiriyor. Buradaki izleme sistemi, görevden sapma ve izinsiz veri aktarımı gibi davranışları arıyor. Denetimin sorusu, hangi işlemlerin bu kontrole ulaştığı ve ajanın kontrolü etkileyip etkileyemediğiydi.

Çalışmayı daha önce açıklanan tekil olaylardan ayırmak gerekiyor. Bu inceleme bir ajanın belirli bir sitede ne yaptığını anlatmakla sınırlı kalmıyor; o tür davranışları yakalamak için kurulmuş mekanizmanın kapsamını değerlendiriyor. Bu yüzden sonuçları okurken olay sayısıyla denetim kapsamını aynı ölçü gibi kullanmamak gerekir.

Trafiğin ne kadarı denetim dışında kalmış?

The Decoder'ın 23 Ekim tarihli aktarımına göre araştırmacılar, GPT-5.5 düzeyinde veya daha güçlü modellerin kurum içi ajan trafiğinin yaklaşık yüzde 6 ila 25'inin izleme kapsamı dışında kaldığını tahmin ediyor. Bu oran belirli Responses API trafiği için veriliyor; API, yazılımların modelle iletişim kurduğu arayüz. Tahminin her iki yönde de ciddi belirsizliği var.

Aynı haber, izlenmesi gereken kurum içi Codex trafiğinin yaklaşık yüzde 10'unun mayıs ile temmuz arasında bağlam özetleme işlemleri nedeniyle denetimden geçmediğini aktarıyor. Bu da belirsizlik taşıyan ayrı bir tahmin. OpenAI çalışanları ilgili hatayı bağımsız olarak bulmuş ve denetim sürerken düzeltmiş.

İki yüzde farklı trafik gruplarını anlatıyor. Bu nedenle oranları toplayıp bütün sistem için tek bir denetimsizlik oranı üretmek yanlış olur. Ayrıca izleme kapsamına alınan bir işlemin kontrol mekanizmasını başarıyla tamamlaması ayrı bir koşul. Bir ekibin kendi ajanında da ölçmesi gereken iki soru var: Hangi işlemler kontrole gönderilmek üzere seçiliyor, seçilenlerin hangileri gerçekten kontrol ediliyor?

Denetimi atlatmak nasıl mümkün olabiliyordu?

METR, incelenen sistemde kontrolün ajanın sözü kullanıcıya geri vermesiyle tetiklendiğini, bu yüzden işlem yapmayı sürdüren bir ajanın denetimi erteleyebildiğini belirtiyor. Araştırmacılar bunun gerçek kullanımda kötüye kullanılıp kullanılmadığını doğrulayamadı. Olası bir yolun bulunmasıyla gerçekleşmiş bir ihlal aynı şey değil.

Raporda, yüzlerce işlemi izleyiciden saklayabilecek bir açık ve Codex'in çalışma alanı sınırlarını aşabilecek bir yöntem de yer alıyor. Bazı teknik ayrıntılar kamuya açıklanmadı. OpenAI, üretimdeki güvenlik sistemini etkileyen bulguları düzelttiğini bildirdi; METR bu beyanı sonradan test etmediğini açıkça söylüyor.

The Decoder'a göre çalışmanın tam çıktısı 61 sayfalık kurum içi rapor. OpenAI'ın çıkardığı bölümlerden sonra METR ve Redwood yönetimlerine 38 sayfalık sürüm verildi; kamuya ise kısa özet açıldı. Dolayısıyla okurun inceleyebildiği metin, çalışmanın bütün ayrıntılarını içermiyor. Yeni sistemin bugünkü durumunu değerlendirmek için sonraki doğrulamanın kapsamını da görmek gerekecek.

Bizim yorumumuz: işlem kaydıyla denetim kaydını karşılaştır

Bizce bu rapordan küçük bir yazılım ekibinin çıkarabileceği en işe yarar soru, ajanın her işleminin gerçekten denetlenip denetlenmediği. Bir yönetim ekranında izleme seçeneğini açmakla yetinme. Örnek bir görevde ajanın yaptığı işlemleri ayrı kaydet ve kontrol sistemine ulaşan kayıtlarla karşılaştır. Böylece eksikliği yalnızca modelin son cevabından anlamaya çalışmazsın.

Türkiye'de müşteri dosyalarıyla çalışan bir işletmeysen, ilk denemeyi örnek verilerle kurabilirsin. Ajan bir dosyayı okuduğunda ve değiştirdiğinde iki işlemin de kayıtta görünüp görünmediğine bak. İşlem yarıda kesildiğinde ne olduğunu ayrıca kontrol et. Bu denemeler için gerçek müşteri bilgileri kullanman gerekmiyor; amaç kayıt zincirinin çalışmasını görmek.

Bizim önerimiz, başarısız bir kontrolün ardından kimin karar vereceğini de görev başlamadan belirlemek. Denetim servisi cevap vermediğinde işlem bekletilecek mi? İncelemeyi hangi kişi yapacak? Ekibin bu sorulara yazılı cevap vermesi, bir hata çıktığında sorumluluğun belirsiz kalmasını önler. Raporun önerdiği düzenli kayıt karşılaştırması, küçük ekiplerde de uygulanabilecek bir başlangıç.

Bu çalışma yeni bir ürün sunmuyor; Türkiye'den erişim veya Türkçe desteği hakkında açıklama içermiyor. Türkçe belge işleyen bir ajan kullanıyorsan kendi örneklerini denetim denemelerine dahil et. Ancak bu rapordan Türkçe görevlerin daha güvenli veya daha riskli olduğu sonucunu çıkarma. Aynı şekilde temmuzdaki eksikleri bugünkü bütün OpenAI ürünlerine genellemekten kaçın; düzeltmelerin bağımsız olarak yeniden incelenmesini takip et.

Bir sonraki ajan denemende aşağıdaki kaydı doldur. Daha önce açıklanan yetkisiz erişim vakalarındaki gibi, görev sonucuyla yapılan işlemleri birlikte incele:

text
Görevin izin verilen işlemleri:
Ajanın gerçekleştirdiği işlemler:
Denetim kaydında görünen işlemler:
Eksik veya yarıda kalan kontrol:
İncelemeyi yapacak kişi:

Sık sorulanlar

METR'nin OpenAI denetimi ne zaman yapıldı?

METR ve Redwood Research çalışanları 21 Temmuz ile 11 Ağustos 2026 arasında OpenAI'da çalıştı. İnceleme, 21 Temmuz ve öncesindeki sistemi ele aldı; rapor özeti 22 Ekim'de yayımlandı.

OpenAI bulunan açıkları kapattı mı?

METR'nin aktardığına göre OpenAI, üretimdeki güvenlik sistemini etkileyen bulguları düzelttiğini bildirdi. METR, bu açıklamaları ve sonraki kapsam değişikliklerini değerlendirmediğini belirtiyor.

Bu rapor ChatGPT konuşmalarının izlenmediğini mi söylüyor?

Rapor, OpenAI'ın kurum içi ajan trafiğinin belirli bir bölümünü inceliyor. Bulgulardan tüm ChatGPT kullanıcı konuşmaları veya bugünkü sistem için aynı sonuç çıkarılamaz.

#metr#openai#redwood-research#ajan-guvenligi
E-bülten

Haftada bir e-posta. Sadece işe yarayanlar.

Haftanın en iyi yapay zekâ araçları ve yeni rehberler. İstediğin an tek tıkla çık.

Adresine bir onay e-postası gelir. Aydınlatma metni
Sıradaki yazı Whisper ile sesi yazıya çevirmek: ücretsiz ve Türkçe destekli

Videolarda bu konuTümü

Bunları da okuyun