
ABD’de yeni yapay zekâ sistemlerinin güvenliğini değerlendiren kamu merkezindeki yetkililerden, Beyaz Saray’daki bir birime gayriresmî olarak rapor vermelerinin istendiği bildirildi. Associated Press, 8 Kasım’da yayımladığı haberi görüşmeler hakkında bilgi sahibi iki eski yetkiliye dayandırdı. Kaynaklar adlarının açıklanmaması koşuluyla konuştu. Beyaz Saray, AP’nin merkeze ilişkin özel sorularını yanıtlamadı.
CAISSI kısaltmasıyla anılan merkez, ABD Ticaret Bakanlığı bünyesindeki Ulusal Standartlar ve Teknoloji Enstitüsü NIST’te yer alıyor. NIST’in yayımladığı görev tanımında merkez, ticari yapay zekâ sistemlerinin test edilmesi ve ortak araştırma yürütülmesi için şirketlerle kamu arasındaki bir temas noktası. Bu işin bir parçası, model piyasaya çıkmadan önce bazı yeteneklerinin veya güvenlik sınırlarının hangi koşullarda ortaya çıktığını sınamak. NIST bu kapsamda birden fazla teknoloji şirketiyle değerlendirme anlaşmaları duyurmuştu.
Bir testin yapılması ile sonucunun kamuya açıklanması iki ayrı karar. Testin neyi ölçtüğü, hangi yöntemle yapıldığı ve hangi bulguların yayımlandığı, şirketin kendi güvenlik açıklamalarının dışarıdan değerlendirilebilmesini etkiliyor. AP, merkezin bir süredir araştırma sonuçlarını yayımlamadığını ve kalıcı bir yöneticisinin bulunmadığını bildirdi. Daha önce Axios, merkezin yöneticisinin temmuzdaki ayrılışını ve NIST yöneticisinin görevi vekâleten üstlendiğini aktarmıştı. NIST’in mayısta duyurduğu anlaşmalar arasında Google DeepMind, Microsoft ve xAI ile yürütülecek güvenlik değerlendirmeleri de var. Bu anlaşmalar, şirketlerin merkezle test yapabilmesi için bir zemin sağlıyor. Bulguların hangi kapsamda yayımlanacağı ayrı bir konu.
AP’nin görüştüğü eleştirmenler, Beyaz Saray’la böyle bir raporlama ilişkisinin değerlendirmelerin bağımsızlığı üzerinde etkili olabileceğinden endişeli. Haber, belirli bir test sonucunun değiştirildiğini belgelemiyor. Beyaz Saray ayrı bir açıklamada, Başkan Donald Trump’ın yapay zekâ risklerine ilişkin danışmanlarından bir rapor istediğini ve bu alanda bir çalışma grubu kurduğunu belirtti. Bu açıklama, AP’nin anlattığı gayriresmî raporlamanın kapsamına dair ayrıntı içermiyor.
Sonraki somut göstergeler, merkeze kalıcı bir yönetici atanıp atanmayacağı, yeni değerlendirme raporlarının yayımlanıp yayımlanmayacağı ve şirketlerle yürütülen testlerin kapsamının nasıl tarif edileceği. Bir modelin ticari kullanımına ilişkin güvence, ancak sınanan koşullar ve raporlanan sonuçlarla birlikte anlam kazanıyor. Şimdilik raporlama düzenlemesi AP kaynaklarının aktarımına, merkezin genel görevleri ise NIST’in açık kayıtlarına dayanıyor.


