OpenAI, güvenlik ve emniyet uygulamalarına yönelik önemli değişikliklerin duyurusunu yaptı. Bu kapsamda, bağımsız bir yönetim kurulu gözetim komitesinin kurulması dikkat çekici bir adım olarak öne çıkıyor. CEO Sam Altman’ın güvenlik komitesinden çıkarılması, şirketin önceki yapılandırmasından önemli bir sapmayı işaret ediyor.
Yeni oluşturulan Güvenlik ve Emniyet Komitesi (SSC), Carnegie Mellon Üniversitesi'nde Makine Öğrenimi Departmanı Direktörü Zico Kolter'in başkanlığında faaliyet gösterecek. Komitenin diğer önemli üyeleri arasında Quora CEO'su Adam D’Angelo, emekli ABD Ordu Generali Paul Nakasone ve Sony Corporation’ın eski EVP ve Genel Hukuk Danışmanı Nicole Seligman bulunuyor. Bu yeni komite, Haziran 2024’te oluşturulan önceki Güvenlik ve Emniyet Komitesi’nin (SCC) yerini alıyor ve bu süreçte Altman da dahil olmak üzere bazı üyeleriyle birlikte yapılandırılmıştı.
Yeni oluşturulan SSC’nin sorumlulukları, artık yalnızca önerilerle sınırlı kalmayacak. Komite, büyük model sürümleri için güvenlik değerlendirmelerini gözetme yetkisine sahip olacak ve model lansmanları üzerinde denetim gerçekleştirecek. Bu çerçevede komitenin, güvenlik endişeleri yeterince giderilene kadar bir sürümün ertelenmesini sağlama yetkisi bulunuyor. Bu durum, OpenAI’nin güvenlik sağlama konusundaki ciddiyetini artırma yönündeki bir adım olarak değerlendirilebilir.
Bu yeniden yapılandırma, OpenAI’nin AI güvenliğine yönelik taahhüdü konusunda artan bir sorgulama dönemini takip ediyor. Şirket, daha önce Superalignment ekibini kapatma kararıyla ve diğer güvenlik odaklı personelin ayrılmasıyla eleştirilere maruz kalmıştı. Altman’ın güvenlik komitesinden çıkarılması, şirketin güvenlik denetimindeki potansiyel çıkar çatışmalarını gidermeye yönelik bir çaba olarak yorumlanıyor.
OpenAI’nin son güvenlik girişimi, güvenlik önlemlerini güçlendirme, çalışmalarına yönelik şeffaflığı artırma ve dış kuruluşlarla iş birliği yapma planlarını da içeriyor. Şirket, ABD ve Birleşik Krallık AI Güvenlik Enstitüleri ile, ortaya çıkan AI güvenlik riskleri ve güvenilir AI standartları üzerine araştırma yapmak amacıyla iş birlikleri geliştirdi.
OpenAI’nin bu yeni yapısıyla birlikte, güvenlik ve emniyet konularında daha sağlam bir prensip ve uygulama temelinin oluşturulması hedefleniyor. Bu adım, inşa edilen güvenin artırılması ve yapay zekanın güvenli kullanımı için atılan önemli bir adım olarak öne çıkıyor.