OpenAI'de güvenlik alanında görev yaptıktan sonra kısa süre önce istifa eden David Robinson, önde gelen yapay zeka şirketlerinin teknolojinin yarattığı riskleri azaltmak için yeterince dikkatli davranmadığını savundu. Robinson, cumartesi günü The Atlantic'te yayımlanan "OpenAI'den Ayrıldım Çünkü Kültürü Bozuk" başlıklı yazısında, OpenAI dahil yapay zeka şirketlerinin "gerektiği kadar dikkatli olmadığını" belirterek, daha gelişmiş sistemler oluşturulmadan önce güvenlik uzmanlığı ve araştırmalarına daha fazla ağırlık verilmesi gerektiğini ifade etti.
The Atlantic'teki Yazı ve "Kültürü Bozuk" Eleştirisi
David Robinson, eleştirilerini cumartesi günü The Atlantic'te yayımlanan yazısıyla kamuoyuna duyurdu. Yazının başlığı "OpenAI'den Ayrıldım Çünkü Kültürü Bozuk" olarak açıklandı. Robinson bu yazıda, yalnızca OpenAI'yi değil, önde gelen yapay zeka şirketlerinin genel yaklaşımını hedef aldı. Teknolojinin yarattığı risklerin azaltılması için mevcut dikkat seviyesinin yetersiz olduğunu savundu.
Robinson'a göre şirketlerin daha gelişmiş sistemler oluşturmadan önce güvenlik alanındaki uzmanlığı ve araştırmaları öncelemesi gerekiyor. Bu vurgu, yazının temel tezini oluşturuyor. Robinson, OpenAI dahil şirketlerin bu konuda "gerektiği kadar dikkatli olmadığını" dile getirdi.
"Deneme Yanılma Dönemi Sona Erdi" Uyarısı
Robinson, yazısında "Deneme yanılma dönemi sona erdi" ifadesini kullandı. Gelişmiş yapay zeka sistemlerinin, nükleer enerji ve havacılık gibi yüksek riskli sektörlerde uygulanan çok katmanlı güvenlik önlemlerine benzer korumalara ihtiyaç duyduğunu savundu.
Bu benzetmeyle Robinson, yapay zeka alanında da benzer bir güvenlik mimarisinin kurulması gerektiğini belirtti. Olası hataları önlemek için yedekli güvenlik sistemleri oluşturulması ve daha dikkatli planlama süreçlerinin hayata geçirilmesi gerektiğini ifade etti. Uyarısı, mevcut uygulamaların bu seviyede bir korumadan uzak olduğu yönündeydi.
"İteratif Dağıtım" Modeline Yönelik Eleştiri
Robinson, OpenAI'nin büyük ölçüde "iteratif dağıtım" olarak adlandırdığı bir yaklaşıma dayandığını belirtti. Bu modelde sistemler kullanıma sunuluyor ve ortaya çıkan sorunlara göre güvenlik önlemleri daha sonra güçlendiriliyor.
Robinson bu yaklaşımı eleştirerek, sorunlar ortaya çıktıktan sonra önlem almanın yeterli olmadığını savundu. Bunun yerine, sistemler dağıtılmadan önce yedekli yapılar ve kapsamlı planlama ile hataların önlenmesini önerdi. "Deneme yanılma dönemi sona erdi" sözü de bu eleştirinin bir parçası olarak öne çıktı.
OpenAI'deki 3,5 Yıllık Görev ve 12 Model Lansmanı
Robinson, OpenAI'de yaklaşık 3,5 yıl görev yaptığını açıkladı. Şirketin hazırlık çerçevesinin oluşturulmasına katkı sağladığını ve 12 ileri seviye model lansmanına ilişkin güvenlik raporlarını denetlediğini söyledi.
Deneyimine dayanarak şirketin çalışma temposuna ilişkin bir değerlendirmede bulunan Robinson, "Şirket bir lansmandan diğerine koşarken, gerekli olduğuna inandığım dikkat seviyesine ulaşamıyor" ifadesini kullandı. Bu sözlerle, lansmanlar arasındaki hızlı geçişin, ihtiyaç duyulan özenin gösterilmesini engellediğini savundu.
Sıkça Sorulan Sorular
David Robinson kimdir ve OpenAI'deki görevi neydi?
Kaynağa göre David Robinson, OpenAI'de güvenlik alanında görev yaptıktan sonra kısa süre önce istifa eden bir uzmandır. OpenAI'de yaklaşık 3,5 yıl görev yapmış, şirketin hazırlık çerçevesinin oluşturulmasına katkı sağlamış ve 12 ileri seviye model lansmanına ilişkin güvenlik raporlarını denetlemiştir.
Robinson uyarısını nerede ve hangi başlıkla yayımladı?
Robinson uyarısını cumartesi günü The Atlantic'te yayımlanan "OpenAI'den Ayrıldım Çünkü Kültürü Bozuk" başlıklı yazısında dile getirmiştir.
Robinson yapay zeka şirketlerini ne konusunda eleştirdi?
Robinson, OpenAI dahil önde gelen yapay zeka şirketlerinin teknolojinin yarattığı riskleri azaltmak için "gerektiği kadar dikkatli olmadığını" savundu ve daha gelişmiş sistemler oluşturulmadan önce güvenlik uzmanlığı ve araştırmalarına daha fazla ağırlık verilmesi gerektiğini ifade etti.
"Deneme yanılma dönemi sona erdi" ifadesiyle neyi savundu?
Robinson bu ifadeyle, gelişmiş yapay zeka sistemlerinin nükleer enerji ve havacılık gibi sektörlerdeki çok katmanlı güvenlik önlemlerine benzer korumalara ihtiyaç duyduğunu, şirketlerin olası hataları önlemek için yedekli güvenlik sistemleri ve daha dikkatli planlama süreçleri oluşturması gerektiğini savundu.
Robinson "iteratif dağıtım" yaklaşımı hakkında ne söyledi?
Robinson'a göre OpenAI, "iteratif dağıtım" olarak adlandırdığı yaklaşıma büyük ölçüde dayanıyor. Bu modelde sistemler kullanıma sunuluyor ve ortaya çıkan sorunlara göre güvenlik önlemleri daha sonra güçlendiriliyor. Robinson, şirketin bir lansmandan diğerine koşarken gerekli dikkat seviyesine ulaşamadığını belirtti.
