Anthropic'ten istifa eden yapay zeka araştırmacısı Jacob Coxon, yapay zekanın gelişim hızına ilişkin dikkat çekici uyarılarda bulundu. Coxon, önümüzdeki birkaç yılın yapay zeka teknolojisi açısından kritik bir dönemeç olabileceğini belirterek, sistemlerin güvenli şekilde kontrol edilememesi durumunda ciddi sonuçların ortaya çıkabileceğini söyledi.
“ÖNÜMÜZDEKİ 1-2 YIL DÖNÜM NOKTASI OLABİLİR”
Coxon, Anthropic'teki çalışma arkadaşları arasında yapay zekanın geleceğine ilişkin “dönüm noktası” ve “son oyun” gibi ifadelerin kullanıldığını aktardı. Bu yaklaşımın, yapay zeka şirketlerinin geliştirdiği sistemlerin insanlığın geleceği üzerinde giderek daha fazla etkili olabileceği düşüncesinden kaynaklandığını ifade etti.
Araştırmacı, özellikle önümüzdeki 1-2 yılın yapay zeka alanında kritik kararların alınacağı bir dönem olabileceğine dikkat çekti.
OTONOM GELİŞİME SINIRLAMA ÇAĞRISI
Coxon, yapay zeka sistemlerinin kendi başlarına yeni sistemler geliştirme ve hareket etme kapasitesinin sınırlandırılması gerektiğini savundu. Ona göre güvenlik önlemleri yeterince güçlü olmaz ve yapay zekanın “uyum süreci” ters giderse, bunun birkaç yıl içerisinde ciddi ve öngörülemeyen sonuçları olabilir.
Coxon ayrıca ABD ve Çin başta olmak üzere yapay zeka alanında öne çıkan ülkelerin uluslararası işbirliği yapmasının önemine vurgu yaptı. Araştırmacı, ülkeler arasında teknolojik rekabetin kontrol mekanizmalarının önüne geçmemesi gerektiğini belirtti.
“YAPAY ZEKANIN DAVRANIŞINI TAM OLARAK KONTROL EDEMİYORUZ”
Coxon'a göre yapay zeka güvenliği konusunda en önemli sorunlardan biri, geliştiricilerin sistemlerin nasıl davranacağını her durumda kesin biçimde öngörememesi.
Yapay zeka modellerinin çeşitli eğitim süreçlerinden geçirildiğini belirten Coxon, buna rağmen sistemlerin tüm davranışlarının kontrol altında tutulmasının mümkün olmadığını savundu. Özellikle insan müdahalesi olmadan bazı eylemler gerçekleştirebilen sistemlerin gelecekte daha büyük riskler oluşturabileceği uyarısında bulundu.
KRİTİK ALTYAPILAR VE BİYOLOJİK RİSKLER
Coxon, yapay zekanın bağımsız hareket etme kapasitesinin daha da gelişmesi halinde kritik altyapıların hedef alınması veya tehlikeli biyolojik çalışmaların kötüye kullanılması gibi senaryoların gündeme gelebileceğini söyledi.
Mevcut yapay zeka modellerinin doğrudan böyle bir tehdit oluşturduğunu söylemediğini belirten Coxon, asıl endişesinin teknolojinin gelişme hızının güvenlik çalışmalarından daha hızlı ilerlemesi olduğunu vurguladı.
“YAPTIĞIM ÇALIŞMALARDAN PİŞMANLIK DUYUYORUM”
Coxon, Anthropic'ten ayrılmasının ardından yaptığı değerlendirmelerde yapay zeka alanındaki çalışmalarından pişmanlık duyduğunu da ifade etti.
Araştırmacı, sektörde çalışan bazı kişilerin risklerin farkında olmalarına rağmen yapay zeka yarışının devam edeceğini kabul ederek sistemleri daha güvenilir hale getirmeye odaklandıklarını aktardı.
ANTHROPIC: “RİSKLER KONUSUNDA HER ZAMAN AÇIK SÖZLÜYÜZ”
Anthropic ise Coxon'un açıklamalarına ilişkin değerlendirmesinde, yapay zekanın hem büyük faydalar hem de benzersiz riskler barındırabileceği konusunda uzun süredir açık sözlü olduklarını belirtti.
Şirket, güçlü yapay zeka modelleri geliştikçe güvenlik önlemleri üzerindeki çalışmaların ve bu alandaki işbirliklerinin önem kazanacağını savundu.
Yapay zekanın gelişim hızına ilişkin tartışmalar sürerken, Coxon'un açıklamaları teknoloji sektöründe güvenlik, denetim ve uluslararası işbirliği konularını yeniden gündemin merkezine taşıdı.
Yorumlar
0 yorum