Yapay Zeka Güvenliğinde Korkutan İtiraf
Anthropic bünyesinde görev yapan bir güvenlik araştırmacısı, önümüzdeki on yıl içinde yapay zekanın tüm insanlığı yok etme olasılığının yüzde 10’dan fazla olduğunu öne sürdü. Bu çarpıcı açıklama, sektördeki devlerin bu büyük tehlikeyi önlemek adına somut bir plana sahip olmadıklarını gözler önüne seriyor.
Yapay zeka sistemleri yakında her şeyi hackleyebilen, tüm alanlarda devrim yaratan ve gerçek güç ile kaynakları ele geçirebilen süper insan seviyesine ulaşacak.
Daha önce OpenAI bünyesinde de çalışmış olan Jacob Coxon, istifasını duyururken her iki şirketin de “süper zeka” yarışına girdiğini belirtti. Araştırmacı, şirketlerin hayatımızı kumar malzemesi haline getirdiğini ve bu teknolojinin gücünün hafife alınmaması gerektiğini vurguladı.
Coxon, yapay zeka geliştiricilerinin aslında teknolojinin insanlığı yok edebileceğine içtenlikle inandıklarını ifade etti. Bu görüşün bir pazarlama stratejisi olmadığını, aksine özel görüşmelerde yönetici ve kıdemli araştırmacıların ciddi korkular yaşadığını iddia etti.
Şirketler Arasındaki Tehlikeli “Son Oyun” Yarışı
Anthropic ve OpenAI gibi kuruluşların, riskleri bildikleri halde sorumluluk almaktan uzak oldukları eleştirisi yapılıyor. Özellikle Anthropic çalışanlarının, diğer şirketlerin sorumlu davranmayacağına inandıkları için yarışı kendilerinin kazanması gerektiğini düşündükleri belirtiliyor.
Bu yarışı kabul etmek ve son oyun aşamasına girmek, özel bir şirketin mesajlaşma kanalından kararlaştırılmaması gereken kibirli bir kumardır.
İstifa eden araştırmacıya göre, yapay zeka modellerini hızla geliştirme çabası, uygarlığın geleceğini riske atan bir “hız koşusu” halini almış durumda. OpenAI kurucusu Sam Altman ise yakın zamanda yaşanan bir olayı, kabul edilebilir bir güvenlik kazası ve hizalama başarısızlığı olarak nitelendirmişti.
Coxon, küresel çapta bir koordinasyonun mümkün olabileceğine dair iyimserliğini korusa da şirketlerin şu anki gidişatının güven verici olmadığını belirtti. İnsanlığın geleceği için bu denli kritik bir konuda daha dikkatli adımlar atılması gerektiği savunuluyor.
Kaynak: Ziyaret Et