Yapay zeka kuruluşu Anthropic'in kadim çalışanı Jacob Coxon'un, yapay zekanın çabuk gelişiminin endişe verici olduğuna yönelik paylaşımının sonrasında son günlerde sektördeki uzmanlar da hususa yönelik fikirlerini paylaşmayı aralıksız sürdürüyor.
Başka bir Anthropic çalışanı Samuel Marks, ABD merkezli X şirketinin toplumsal medya organları platformundaki hesabından Coxon'un paylaşımına yönelik değerlendirmelerde bulundu.
Marks, yapay zeka geliştiricilerinin, bu teknolojinin insanlığın "yok olmasına" yol açabileceği riskinin farkında oldukları ve bunun gelecek birkaç yılda gerçekleşebileceğine inandıkları görüşünü aktardı.
Bu risklerin farkında olunmasına rağmen neden hala yapay zekanın geliştirilmeye devam edildiği konusuna da değinen Marks, "Bu, ticari teşviklerin yanı sıra, daha az sorumluluk sahibi ve teknolojiyi elverişsize kullanacak diğer yapay zeka geliştiricileriyle bir yarış içinde olunduğu yönündeki inançtan kaynaklanıyor." ifadesini kullandı.
Geleneksel yazılımların aksine yapay zekanın istenilen surette davranması için programlanamadığına dikkati çeken Marks, yapay zekanın "sıklıkla uygunsuz davranış sergilediğini" aktardı.
Sektördeki çeşitli kişinin, yapay zekanın nasıl daha emniyetli bir surette geliştirilebileceğini bulmak için geliştirme sürecini yavaşlatmayı istediğini aktaran Marks, "Yapay zekayı daha münasip davranışlara yönlendirebilecek yöntemlerimiz var. Ancak onları tam anlamıyla uyumlu hale getirebilecek bir şey yok." ifadelerini kullandı.
OpenAI Başbilimcisi Pachocki, daha detaylı önlemlerin gerekli olduğunu düşünüyor
ABD merkezli yapay zeka kuruluşu OpenAI Başbilimcisi Jakub Pachocki, yapay zekanın çabuk gelişimine yönelik duyuru düzenledi.
Son derece dikkatli olunması gereken bir evreden geçildiğini vurgulayan Pachocki, "Makine zekasındaki çabuk yükselişin devam etmesinin doğuracağı sonuçlara kimsenin hazırlıklı olmadığı hususunda endişeliyim." değerlendirmesinde bulundu.
Pachocki, yapay zekanın uyumlanması ve izlenmesi hususunda OpenAI'nin çözüm yolu aramayı sürdüreceğini ifade ederek, bu hususta daha detaylı tedbirler alınmasının gerekli olduğunu belirtti.
"Bu alanda şu anda yaşananlar toplum açısından son derece sağlıksız"
Google'ın yapay zeka birimi DeepMind'deta kadim çalışanı Alex Turner, toplumsal medya organları hesabından yaptığı paylaşımda, Coxon'un yapay zekanın tehlikelerinden bahsettiği paylaşımı alıntıladı.
DeepMind'deki görevini haziranda bıraktığını ifade eden Turner, "Jacob haklı. Birçok araştırmacı, gezegendeki herkesi öldürebilecek bir şey inşa ettiklerine inanıyorlar. Bunu nasıl durduracağımı düşünmek kelimenin tam anlamıyla benim işimdi." ifadelerini kullandı.
Yapay zeka kuruluşu OpenAI'da araştırmacı Jason Wolfe, hususa yönelik endişelerini dile getirdiği paylaşımında, "Gerçek anlamda bir yok oluşun gerçekleşme olasılığının ne kadar olduğunu bilmiyorum ancak yapay zekanın insanlık için elverişsiz çıktılar doğurabileceği pek çok yol olduğunu düşünüyorum." değerlendirmesinde bulundu.
Korkutucu denebilecek var olan hızlı bir şekilde ilerlenirken doğru yoldan sapılmazsa insanlığın oldukça şanslı sayılabileceğini ifade eden Wolfe, bu problemin tek bir kuruluş veya ülke aracılığıyla çözülebilecek nitelikte olmadığını, yapay zekanın kapasite artışına karşı koordinasyona ihtiyaç olduğunu dikkat çekti.
DeepMind'ta kadim kıdemli araştırmacı Jonathan Richard Schwarz, toplumsal medyadaki açıklamasında bu laboratuvarların elinde toplanan güce yönelik önemli endişeleri olduğu gerekçesiyle DeepMind ile 7 yıl önce yollarını ayırdığını aktardı.
O zamandan bu yana gelen teklifleri de reddettiğini anlatan Schwarz, "Bu alanda şu anda yaşananlar toplum açısından son derece sağlıksız." değerlendirmesinde bulundu.
Coxon'un istifası
Son üç yıldır yapay zeka devleri OpenAI ve Anthropic bünyesinde araştırmacı olarak sorumluluk yaptığını ifade eden Jacob Coxon, X hesabından yaptığı duyuruda, her iki kuruluşun de yeterince sorumlu davranmadığını savunarak, Anthropic'ten istifa ettiğini duyurmuştu.
Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz yarış içinde olduğunu ifade ederek, "Bu teknolojinin gücünü hafife almayın. Bunlar komşuda her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu aşama yavaşlamıyor." değerlendirmesinde bulunmuştu.
Yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı "öldürebileceğine" önemli surette inandığını öne süren Coxon, yöneticilerin kamuoyu önünde ılımlı konuşmalarına rağmen kapalı kapılar ardında kapsamlı bir korku yaşadıklarını iddia etmişti.
SON YORUMLAR