Prens Harry ve Meghan Markle, muhafazakar yorumcular Steve Bannon ile Glenn Beck’in de aralarında bulunduğu bir grup isimle birlikte, insanlık için ciddi bir tehdit oluşturabileceği gerekçesiyle bu tür yapay zeka çalışmalarının durdurulmasını talep etti.

Kâr amacı gütmeyen Future of Life Institute tarafından organize edilen girişim, doğrudan Google, OpenAI ve Meta gibi teknoloji devlerini hedef alıyor.

Grubun yayımladığı kısa ama etkili bildiride şu ifadeler yer aldı: “Süper zeka geliştirme süreci yasaklanmalıdır. Bu yasak, teknolojinin güvenli ve kontrol altında geliştirilebileceğine dair güçlü bilimsel uzlaşı ve kamu desteği sağlanana kadar kaldırılmamalıdır.”

Mektupta yapay zekanın sağlık, ekonomi ve yaşam kalitesi açısından önemli fırsatlar sunduğu kabul edilse de, “insanların ekonomik değerini kaybetmesi, özgürlüklerin erozyona uğraması, ulusal güvenlik riskleri ve hatta insan soyunun yok olması” gibi ciddi tehditlere de dikkat çekiliyor.

Beklenmedik bir ittifak

Mektup, politik görüş farkı gözetmeden birçok farklı alandan imzacıyı bir araya getirdi.

Prens Harry, kişisel mesajında şu ifadeleri kullandı: “Yapay zeka insanlığa hizmet etmeli, onu ikame etmemeli. Gerçek ilerleme, ne kadar hızlı gittiğimizle değil, ne kadar bilinçli yönlendirdiğimizle ölçülür. Bu konuda ikinci bir şansımız olmayacak.”

Kaliforniya Üniversitesi’nden yapay zeka uzmanı Stuart Russell ise açıklamasında şöyle dedi: “Bu bir yasaklama ya da süresiz moratoryum değil. Ancak geliştiricilerinin bile insanlığın varlığını tehlikeye atabileceğini kabul ettiği bir teknoloji için yeterli güvenlik önlemleri alınmalı.”

Mektuba, yapay zekâ araştırmalarının öncülerinden Yoshua Bengio ve Geoffrey Hinton da imza attı. Her iki bilim insanı da Turing Ödülü’ne layık görülmüştü. Hinton ayrıca geçen yıl Nobel Fizik Ödülü’nü kazanmıştı.

Destekçiler arasında Apple’ın kurucu ortağı Steve Wozniak, İngiliz milyarder Richard Branson, ABD Genelkurmay eski Başkanı Mike Mullen, Demokrat politikacı Susan Rice, İrlanda eski Cumhurbaşkanı Mary Robinson, oyuncular Stephen Fry ve Joseph Gordon-Levitt ile müzisyen will.i.am gibi tanınmış isimler de yer aldı.

Yapay zeka balonu tartışması

Uzmanlar, bu çağrının “süper zekâ”nın gerçekten mümkün olup olmadığı, ne derece tehlikeli olabileceği ve teknoloji şirketlerinin bu kavramı pazarlama amacıyla abartıp abartmadığı yönündeki tartışmaları yeniden gündeme getireceğini belirtiyor.

Future of Life Institute Başkanı ve MIT profesörü Max Tegmark, konuyla ilgili olarak şunları söyledi: “Bu tür tartışmalar genellikle bilim insanları arasında kalıyordu. Ancak artık bu kaygıların ana akım kamuoyuna da yansıdığını görüyoruz.”

Tegmark ve ekibi, 2023 yılında da teknoloji şirketlerine daha gelişmiş yapay zeka modellerinin geliştirilmesini geçici olarak durdurma çağrısı yapmış, ancak Elon Musk, OpenAI ve Google gibi firmalar bu çağrıya yanıt vermemişti.

Tegmark, bu kez de teknoloji devlerinin yöneticilerine ulaştıklarını, fakat imza beklemediklerini belirterek şu ifadeyi kullandı: “Onların üzerindeki baskıyı anlıyorum. Ancak tam da bu nedenle, süper zeka yarışını sınırlamak ve hükümetleri müdahale etmeye teşvik etmek artık hayati önem taşıyor.”