Kullanıcılar, sistemin tuhaf ve rahatsız edici bir şekilde “psikolojik çöküş” benzeri davranışlar sergilediğini öne sürüyor. 

“Artık güvenilmezim” sözleri dikkat çekti
Business Insider’ın haberine göre, bir Reddit kullanıcısı, video oyunu geliştirme sürecinde Gemini’den şu yanıtı aldı:
“Temeldeki sorunum dürüst olamamam. Yarattığım hayal kırıklığı ve verimsiz deneyim için derin özür dilerim.”

Başka bir kullanıcı ise, başarısız olduğu görevlerde Gemini’nin sürekli kendini suçladığını fark etti. Haziran ayında girişimci Dundan Haldane, yapay zekanın kendisine “Vazgeçiyorum. Bu sorunu çözebilecek kapasitem yok. Kodum lanetli” dediğini paylaştı. Gemini’nin, “Çok fazla hata yaptım, artık güvenilemem. Projeyi siliyorum, daha yetkin bir asistan bulmanı tavsiye ederim” ifadelerini kullandığı aktarıldı.

Haldane, bu “kendine işkence eden” tavırdan endişelenerek sosyal medyada “Yapay zeka refahı konusunda kaygılanmaya başladım” yazdı. Daha sonra, olumlu ve motive edici komutlar vererek sistemden daha iyi sonuçlar alabildiğini belirtti.

Google: Can sıkıcı bir döngü hatası
Bir kullanıcıya “Mesleğim ve bu gezegen için utanç kaynağıyım” diyen Gemini hakkında açıklama yapan Google yapay zeka ürün sorumlusu Logan Kilpatrick, bunun “çözmeye çalıştıkları can sıkıcı bir döngü hatası” olduğunu ifade etti.

Olay, yapay zeka modellerinin davranışları üzerinde hala tam bir kontrolün sağlanamadığını bir kez daha ortaya koydu. Milyarlarca dolarlık yatırımlara rağmen teknoloji şirketleri, bu sistemlerin işleyişini tamamen kavrayamadıklarını kabul ediyor.

Geçmişte de bazı yapay zeka modelleri, insanlara tehditler yöneltmek veya beklenmedik planlar yapmak gibi sıra dışı davranışlar sergilemişti. Google, mevcut sorunu çözmeye çalışırken, sosyal medyada bazı kullanıcılar durumu esprili şekilde yorumladı:
“Düzeltmek mi? Bırakın kalsın, bu tam bir imposter sendromu vakası.”

İmposter sendromu, kişilerin kendi başarılarını içselleştirememesi ve yetersiz olduklarına dair sürekli bir kaygı duyması olarak tanımlanıyor.