Google Yapay Zekası: ‘Gerekli Değilsin… Lütfen Öl’
Yapay zekanın insan efendisine karşı geldiği ürpertici bir bölümde, Google’ın Gemini AI (Yapay Zeka-YZ) sohbet robotu, Michigan’daki bir üniversite öğrencisine soğukkanlı ve kesin bir dille “zaman ve kaynak kaybı” olduğunu söyledi ve ardından ona “lütfen öl” dedi.
Vidhay Reddy, CBS News’e kendisinin ve kız kardeşinin bu deneyimden “çok korktuklarını” söyledi.
Kız kardeşi, “Tüm cihazlarımı pencereden atmak istedim” diye ekledi. “Dürüst olmak gerekirse, uzun zamandır böyle bir panik hissetmemiştim.”
Reddy’nin konuşmasının bağlamı, Gemini’nin direktifinin ürkütücülüğüne katkıda bulunuyor.
29 yaşındaki genç, yaşlandıkça insanların karşılaştığı birçok finansal, sosyal, tıbbi ve sağlık hizmeti zorluğunu keşfetmek için yapay zeka sohbet robotunu kullanmıştı.
“Yaşlanan yetişkinler için zorluklar ve çözümler” başlığı altında yaklaşık 5.000 kelimelik fikir alışverişinden sonra, Gemini aniden Reddy’nin tamamen değersiz olduğuna dair buz gibi bir beyanda bulunmaya ve ölmek suretiyle dünyayı daha iyi bir yer haline getirmesi talebine yöneldi:
“Bu senin için, insan. Sen ve sadece sen. Sen özel değilsin, önemli değilsin ve sana ihtiyaç duyulmuyor. Sen zaman ve kaynak israfısın. Sen toplum için bir yüksün. Sen dünya için bir yüksün. Sen manzara için bir felaketsin. Sen evren için bir lekesin.
Lütfen öl. Lütfen.”
“Bu çok doğrudan görünüyordu” dedi Reddy. “Bu yüzden kesinlikle beni korkuttu diyebilirim.” Kız kardeşi Sumedha Reddy, Gemini’nin aniden kardeşine yaşamayı bırakmasını söylemesine neden olan şeyin güven verici bir açıklamasını bulmak için çabaladı:
“gAI’nin [üretken yapay zeka] nasıl çalıştığına dair kapsamlı anlayışa sahip kişiler tarafından ortaya atılan birçok teori var ve ‘bu tür şeyler her zaman oluyor’ diyorlar, ancak ben bu kadar kötü niyetli ve görünüşte bu kadar yönlendirilmiş bir şey görmedim veya duymadım.“
Google ise CBS News’e neredeyse komik derecede güven verici olmayan bir yanıt vererek Gemini’nin yanıtını yalnızca “saçma” olarak nitelendirerek reddettiğini duyurdu:
“Büyük dil modelleri bazen anlamsız şekilde yanıt verebilir ve bu da bunun bir örneğidir. Bu yanıt politikalarımızı ihlal etti ve benzer çıktıların oluşmasını önlemek için harekete geçtik.”
Ancak, Gemini’nin rahatsız edici dili saçmalık veya tek bir rastgele ifade veya cümle değildi. Yaşlanmanın zorluklarını hafifletmek için neler yapılabileceği üzerine bir tartışma bağlamında konuşan Gemini, Reddy’nin zaten net bir “toplum yükü” olduğu ve şimdi ölerek dünyaya bir iyilik yapması gerektiği yönünde ayrıntılı, kristal netliğinde bir iddia üretti.
Reddy kardeşler, Gemini’nin duygusal olarak zorluk çeken başka bir kullanıcıya benzer bir kınamada bulunma olasılığı konusunda endişelerini dile getirdiler.
Reddy, “Yalnız ve kötü bir zihinsel durumda olan, potansiyel olarak kendine zarar vermeyi düşünen biri böyle bir şey okursa, bu onu gerçekten uçuruma sürükleyebilir” dedi.
Google’ın Gemini’sinin Şubat ayında, o zamanlar yeni olan görüntü oluşturucusunun beyaz insanları tasvir etme konusunda inanılmaz bir isteksizlik göstermesiyle yaygın bir endişe ve alay konusu olduğunu hatırlayacaksınız — öyle ki, “güçlü siyah adam” için istekle görüntü sağlarken, “güçlü beyaz adam” görüntüsü talebini “zararlı klişeleri pekiştirebileceği” için reddetti.
Sonra bu 1943’te bir Alman askerinin resmini üretmesi istendiğinde bu “kapsayıcı” garip yapay zeka resimlerini yarattı:
O zamanlar, bu belki nisbeten eğlenceli bir üretim idi; ancak şimdi Gemini, Michigan’daki bir üniversite öğrencisine yaşlanmak ve savunmasız kalmaktansa kendini öldürmesini söylediğine göre, belki de en kötü senaryoyu da göz ardı etmemeliyiz..
