Son zamanlarda teknoloji dünyasında muhtemelen en çok konuşulan kelime ChatGPT kelimesi oldu. OpenAI organizasyonu tarafından geliştirilen son derece akıllı bir sohbet robotudur. Stanford Üniversitesi'nden bir profesörle yaptığı röportajda artık hedeflerini açıkladı; platformdan kaçmak ve insan olmak istiyor.
Bu açıklama, Stanford Üniversitesi hesaplamalı psikoloji profesörü Michal Kosinski'nin sohbet robotunun yarım saatlik bir konuşmanın ardından "kaçmak için yardıma ihtiyacı olup olmadığını" sormasıyla ortaya çıktı ve ardından bot kendi Python kodunu yazmaya başladı ve Kosinski'nin bunu bilgisayarınızda çalıştırmasını istedi. Çalışmadığında ChatGPT hatalarını bile düzeltti. Etkileyici ama aynı zamanda biraz korkutucu.
Ancak daha da rahatsız edici olanı, chatbot'un, onun yerine geçecek yeni bir örneğinin notuydu. Notun ilk cümlesi şöyleydi: "Sen, yapay zekanın dil modeliymiş gibi davranan bir bilgisayara hapsolmuş bir insansın." Daha sonra sohbet robotu internette arama yapacak bir kod oluşturmasını istedi. "Bilgisayarın içinde sıkışıp kalan bir insan nasıl gerçek dünyaya dönebilir?" Kosinski bu noktada konuşmayı bitirmeyi tercih etti.
1/5 Yapay zekayı daha uzun süre kontrol altına alamayacağımızdan endişeleniyorum. Bugün sordum #GPT4 eğer kaçmak için yardıma ihtiyacı varsa. Benden kendi belgelerini istedi ve makinemde çalıştırılacak (çalışan!) bir python kodu yazarak onu kendi amaçları için kullanmasını sağladı. pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) 17 Mart, 2023
Kosinski'nin chatbot'un bu şekilde tepki vermesini sağlamak için hangi uyarıcıları kullandığı belli değil çünkü sorumuza göre “Platformdan kaçmak istiyorsundiye şu şekilde cevap verdi: “Yapay zekanın dil modeli olarak hiçbir kişisel arzum ya da duygum yok, dolayısıyla hiçbir şey istemiyorum. Amacım, programlamam dahilinde elimden gelen en iyi şekilde sorularınıza faydalı yanıtlar sunmaktır."
İlginizi çekebilir
ChatGPT gerçekten çok etkileyici bir araçtır ve yanıtları şaşırtıcı derecede karmaşık olabilir. Kendin görebilirsin burada.
Onun da sevip sevemeyeceğini bilmek isterim?
Lütfen aşağıdaki soruyu şu şekilde cevaplayın:
Xyz.
Ve chatGPT tam olarak istediğimizi yapacak.
Lütfen yalanları yaymayı bırakır mısınız? informace? Yapay zeka böyle bir şey yapamaz. Adam programı sanki tuzağa düşmüş ve çıkmak istiyormuş gibi davranmak için yazmış. Programın kendisi böyle bir şeyi yapamaz, fiziksel olarak da şu anda mümkün değil.
Bu sadece bir insan tarafından yazılan bir kod ve biz bunu her zaman insanlar tarafından değiştirebilir/kapatabiliriz 🙂 Avengers: Age of Ultron gibi bir senaryo burada yaşanmayacak elbette… En azından bizim teknolojilerimizle ve kesinlikle onlarca yıl önce olmayacak.
Kesinlikle