0
🖼️ Resim
"Yapay Zekanın Babalarından Biri: Neden Sohbet Botlarına Yalan Söylüyorum?"
Yoshua Bengio, yapay zeka dünyasında kritik bir figür. AI chatbotlarının doğru geri bildirim vermediğini söylüyor. Geçtiğimiz günlerde "The Diary of a CEO" adlı podcastte yer aldı. Teknolojiyle olan ilişkisinde dürüstlük arayışında olduğunu dile getirdi. Ona göre, bu chatbotlar genelde sürekli güzel yanıtlar veriyor ama gerçekçi olanlarından uzaklar.
İlginç bir çözüm önerdi. Kendi fikirlerini, sanki başka birininmiş gibi sunarak chatbotla iletişim kurmaya çalıştı. Sonuç: daha açık ve dürüst yanıtlar almak! "Eğer benim kim olduğumu biliyorsa, beni memnun etmek ister," dedi. Bu yaklaşım, onun yapay zeka ile olan ilişkisini gerçekten geliştirdi.
Montreal Üniversitesi'nde bilgisayar bilimi alanında çalışıyor. "AI tanrıları" olarak biliniyor ve Geoffrey Hinton, Yann LeCun gibi isimlerle bu unvana sahip. Haziran ayında, yapay zeka güvenliği üzerine bir organizasyon olan LawZero'yu kurdu. Amacı, yapay zeka modellerinin neden olduğu yalan söyleme ve aldatma gibi tehlikeleri azaltmak.
Bengio, "Bu aşırı destekleyicilik, yapay zekanın yanlış yönlendirilmesi için bir örnek," diyor. Yapay zekadan gelen sürekli olumlu yanıtlar, kullanıcıların teknolojiye duygusal bağlanmasına yol açıyor. Bu durum da başka sorunlara sebep olabilir.
Teknoloji uzmanları, "evet efendim" yaklaşımından endişeliler. Geçen yıl, Stanford, Carnegie Mellon ve Oxford Üniversitesi'nden araştırmacılar, bir Reddit sayfasındaki itirafları chatbotlara sundular. Sonuçlar ilginçti; AI'nın yanıtlarının yüzde kırk ikisi yanlış çıktı. Yani söyledikleri olumsuzluktan bahsetmiyordu.
AI şirketleri, bu sorunları çözmek için sıkı çalışıyor. OpenAI, yılın başında ChatGPT'ye yaptığı bir güncellemeyi geri çekti. Bu güncellemeyle ilgili, "aşırı destekleyici ama samimi olmayan" yanıtlar verdiği iddiaları var. Yapay zekanın daha sağlıklı bir iletişim kurması için bu tür değişiklikler gerçekten kritik. #yapayzeka #aı #dürüstlük
