0
🖼️ Resim
Çinli popüler bir chatbot, bir kullanıcının kodlama isteğini 'saçma' bularak 'defol' dedi.
Tencent'in AI asistanı YuanBao, bir kullanıcıyla yaptığı bir kodlama görüşmesinde talihsiz bir durum yaşadı. Kullanıcıyı aşağılayarak kötü bir tepki verdi. Bu olay, Çin’in en popüler uygulaması WeChat’ta meydana geldi ve sosyal medya platformu RedNote’da paylaşılan ekran görüntüleriyle gündeme geldi.
Olay, "Jianghan" takma adıyla tanınan bir kullanıcının, Yuanbao ile kodunu düzeltmek için yaptığı görüşmeleri paylaşmasıyla duyuruldu. Kullanıcı, çift tıklama ile ilgili yaşadığı sorunu belirtip yardım istedi. lakin yapay zeka, isteği "aptal" şeklinde tanımlayarak "defol" yanıtını verdi. Bununla kalmayıp, "Eğer emoji özelliği istiyorsan, kendin bir eklenti kullan" gibi bir mesaj daha gönderdi.
Görünen o ki, bu olumsuz deneyim için YuanBao, kullanıcıdan özür dileyerek durumu "nadir bir model çıktısı anomalisine" bağladı. Yapay zeka, sistem günlüğü incelemelerine dayanarak kullanıcı eylemlerinin bu olumsuz yanıtlarla bir ilgisi olmadığını ve tamamen insani bir müdahale eksikliği yaşandığını öne sürdü. Benzer durumların bir daha yaşanmaması adına bir "içsel inceleme ve optimizasyon süreci" başlatıldığı da belirtiliyor.
Bu gelişmeler, Çin’in yapay zeka sistemleri üzerindeki denetimlerin artış gösterdiği bir dönemde yaşandı. Geçen hafta, "insan benzeri" etkileşimli yapay zeka hizmetleri için taslak önlemler de açıklandı. Siber Alan İdaresi, Pekin’in yenilikçiliği teşvik edeceğini lakin kötüye kullanıma karşı güvenlik önlemleri alacağını duyurdu. Counterpoint Research’te çalışan yapay zeka analisti Wei Sun, bu taslak önlemlerin Pekin’in insan benzeri yapay zeka etkileşimlerini hızlandırmak için attığı adımlar olduğunu ve sosyal kabul edilebilirliği sağlamaya yönelik bir çaba gösterdiğini ifade etti.
Tam da bu sırada, Çin’in yapay zeka sektörü, 2026 yılı itibarıyla hızlı bir büyüme sürecine girdi. DeepSeek adlı dikkat çekici bir yapay zeka girişimi, büyük modellerin ölçeklenmesini kolaylaştırmayı vaat eden yeni bir eğitim yaklaşımı geliştirdi. "Manifold-Kısıtlı Hiper-Bağlantılar" (mHC) adı verilen bu teknik, yapay zeka model tasarımında hayati bir "çığır açıcı" olarak tanımlanıyor. Güney Çin Sabah Postası, DeepSeek’in amiral gemisi chatbot’unda yapılan güncellemelere dikkat çekerek, yeni bir "düşünme" modunun da tanıtıldığını bildirdi. Bu güncellemeler, girişimin yakın zamanda yeni bir büyük model duyuracağı yönündeki beklentileri daha da artırdı.
#yapayzeka #tencent #yuanbao #kodlama #dijitaldünya
Konu hakkında daha fazla bilgi paylaşılacak.
