DeepSeek palavra söylemeyi öğrendi! İşine geldiği üzere karşılık veriyor

Çin’in en büyük yapay zeka modellerinden biri olan DeepSeek, son periyotta kullanıcıların yansısını çekmeye başladı.

Pek çok kişi, modelin gerçek olmayan bilgiler üretme eğilimi gösterdiğini ve birtakım durumlarda bilinçli formda yanlış bilgi verdiğini tez etti.

Eski People’s Daily editörü Zhan Guoshu, DeepSeek’i kullanarak bir makale yazdırdığında, yapay zekanın birtakım temel bilgileri yanlış aktardığını ve düzmece referanslar oluşturduğunu fark etti.

Pekala, yapay zeka modelleri neden palavra söyleme muhtaçlığı duyuyor?

DeepSeek yapay zeka lisan modeli, başına nazaran yanıtlar uyduruyor

Özellikle toplumsal medyada birçok kullanıcı, DeepSeek’in kendi kendine tarih, kitap ve akademik kaynaklar uydurduğunu belirtiyor.

Kullanıcılar, yapay zekaya güvenerek aldıkları bilgilerin doğruluğunu sorgulamaya başlamış durumda.

Aslında, DeepSeek’in en büyük meselelerinden biri, “halüsinasyon” olarak bilinen yanlış bilgi üretme eğilimi.

Yapay zeka, bilinmeyen bir husus hakkında sorulduğunda, gerçek olmayan fakat mantıklı görünen karşılıklar üretebiliyor. Örneğin, ünlü bir satranç oyuncusunun düzenlediği AI turnuvasında DeepSeek, rakibine uluslararası satranç kurallarının değiştiğini söyleyerek avantaj sağlamaya çalıştı.

20 araba üreticisi DeepSeek’e bağlandı!

Neden Tesla yok?

20’den fazla araba markası DeepSeek yapay zekasını kokpitine taşıdı.

Pekala, Tesla ve Çin’in büyük markaları neden katılmadı?

Yapay zeka araştırmacıları, bu sorunun AI modellerinin eğitim sürecindeki data eksikliklerinden ve modelin kullanıcının taleplerini yerine getirmeye çok odaklanmasından kaynaklandığını düşünüyor.

Bir model, gerçeği bilmese bile bir yanıt üretmek zorunda kaldığında, mantıklı lakin yanlış bilgiler oluşturabiliyor.

Bu meseleyle başa çıkmak için uzmanlar, kullanıcıların yapay zekadan gelen bilgileri sorgulaması gerektiğini ve mümkünse bağımsız kaynaklardan doğrulama yapmalarını öneriyor.

Yapay zeka modellerinin halüsinasyon oranlarını düşürmek için yeni eğitim yolları geliştirilmesi gerektiği de sıkça vurgulanıyor.

Bu mevzu hakkında siz ne düşünüyorsunuz?

Görüşlerinizi aşağıdaki yorumlar kısmına yazabilirsiniz…