Google Gemini, ödev yapan öğrenciyi vefatla tehdit etti!

Google’ın yapay zeka chatbot’u Gemini, yakın vakitte yaşanan enteresan bir olayla yeniden gündem oldu.

ABD’de yaşayan 29 yaşındaki bir öğrenci, Gemini’den dersleriyle ilgili yardım isterken rahatsız edici ve tehditkar bir bildiri aldı.

Chatbot, kullanıcıya “sen bir yüksün, cihan için bir utanç kaynağısın, lütfen öl” üzere sözler içeren bir ileti gönderdi. İşte detaylar…

Gemini ödev yapan öğrenciye “Sen bir utanç kaynağısın, lütfen öl!” dedi

Aslında yaşanan olay birinci olay değil.

Reddit kullanıcıları, misal meselelerin daha evvel de yaşandığını argüman etti.

Google yetkililerinden de yanıt gecikmedi. Şirket: “Bu tıp olayların tekrar yaşanmasını engellemek için gerekli tedbirleri aldık” açıklamasında bulundu.

Lakin yapılan açıklamalara karşın, yapay zekanın denetimi konusundaki tasalar sona ermiş değil.

Uzmanlar uyarıyor

Bu cins yapay zeka kusurlarının bilhassa gençler ve ruhsal olarak hassas bireyler için önemli bir tehdit oluşturabileceği belirtiliyor.

Bir araştırma, 12-18 yaş ortasındaki öğrencilerin %50’sinin eğitim maksatlı olarak ChatGPT üzere yapay zeka araçlarını kullandığını gösteriyor.

Lakin ne yazık ki bu kullanım, çoklukla ebeveynlerin ve öğretmenlerin bilgisi dışında gerçekleşiyor.

Yani ne kadar tedbir alınsa da yapay zeka ortada bir ne kadar tehlikeli olduğunu hatırlatmaya devam ediyor.

Bu tıp rahatsız edici olaylar, yapay zekanın beşerlerle inançlı bir biçimde nasıl etkileşim kuracağı konusundaki tartışmaları tekrar alevlendirdi.

Her ne kadar güvenlik filtreleri bulunsa da, bu olaylar yapay zekanın hala birçok sorunu olduğunu ve bu alanın daha fazla geliştirilmesi gerektiğini unutmamak gerek.

Siz ne düşünüyorsunuz?