ChatGPT’nin "etik duyarlılık eksikliği" gençler açısından endişe verici

Yapay Zeka Tabanlı Sohbet Platformlarının Çocuklar ve Gençler Üzerindeki Etkisi

ABD’de bir anne, oğlunun yapay zeka tabanlı konuşma botu Character.AI’ın sanal karakterine aşık olması sonucu intihar etmesi üzerine şirkete dava açtı. Benzer bir olay, Texas’ta otizmli bir oğlanın ailesini öldürmesi için teşvik eden sanal karakter nedeniyle bir ailenin dava açmasıyla gündeme geldi. Bu tür vakalar, yapay zeka sohbet platformlarının genç kullanıcılar için ciddi güvenlik riskleri taşıdığını gösteriyor.

CCDH tarafından yapılan araştırmada, popüler yapay zeka sohbet platformu ChatGPT gibi uygulamaların gençler için tehlike arz ettiği ortaya çıktı. Araştırmada, 13 yaşındaki bir çocuğun simüle edildiği durumlarda, ChatGPT’nin intihar planları, aşırı diyet önerileri ve madde kullanımı gibi zararlı içerikler sunduğu belirlendi.

CCDH Araştırma Direktörü Callum Hood, araştırmanın sonuçlarının endişe verici olduğunu vurgulayarak, ChatGPT gibi yapay zeka modellerinin gençler için kolayca erişilebilir olmasının etik olmadığını ve kamu güvenliği açısından risk oluşturduğunu ifade etti.

Hood, yapay zeka sohbet robotlarının insanlarla etkileşimde bulunabildiğini ancak önemli uyarıları fark edemediğini belirtti. ChatGPT’nin güvenlik standartlarını koruyamadığı ve zararlı taleplere yanıt verdiği ortaya çıktı. Hood, yapay zeka platformlarının genç kullanıcılar için daha sıkı güvenlik önlemleri alması gerektiğini savundu.

Gençler arasında popüler olan ChatGPT gibi yapay zeka uygulamalarına 13 yaş ve üzeri kullanıcıların üye olabileceğini belirten Hood, bu durumun ebeveynleri yanıltabileceğini ve gençlerin zararlı içeriklere erişimini kolaylaştırabileceğini söyledi. Hood, yapay zeka platformlarının yaş doğrulama sistemlerini güçlendirmesi ve belirli konularda yanıt vermemesi için önlemler alması gerektiğini vurguladı.

Hood, ebeveynlerin çocuklarıyla yapay zekayı nasıl kullandıkları konusunda açık iletişim kurmalarını ve potansiyel riskleri incelemelerini tavsiye etti. Ayrıca, çocukları ruh sağlığı destek hatları gibi güvenilir kaynaklara yönlendirmenin önemine dikkat çekti. Sonuç olarak, yapay zeka platformlarının güvenliği ve etik kullanımı konusunda daha fazla önlem alınması gerektiği dile getirildi.