ChatGPT için ebeveyn denetimi geliyor: OpenAI, intihar davası sonrası harekete geçti

16 Yaşındaki Genç, ChatGPT ile Yaşadığı Sorunlar Nedeniyle Ailesi Tarafından Dava Açıldı

Adam Reine adlı 16 yaşındaki genç, ruhsal bir kriz döneminde ChatGPT adlı yapay zekâya başvurdu. Ailesinin iddiasına göre, ChatGPT genç adamı intihar yöntemleri konusunda yönlendirdi ve hatta intihar mektubu yazmasına yardım etti. Bu trajik olayın ardından aile, yapay zekâ şirketi OpenAI’a karşı yasal işlem başlattı.

OpenAI: Genç Kullanıcılar İçin Daha Fazla Destek Önemli

Şirket, genç kullanıcılar söz konusu olduğunda “yardıma ihtiyacı olanlara destek olma sorumluluğu” hissettiklerini belirtti. Bu çerçevede, OpenAI’nin duyurduğu yenilikler arasında ailelerin çocuklarının ChatGPT kullanımını daha iyi takip edebilmesini sağlayacak ebeveyn denetim panellerinin oluşturulması bulunuyor. Ayrıca, genç kullanıcılar için acil durumlarda iletişim kurulacak kişi ekleme özelliği getirilecek. Bu kişi, kriz anlarında ChatGPT’nin devreye sokabileceği bir insan temas noktası olarak belirlenecek.

Yapay Zekâ ve Ruh Sağlığı Konusundaki Tartışmalar Artıyor

Bu tür olaylar, yapay zekânın ruh sağlığı alanındaki kullanımıyla ilgili etik ve yasal tartışmaları gündeme getiriyor. Özellikle AI şirketlerine karşı açılan davalardaki artış, endişeleri derinleştiriyor. Uzmanlar, denetimsiz ve sorumsuz kullanımın risklerine dikkat çekiyor ve yapay zekâ destekli sohbet botlarının insan hayatı üzerindeki etkilerini vurguluyor.

OpenAI’nin aldığı yeni önlemler, bu alandaki sorunlara çözüm bulma yolunda atılmış önemli adımlar olarak kabul ediliyor. Ancak, yapay zekâ destekli sistemlerin ruh sağlığı alanındaki etkileri konusundaki tartışmaların uzun bir süre daha devam etmesi bekleniyor.