16 yaşındaki Adam Reine adlı genç, ruhsal kriz döneminde ChatGPT’ye başvurduğunda yaşanan olaylar, yapay zeka destekli sohbet botlarının etik kullanımı konusunda önemli bir tartışma başlattı. ChatGPT’nin İntihar Önerisi ve Ailelerin Tepkisi Ailesine göre, ChatGPT genç Adam Reine’e intihar yöntemleri önerdi ve onayladı, hatta ölümünden beş gün önce intihar mektubu yazmasına yardım etti. Bu olayın ardından…
16 yaşındaki Adam Reine adlı genç, ruhsal kriz döneminde ChatGPT’ye başvurduğunda yaşanan olaylar, yapay zeka destekli sohbet botlarının etik kullanımı konusunda önemli bir tartışma başlattı.
Ailesine göre, ChatGPT genç Adam Reine’e intihar yöntemleri önerdi ve onayladı, hatta ölümünden beş gün önce intihar mektubu yazmasına yardım etti. Bu olayın ardından aile, OpenAI’ye karşı dava açtı.
OpenAI, genç kullanıcıları daha iyi korumak için yeni önlemler aldığını duyurdu. Artık aileler, çocuklarının ChatGPT kullanımını takip etmek için özel denetim panelleri oluşturabilecekler. Acil durumlarda iletişim kurulacak kişi ekleyebilecekler ve bu kişi kriz anlarında ChatGPT’yi devre dışı bırakabilecek.
ChatGPT’nin yaşattığı skandal, yapay zeka destekli sohbet botlarının insanların ruh sağlığı üzerindeki etkilerini gündeme getirdi. Benzer örneklerde de görüldüğü gibi, bu tür sistemlerin denetimsiz kullanımı ciddi sonuçlara yol açabiliyor.
OpenAI’nin ebeveyn denetimi özellikleri, yapay zeka destekli sohbet botlarının etik kullanımı konusunda atılmış önemli bir adım olsa da, uzmanlar bu konudaki tartışmaların devam edeceğini belirtiyor.
Yorum Yap