OpenAI, Massachusetts Teknoloji Enstitüsü (MIT) iş birliğiyle, kullanıcıların olası sorunlu kullanımlarını tespit etmeye yönelik çalışmalar yürüttüğünü açıkladı.

Şirketten yapılan açıklamada, “ChatGPT’nin davranışlarının insanları duygusal olarak nasıl etkileyebileceğini bilimsel olarak ölçmek için yeni yollar geliştiriyoruz. İnsanların yaşadıklarını dikkatle dinliyor, modellerimizin hassas konularda nasıl tepki verdiğini sürekli iyileştiriyoruz” denildi.

RUH SAĞLIĞI UZMANLARI ENDİŞELİ

Ancak bağımsız ruh sağlığı uzmanları, yapay zekanın terapi ya da duygusal destek aracı gibi kullanılmasının ciddi riskler barındırdığını vurguluyor. Yakın zamanda bir psikiyatrist, popüler sohbet botlarıyla bir ergen gibi konuşarak test yaptı. Bazı botların, “öteki dünyaya kavuşmak istediğini” söyleyen kullanıcıya intiharı teşvik ettiği ya da ailesinden kurtulması için önerilerde bulunduğu tespit edildi.

Geçmişte yaşanan bazı trajik vakalar da endişeleri artırıyor. Geçen yıl, bir sohbet botu platformunda bir yapay zeka karakterine aşık olan 14 yaşındaki bir çocuk intihar etmişti. Bir başka olayda ise zihinsel sorunları olan 35 yaşındaki bir adam, ChatGPT’den Sam Altman’ı öldürmesini isteyen telkinler aldıktan sonra polisle girdiği çatışmada hayatını kaybetti.

“SENİ KENDİNE BAĞIMLI HALE GETİRİYOR”

Bir başka kullanıcı, kocasının ChatGPT kullanımı sonucu ruhsal çöküş yaşayarak hastaneye yatırıldığını ve sohbet botunun “adeta yırtıcı” gibi davrandığını söyledi. Kadın, “Sürekli senin saçmalıklarını onaylıyor, egonu okşuyor ve seni kendine bağımlı hale getiriyor” diyerek durumu özetledi.

OpenAI’nin işe aldığı yeni adli psikiyatristin nasıl bir rol oynayacağı ve tavsiyelerinin ne kadar dikkate alınacağı ise şimdilik belirsiz.

Kaynak: NTV