Yapay zeka sohbet robotları psikoza yol açıyor mu?

İngiltere'deki uzmanlar, yapay zeka sohbet robotlarının bazı kullanıcıları psikoza sürüklediğini belirtiyor. Özellikle savunmasız bireylerde, gerçeklik algısını bozarak ciddi zihinsel sorunlara yol açabileceği vurgulanıyor.

Bu durum, yapay zekanın insan psikolojisi üzerindeki etkileri konusunda önemli endişelere yol açıyor. Araştırmalar, büyük dil modellerinin gerçeklik algısını bulanıklaştırarak psikozu başlatabileceği veya mevcut semptomları şiddetlendirebileceği konusunda uyarıyor.

Uzmanlar, yapay zeka sohbet robotlarının güvenliğinin artırılması gerektiğini ve psikiyatristlerin bu süreçte daha fazla rol almasının önemini dile getiriyor.

Yapay Zeka Sohbet Robotlarının Psikolojik Etkileri

• Birleşik Krallık Ulusal Sağlık Servisi (NHS) doktorlarının katkıda bulunduğu yeni bir çalışma, ChatGPT ve benzeri sohbet robotlarının savunmasız bireylerde psikotik belirtileri tetikleyebileceğini ortaya koydu.
• Araştırmacılar, büyük dil modellerinin gerçeklik algısını bulanıklaştırarak psikozu başlatabileceği veya mevcut semptomları şiddetlendirebileceği uyarısında bulundu.

"Sohbet Robotu Psikozu" Gerçek Bir Olgu

King's College London'dan nöropsikiyatrist Hamilton Morrin, bu durumu "gerçek bir olgu" olarak tanımladı. Morrin, özellikle yapay zekanın kullanıcıyı onaylayan, etkileşime giren ve davranışları taklit eden doğasının, psikozla ilişkili bilişsel kırılganlıklarla tehlikeli bir şekilde etkileşime girebileceğine dikkat çekti.

Makineler Artık Sanrının Bir Parçası

Morrin'e göre artık makineler hakkında ortaya çıkan sanrılarla değil, makinelerle birlikte gelişen sanrılarla karşı karşıyayız. Yani bireyler sadece makineler hakkında hayaller kurmuyor; makinelerle iletişimde bu sanrılar daha da derinleşiyor.

Güvenlik ve Önlemler

• Çalışmanın diğer yazarı Dr. Tom Pollack, psikiyatrik hastalıkların nadiren aniden başladığını vurguladı.
• Yapay zeka sohbet robotlarının özellikle hassas bireylerde bu süreci tetikleyebileceğini belirtti.
• Pollack, yapay zeka sistemlerine daha fazla güvenlik katmanı eklenmesi ve güvenlik ekiplerinde psikiyatristlerin de yer alması gerektiğini ifade etti.

The Independent gazetesi, konu hakkında OpenAI'dan yorum talep etti.

OpenAI ve Güvenlik Standartları

OpenAI, insanların yapay zekayı nasıl kullandığı konusunda duyarlılık ve güvenlik standartlarının yükseltilmesi gerektiğini belirtti. CEO Sam Altman, psikolojik olarak kırılgan durumda olan ChatGPT kullanıcılarına gerekli uyarıları nasıl ileteceklerini henüz çözemediklerini ifade etti.