Chatgpt Artık Yakınınıza Haber Verecek

OpenAI, ChatGPT kullanıcılarının kriz anlarında destek alabilmesi için "Güvenilir Kişi" özelliğini devreye almaya hazırlanıyor. Sistem, kendine zarar verme riski algıladığında belirlenen kişiye bildirim gönderebilecek.

OpenAI, yapay zeka destekli sohbet platformu ChatGPT için dikkat çeken yeni bir güvenlik özelliğini hayata geçiriyor.

"Güvenilir Kişi" adı verilen sistem sayesinde kullanıcıların kriz anlarında yakın çevrelerinden destek alabilmesi amaçlanıyor.

Şirketin geliştirdiği yeni özellik, kullanıcıların uygulama ayarları üzerinden bir yetişkini "güvenilir kişi" olarak tanımlamasına imkan tanıyor. Belirlenen kişinin daveti kabul etmesinin ardından sistem aktif hale geliyor.

Güvenilir kişi özelliği nasıl çalışıyor?
Özelliğin çalışma mantığına göre, yapay zeka ciddi bir kendine zarar verme riski tespit ettiğinde kullanıcıya uyarı gösteriliyor ve güvenilir kişiye haber verilebileceği bilgisi paylaşılıyor. Süreçte yalnızca otomatik sistemler değil, özel eğitim almış insan inceleme ekipleri de devreye giriyor.

Yetkililer, herhangi bir bildirim gönderilmeden önce uzman ekiplerin durumu değerlendirdiğini belirtiyor. Güvenlik riski bulunduğunun düşünülmesi halinde ise güvenilir kişiye e-posta, SMS veya uygulama içi bildirim gönderiliyor.

Sam Altman da özellikle genç kullanıcıların ChatGPT'yi yalnızca bir üretkenlik aracı olarak değil, günlük yaşam kararlarında rehber gibi kullandığını ifade etti. Bu durumun, yapay zekanın bireylerin hayatındaki etkisini daha görünür hale getirdiği değerlendiriliyor.

Gizlilik ve etik tartışmaları gündemde
Öte yandan yeni özellikle ilgili etik ve gizlilik tartışmaları da gündeme geldi. OpenAI, kullanıcı gizliliğini korumak amacıyla gönderilen bildirimlerde sohbet içeriklerinin veya detaylı konuşma geçmişinin paylaşılmayacağını açıkladı. Kullanıcıların istedikleri zaman güvenilir kişiyi değiştirebileceği ya da sistemi tamamen kapatabileceği de belirtildi.

Şirket, özelliğin geliştirilme sürecinde ruh sağlığı uzmanları, intiharı önleme ekipleri ve 60'tan fazla ülkeden yüzlerce doktorla birlikte çalışıldığını duyurdu.

Bazı uzmanlar ise yapay zekanın kullanıcı davranışlarını takip etmesinin farklı riskler doğurabileceğine dikkat çekiyor. Uzmanlara göre bu tür sistemler, bazı bireylerin yaşadıkları psikolojik sorunları gizleme eğilimini artırabilir. Buna rağmen teknoloji dünyasında yapay zekanın artık yalnızca dijital bir araç değil, kullanıcıların duygusal süreçlerinde de etkili bir unsur haline geldiği yorumları yapılıyor.