Yapay zeka sağlıkta hata yapıyor

Sağlık sektöründe hata yapma potansiyeli yüksek olan üretken yapay zeka araçlarının yaygın şekilde kullanılmaya başlanması, hekimler ve uzmanlar arasında giderek daha fazla endişe yaratıyor. Bu endişelerin temelinde, yapay zekaların "halüsinasyon" olarak bilinen ve gerçekte var olmayan bilgileri güvenilir gibi sunma eğilimi bulunuyor. Özellikle tıp alanında, bu tür hataların sonuçları çok daha ciddi olabiliyor. Son olarak, Google'ın sağlık odaklı yapay zeka modeli Med-Gemini ile ilgili yaşanan bir hata, bu sorunun ne kadar önemli olduğunu bir kez daha gösterdi.

Med-Gemini ve Var Olmayan Beyin Bölgesi Hatası

Google araştırmacıları, Mayıs 2024'te yayımladıkları bir makalede, Med-Gemini'nin radyoloji laboratuvarında beyin taramalarını analiz etme yeteneğini test etti. Model, sonuçlarından birinde "basilar ganglia" bölgesinden bahsetti. Ancak gerçekte böyle bir beyin bölgesi yok.

• Nörolog Bryan Moore, bu hatayı fark ederek ilgili makama bildirdi.
• Google, hatayı "basal ganglia" ile "basilar artery" terimlerinin karışmasına bağladı ve "yazım hatası" olarak nitelendirdi.

Tıp Alanında Yüksek Risk ve Uzman Görüşleri

Uzmanlar, bu tür hataların günlük internet aramalarında bilgi kirliliğine yol açabileceğini, ancak hastane ortamında sonuçlarının çok daha ağır olabileceğini vurguluyor. Providence sağlık sisteminin tıbbi bilgi direktörü Maulin Shah, "İki harf farkı ama çok büyük bir mesele. Bu tür hatalar son derece tehlikeli" dedi.

Yapay Zekanın Tıptaki Potansiyeli ve Riskler

• Google, geçen yıl Med-Gemini'nin tıpta önemli potansiyele sahip olduğunu ve röntgen, BT taramaları gibi görüntülerden hastalık tespitinde kullanılabileceğini duyurdu.
• Uzmanlar ise yüksek riskli alanlarda hata toleransının insan seviyesinde değil, çok daha düşük olması gerektiğini belirtiyor.