Acilde Öncelik Sırasına Makine Karar Verirse

Neden triyaj, ilk gerçek uygulama alanı

Hastanelerde yapay zekânın en savunulabilir kullanımı, teşhis koymak değil sıralamaktır. Teşhis, tek bir hastanın doğru cevabını arar; triyaj, dağıtık bir kıt kaynağın zamanlamasıyla ilgilidir. İkincisinin getirisi ölçülebilir ve acildir: bekleme süresi, yoğun bakıma geçiş gecikmesi ve önlenebilir kötüleşme.

Bu yüzden birçok sistem, klinik kararın içine değil, kararın önündeki iş akışına yerleşiyor: triyaj hemşiresinin eline bir öncelik skoru vermek. Bu konum, sorumluluğu netleştirir ve hatalı bir önerinin etkisini sınırlar.

Amaç, insanı çıkarmak değil, insanın kısıtlı dikkatini çoğaltmaktır. Kalabalık bir gecede, en riskli hastayı bulmak, bir insanın dikkatinin en pahalı kullanımıdır.

Veri kalitesinin görünmez etkisi

Bir triyaj modeli, kayıtlanmış değişkenlerle çalışır: yaş, kan basıncı, ilk laboratuvar sonuçları. Ancak bazı hastaların kaydı seyrektir: kronik hastalığı yeni tanı almış, daha az hastane kullanmış ya da dil bariyeri olan kişiler. Model, eksik veriyle karşılaştığında çoğu zaman daha düşük öncelik üretir.

Bu, modelin “önyargılı” olması değil, bir aynanın eksik tarafı olmasıdır: geçmiş kayıtlar, geçmiş erişim eşitsizliğini taşır. Sonuç, sistemik olarak az temsil edilen gruplarda gecikmiş öncelik olabilir.

Bu riskin panzehiri tekniğe değil sürece yazılır: modelin hangi alt gruplarda daha kötü performans gösterdiğinin periyodik olarak ölçülmesi ve bu ölçümün karar vericilere raporlanması. Ölçülmeyen eşitsizlik, kurumsal olarak yok sayılır.

Sorumluluk: karar kimde, hata kimde

Bir modelin önerdiği sıralama, bir hastanın daha uzun beklemesine yol açtığında, sorumluluk kimdedir: modeli öneren yazılım, kararı veren klinik profesyonel, ya da sistemi satın alan kurum? Bugünkü hukuki cevap, çoğu yerde “kararı veren” tarafı işaret ediyor.

Bu, klinik profesyoneli savunmasız bırakır: öneri bir arayüzde görünür ve reddetmek gerekçe ister. Yazılım tasarımındaki en kritik ayrıntı budur: bir öneriyi göstermek ile bir kararı dayatmak arasında, görsel hiyerarşi ile ölçülen ince bir fark vardır.

Güvenli bir kurulumun üç şartı var: önerinin gerekçesi görünür olmalı, reddetme kolay ve maliyetsiz olmalı, ve her kararın gerekçesi kayıt altına alınmalı. Bu üçü olmadan model, bir karar destek aracı değil bir karar üretecine dönüşür.

Yoğunluk baskısı: doğru kullanım

Türkiye’nin acil servis gerçekliği, sistemin en yoğun yerde test edilmesini zorunlu kılıyor. Yüksek hacim, modelin ortalama performansını iyileştirebilir; ama aynı zamanda hata başına düşen insan sayısını artırır. Yani risk ve kazanç birlikte büyür.

Bu yüzden dikkatli bir dağıtım, aşamalı bir kurulum gerektirir: önce gölge mod (model karar verir ama kimse görmez), sonra öneri modu birim şefiyle birlikte, sonra genişleme. Her aşamada ölçüm: bekleme süresi, atlanan yüksek riskli hasta sayısı, ve geri alma oranı.

Gölge mod, en ucuz ve en öğretici adımdır; çünkü gerçek veri üzerinde, gerçek sonuç riski olmadan performans görünür hale gelir. Bu adımı atlayan kurulumlar, ilk hatayı bir hastayla öder.

Hasta ve yakınları için

Bir öncelik listesine itiraz edildiğinde, sorulacak doğru soru şudur: bu karar hangi kriterlerle verildi ve kim onayladı. Kriterlerin açıklanması, bir model çıktısından çok, klinik bir sürecin varlığını gösterir.

Yapay zekâ triyajı, bir hastanın bekleme süresinin neden uzadığını anlamanızı sağlamaz; bunu bir insan açıklamak zorundadır. Bir sağlık sisteminde hesap verebilirliğin yerini otomasyonun almasına izin vermek, tam da bu sorunun cevapsız kalması demektir.

Sık sorulan sorular

Kaynakça

1. Klinik karar destek sistemleri değerlendirmeleriNature Medicine
2. Sağlıkta yapay zekâ uygulamalarıWorld Health Organization
3. Hastane iş akışı ve triyaj analizleriMIT Technology Review