15 Mayıs 2023 — Nereye bakarsanız bakın, yapay zekadaki makine öğrenimi uygulamaları mevcut durumu değiştirmek için kullanılıyor. Bu, özellikle teknolojik gelişmelerin ilaç keşfini hızlandırdığı ve potansiyel yeni tedavileri belirlediği sağlık hizmetleri için geçerlidir.
Ancak bu ilerlemeler kırmızı bayraklar olmadan gelmiyor. Ayrıca hastalık yükü, yaralanma, şiddet ve optimum sağlığa ulaşma fırsatları arasındaki önlenebilir farklılıklara bir büyüteç yerleştirdiler. orantısız olarak etkilemek renkli insanlar ve diğer yetersiz hizmet alan topluluklar.
Eldeki soru, özellikle doktorların hastalığı saptamak ve teşhis etmek, sonuçları tahmin etmek ve tedavi stratejilerini yönlendirmek için kullandıkları klinik algoritmaların geliştirilmesi söz konusu olduğunda, AI uygulamalarının sağlık eşitsizliklerini daha da genişletip genişletmeyeceği veya daraltmaya yardımcı olup olmayacağıdır.
Tanısal radyoloji ve nükleer profesör yardımcısı Paul Yi, “Genel olarak AI’da ve özellikle tıpta gösterilen sorunlardan biri, bu algoritmaların önyargılı olabilmesidir, yani farklı insan gruplarında farklı performans göstermeleridir” dedi. Maryland Üniversitesi Tıp Fakültesi’nde tıp ve Maryland Üniversitesi Tıbbi Akıllı Görüntüleme (UM2ii) Merkezi direktörü.
Yi, “Tıp için yanlış teşhis koymak, duruma bağlı olarak kelimenin tam anlamıyla ölüm kalım meselesidir” dedi.
Yi, geçen ay dergide yayınlanan bir araştırmanın ortak yazarıdır. Doğa Tıbbı o ve meslektaşlarının, veri bilimi yarışmalarında kullanılan tıbbi görüntüleme veri kümelerinin yapay zeka modellerindeki önyargıları tanıma becerisine yardımcı olup olmadığını veya engellediğini keşfetmeye çalıştıkları. Bu yarışmalar, çoğu uygulamaya uyarlanan en iyi klinik algoritmaları oluşturmak için yarışan ekiplerle dünyanın dört bir yanından kitle kaynaklı veri toplayan bilgisayar bilimcileri ve doktorları içerir.
Araştırmacılar, adı verilen popüler bir veri bilimi yarışma sitesi kullandılar. Kaggle 2010 ve 2022 yılları arasında düzenlenen tıbbi görüntüleme yarışmaları için. Daha sonra demografik değişkenlerin raporlanıp raporlanmadığını öğrenmek için veri setlerini değerlendirdiler. Son olarak, rekabetin, algoritmalar için değerlendirme kriterlerinin bir parçası olarak demografik tabanlı performansı içerip içermediğine baktılar.
Yi, araştırmaya dahil edilen 23 veri kümesinin “çoğunluğunun -% 61 – hiçbir şekilde demografik veri bildirmediğini” söyledi. Dokuz yarışma demografik verileri (çoğunlukla yaş ve cinsiyet) bildirdi ve biri ırk ve etnik köken bildirdi.
Yi, “Bu veri bilimi yarışmalarının hiçbiri, demografik bilgileri bildirip bildirmediklerine bakılmaksızın, bu önyargıları, yani erkeklere karşı kadınlara veya beyaza karşı Siyaha karşı Asyalı hastalara ilişkin yanıt doğruluğunu değerlendirmedi” dedi. İçerme? “Demografik bilgilere sahip değilsek, önyargıları ölçemeyiz” diye açıkladı.
Algoritmik Hijyen, Kontroller ve Dengeler
Dr. Bertalan Meskó, “Yapay zekadaki önyargıyı azaltmak için, yapay zeka tabanlı tıbbi teknolojilerin geliştiricileri, mucitleri ve araştırmacıları, veri kümelerindeki belirli popülasyonların temsilini proaktif olarak iyileştirerek bundan kaçınmak için bilinçli olarak hazırlanmalı” dedi. Tıbbi Fütürist Enstitüsü, Budapeşte, Macaristan.
Meskó’nun “algoritmik hijyen” olarak adlandırdığı bir yaklaşım, Atlanta’daki Emory Üniversitesi’ndeki bir grup araştırmacının ırksal olarak çeşitli, ayrıntılı bir veri seti oluşturduklarında benimsediği yaklaşıma benzer: EMory Meme Görüntüleme Veri Kümesi (EMBED) — 3,4 milyon tarama ve tanısal meme kanseri mamografi görüntüsünden oluşur. Temsil edilen 11.910 benzersiz hastanın yüzde kırk ikisi, kendilerini bildiren Afrikalı-Amerikalı kadınlardı.
Emory Üniversitesi Tıp Fakültesi Radyoloji ve Görüntüleme Bilimleri ve Biyomedikal Bilişim bölümlerinde yardımcı doçent ve eş-direktör olan Dr. Sağlık İnovasyonu ve Çevirisel Bilişim (HITI) laboratuvarının.
Trivedi, “Şu anda bile, derin öğrenme modeli geliştirmede kullanılan veri setlerinin büyük çoğunluğunda bu demografik bilgiler yer almıyor” dedi. “Ancak EMBED’de ve geliştirdiğimiz gelecekteki tüm veri kümelerinde bu bilgiyi kullanıma sunmak gerçekten önemliydi çünkü bu bilgi olmadan, modelinizin nasıl ve ne zaman önyargılı olabileceğini veya test ettiğiniz modelin önyargılı olabileceğini bilmek imkansız.”
“Görmezden gelemezsin,” dedi.
Daha da önemlisi, önyargı yapay zekanın geliştirme döngüsünün herhangi bir noktasında ortaya çıkabilir, yalnızca başlangıçta değil.
Meskó, “Geliştiriciler, algoritmayı eğitmek için kullanılan verilerin gerçek hayatta karşılaştıkları gerçek verilerden önemli ölçüde farklı olup olmadığını tespit etmelerine olanak tanıyan istatistiksel testler kullanabilir” dedi. “Bu, eğitim verilerinden kaynaklanan önyargıları gösterebilir.”
Diğer bir yaklaşım ise, bireysel niteliklere dayalı olarak gruplar veya bireyler arasındaki farklılıkları ortadan kaldırmaya yardımcı olan “önyargıyı ortadan kaldırma”dır. Meskó, IBM açık kaynağına başvurdu AI Fairness 360 araç setiaraştırmacıların ve geliştiricilerin kendi veri kümelerindeki ve yapay zekalarındaki önyargıyı azaltmak için kullanmak üzere erişebilecekleri kapsamlı bir ölçüm ve algoritma setidir.
Kontroller ve dengeler de aynı şekilde önemlidir. Örneğin, bu, “algoritmaların kararlarının insanlar tarafından çapraz kontrol edilmesini ve bunun tersini” içerebilir. Bu şekilde, birbirlerini sorumlu tutabilir ve önyargıyı hafifletmeye yardımcı olabilirler,” dedi Meskó.
İnsanları Döngüde Tutmak
Kontrol ve dengeden bahsetmişken, hastalar, kritik bir veri parçası eksik olduğu için bir makinenin bir doktorun kararının yerini aldığından veya muhtemelen tehlikeli kararları yönlendirdiğinden endişelenmeli mi?
Trevedi, özellikle açık kaynak olan modelleri test ederken ve değerlendirirken dikkate alınması gereken kurallara odaklanan AI araştırma kılavuzlarının geliştirilmekte olduğundan bahsetti. Ayrıca, FDA ve Sağlık ve İnsan Hizmetleri Departmanı düzenlemeye çalışıyor. algoritma geliştirme ve doğrulama doğruluğu, şeffaflığı ve adaleti geliştirmek amacıyla.
Tıbbın kendisi gibi, yapay zeka da herkese uyan tek bir çözüm değildir ve belki de kontroller ve dengeler, tutarlı değerlendirme ve çeşitli, kapsayıcı veri kümeleri oluşturmaya yönelik uyumlu çabalar, yaygın sağlık eşitsizliklerini ele alabilir ve nihayetinde bunların üstesinden gelinmesine yardımcı olabilir.
Aynı zamanda, Northwestern Üniversitesi Biyoetik ve Tıbbi Beşeri Bilimler Merkezi direktörü MPH MD Kelly Michelson, “İnsan unsurunu tamamen ortadan kaldırmaktan ve sürece klinisyenleri dahil etmemekten çok uzakta olduğumuzu düşünüyorum” dedi. Feinberg Tıp Okulu ve Chicago Ann & Robert H. Lurie Çocuk Hastanesi’nde görevli doktor.
“Aslında yapay zekanın eşitsizlikleri azaltması için bazı harika fırsatları var” dedi ve yapay zekanın sadece “bu büyük bir şey” olmadığını da belirtti.
Michelson, “AI birçok farklı yerde birçok farklı anlama geliyor” diyor. “Ve kullanım şekli farklı. Önyargı ile ilgili sorunların ve sağlık eşitsizlikleri üzerindeki etkisinin, ne tür bir yapay zekadan bahsettiğinize bağlı olarak farklı olacağını kabul etmek önemlidir.”