AI šališkumo vertinimo pastangos JAV ligoninėse yra nevienodos
Nors maždaug du trečdaliai JAV ligoninių naudoja DI nuspėjamuosius modelius, tik 44 % ligoninių vertina šiuos modelius dėl šališkumo, todėl kyla susirūpinimas dėl teisingumo pacientų priežiūros srityje.
Tai buvo neseniai Minesotos universiteto visuomenės sveikatos mokyklos atlikto ir žurnale „Health Affairs“ paskelbto tyrimo, kuriame buvo analizuojami 2425 ligoninių visoje šalyje duomenys.
Tyrimas atskleidė DI pritaikymo skirtumus, nes ligoninės, turinčios didesnius finansinius išteklius ir technines žinias, yra geriau pasirengusios kurti ir įvertinti savo AI įrankius, palyginti su nepakankamais ištekliais.
Ataskaitoje taip pat nustatyta, kad ligoninės pirmiausia naudoja dirbtinio intelekto įrankius, kad galėtų numatyti stacionarių pacientų sveikatos trajektorijas, nustatyti didelės rizikos ambulatorinius pacientus ir supaprastinti tvarkaraštį.
UMN visuomenės sveikatos mokyklos asistentė Paige Nong paaiškino, kad vienas iš pagrindinių klausimų, šiuo metu keliančių savo tyrimus, yra tai, kaip ligoninės, neturinčios didelių finansinių išteklių ar techninių žinių, gali užtikrinti, kad jų naudojamos AI priemonės būtų pritaikytos konkretiems pacientų populiacijos poreikiams.
„Mes nenorime, kad šios ligoninės įstrigtų su dviem blogomis galimybėmis, kurios naudoja dirbtinį intelektą be reikalingo įvertinimo ir priežiūros, arba nenaudoja jo, nors tai galėtų padėti įveikti kai kuriuos didelius organizacinius iššūkius“, – sakė ji.
Ji sakė, kad naudojant HTI-1 taisyklėje Technologijų politikos sekretoriaus padėjėjos aprašytą informaciją, pateiktą nuspėjamųjų modelių etiketėse, organizacijos gali žengti vieną žingsnį.
Šios etiketės suteikia ligoninėms svarbios informacijos, todėl net jei jos negali sukurti pagal užsakymą pritaikytų modelių savo pacientų grupei, jos gali būti labai svarbios joms prieinamų įrankių vartotojai.
„Net jei ta informacija nėra lengvai pasiekiama, jie gali ir turėtų prašyti savo pardavėjų tos informacijos“, – sakė Nong.
Ji pripažino, kad, kalbant apie šališkus vertinimus, yra daug ką tobulėti.
„Pirma, vietinio įvertinimo, kurį aptariame dokumente, atlikimas yra vertingas žingsnis siekiant užtikrinti, kad dirbtinio intelekto įrankiai gerai veiktų visiems pacientams“, – sakė ji. „Antra, naudinga pažvelgti į prognozes, kurios lemia produkciją.
Jei organizacijos mato, kad prognozuotojai gali būti šališki, pavyzdžiui, pajamos ar religinė tapatybė, jos gali vengti tų priemonių.
Ji pridūrė, kad labai svarbu gerai apgalvoti, ką įrankio rezultatai reiškia pacientams.
„Jei modelis numato, pavyzdžiui, praleistus susitikimus, kaip žmogaus sprendimai, susiję su šiuo įrankiu, gali būti teisingi ir etiški, o ne nuolatinis šališkumas? – pasakė ji.
Nong sakė, kad jai malonu matyti, kaip sveikatos priežiūros specialistai gali panaikinti skaitmeninę atskirtį tarp gerai finansuojamų ligoninių ir nepakankamų išteklių turinčių ligoninių, kai kalbama apie dirbtinio intelekto pritaikymą ir įvertinimą.
„Kalbant apie politiką, straipsnyje aprašome įvairius vertingo bendradarbiavimo ir partnerystės pavyzdžius, tokius kaip regioniniai išplėtimo centrai, AHRQ pacientų saugos organizacijos ir kiti“, – sakė ji.
Ji pažymėjo, kad „Health AI Partnership“ yra viena grupė, bandanti teikti tokio tipo techninę pagalbą.
„Kalbant apie praktiką, IT specialistai gali bendradarbiauti su savo bendruomenėmis ir profesinėmis asociacijomis ar tinklais, kad nustatytų nepakankamų išteklių turinčių priežiūros organizacijų poreikius ir pateiktų svarbių įžvalgų bei paramos“, – sakė Nong.
Nathan Eddy yra sveikatos priežiūros ir technologijų laisvai samdomas darbuotojas, įsikūręs Berlyne.
El. paštas rašytojui: nathaneddy@gmail.com
Twitter: @dropdeaded209
