WHO on välja andnud uued juhised suurte multimodaalsete mudelite (LMM) eetika ja juhtimise kohta nende asjakohaseks kasutamiseks elanikkonna tervise edendamiseks ja kaitsmiseks. LMM-id on kiiresti kasvav generatiiv tehisintellekti (AI) tehnoloogia, millel on viis laialdast tervishoiurakendust in
1. Diagnoosimine ja kliiniline hooldus, nt patsientide kirjalikele päringutele vastamine;
2. Patsiendi juhitud kasutamine, näiteks sümptomite ja ravi uurimiseks;
3. kontori- ja haldusülesanded, näiteks patsientide visiitide dokumenteerimine ja kokkuvõtete tegemine elektroonilistes tervisekaartides;
4. Meditsiini- ja õendusharidus, sealhulgas praktikantidele simuleeritud patsientidega kohtumise pakkumine;
5. Teadusuuringud ja ravimiarendus, sealhulgas uute ühendite tuvastamiseks.
Nendel tervishoiurakendustel on aga oht esitada valesid, ebatäpseid, kallutatud või mittetäielikke väiteid, mis võivad kahjustada inimesi, kes kasutavad sellist teavet terviseotsuste tegemisel. Lisaks võib LMM-e koolitada andmete põhjal, mis on halva kvaliteediga või kallutatud kas rassi, etnilise päritolu, esivanemate, soo, soolise identiteedi või vanuse järgi. Tervisesüsteemidega kaasnevad ka laiemad riskid, näiteks parimate töövõimega tööturujärelevalvesüsteemide juurdepääsetavus ja taskukohasus. LMM-id võivad samuti soodustada tervishoiutöötajate ja patsientide automatiseerimise eelarvamust, mille tõttu jäetakse tähelepanuta vead, mis muidu oleks tuvastatud, või delegeeritakse rasked valikud valesti LMM-ile. LMM-id, nagu ka muud vormid AI, on haavatavad ka küberjulgeolekuriskide suhtes, mis võivad ohustada patsientide teavet või nende algoritmide usaldusväärsust ja tervishoiuteenuse osutamist laiemalt.
Seetõttu on WHO andnud valitsustele ja LMM-ide arendajatele soovitusi ohutute ja tõhusate LMMide loomiseks.
Valitsustel lasub esmane kohustus kehtestada standardid LMM-ide väljatöötamiseks ja kasutuselevõtuks ning nende integreerimiseks ja kasutamiseks rahvatervise ja meditsiinilistel eesmärkidel. Valitsused peaksid investeerima või pakkuma mittetulunduslikku või avalikku infrastruktuuri, sealhulgas arvutusvõimsust ja avalikke andmekogusid, mis on avaliku, era- ja mittetulundussektori arendajatele kättesaadavad ja mis nõuavad kasutajatelt eetikapõhimõtete ja väärtuste järgimist. juurdepääsu vastu vahetada.
· Kasutage seadusi, põhimõtteid ja määrusi tagamaks, et tervishoius ja meditsiinis kasutatavad LMM-id ja rakendused, olenemata sellest, milline on sellega seotud risk või kasu. AI tehnoloogia, vastama eetilistele kohustustele ja inimõiguste standarditele, mis mõjutavad näiteks inimese väärikust, autonoomiat või privaatsust.
· Olemasoleva või uue reguleeriva asutuse ülesandeks hinnata ja heaks kiita tervishoius või meditsiinis kasutamiseks mõeldud LMM-e ja rakendusi – kui vahendid seda võimaldavad.
· Võtta kasutusele kohustuslikud avaldamisjärgsed auditid ja mõjuhinnangud, sealhulgas andmekaitse ja inimõiguste osas, sõltumatute kolmandate isikute poolt, kui LMM-i kasutatakse ulatuslikult. Auditeerimine ja mõjuhinnangud tuleks avaldada
ning see peaks hõlmama tulemusi ja mõjusid, mis on liigendatud kasutaja tüübi järgi, sealhulgas näiteks vanuse, rassi või puude järgi.
· LMM-e ei kavanda ainult teadlased ja insenerid. Potentsiaalsed kasutajad ning kõik otsesed ja kaudsed sidusrühmad, sealhulgas meditsiiniteenuste osutajad, teadlased, tervishoiutöötajad ja patsiendid, tuleks kaasata juba varajases staadiumis. AI arendamine struktureeritud, kaasava, läbipaistva kujunduse ja võimalusega tõstatada eetilisi küsimusi, väljendada muresid ja anda oma panus. AI arutatav taotlus.
LMM-id on loodud täitma täpselt määratletud ülesandeid vajaliku täpsuse ja usaldusväärsusega, et parandada tervishoiusüsteemide suutlikkust ja edendada patsientide huvisid. Samuti peaksid arendajad suutma ennustada ja mõista võimalikke teisesi tulemusi.
***
Allikas:
WHO 2024. Tervise tehisintellekti eetika ja juhtimine: juhend suurte multimodaalsete mudelite kohta. Saadaval aadressil https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
