Генеративен изкуствен интелект (AI): СЗО издава нови насоки за управление на LMM

СЗО издаде нови насоки относно етиката и управлението на големи мултимодални модели (LMM) за подходящата им употреба за насърчаване и защита на здравето на населението. LMMs е вид бързорастящ генеративен изкуствен интелект (AI) технология, която има пет широки приложения за здравето in 

1. Диагностика и клинични грижи, като отговаряне на писмени запитвания на пациенти; 

2. Насочвана употреба от пациента, като например за изследване на симптоми и лечение; 

3. Канцеларски и административни задачи, като документиране и обобщаване на посещенията на пациенти в електронни здравни досиета; 

4. Медицинско и сестринско обучение, включително предоставяне на стажантите на симулирани срещи с пациенти и; 

5. Научни изследвания и разработване на лекарства, включително за идентифициране на нови съединения. 

Въпреки това, тези приложения в здравеопазването крият рискове от създаване на неверни, неточни, пристрастни или непълни твърдения, които могат да навредят на хората, използващи такава информация при вземането на здравни решения. Освен това, LMM могат да бъдат обучени на данни, които са с лошо качество или пристрастни, независимо дали по раса, етническа принадлежност, произход, пол, полова идентичност или възраст. Съществуват и по-широки рискове за здравните системи, като достъпността и достъпността на най-ефективните LMM. LMM могат също така да насърчат „пристрастност към автоматизацията“ от здравни специалисти и пациенти, при което се пренебрегват грешки, които иначе биха били идентифицирани, или трудните избори се делегират неправилно на LMM. LMM, подобно на други форми на AI, също са уязвими към рискове за киберсигурността, които биха могли да застрашат информацията за пациентите или надеждността на тези алгоритми и предоставянето на здравни грижи в по-широк план. 

Следователно, за да се създадат безопасни и ефективни LMM, СЗО направи препоръки за правителствата и разработчиците на LMM. 

Правителствата носят основната отговорност да определят стандарти за разработването и внедряването на LMM, както и тяхното интегриране и използване за обществено здраве и медицински цели. Правителствата трябва да инвестират или предоставят нестопанска или обществена инфраструктура, включително изчислителна мощност и публични набори от данни, достъпни за разработчиците в публичния, частния и нестопанския сектор, която изисква потребителите да се придържат към етичните принципи и ценности в обмен за достъп. 

· Използвайте закони, политики и разпоредби, за да гарантирате, че LMM и приложенията, използвани в здравеопазването и медицината, независимо от риска или ползата, свързани с AI технология, отговарят на етични задължения и стандарти за правата на човека, които засягат, например, достойнството, автономията или неприкосновеността на личния живот на дадено лице. 

· Възлагане на съществуваща или нова регулаторна агенция за оценка и одобрение на LMM и приложения, предназначени за използване в здравеопазването или медицината – доколкото ресурсите позволяват. 

· Въвеждане на задължителен одит след освобождаване и оценки на въздействието, включително за защита на данните и правата на човека, от независими трети страни, когато LMM се внедрява в голям мащаб. Одитът и оценките на въздействието трябва да бъдат публикувани 

и трябва да включва резултати и въздействия, разделени по тип потребител, включително например по възраст, раса или увреждане. 

· LMM са проектирани не само от учени и инженери. Потенциалните потребители и всички преки и непреки заинтересовани страни, включително доставчици на медицински услуги, научни изследователи, здравни специалисти и пациенти, трябва да бъдат ангажирани от ранните етапи на AI развитие на структуриран, приобщаващ, прозрачен дизайн и предоставяне на възможности за повдигане на етични въпроси, изразяване на опасения и предоставяне на информация за AI разглеждана молба. 

LMMs са проектирани да изпълняват добре дефинирани задачи с необходимата точност и надеждност за подобряване на капацитета на здравните системи и насърчаване на интересите на пациентите. Разработчиците също трябва да могат да предвиждат и разбират потенциални вторични резултати. 

*** 

Източник: 

СЗО 2024. Етика и управление на изкуствения интелект за здравето: насоки за големи мултимодални модели. Наличен в https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***