Na podstawie programów przesiewowych możemy zobaczyć korzyści wynikające z zastosowania sztucznej inteligencji w kontekście skali, czasu i powtarzalności – mówiła Joanna Miłachowska, członkini zarządu Pracodawców dla Zdrowia, prezeska Siemens Healthineers podczas panelu pt. „AI w systemie zdrowia – kto podejmuje decyzje?”, który miał miejsce podczas Kongresu Future Health.
– W przypadku tomografii niskodawkowej płuc, lekarz radiolog ma do dyspozycji asystenta AI-Rad Companion, czyli system wspierający ocenę badań radiologicznych oparty na sztucznej inteligencji. Wskazuje on guzki w płucach, dokonuje pomiarów, robi segmentację płatów płucnych, bada grubość miąższu. Generalnie dostarcza lekarzowi predefiniowany, gotowy, wstępny opis, nad którym może się on pochylić i skupić na rzeczach najbardziej istotnych. Zastosowanie tej technologii skraca także czas interpretacji wyniku o 22 procent. Przy jednym badaniu może nie jest to bardzo dużo, ale jeżeli mówimy o skali, a w programach przesiewowych i profilaktycznych skala jest ogromna, to jest naprawdę realny wymiar czasowy – mówiła Joanna Miłachowska.
– Pamiętajmy też o tym, że jeżeli mamy dedykowany program profilaktyczny, w tym przypadku raka płuc, to lekarz ogląda tylko płuca. A jeżeli już robimy tomografię komputerową, to widoczna jest cała klatka piersiowa i asystent AI, który nie pracuje pod presją czasową, sprawdzi także kręgosłup, serce czy układ wieńcowy i jeżeli znajdzie coś patologicznego, to da sygnał lekarzowi, żeby zwrócił uwagę także na te aspekty – dodała.
Ryzyka, które trudno oszacować
Na pytanie, czy większym ryzykiem będzie w przyszłości to, że sztuczna inteligencja popełnia błędy, czy bardziej to, że AI w większości przypadków ma rację, co zdejmie z ramion radiologa konieczność bardziej wnikliwej analizy obrazu, profesor Andrzej Zybertowicz, socjolog i badacz ryzyk rozwoju sztucznej inteligencji, odpowiedział, że obecnie nie ma instrumentów przydatnych do oszacowania tych ryzyk.
– Oba są poważne. Jeśli wyjdziemy poza wąską technologię AI, którą nazywamy narrow AI, która w istocie jest wykorzystywana i w mammografii, i w tomografii komputerowej, to ma ona wysoki wskaźnik niezawodności i trafności. Ale w momencie, gdy mamy do czynienia z modelami AI generatywnymi, na przykład wielkimi modelami językowymi, nie tylko mają one skłonność do halucynacji, ale obecna faza, widoczne to było w incydentach z ostatniego pół roku, jest taka, że systemy te osiągnęły taką złożoność, że ich konstruktorzy nie są pewni, czy one robią to, co miały polecone, czy za kulisami niejako nie wykonują innych zadań. Nie sposób tego ryzyka oszacować – mówił.
Jako drugie ryzyko, którego też nie sposób oszacować, ale jest rzeczywiste, wymienił utratę kompetencji przez lekarzy.
– Panuje przekonanie, że AI wspiera pracę umysłową. Niestety badania empiryczne wykazały, że ona wypiera pracę umysłową. Istnieje zjawisko cognitive offloading, czyli odciążenia poznawczego, które po dłuższym czasie przeradza się w cognitive surrender, czyli kapitulację wobec zadań trudnych do wykonywania, do których nie jesteśmy przygotowani, bo od nich odwykliśmy – zauważył.
Dodał, że gdy czyta opracowania na temat AI w medycynie albo wypytuje różne wielkie modele językowe, zauważa, że następuje ciągłe mylenie tego, co jest w planie, co jest przygotowywane i co jest dopiero w programie, od tego, co jest rzeczywistą praktyką kliniczną.
AI poprawia diagnozę, ale nie długość życia
– Nie dajmy się uwodzić technoentuzjazmowi. Rzeczywiste efekty stosowania AI, przekładające się na wzrost długości życia, praktycznie jeszcze nie występują. Są rzeczywiste efekty na poziomie wzrostu dokładności diagnoz, ale na poziomie przyrostu długości życia prawie tych efektów jeszcze nie odnotowano – dodał.
Badacze stwierdzili także, że ponieważ lekarze zobaczyli, iż część wyników AI jest fałszywych, pojawiło się zjawisko alarm fatigue, czyli przemęczenia alarmami, polegające na tym, że po pewnym czasie lekceważy się sygnały systemów, które mają informować, że dzieje się coś złego. W rezultacie efekt zostaje odwrócony, bo spada wrażliwość lekarzy na cechy diagnostyczne pewnych procesów.
– Możemy się poddać wyobrażeniu, że technologia przynosi bezproblemowy rozwój, ale w innym przypadku będzie bardzo trudno, bo człowiek jest tak zwanym skąpcem poznawczym, (cognitive miser) i nasz mózg ma skłonność do oszczędzania energii. Kiedy technologie tej skłonności folgują, oddajemy swoją podmiotowość w ręce mechanizmów, których działania nie rozumiemy. Ci, którzy konstruują te najpotężniejsze obecnie modele, przyznają się, że coraz mniej rozumieją, jak one działają i coraz trudniej jest je utrzymać pod kontrolą – mówił profesor Zybertowicz.
Pacjent 2030 – partner systemu czy jego największe wyzwanie?
Kompetencje człowieka gwarancją bezpieczeństwa
Biorąc to pod uwagę, istotne jest, aby człowiek pozostał w pętli decyzyjnej. Ważne jest, aby unikać sytuacji, w której radiolog formalnie podejmuje decyzję, ale faktycznie jedynie zatwierdza rekomendacje algorytmu.
– Często mówimy, że człowiek w pętli jest gwarancją bezpieczeństwa sztucznej inteligencji. Wiemy, że aby tak było faktycznie, to musi on mieć odpowiednie kompetencje, musi być gotowy do zakwestionowania wyniku przedstawionego przez sztuczną inteligencję i mieć też warunki techniczne, żeby go zakwestionować. I o tym dokładnie mówi czternasty artykuł AI Actu, który wskazuje na te wszystkie czynniki – mówiła Monika Semczuk – naczelniczka Wydziału Badań w Departamencie Badań i Innowacji Ministerstwa Cyfryzacji.
Dokument ten mówi także o tak zwanym zjawisku automatyzacji decyzji, co oznacza, że regulacje biorą te ryzyka pod uwagę.
– Ten artykuł jeszcze nie obowiązuje, jak wszystkie inne dotyczące systemów wysokiego ryzyka, ale to nas nie zwalnia z działań w tym zakresie, ponieważ od sierpnia 2026 zarówno podmioty stosujące sztuczną inteligencję jak i dostawcy systemów sztucznej inteligencji są zobowiązani również przez AI Act do wykonywania działań podnoszących kompetencje swoich pracowników – mówiła.
Wspomniany dokument mówi o kompetencjach związanych ze współpracą ze sztuczną inteligencją (AI literacy, czyli umiejętność posługiwania się tym narzędziem).
– Komisja Europejska próbuje to doprecyzować. Będziemy mogli prawdopodobnie niebawem się zdiagnozować, jak bardzo potrafimy współpracować ze sztuczną inteligencją – dodała Monika Semczuk i zwróciła uwagę na obowiązek kształcenia kadr. Dotyczy on w tym momencie pracodawców, ale państwo też w tym procesie uczestniczy.
Ministerstwo Cyfryzacji, stawiając na rozwój sztucznej inteligencji, przygotowuje dokument „Polityka rozwoju sztucznej inteligencji do 2030 roku z perspektywą do 2035”, w którym sektor ochrony zdrowia jest kluczowy, a nacisk na rozwój AI w tym obszarze jest jednym z jego głównych założeń.
Obsługa AI elementem kultury organizacyjnej
Polityka zakłada, że 90 procent szpitali będzie miało wdrożone narzędzia sztucznej inteligencji, a 30 procent społeczeństwa będzie posiadało ponadpodstawowe kompetencje związane z obsługą AI. Walidacja w tym zakresie powinna być elementem kultury organizacyjnej. Te przepisy zmieniają się w roku 2027 dla krytycznych systemów, w 2028 – dla pozostałych.
Na pytanie, czy jeżeli za 10 – 15 lat AI będzie skuteczniejsze od większości specjalistów, nadal będzie można utrzymać ten model odpowiedzialności, Michał Chodorek – adwokat, partner w KRK Legal & Regulatory odpowiedział, że już dzisiaj wszystkie AI-owe wyroby medyczne, z którymi współpracował, mają czułość i swoistość albo jakąś pochodną dwóch, na przykład F1 score, wyższą od przeciętnego specjalisty.
Moderatorem panelu był Jarosław Minkowski, dyrektor Pionu Diagnostyki Obrazowej w Grupie Lux Med.
Kongres Future Health odbył się 8 września 2026 w Zamku Ujazdowskim w Warszawie. Jego organizatorami byli – Fundacja Leadspire i Konfederacja Lewiatan, a partnerem strategicznym – Grupa Lux Med.