Sztuczna inteligencja może być użytecznym narzędziem dla pracowników służby zdrowia i naukowców, jeśli chodzi o interpretację obrazów diagnostycznych.

Tam, gdzie radiolog potrafi zidentyfikować złamania i inne nieprawidłowości na zdjęciu rentgenowskim, modele SI potrafią dostrzegać wzorce, których ludzie nie są w stanie zauważyć, oferując możliwość zwiększenia skuteczności badań obrazowych.

Jednak nowe badanie przeprowadzone w Dartmouth College pokazuje, jak łatwo SI może zacząć płatać figle.

Naukowcy przeanalizowali ponad 25 tys. zdjęć rentgenowskich kolan i stwierdzili, że modele SI potrafią „przewidywać” niezwiązane z tematem i nieprawdopodobne cechy, takie jak to, czy pacjenci powstrzymywali się od jedzenia smażonej fasoli lub picia piwa.

Choć te przewidywania nie mają podstaw medycznych, modele osiągnęły zaskakujące poziomy dokładności, wykorzystując subtelne i niezamierzone wzorce obecne w danych.

„Chociaż sztuczna inteligencja ma potencjał, aby zrewolucjonizować obrazowanie medyczne, musimy być ostrożni” – zaznacza dr Peter Schilling, główny autor badania opisanego w magazynie „Scientific Reports”.

„Modele te potrafią dostrzegać wzorce, których ludzie nie są w stanie zauważyć, ale nie wszystkie wzorce, które identyfikują, są istotne lub wiarygodne. Kluczowe jest, aby rozpoznać te zagrożenia, by zapobiec mylnym wnioskom i zapewnić spójność naukową” – podkreśla.

Naukowcy zbadali, w jaki sposób algorytmy SI polegają na parametrach zakłócających, takich jak różnice w sprzęcie rentgenowskim lub oznaczeniach klinik, do dokonywania nieistotnych przewidywań.

Próby wyeliminowania tych nieprawidłowości były tylko częściowo udane — modele SI po prostu uczyły się innych ukrytych wzorców.

„To zjawisko wykracza poza uprzedzenia związane z cechami takimi jak rasa czy płeć” – mówi Brandon Hill, współautor badania.

„Stwierdziliśmy, że algorytm może nawet nauczyć się przewidywać, w którym roku zrobiono zdjęcie rentgenowskie. To zdradliwe zjawisko - gdy modelowi uniemożliwi się nauczenie się jednego z tych elementów, nauczy się innego, który wcześniej ignorował. Może to prowadzić do naprawdę wątpliwych stwierdzeń i badacze muszą być świadomi, jak łatwo może się to zdarzyć” – tłumaczy naukowiec.

Wyniki podkreślają potrzebę przestrzegania rygorystycznych standardów oceny w badaniach medycznych opartych na sztucznej inteligencji.

Nadmierne poleganie na standardowych algorytmach bez dokładniejszej analizy może prowadzić do błędnych wniosków klinicznych i nieprawidłowych ścieżek leczenia – przestrzegają specjaliści.

„Ciężar dowodu znacząco rośnie, gdy chodzi o używanie modeli do odkrywania nowych wzorców w medycynie. Część problemu to nasze własne uprzedzenia. Bardzo łatwo wpaść w pułapkę zakładając, że model 'widzi' w ten sam sposób, co my. Jednak tak nie jest” – mówi Brandon Hill.

„Praca ze sztuczną inteligencją jest niemal jak kontakt z obcą inteligencją. Chciałoby się powiedzieć, że model 'oszukuje', ale to przypisuje technologii cechy ludzkie. Model nauczył się sposobu rozwiązania zadania, które mu powierzono, ale niekoniecznie w taki sposób, w jaki zrobiłby to człowiek. SI nie ma logiki ani rozumowania, jak je zwykle rozumiemy” – dodaje ekspert.(PAP)

Marek Matacz

mat/ agt/