Badania włoskich naukowców wykazały, że chatboty sztucznej inteligencji, wykorzystywane w medycynie, popełniają błędy w ok. 70 procentach przypadków. Pomyłki wykryto w tak poważnych diagnozach, jak dotyczących raka skóry i piersi - podał dziennik „Il Messaggero”.
Wyniki badań opublikowano na łamach specjalistycznego pisma „European Journal of Pathology”.
W ramach projektu badawczego, rozpoczętego w 2023 roku pod kierunkiem Vincenzo Guastafierro z Instytutu Klinicznego i Uniwersytetu Humanitas w Rozzano koło Mediolanu przeanalizowano odpowiedzi dostarczone przez ChatGPT w 200 przypadkach klinicznych dotyczących różnych specjalizacji lekarskich.
Każdy z przedstawionych narzędziom sztucznej inteligencji wymyślonych przypadków powstał w ścisłej współpracy ze specjalistami medycyny i zgodnie z najnowszymi wskazówkami diagnostycznymi.
Stwierdzono błędne odpowiedzi w ok. 70 proc. przypadków, a także niedokładne odwołania do źródeł lub wręcz całkowicie wymyślone w 30 proc.
ChatGPT udzielił częściowo przydatnych odpowiedzi w 62 proc. przypadków, ale wolnych od błędów było tylko 32 procent.
Wśród najpoważniejszych błędów była niewłaściwa diagnoza dotycząca raka skóry oraz pomylenie dwóch różnych rodzajów nowotworu piersi. Cytowano przy tym nieistniejące źródła medyczne.
Jak zaznaczył Vincenzo Guastafierro, cytowany przez dziennik „Il Messaggero”, rezultaty te pokazują, jak bardzo konieczna jest ostrożność przy wykorzystywaniu AI na polu medycyny, bo pomyłki w diagnozie, które wykryto, mogłyby mieć poważne konsekwencje.
„Oko kliniczne lekarza pozostaje niezastąpione. AI musi być uważana za wsparcie, ale nie za zamiennik kompetencji człowieka” - zaznaczył.
Z Rzymu Sylwia Wysocka(PAP)
sw/ sp/
Fundacja PAP zezwala na bezpłatny przedruk artykułów z Serwisu Nauka w Polsce pod warunkiem mailowego poinformowania nas raz w miesiącu o fakcie korzystania z serwisu oraz podania źródła artykułu. W portalach i serwisach internetowych prosimy o zamieszczenie podlinkowanego adresu: Źródło: naukawpolsce.pl, a w czasopismach adnotacji: Źródło: Serwis Nauka w Polsce - naukawpolsce.pl. Powyższe zezwolenie nie dotyczy: informacji z kategorii "Świat" oraz wszelkich fotografii i materiałów wideo.
