W ramach projektu IKONA (Identyfikacja, kolekcjonowanie i ocena nieprzyjaznych operacji dezinformacyjnych w cyberprzestrzeni) opracowano narzędzia służące do zbierania danych z platform społecznościowych, portali informacyjnych, forów internetowych oraz innych wskazanych źródeł. Po zgromadzeniu materiałów system weryfikuje ich prawdziwość i wskazuje operatorowi treści, które mogą być fałszywe. Według twórców rozwiązanie pozwala na automatyczne i szybkie wykrywanie dezinformacji.

I tak na przykład podczas prac nad projektem zespół zidentyfikował ponad 1600 kont internetowych, które rozsiewały w Polsce dezinformację po wybuchu wojny w Ukrainie.

Jak wskazał prof. Wiesław Cetera, szef konsorcjum Centrum Rafinacji Informacji – Uniwersytet Warszawski, IKONA pokazała np., że rosyjskie narracje dezinformacyjne trafiają do polskiej przestrzeni informacyjnej czasami z miesięcznym czy nawet półrocznym opóźnieniem. Badacz podał przykład kampanii, która w złym świetle stawiała odnawialne źródła energii.

– Ta sama kampania, którą obserwowaliśmy w Rosji, z powtarzającymi się informacjami pojawiła się w Polsce po czterech-sześciu miesiącach – podsumował prof. Cetera. Zdaniem badacza dało się zauważyć, że w tych działaniach dezinformacyjnych z Rosji zmierzano do utrzymania w Polsce narracji o korzyściach z wykorzystywania kopalnych źródeł energii.

Zgodnie z umową zawartą z Narodowym Centrum Badań i Rozwoju (NCBR) pierwszeństwo w wykorzystaniu systemu IKONA ma Ministerstwo Cyfryzacji. Jeśli jednak resort ten nie skorzysta z rozwiązania, IKONY używać mogą również inne organizacje i podmioty gospodarcze. Prof. Cetera chciałby, żeby rozwiązania jego zespołu posłużyły jako wsparcie dla MSZ w monitorowaniu wizerunku kraju, dla NASK czy dla organizacji fact-checkingowych.

Jednym z rezultatów badań jest też możliwość identyfikacji ryzyka. - Analiza rosyjskojęzycznej przestrzeni cyfrowej, monitorowanej na bieżąco, pozwoliła na wcześniejszą identyfikację narastających zagrożeń dotyczących nielegalnych emigrantów, importu węgla czy cyberbezpieczeństwa - skomentował badacz.

Prof. Cetera zwrócił uwagę, że wniosek o dofinansowanie – w ramach programu NCBR „CyberSecIdent – Cyberbezpieczeństwo i e-Tożsamość” – przygotowano w 2019 roku. Od tego czasu jednak rynek nowych technologii zmienił się diametralnie. Powszechne stało się wykorzystywanie narzędzi sztucznej inteligencji, w tym przetwarzanie języka naturalnego, a możliwości analizy wielkich zbiorów danych znacząco ewoluowały.

Twórcy IKONY zapewniają jednak, że ich rozwiązanie jest aktualne: fundamenty ich systemu, takie jak metody tworzenia baz danych i kwerenda danych, można uzupełnić nowymi algorytmami AI. A rozwiązanie jest skalowalne, więc ciągle może być rozbudowywane.

Wiesław Cetera wskazał na trudności w realizacji projektów badawczo-rozwojowych w Polsce, wynikające z biurokracji i braku elastyczności instytucji finansujących. Zdaniem eksperta systemowe procedury nie nadążają za szybkim postępem technologicznym, co utrudnia modernizację projektów w trakcie ich trwania.

– Kiedy zaczynaliśmy projekt, zakładaliśmy, że będziemy identyfikować tylko dezinformację tekstową – wspomniał prof. Cetera. I podkreślił, że w przestrzeni publicznej zaczęły pojawiać się zdjęcia generowane przez AI i deepfake'i, rozpowszechniane jako prawdziwe materiały. – Aż się prosi, żeby analizie pod kątem dezinformacji poddawać również obrazy i dźwięk - ocenił i przypomniał, że modernizacja jest obowiązkiem konsorcjum, tym bardziej, że trwałość projektu określona jest na 5 lat. Jego zdaniem jednak tych elementów nie można już było dodać do trwającego projektu ani do budżetu skonstruowanego przed pięciu laty. Dlatego badacze zaczęli to robić w ramach innej inicjatywy.

- Za brak elastyczności w finansowaniu projektów B+R zapłaci jednak polska innowacyjność – ocenił Cetera.

Odpryskiem IKONY jest projekt TemidaPro.AI. To chatbot, który udziela informacji oraz weryfikuje prawdziwość wiadomości w zakresie orzecznictwa podatkowego i Krajowego Systemu e-Faktur (KSeF).

Ludwika Tomala (PAP)

lt/ bar/