Człowiek potrafi nauczyć się rozpoznawania tekstów tworzonych przez sztuczną inteligencję (SI). Pomagają w tym specyficzne błędy popełniane przez komputer - przekonują naukowcy z University of Pennsylvania School of Engineering and Applied Science (USA).
Rozwój chatbotów, takich jak słynny już ChatGPT może spowodować, że przenikną one do większości sfer życia - zwracają uwagę badacze. W związku z tym pojawiają się różnego typu obawy - o zalew fałszywych informacji, napędzanie dyskryminacji niektórych grup społecznych, czy różnego typu oszustwa.
Okazuje się jednak, że przynajmniej na razie ludzie nie są bezradni.
„Pokazaliśmy, że można nauczyć się rozpoznawania generowanego przez maszyny tekstu. Ludzie tworzą pewne założenia o tym, jakie błędy komputer będzie popełniał, ale założenia te nie muszą być prawdziwe. Z czasem, przy odpowiedniej liczbie przykładów i dzięki jasnym instrukcjom, możemy się nauczyć wychwytywać błędy, które maszyny rzeczywiście popełniają” - mówi kierujący badaniem prof. Chris Callison-Burch.
„Sztuczna inteligencja jest zaskakująco dobra w tworzeniu płynnych, gramatycznie poprawnych tekstów. Jednak robi błędy. Pokazaliśmy, że maszyny popełniają specyficzne rodzaje błędów - związane ze zdrowym rozsądkiem, trafnością danej treści, wnioskowaniem i logiką - które można nauczyć się rozpoznawać" - dodaje specjalista.
Jego zespół wykorzystał w badaniu specjalną, udostępnioną online grę „Real or Fake Text?” (https://roft.io).
Gracz uczy się w niej na przykładach, z których każdy zaczyna się od tekstu stworzonego przez człowieka, a potem przechodzi w tekst generowany komputerowo.
Zadanie polega na znalezieniu tego miejsca.
„Pięć lat temu komputerowe modele nie potrafiły trzymać się tematu czy tworzyć płynnych zdań. Teraz rzadko popełniają gramatyczne błędy. Nasze badanie wskazuje na rodzaje błędów typowych dla chatbotów, ale ważne jest pamiętać, że błędy te cały czas ewoluują. Nie należy się martwić o to, że tekstu tworzonego przez SI nie da się rozpoznać, ale że ludzie będą musieli cały czas uczyć się tego rozróżniania, a także pracy z programami wykrywającymi teksty sztucznej inteligencji” - wyjaśnia jeden z badaczy, Liam Dugan.
Należąca do zespołu dr Daphne Ippolito pracuje - m.in. z producentami gier i pisarzami - także nad jak najlepszym wykorzystaniem tworzącej teksty SI.
Żaden z twórców nie stwierdził jednak, że komputer może zastąpić człowieka, choć uważają oni, że mogą one wspierać pracę ludzi.
„Uważam, że obecnie technologie te najlepiej nadają się do twórczego pisania. Doniesienia prasowe, prace zaliczeniowe czy porady prawne nie nadają się do wykorzystania SI, ponieważ nie gwarantuje ona zachowania ścisłości” - mówi prof. Callison-Burch.
„Istnieją ekscytujące, pozytywne możliwości zastosowań tej technologii. Ludzie skupiają się na przykładach szkodliwego wykorzystania, jak np. tworzenie plagiatów czy fake newsów. Wiemy jednak, że możemy nauczyć się lepiej radzić sobie z czytaniem oraz pisaniem” - zwraca uwagę Liam Dugan.
Więcej informacji: https://arxiv.org/abs/2212.12672 (PAP)
Marek Matacz
mat/ agt/
Fundacja PAP zezwala na bezpłatny przedruk artykułów z Serwisu Nauka w Polsce pod warunkiem mailowego poinformowania nas raz w miesiącu o fakcie korzystania z serwisu oraz podania źródła artykułu. W portalach i serwisach internetowych prosimy o zamieszczenie podlinkowanego adresu: Źródło: naukawpolsce.pl, a w czasopismach adnotacji: Źródło: Serwis Nauka w Polsce - naukawpolsce.pl. Powyższe zezwolenie nie dotyczy: informacji z kategorii "Świat" oraz wszelkich fotografii i materiałów wideo.
