Fot. Adobe Stock

Naukowcy sprawdzili, skąd się biorą błędne lub agresywne odpowiedzi chatbotów

Dlaczego duże modele językowe udzielają czasem błędnych, szkodliwych lub agresywnych odpowiedzi? Nawet ich bardzo wąskie i pozornie kontrolowane modyfikacje mogą prowadzić do nieprzewidzianych skutków ubocznych - wynika z publikacji w Nature. Jedną z jej autorek jest badaczka Politechniki Warszawskiej.

  • Na zdjęciu z drona miejsce pożaru ok. trzech hektarów łąk w Szczecinie (mb/amb) PAP/Marcin Bielecki
    Życie

    Biolog: w Polsce wypalanie traw jest przyrodniczo destrukcyjne i oparte na mitach

    W Polsce należy jednoznacznie odrzucić bezmyślne wypalanie traw, bo jest ono przyrodniczo destrukcyjne i oparte na mitach – powiedział PAP biolog prof. Piotr Tryjanowski. Ale zastrzegł, że patrząc w skali globalnej obraz ekologiczny ognia nie jest czarno-biały.

  • Na zdjęciu prof. Agnieszka Chacińska. Fot. materiały prasowe.
    Zdrowie

    Prof. Chacińska o prof. Ambrosie: polska nauka zyska potężny głos; pytanie, czy to wykorzystamy

    Dzięki przyznaniu polskiego obywatelstwa nobliście prof. Victorowi Ambrosowi polska nauka zyska potężny głos, który otwarcie i wyraźnie mówi o tym, że nie ma postępu i rozwoju kraju bez inwestowania w naukę – uważa prof. Agnieszka Chacińska, dyrektorka instytutu IMol.

  • Fot. Adobe Stock
    Kosmos

    Badanie: Polacy widzą sens w misjach kosmicznych – przede wszystkim edukacyjny i naukowy

    Polacy widzą sens w misjach kosmicznych i popierają eksplorację kosmosu, zwłaszcza pod kątem praktycznych korzyści dla życia na Ziemi – wynika z badania społecznego odbioru polskiej misji kosmicznej IGNIS, przeprowadzonego przez naukowców z Uniwersytetu Śląskiego w Katowicach.

  • Fot. Adobe Stock
    Człowiek

    Prof. Grewiński: młodzi są coraz bardziej samotni

    Samotność, lęk przed dorosłością, niska samoocena i chroniczny stres – to główne problemy młodego pokolenia w Polsce. Jak wynika z badania „Diagnoza Młodzieży”, młodzi czują się zagubieni w świecie szybkich zmian, presji sukcesu i niepewnej przyszłości – powiedział PAP prof. Mirosław Grewiński.

  • Fot. Adobe Stock
    Człowiek

    Ekspertka: w Polsce nie uczy się obywateli, jak działać w sytuacji wojny

    Obawa przed wojną jest dziś w Polsce powszechna. Sama obecność lęku nie mówi jednak o tym, jak społeczeństwo może funkcjonować w obliczu zagrożenia. Ważniejsze jest to, czy ludzie wierzą, że w sytuacji kryzysowej będą potrafili działać. A władze nas tego nie uczą - mówi dr Dominika Bulska z Uniwersytetu SWPS.

  • Victor Ambros w Karolinska Institute, Szwecja, grudzień 2024; dostawca: PAP/EPA.
    Wydarzenia

    Noblista prof. Victor Ambros spotka się m.in. z młodzieżą, by edukować o chorobach rzadkich

    Laureat Nagrody Nobla w dziedzinie medycyny z 2024 r., który ma polskie korzenie, spotka się w czwartek 12 marca z młodzieżą z warszawskiego XXVII Liceum Ogólnokształcącego im. T. Czackiego, by edukować o chorobach rzadkich.

  • Fot. Adobe Stock
    Życie

    Polscy naukowcy opisali kluczowy mechanizm transportu enzymów u groźnego pasożyta

    Naukowcy z Małopolskiego Centrum Biotechnologii Uniwersytetu Jagiellońskiego po raz pierwszy pokazali, że kluczowy system transportu enzymów w komórkach pasożyta Trypanosoma cruzi działa w sposób bardziej złożony, niż dotąd sądzono. To istotny krok w zrozumieniu mechanizmu niezbędnego do przeżycia pasożyta. Wyniki badań opublikowano w prestiżowym czasopiśmie „Nature Communications”.

  • Fot. Adobe Stock
    Człowiek

    Socjolog o nierównościach płci: nie licytujmy, kto ma gorzej – kobiety czy mężczyźni

    W ocenie socjologa dr. Michała Gulczyńskiego są różne obszary dyskryminacji, a nierówności płci mogą się objawiać w różnych sytuacjach, dlatego na ten problem nie można patrzeć jak na konkurencję i licytację: kto ma gorzej. Dodał, że również mężczyźni potrzebują zauważenia dotykających ich nierówności.

  • Fot. Adobe Stock
    Człowiek

    Badanie: co czwarty Polak z objawami PTSD; ważna rola doświadczeń z dzieciństwa

    Około 24 proc. Polaków może zmagać się z objawami zaburzenia po stresie traumatycznym (PTSD), co kilkakrotnie przewyższa średnią europejską - wynika z nowych badań z UW, które rzucają światło na to, jak z ryzykiem PTSD wiążą się negatywne i pozytywne doświadczenia z dzieciństwa.

Najpopularniejsze

  • Fot. Adobe Stock

    Współtwórca Bielika: w modelach AI jest obecna cenzura, nie ufajmy im ślepo

  • Prof. Grewiński: młodzi są coraz bardziej samotni

  • Raport: relacje młodych z technologią są dużo bardziej złożone, niż wynikałoby to z debaty publicznej

  • Polskie „nanokwiaty” pomogą w leczeniu groźnej choroby kości

  • Badanie: doświadczenia z dzieciństwa zmieniają sposób, w jaki pomagamy

  • Fot. Adobe Stock

    Sztuczna inteligencja zubaża ludzką komunikację i myślenie

  • Pomidory, marchew i sałata magazynują farmaceutyki w liściach

  • Powstała nowa aplikacja pomocna w problemach z przedwczesnym wytryskiem

  • Odżywki przedtreningowe mogą prowadzić do niebezpiecznego niedoboru snu

  • Składnik morwy ułatwia regenerację mieliny

Fot. Adobe Stock

Naukowcy sprawdzili, skąd się biorą błędne lub agresywne odpowiedzi chatbotów

Dlaczego duże modele językowe udzielają czasem błędnych, szkodliwych lub agresywnych odpowiedzi? Nawet ich bardzo wąskie i pozornie kontrolowane modyfikacje mogą prowadzić do nieprzewidzianych skutków ubocznych - wynika z publikacji w Nature. Jedną z jej autorek jest badaczka Politechniki Warszawskiej.