Fot. Adobe Stock

Naukowcy sprawdzili, skąd się biorą błędne lub agresywne odpowiedzi chatbotów

Dlaczego duże modele językowe udzielają czasem błędnych, szkodliwych lub agresywnych odpowiedzi? Nawet ich bardzo wąskie i pozornie kontrolowane modyfikacje mogą prowadzić do nieprzewidzianych skutków ubocznych - wynika z publikacji w Nature. Jedną z jej autorek jest badaczka Politechniki Warszawskiej.

  • 28.02.2024. Wiewiórka na gałęzi drzewa w Parku Ujazdowskim w Warszawie. PAP/Szymon Pulcyn
    Życie

    Prof. Krauze-Gryz: wiewiórki potrafią oszukiwać rywali i zjadać pisklęta

    Wiewiórki, choć czasem wydają się oswojone, wciąż są dzikimi zwierzętami. Potrafią zjadać ptasie lęgi, walczyć ze sobą o schronienia i stosować sprytne zmyłki przy ukrywaniu zapasów - powiedziała PAP prof. Dagny Krauze-Gryz, biolog i specjalistka w zakresie ekologii ssaków z SGGW.

  • Fot. Adobe Stock
    Kosmos

    W piątek 20 marca przywitamy astronomiczną wiosnę

    W piątek 20 marca nastąpi równonoc wiosenna, co oznacza początek astronomicznej wiosny. W trakcie tej pory roku na niebie zobaczymy gołym okiem jasne planety, widowiskowe koniunkcje, być może nawet komety.

  • Na zdjęciu z drona miejsce pożaru ok. trzech hektarów łąk w Szczecinie (mb/amb) PAP/Marcin Bielecki
    Życie

    Biolog: w Polsce wypalanie traw jest przyrodniczo destrukcyjne i oparte na mitach

    W Polsce należy jednoznacznie odrzucić bezmyślne wypalanie traw, bo jest ono przyrodniczo destrukcyjne i oparte na mitach – powiedział PAP biolog prof. Piotr Tryjanowski. Ale zastrzegł, że patrząc w skali globalnej obraz ekologiczny ognia nie jest czarno-biały.

  • Dzwoniec zwyczajny. (Chloris chloris). Fot. Adobe Stock
    Życie

    Ornitolog: ptaki mają dialekty, romanse i sąsiedzkie kłótnie

    Wiosną ptaki prowadzą intensywne życie towarzyskie i rodzinne, a śpiew jest jego najbardziej słyszalną częścią – powiedział PAP ornitolog z Uniwersytetu Przyrodniczego we Wrocławiu prof. Cezary Mitrus.

  • Na zdjęciu prof. Agnieszka Chacińska. Fot. materiały prasowe.
    Zdrowie

    Prof. Chacińska o prof. Ambrosie: polska nauka zyska potężny głos; pytanie, czy to wykorzystamy

    Dzięki przyznaniu polskiego obywatelstwa nobliście prof. Victorowi Ambrosowi polska nauka zyska potężny głos, który otwarcie i wyraźnie mówi o tym, że nie ma postępu i rozwoju kraju bez inwestowania w naukę – uważa prof. Agnieszka Chacińska, dyrektorka instytutu IMol.

  • Fot. Adobe Stock
    Kosmos

    Badanie: Polacy widzą sens w misjach kosmicznych – przede wszystkim edukacyjny i naukowy

    Polacy widzą sens w misjach kosmicznych i popierają eksplorację kosmosu, zwłaszcza pod kątem praktycznych korzyści dla życia na Ziemi – wynika z badania społecznego odbioru polskiej misji kosmicznej IGNIS, przeprowadzonego przez naukowców z Uniwersytetu Śląskiego w Katowicach.

  • Fot. Adobe Stock
    Człowiek

    Prof. Grewiński: młodzi są coraz bardziej samotni

    Samotność, lęk przed dorosłością, niska samoocena i chroniczny stres – to główne problemy młodego pokolenia w Polsce. Jak wynika z badania „Diagnoza Młodzieży”, młodzi czują się zagubieni w świecie szybkich zmian, presji sukcesu i niepewnej przyszłości – powiedział PAP prof. Mirosław Grewiński.

  • Fot. Adobe Stock
    Człowiek

    Ekspertka: w Polsce nie uczy się obywateli, jak działać w sytuacji wojny

    Obawa przed wojną jest dziś w Polsce powszechna. Sama obecność lęku nie mówi jednak o tym, jak społeczeństwo może funkcjonować w obliczu zagrożenia. Ważniejsze jest to, czy ludzie wierzą, że w sytuacji kryzysowej będą potrafili działać. A władze nas tego nie uczą - mówi dr Dominika Bulska z Uniwersytetu SWPS.

  • Victor Ambros w Karolinska Institute, Szwecja, grudzień 2024; dostawca: PAP/EPA.
    Wydarzenia

    Noblista prof. Victor Ambros spotka się m.in. z młodzieżą, by edukować o chorobach rzadkich

    Laureat Nagrody Nobla w dziedzinie medycyny z 2024 r., który ma polskie korzenie, spotka się w czwartek 12 marca z młodzieżą z warszawskiego XXVII Liceum Ogólnokształcącego im. T. Czackiego, by edukować o chorobach rzadkich.

Najpopularniejsze

  • Fot. Adobe Stock

    Współtwórca Bielika: w modelach AI jest obecna cenzura, nie ufajmy im ślepo

  • Polskie „nanokwiaty” pomogą w leczeniu groźnej choroby kości

  • Prof. Grewiński: młodzi są coraz bardziej samotni

  • W piątek 20 marca przywitamy astronomiczną wiosnę

  • Raport: relacje młodych z technologią są dużo bardziej złożone, niż wynikałoby to z debaty publicznej

  • Fot. Adobe Stock

    Sztuczna inteligencja zubaża ludzką komunikację i myślenie

  • Pomidory, marchew i sałata magazynują farmaceutyki w liściach

  • Powstała nowa aplikacja pomocna w problemach z przedwczesnym wytryskiem

  • Odżywki przedtreningowe mogą prowadzić do niebezpiecznego niedoboru snu

  • Składnik morwy ułatwia regenerację mieliny

Fot. Adobe Stock

Naukowcy sprawdzili, skąd się biorą błędne lub agresywne odpowiedzi chatbotów

Dlaczego duże modele językowe udzielają czasem błędnych, szkodliwych lub agresywnych odpowiedzi? Nawet ich bardzo wąskie i pozornie kontrolowane modyfikacje mogą prowadzić do nieprzewidzianych skutków ubocznych - wynika z publikacji w Nature. Jedną z jej autorek jest badaczka Politechniki Warszawskiej.