Nauka dla Społeczeństwa

19.04.2024
PL EN
31.01.2024 aktualizacja 31.01.2024

Kanada/ Trwa debata nad niekomercyjną sztuczną inteligencją

Fot. Adobe Stock Fot. Adobe Stock

W kanadyjskim parlamencie trwają prace nad ustawą regulującą wykorzystanie sztucznej inteligencji, a założyciel jednego z najważniejszych centrów badawczych AI w Kanadzie apeluje do rządu, by sfinansował stworzenie niekomercyjnej AI.

Jednym z najważniejszych ośrodków prac nad AI jest w Kanadzie Montreal. To właśnie tam działa Mila, Montreal Institute for Learning Algorithm, założony 30 lat temu przez uważanego za jednego z ojców chrzestnych AI Yoshuę Bengio. Wśród zagadnień, nad którymi pracuje instytut jest problem bezpieczeństwa AI dla człowieka i kwestie etyki.

Istnieje ryzyko, że technologia przewyższy człowieka, będzie uważać swoje przetrwanie za ważniejsze od przetrwania człowieka i wymknie się spod kontroli - ostrzegał Bengio, cytowany przez publicznego nadawcę CBC. Dlatego, podkreślił badacz, konieczne są polityczne rozwiązania, idące dalej niż zapisy ustawowe, czyli budowa AI sfinansowanej przez podatnika.

Kanada nie ma obecnie prawnych regulacji dotyczących AI, projekt ustawy jest po drugim czytaniu w Izbie Gmin, w środę zajmie się nim komisja przemysłu i technologii. Celem rozwiązań jest zapewnienie, że dostępne w Kanadzie systemy AI są bezpieczne, nie stosują dyskryminacji, a jednocześnie firmy, które korzystają z AI, mogą zostać pociągnięte do odpowiedzialności.

Choć przepisów dostosowanych do bieżącej sytuacji jeszcze nie ma, to od kwietnia ub.r. w Kanadzie trwa dochodzenie w sprawie amerykańskiej firmy OpenAI, która opracowała ChatGPT. Dochodzenie urzędu komisarza ds. prywatności zostało wszczęte po skardze w sprawie zbierania, użycia i przekazywania prywatnych danych bez zgody zainteresowanych.

"Oczywiście będą chcieli (rząd – PAP) odzyskać część kontroli, może początkowo budując własną infrastrukturę" - powiedział Bengio w rozmowie z CBC. Naukowiec uważa, że rządowa AI jest konieczna, by sprostać wyzwaniom niesionym przez efekty prac nad AI w sektorze prywatnym.

Koszty stworzenia AI z pieniędzy podatnika ocenia na ok. miliarda dolarów kanadyjskich (ok. 3 mld zł), ale z jego nieoficjalnych konsultacji z urzędnikami wynika, że zainteresowanie takim pomysłem już jest. Podobne rozwiązania wdraża np. rząd Wielkiej Brytanii na Uniwersytecie Bristolskim.

Kanadyjska krajowa strategia AI ogłoszona w 2017 r. była pierwszą taką na świecie. Główne trzy ośrodki badań nad AI to Montreal, Edmonton i Toronto. Tylko w ub.r. na badania nad nowymi technologiami trafiło do 11 uniwersytetów 1,4 mld CAD (ok. 4,21 mld zł), w tym m.in. 125 mln CAD (ok 375 mln zł) na prace nad "odpowiedzialną AI" na Uniwersytecie Montrealskim.

Mila organizuje w połowie lutego br. międzynarodową konferencję nt. ochrony praw człowieka w epoce AI. Przedmiotem trzydniowych obrad naukowców, prawników, socjologów i polityków będzie określenie co należy zrobić, by w zasady rządzące AI została wbudowana ochrona praw człowieka.

W grudniu 2018 r. Uniwersytet Montrealski opublikował stworzony przez stu specjalistów projekt zasad dla sztucznej inteligencji, nazwany Deklaracją Montrealską. "Pierwszym zagrożeniem związanym z rozwojem AI jest złudzenie, że można zapanować nad przyszłością dzięki obliczeniom" - podkreślono w deklaracji, wskazując że firmy sektora powinny mieć "kompas etyczny". Pierwsza z zasad mówi, że "sztuczna inteligencja powinna przyczyniać się do zwiększenia dobrostanu wszystkich czujących istot".

W październiku ub.r. Bengio i inny "ojciec chrzestny AI" Geoffrey Hinton, czyli dwaj z trzech laureatów Nagrody Turinga w 2018, byli współautorami dokumentu, w którym grupa specjalistów nauk informatycznych wezwała rządy do lepszego zarządzania ryzykiem AI. Wcześniej w 2023 r. Future of Life Institute opublikował list otwarty podpisany przez ponad tysiąc specjalistów AI i szefów firm, m.in. przez Steve'a Wozniaka i Elona Muska, wzywający do zawieszenia tworzenia bardziej zaawansowanych systemów AI. Podkreślono, że twórcy systemów AI nie są ich w stanie "zrozumieć, przewidzieć lub skutecznie kontrolować".

Z Toronto Anna Lach (PAP)

lach/ adj/

Przed dodaniem komentarza prosimy o zapoznanie z Regulaminem forum serwisu Nauka w Polsce.

Copyright © Fundacja PAP 2024