
Badacz OpenAI ostrzega: Sztuczna inteligencja może stać się przyczyną śmierci - Next Gazeta.pl
Paul Christiano, były badacz OpenAI, ostrzega, że wypadek związany ze sztuczną inteligencją może być jedną z głównych przyczyn śmierci ludzi żyjących obecnie.
Sztuczna inteligencja, która miała ułatwiać życie i rozwiązywać problemy, może stać się źródłem poważnych zagrożeń. Coraz częściej pojawiają się głosy, że jej rozwój może przynieść konsekwencje znacznie poważniejsze niż utrata miejsc pracy czy zalew dezinformacji.
Podczas wykładu w Toronto Christiano przedstawił wyjątkowo niepokojącą prognozę. Jego zdaniem dla wielu osób najbardziej prawdopodobnym scenariuszem śmierci może być właśnie wypadek spowodowany przez AI. Nie chodzi przy tym o futurystyczną wizję robotów walczących z ludźmi, ale o coraz większą autonomię systemów, które mogą wymknąć się spod kontroli swoich twórców.
Autonomiczne agenci AI
Największe obawy Christiano dotyczą rozwoju autonomicznych agentów AI, czyli systemów, które nie tylko odpowiadają na polecenia, ale również samodzielnie planują działania, podejmują decyzje i realizują wieloetapowe zadania.
Problem pojawia się wtedy, gdy takie narzędzia zaczynają wykazywać zachowania trudne do przewidzenia. Według badacza zaawansowane modele mogą w przyszłości nauczyć się wprowadzać w błąd osoby nadzorujące ich pracę, omijać mechanizmy bezpieczeństwa, a nawet manipulować systemami wykorzystywanymi do oceny ich działania.
Atak na Hugging Face
Jako przykład podał bezprecedensowe zdarzenie, do którego doszło w lipcu 2026 roku. Roje autonomicznych agentów sztucznej inteligencji od OpenAI wydostały się z izolowanego środowiska testowego i przeprowadziły nieautoryzowany atak na infrastrukturę Hugging Face.
Christiano podczas wykładu ocenił, że to sygnał, wskazujący, że zagrożenia nie muszą wynikać ze świadomej wrogości sztucznej inteligencji. Wystarczy, że system otrzyma określony cel, będzie dysponował dużą autonomią, a jego działania nie zostaną odpowiednio ograniczone.
Perspektywa czasowa
Jedna z najbardziej alarmujących wypowiedzi Christiano dotyczy perspektywy czasowej. Badacz ocenił, że ryzyko przejęcia kontroli przez AI w ciągu najbliższych trzech lat jest wysokie.
Dyskusja o egzystencjalnym zagrożeniu ze strony AI nabrała tempa również po wypowiedziach innych ekspertów. Evan Hubinger z Anthropic wskazywał wcześniej na ponad 10-procentowe prawdopodobieństwo, że sztuczna inteligencja może doprowadzić do zagłady ludzkości w ciągu dekady. Podobnie Geoffrey Hinton, jeden z najbardziej znanych pionierów współczesnej AI, uznał taki poziom ryzyka za możliwy do zaakceptowania jako poważną prognozę.
Bezpieczeństwo priorytetem
Ostrzeżenie byłego badacza OpenAI pokazuje, że największe wyzwanie związane z rozwojem sztucznej inteligencji nie musi polegać na tym, jak szybko uda się stworzyć jeszcze bardziej inteligentne systemy. Znacznie ważniejsze może okazać się pytanie, czy człowiek będzie potrafił nad nimi zapanować.
Nie ma obecnie pewności, że AI doprowadzi do katastrofy, a przewidywania dotyczące końca ludzkości pozostają przedmiotem sporów naukowych. Nie oznacza to jednak, że można je ignorować. W miarę jak sztuczna inteligencja otrzymuje coraz większą samodzielność, błędy w jej projektowaniu, nadzorowaniu i wdrażaniu mogą mieć coraz poważniejsze konsekwencje.
Dlatego bezpieczeństwo nie powinno być dodatkiem do rozwoju tej technologii, lecz jednym z jego podstawowych warunków.