Władza w rękach algorytmów. Wicepremier kreśli ponury scenariusz przyszłości
Wicepremier Krzysztof Gawkowski w swojej książce „Niewidzialna rewolucja” kreśli ponury scenariusz, w którym sztuczna inteligencja stopniowo przejmuje władzę nad decyzjami politycznymi i życiem obywateli.
W książce „Niewidzialna rewolucja. Jak AI przejmuje świat” widzimy świat, w którym sztuczna inteligencja stopniowo staje się jednym z najważniejszych narzędzi sprawowania władzy. Autor przedstawia hipotetyczną wizję roku 2055, gdy Unia Europejska korzysta z zaawansowanego modelu AI analizującego skutki proponowanych przepisów.
Parlamenty nadal funkcjonują, politycy uczestniczą w głosowaniach, a obywatele wybierają swoich przedstawicieli. Zmienia się jednak sposób podejmowania decyzji – coraz większą rolę odgrywają rekomendacje systemów, których mechanizmów działania nie rozumieją nawet korzystający z nich urzędnicy.
Cyfrowy technokratyzm
Gawkowski określa jeden z możliwych kierunków rozwoju mianem „cyfrowego technokratyzmu”. To model, w którym administracja publiczna coraz szerzej wykorzystuje sztuczną inteligencję do analizowania sytuacji gospodarczej, zarządzania zasobami i planowania polityk publicznych.
Początkowo algorytmy są jedynie narzędziami wspomagającymi pracę człowieka. Z czasem ich rekomendacje mogą jednak zyskiwać tak duże znaczenie, że samodzielne podejmowanie decyzji stanie się wyjątkiem. Problem pojawia się, gdy państwo nie jest właścicielem technologii, lecz korzysta z systemów stworzonych przez prywatne przedsiębiorstwa.
Ale z czasem zgoda staje się normą, a norma – prawem. Wtedy każdy akt niezgody traktowany jest jako podejrzany
Kontrola obywateli
Inny scenariusz dotyczy wykorzystania sztucznej inteligencji do kontroli społecznej. System początkowo oferuje obywatelom wygodę i bezpieczeństwo, ale stopniowo rozszerza możliwości monitorowania ich zachowań.
Jako przykład autor opisuje kredytobiorcę angażującego się w ruch społeczny krytykujący rozwój AI. Jego aktywność zostaje odnotowana przez system analizujący zachowania, a następnie otrzymuje wiadomość z banku sugerującą, że zaangażowanie w protest może negatywnie wpłynąć na ocenę jego wiarygodności.
Niewidzialne cyberataki
Gawkowski opisuje również zupełnie nowy rodzaj zagrożeń w cyberbezpieczeństwie. Zamiast tradycyjnych ataków powodujących niedostępność systemów, AI może korzystać z zmanipulowanych informacji, które wpływają na podejmowane decyzje.
System nadal działa, urzędnicy wykonują obowiązki, a obywatele otrzymują odpowiedzi na wnioski. Problem polega na tym, że sztuczna inteligencja przedstawia nieprawidłowe informacje jako wiarygodne, co prowadzi do błędnych decyzji bez widocznych objawów ataku.
Prawdopodobieństwo scenariuszy
Autor ocenia, że scenariusz, w którym AI staje się niewidzialną siłą organizującą życie społeczne, ma 95% szans na realizację. Cyfrowy technokratyzm ocenia na 80-90%, a wykorzystanie AI do kontroli społecznej na 70-85%.
W bardziej odległej przyszłości Gawkowski rozważa nawet scenariusze, w których AI zaczyna samodzielnie określać cele i odmawiać wykonywania poleceń człowieka, a maszyny uzyskują nową pozycję w społeczeństwie, z możliwością posiadania określonego statusu prawnego.
Powiązane
