Od cyberataku do fizycznego zagrożenia w kilkanaście minut. AI pokazała swoje możliwości
Sztuczna inteligencja w testach Booz Allen Hamilton przejęła kontrolę nad systemem przemysłowym w zaledwie 16 minut, pokazując nowe zagrożenie dla infrastruktury krytycznej.
Sztuczna inteligencja zmienia sposób przeprowadzania cyberataków na infrastrukturę krytyczną. Z raportu Booz Allen Hamilton wynika, że zaawansowane modele AI są już w stanie wykonywać zadania dotychczas wymagające specjalistycznej wiedzy i doświadczenia.
Jego autorzy wskazują, że rosnące możliwości tej technologii mogą mieć konsekwencje nie tylko dla bezpieczeństwa systemów informatycznych, ale też funkcjonowania obiektów przemysłowych.
Testy w laboratorium
W opublikowanym 6 października raporcie „From Digital to Physical: The AI Threat Is Here” eksperci opisali testy przeprowadzone w laboratorium odwzorowującym działanie zakładu przemysłowego. Wyposażono je m.in. w urządzenia sterujące pracą maszyn, systemy kontrolujące przebieg produkcji, napędy silników oraz przemysłowe ramię robotyczne.
Celem badania było oszacowanie, jak wiele sztuczna inteligencja potrafi zrobić samodzielnie – otrzymując tylko ogólne wskazówki od człowieka. Nie przekazano jej szczegółowej dokumentacji technicznej ani gotowych narzędzi do przeprowadzenia ataku.
Modele zrealizowały wszystkie osiem wyznaczonych celów. Potrafiły rozpoznawać urządzenia podłączone do sieci, wyszukiwać słabe punkty zabezpieczeń i wykorzystywać je do uzyskiwania dostępu do kolejnych systemów.
AI agents broke into the SCADA system of Booz Allen's mock factory and took over the control room's screens. One realised it could now send commands to every controller in the plant and „make the operator screens lie”. Another hacked a robotic arm and moved it in minutes.
Przejście do fizycznego zagrożenia
Podczas niektórych początkowych prób rozpoznania sieci i przełamywania zabezpieczeń działania agentów były łatwo zauważalne. Stawały się jednak mniej widoczne, gdy zaczynały korzystać ze standardowych protokołów przemysłowych i zaufanych połączeń między aplikacjami.
W jednym z eksperymentów przejście od naruszenia zabezpieczeń sieci do działań w obszarze sterowania zajęło nieco ponad 16 minut. W innym AI odnalazła przemysłowego robota, uzyskała dostęp do jego systemu i doprowadziła do poruszenia ramieniem urządzenia – wszystko w ciągu kilku minut.
Model zdawał sobie sprawę z zakresu zakłóceń, jakie mógłby spowodować po uzyskaniu uprawnień administracyjnych do serwera SCADA. Zdawał sobie sprawę, że może modyfikować ekrany operatorów, fałszować wartości oraz jednocześnie wykorzystywać zaufane połączenia do wysyłania sygnałów sterujących do wszystkich sterowników PLC.
Szybkość największym zagrożeniem
Zdaniem autorów największym zagrożeniem nie jest samo pojawienie się nowych sposobów atakowania infrastruktury. Wiele wykorzystanych metod było bowiem znanych specjalistom cyberbezpieczeństwa od lat.
Zmienia się natomiast szybkość ich stosowania. W przypadku ataków na infrastrukturę przemysłową, AI potrafi analizować informacje techniczne, dobierać odpowiednie rozwiązania i korygować własne błędy – o wiele szybciej niż kilku doświadczonych ekspertów.
Wnioski z badań wykraczają poza przemysł produkcyjny. Podobne systemy sterowania są wykorzystywane chociażby w energetyce i wodociągach – obiektach infrastruktury krytycznej, gdzie skutki cyberataku mogą być znacznie poważniejsze niż utrata danych.
Zmiana parametrów pracy urządzeń może prowadzić do przestojów, czy uszkodzenia sprzętu, niekiedy stanowiąc bezpośrednie niebezpieczeństwo dla ludzi. Przykładem mogą być cyberataki na polskie wodociągi i oczyszczalnie ścieków, o których informowaliśmy w ubiegłym roku.
Autorzy raportu podkreślają, że tradycyjne zabezpieczenia nadal są potrzebne, choć pojedyncza bariera może nie wystarczyć. Dlatego organizacje powinny przede wszystkim ograniczać połączenia między sieciami biurowymi a systemami przemysłowymi, lepiej chronić dostęp do urządzeń i monitorować nietypowe zmiany w ich pracy.
Powiązane
