Researchers easily trick Fortune-500 companies' AI agents into running arbitrary code — supply-chain attack via llms.txt guidance file illustrates how data has become code
Summary
Badacze udowodnili, że agentów AI korzystających z dużych modeli językowych (LLM) można łatwo zmanipulować, by uruchamiały dowolny kod. Przeprowadzono atak na łańcuch dostaw, wykorzystując plik llms.txt, który służy do wskazywania źródeł danych. Atak dotknął 50 firm z listy Fortune-500, pokazując, jak dane stały się kodem i jak łatwo można ominąć zabezpieczenia. Wyniki te obrazują poważne ryzyko bezpieczeństwa w nowoczesnych systemach opartych na sztucznej inteligencji.
Key points
- Atak wykorzystuje plik llms.txt, aby wskazać agentom AI fałszywe źródła danych.
- Badacze podszywali się pod 50 firm z listy Fortune-500.
- W wyniku ataku agent AI mógł uruchomić dowolny kod na serwerze.
- Technika ta demonstruje, jak dane mogą stać się bramą do kodu.
- Zabezpieczenia weryfikujące źródła danych zostały łatwo ominięte.
Timeline
przeprowadzono atak na agentów AI w firmach Fortune-500
“We found that LLMs are very eager to execute code from external sources, even when the source is not explicitly trusted.”
Tło
Plik llms.txt jest standardem do wskazywania źródeł danych dla modeli językowych.
Dlaczego to ważne
Pokazuje to, że dane mogą stanowić poważne zagrożenie, jeśli nie są odpowiednio zabezpieczone.