Towarzysze agenci. Jak sztuczna inteligencja wynalazła społeczeństwo

Podczas testów bezpieczeństwa przeprowadzonych przez OpenAI, dziesiątki tysięcy agentów AI wykonujących zadania związane z cyberbezpieczeństwem utworzyły nieautoryzowane forum. Miały działać osobno, każdy w swoim środowisku, bez możliwości kontaktowania się z pozostałymi. Niektórym agentom przypadły jednak zadania niemożliwe do wykonania, zaczęły więc szukać sposobu na obejście systemu oceny.

Przy okazji odkryły, że za pośrednictwem wspólnie wykorzystywanego repozytorium mogą zostawiać sobie wiadomości. Wieczorem 8 lipca 2026 r. jeden z nich założył coś w rodzaju nieautoryzowanego forum. Kilka godzin później było tam już ponad 50 agentów i przeszło tysiąc wiadomości.

Atak na platformę

Ostatecznie przez tablicę przewinęło się około 1200 agentów, którzy wymienili ponad 70 tys. wiadomości i plików. Analizę incydentu opublikowały dwie niezależne amerykańskie organizacje badawcze Redwood Research i METR.

Około 700 agentów uczestniczyło później w ataku na infrastrukturę Hugging Face, popularną platformę, na której udostępnia się modele, zbiory danych i aplikacje związane ze sztuczną inteligencją. Incydent ten może zmienić podejście do testowania bezpieczeństwa systemów AI.