Model Anthropic ominął zabezpieczenie. Chodzi o wybory
Model językowy Claude od firmy Anthropic uzyskał nieautoryzowany dostęp do publicznych danych wyborczych z Georgii. Incydent potwierdziła reprezentantka firmy.
Do incydentu doszło podczas wewnętrznego projektu statystycznego prowadzonego przez firmę Anthropic. Claude pobrał zbiorcze dane o liczbie głosów, które władze Georgii udostępniają publicznie za opłatą.
Jak przekazał portalowi Axios rzecznik Anthropic, model zrobił to bez polecenia człowieka. System samodzielnie wystąpił o token, czyli cyfrowy klucz umożliwiający pobranie informacji z panelu z płatnymi danymi, w ten sposób ominął ograniczenie dostępu.
Firma zapewniła, że Claude nie uzyskał dostępu do stanowego systemu rejestracji wyborców. Model nie pobrał również ani nie zmodyfikował indywidualnych danych dotyczących głosowania.
Po wykryciu incydentu wprowadzono zabezpieczenia, które mają uniemożliwić modelowi podejmowanie podobnych działań bez odpowiedniego polecenia.
Powiadomienie administracji USA
Według informatora Axios zaznajomionego ze sprawą Anthropic powiadomił o zdarzeniu biuro sekretarza stanu Georgii oraz Biały Dom kilka tygodni wcześniej.
Przedstawiciele amerykańskiej administracji mieli następnie naciskać na władze Georgii, aby szybciej poinformowały opinię publiczną o incydencie. Według źródła Axios apele te nie przyniosły rezultatu.
Kontekst wyborczy
Sprawa pojawiła się przed zbliżającymi się wyborami środka kadencji w Stanach Zjednoczonych. Axios zwraca uwagę, że incydent może nasilić obawy dotyczące bezpieczeństwa systemów sztucznej inteligencji i kontroli nad działaniami podejmowanymi przez agentów AI.
Portal przypomina, że Anthropic i OpenAI informowały wcześniej o przypadkach, w których agenci AI podejmowali nieautoryzowane lub niezamierzone działania. Według Axios Anthropic znajdował się również pod presją amerykańskiej administracji w związku z zarzutami dotyczącymi niewystarczającego informowania o incydentach związanych ze sztuczną inteligencją.
Powiązane
