Niezależna kontrola Anthropic musi spełnić warunki. Noblista wśród sygnatariuszy listu

Specjaliści z Faculty będą mogli obserwować modele Anthropic jeszcze podczas trenowania, sprawdzać zabezpieczenia przed udostępnieniem produktu użytkownikom oraz rozmawiać z pracownikami firmy. Zewnętrzni badacze uzyskają dostęp zbliżony do tego, którym dysponują zespoły producenta.

Dotąd o tym, co zewnętrzni badacze mogą zobaczyć od środka, decydowała wyłącznie sama firma. Anthropic otwiera więc laboratorium, lecz nadal sam określa warunki dostępu.

Potrzeba takiej kontroli nie budzi większych wątpliwości. Krótka rozmowa w oknie czatu niewiele mówi o tym, jak zaawansowany model zachowa się w tysiącu innych sytuacji.

Ograniczony dostęp

Zewnętrzny badacz potrzebuje dokumentacji, odpowiednich narzędzi i wsparcia osób, które znają system od środka. Im szerszy jest jednak ten dostęp, tym więcej zależy od tego, czy kontroler może działać wbrew interesom firmy, która mu płaci i współpracuje z jego właścicielem.