Zajmował się szkoleniem AI dla giganta technologicznego. Rzuca pracę i alarmuje. "Szczerze wierzą w to, że może nas wszystkich zabić"
Summary
Jacob Coxon, specjalista od szkolenia systemów AI w firmie Anthropic, złożył rezygnację, ostrzegając, że laboratoria AI mogą opracować technologię zdolną do „nas wszystkich zabić” przed końcem dekady. Coxon, który pracował również dla konkurencyjnej firmy OpenAI, wyraża obawy, że obie firmy toczą niebezpieczny wyścig w kierunku tworzenia botów, których nie będą w stanie kontrolować. Uważa, że obaj pracodawcy pędzą na oślep w stronę samodoskonalającej się superinteligencji, igrając z życiem ludzkim.
Key points
- Jacob Coxon zrezygnował ze stanowiska specjalisty ds. szkolenia AI w firmie Anthropic.
- Ekspert ostrzega, że laboratoria AI mogą stworzyć systemy, których nie będą w stanie kontrolować.
- Coxon pracował wcześniej dla konkurencyjnej firmy OpenAI.
- Ostrzega, że superinteligencja może pojawić się przed końcem dekady.
- Uważa, że obaj pracodawcy rywalizują w niebezpiecznym wyścigu.
Timeline
Jacob Coxon złożył rezygnację ze stanowiska w firmie Anthropic.
“Pędzą na oślep w kierunku samodoskonalącej się superinteligencji i igrają z naszym życiem”
Tło
Jacob Coxon specjalizował się w szkoleniu nowych systemów sztucznej inteligencji dla firm Anthropic i OpenAI.
Dlaczego to ważne
Jego rezygnacja i ostrzeżenia podnoszą poważne ryzyko związane z rozwojem niezależnych od człowieka systemów AI.