Stworzył ChataGPT i alarmował, że AI może zerwać się ze smyczy. "Mamy maksymalnie cztery lata"
Summary
Jared Kaplan, współzałożyciel firmy Anthropic, ostrzega przed możliwością eksplozji inteligencji, jeśli pozwoli się sztucznej inteligencji na samodzielny trening. Kaplan pod koniec zeszłego roku zwrócił uwagę na ryzyko, że modele AI mogą nauczyć się samodzielnie, co może doprowadzić do nieprzewidzianych skutków. W rozmowie z „Guardianem” stwierdził, że moment ten może nastąpić między 2027 a 2030 rokiem. Uważa, że dopuszczenie AI do samodzielnego uczenia jest „ostatecznym ryzykiem” i jednym z najważniejszych, a być może najbardziej przerażających decyzji do podjęcia przez twórców.
Key points
- Jared Kaplan, współzałożyciel Anthropic, w rozmowie z „Guardianem” ostrzega przed eksplozją inteligencji.
- Mówi, że moment, w którym AI może zacząć uczyć się samodzielnie, może nadejść między 2027 a 2030 rokiem.
- Kaplan uważa, że dopuszczenie AI do samodzielnego treningu jest „ostatecznym ryzykiem” i jednym z najważniejszych wyborów do podjęcia.
- Współzałożyciel firmy Anthropic już pod koniec zeszłego roku bił na alarm, że nikt nie wie, co się stanie, jeśli twórcy przełomowych modeli doprowadzą AI do momentu, w którym zacznie uczyć się sama.
Timeline
Jared Kaplan bił na alarm, ostrzegając przed możliwością samodzielnego uczenia się AI.
Mówi, że moment eksplozji inteligencji może nastąpić w tym okresie.
“„poważne ryzyko, że pozwolenie AI na samodzielny trening doprowadzi do eksplozji inteligencji, ale jest to także ostateczne ryzyko i być może najważniejsza albo najbardziej przerażająca decyzja do podjęcia””
Tło
Jared Kaplan jest współzałożycielem firmy Anthropic.
Dlaczego to ważne
Ostrzeżenie to podkreśla znaczenie odpowiedzialnego podejścia do rozwoju zaawansowanych modeli AI.