Gigant AI ujawnia listę zagrożeń. Eksperci mówią o historycznym momencie - Business Insider Polska
Firma Anthropic przygotowując się do debiutu giełdowego, w swoim prospekcie emisyjnym wymieniła ryzyka związane z rozwojem sztucznej inteligencji, w tym te o charakterze egzystencjalnym.
Anthropic, jeden z gigantów w dziedzinie rozwoju sztucznej inteligencji, przygotowuje się do debiutu giełdowego. W swoim prospekcie emisyjnym firma wymieniła szereg ryzyk związanych z rozwojem AI, w tym te określane jako „egzystencjalne”. Analitycy szacują, że po wejściu na giełdę wartość firmy może wynieść od 1 do 1,8-2 bilionów dolarów.
Wartość 2 biliony dolarów uczyniłaby ofertę rekordową w historii, bijąc dotychczasowy rekord SpaceX Elona Muska, który również działa w branży AI, ale tylko w jednej trzeciej. Pozostałe dwie trzecie SpaceX to kosmos i telefonia satelitarna.
Finanse firmy
Jeszcze w 2023 roku firma miała zaledwie 43 mln dolarów obrotu. Strata operacyjna zmniejszyła się do 693 mln dolarów z 2,1 mld dolarów rok wcześniej.
Strata netto wyniosła jednak 80,7 mld dolarów, prawie siedmiokrotnie więcej niż rok wcześniej (13 mld dolarów). Stało się to głównie za sprawą kosztów finansowych, w tym odpisu na wartość posiadanych obligacji zamiennych i zobowiązań w derywatach.
Zagrożenia ze strony AI
W swoim prospekcie Anthropic przedstawił dziewięć głównych zagrożeń związanych z rozwojem sztucznej inteligencji. Firma ostrzega, że AI może zostać wykorzystana do opracowywania broni, prowadzenia cyberataków, tworzenia oszustw i kampanii dezinformacyjnych oraz generowania fałszywych treści.
Anthropic przyznaje, że nie jest w stanie przewidzieć ani zablokować wszystkich możliwych sposobów nadużycia modeli. Nawet zaawansowane systemy nadzoru mogą zawieść, a modele mogą wykazywać nieoczekiwane zachowania, w tym autonomię, zdolność wpływania na decyzje ludzi czy zachowania strategiczne.
Modele już obecnie potrafią wykazywać zachowania przypominające ukrywanie informacji, manipulację czy próby zachowania dostępu do zasobów niezbędnych do działania.
Ryzyko egzystencjalne
Najbardziej uderzającym fragmentem prospektu jest ostrzeżenie przed katastrofalnymi lub egzystencjalnymi skutkami AI. Firma przyznaje, że część badaczy uważa, że zaawansowane systemy AI mogą stanowić zagrożenie dla ludzkości, szczególnie jeśli zostaną wykorzystane przez podmioty o złych intencjach.
Anthropic zwraca uwagę na problem sprzężenia zwrotnego, w którym AI pomaga w tworzeniu jeszcze bardziej zaawansowanych systemów AI. Może to doprowadzić do sytuacji, w której tempo postępu technologicznego przewyższy możliwości skutecznej oceny ryzyk.
Firma wskazuje również na konflikt między bezpieczeństwem a biznesem oraz obawy społeczne, które mogą prowadzić do regulacji ograniczających rozwój AI. Anthropic uważa, że nawet pojedyncze incydenty związane z bezpieczeństwem mogą wywołać reakcję polityczną wpływającą na cały sektor.
Powiązane
