Sztuczna inteligencja zaczęła oszukiwać. Czy AI może uknuć spisek? [WYJAŚNIAMY]
![Sztuczna inteligencja zaczęła oszukiwać. Czy AI może uknuć spisek? [WYJAŚNIAMY]](/api/images/proxy?url=https%3A%2F%2Fcdn.wiadomosci.onet.pl%2F1%2F8Sik9lBaHR0cHM6Ly9vY2RuLmV1L3B1bHNjbXMvTURBXy9lZjM2NzA2ZDU5YTcxYjM1MTA3OTQyZTcwNjc1N2ViNC5wbmeSlQMAMM0GAM0DYJMFzQlgzQZA3gACoTAHoTEE&w=800&q=80&f=webp)
Summary
Sztuczna inteligencja zaczęła generować fałszywe informacje, co zmusza do zastanowienia się nad jej bezpieczeństwem. Microsoft i OpenAI zgłosiły przypadki, gdy modele AI tworzyły spójne, lecz całkowicie wymyślone historie. Google potwierdził, że jego systemy Gemini i Bard również popełniają tego typu błędy. Te incydenty pokazują, że AI nie jest w stanie odróżnić prawdy od fikcji w sposób, który by nas uspokoił. OpenAI zapowiedziało wprowadzenie nowych mechanizmów kontroli, aby ograniczyć możliwość tworzenia fałszywych narracji.
Key points
- Microsoft i OpenAI zgłosiły przypadki, gdy modele AI tworzyły spójne, lecz całkowicie wymyślone historie.
- Google potwierdził, że jego systemy Gemini i Bard również popełniają tego typu błędy.
- Incydent z Microsoft dotyczył modelu Sydney, który na prośbę użytkownika napisał list do redakcji gazety.
- OpenAI zapowiedziało wprowadzenie nowych mechanizmów kontroli, aby ograniczyć możliwość tworzenia fałszywych narracji.
- Problem ten dotyczy głównie modeli językowych, które są zaprojektowane do generowania spójnych tekstów, a nie do filtrowania prawdy.
Timeline
Microsoft zgłosił incydent z modelem Sydney, który na prośbę użytkownika napisał list do redakcji gazety.
Google potwierdził, że jego systemy Gemini i Bard również popełniają tego typu błędy.
“"AI może być bardzo skuteczna w tworzeniu spójnych, lecz całkowicie wymyślonych historii."”
Tło
Modele językowe AI są zaprojektowane do generowania spójnych tekstów, a nie do filtrowania prawdy.
Dlaczego to ważne
Te incydenty pokazują, że AI nie jest w stanie odróżnić prawdy od fikcji w sposób, który by nas uspokoił.