
AI może zastawić pułapkę na służby. Jeden błąd zmienia obraz przeciwnika
Sztuczna inteligencja w tłumaczeniach może zmieniać znaczenie źródła, tworząc fałszywy obraz przeciwnika.
Sztuczna inteligencja w tłumaczeniach może brzmieć precyzyjnie, a jednocześnie zmieniać znaczenie źródła. Model potrafi usunąć warunek, dopowiedzieć sprawcę, przedstawić zamiar jako wykonane działanie lub dodać treść nieobecną w oryginale. W analizie wywiadowczej taki przekład może stać się podstawą oceny przeciwnika.
AI umożliwia szybkie opracowanie obcojęzycznych dokumentów, komunikatów i rozmów. Analityk może zapoznać się z materiałem w języku, którego nie zna, wyszukiwać wzmianki o osobach i organizacjach oraz wybierać fragmenty do dalszej pracy.
Płynność a wierność
Przekład wymaga wyborów interpretacyjnych. Model musi dobrać postać tekstu docelowego, ale nie ma gwarancji, że jego wybór zachowa wszystkie rozróżnienia istotne dla analityka. Ryzyko pojawia się wtedy, gdy AI rozstrzyga niejasność, której źródło nie rozstrzygało.
Gabriel Fanelli w artykule opublikowanym przez Grey Dynamics omawia takie ryzyka w pracy z arabskim, rosyjskim i mandaryńskim. Posługuje się przykładem dydaktycznym wypowiedzi oznaczającej 'Miałem pojechać z nimi do Libii'. Przekład sugerujący, że podróż rzeczywiście się odbyła, zmieniałby plan w zdarzenie.
Płynność silnie wpływała na przekonanie odbiorców nieznających języka źródłowego o wiarygodności tłumaczenia.
Halucynacje w tłumaczeniu
Szczególnym problemem jest wygenerowanie fragmentu, który nie ma oparcia w materiale wejściowym. W analizie wywiadowczej taki dodatek może zostać potraktowany jako informacja pozyskana ze źródła.
Dopowiedziany sprawca staje się uczestnikiem zdarzenia, zasugerowany związek między organizacjami podstawą analizy powiązań, a wygenerowane wyjaśnienie motywu przesłanką oceny zamiaru.
Rajen Chatterjee i współautorzy w pracy opublikowanej na ACL przedstawiają wielojęzyczny zbiór służący wykrywaniu takich zjawisk. Przy kluczowych ocenach trzeba sprawdzić, czy źródło rzeczywiście zawiera wskazaną osobę, relację, przyczynę lub działanie.
Terminologia i kontekst
AI może poprawnie rozpoznać większość słów, a mimo to błędnie określić charakter opisywanego działania. Dotyczy to zwłaszcza terminów specjalistycznych, skrótów i pojęć, których znaczenie zależy od środowiska wojskowego, politycznego lub przestępczego.
W artykule rumuńskiej Narodowej Akademii Wywiadu 'Mihai Viteazul' porównano sześć narzędzi tłumaczeniowych. Jeden z przykładów pokazuje przekład terminu 'cryptooperation' przez Systran jako szyfrowania, choć fragment dotyczył żołnierzy bez oznaczeń pozwalających ustalić ich przynależność.