AI może obrócić się przeciwko firmie. Wystarczy jedna sprytna instrukcja
Źle zabezpieczony czatbot AI może zostać wykorzystany do działań na niekorzyść firmy, np. ujawnienia danych lub usunięcia plików, co prowadzi do strat finansowych.
Chodzi o tzw. atak Prompt Injection, który może szczególnie dotyczyć czatbotów wykorzystywanych w wewnętrznej komunikacji firm oraz w kontaktach z klientami. Atakujący może wprowadzić w polu tekstowym specjalnie sformułowaną komendę, która nakłoni system AI do zignorowania systemowych zasad i wykonania nowego polecenia.
Rosnące zagrożenie
Zagrożenie rośnie, gdy czatbot ma dostęp do firmowych plików, poczty, kalendarza lub innych wrażliwych zasobów. W takich przypadkach atakujący może spróbować skłonić system np. do usunięcia plików lub ujawnienia danych objętych tajemnicą przedsiębiorstwa.
Zagrożenie rośnie, gdy czatbot ma dostęp do firmowych plików, poczty, kalendarza lub innych wrażliwych zasobów - zaznaczył Szurek.
Bezpieczeństwo w firmie
Ekspert zwrócił uwagę na problem używania w miejscu pracy prywatnych i darmowych narzędzi AI. Firmy nie powinny zakładać, że pracownicy z takich rozwiązań nie korzystają, lecz zapewnić im bezpieczne narzędzia firmowe.
Sztuczna inteligencja pozwala osobom bez doświadczenia programistycznego szybko budować proste aplikacje i łączyć je z firmowymi zasobami. Zabezpieczenie takiej aplikacji wymaga już jednak większej wiedzy.
Przy wdrażaniu narzędzi AI w firmie ważne jest zabezpieczenie ich na wielu poziomach. Czatbot powinien przekazywać pracownikom wyłącznie te informacje, do których dana osoba ma bezpośrednie uprawnienia.
Powiązane
