magazine top

Czy dałbyś sztucznej inteligencji dostęp do firmowej poczty i dokumentów? Nowy dylemat ery AI

Wyobraź sobie asystenta, który przed ważnym spotkaniem sam przeszukuje służbową korespondencję, odnajduje ostatnią wersję umowy, sprawdza ustalenia z klientem i przygotowuje podsumowanie. Brzmi jak koniec wielogodzinnego przekopywania się przez dokumenty. Jest jednak pewien szczegół: żeby AI mogła to zrobić, musi otrzymać dostęp do informacji, których firma zazwyczaj pilnie strzeże. Gdzie kończy się wygoda, a zaczyna ryzyko?

Sztuczna inteligencja dostaje klucze do cyfrowego biura

Jeszcze niedawno korzystanie z generatywnej sztucznej inteligencji polegało przede wszystkim na wpisaniu pytania w oknie czatu. Użytkownik sam decydował, jakie informacje przekazać systemowi. Chciał podsumować dokument? Musiał go wkleić lub załączyć. Potrzebował odpowiedzi dotyczącej projektu? Najpierw samodzielnie zbierał niezbędne materiały.

Rozwój firmowych asystentów i agentów AI zmienia ten model. Dzięki integracjom z pocztą, dyskami sieciowymi, kalendarzami czy systemami CRM narzędzie może wyszukiwać informacje bez konieczności ręcznego dostarczania każdego pliku. Jeżeli otrzyma odpowiednie funkcje i uprawnienia, może również wykonywać określone czynności w połączonych aplikacjach.

To istotna różnica. Chatbot, któremu wklejamy fragment korespondencji, otrzymuje wybrane dane. Asystent połączony z firmowymi systemami może samodzielnie odnajdywać informacje w przyznanym mu zakresie dostępu. Agent wyposażony w dodatkowe narzędzia może pójść krok dalej i podjąć działanie.

Przykładowo pracownik działu sprzedaży może poprosić AI o przygotowanie się do rozmowy z kontrahentem. System wyszuka ostatnie wiadomości, sprawdzi dostępne dokumenty ofertowe i zestawi otwarte sprawy. W odpowiednio skonfigurowanym środowisku agent może też przygotować projekt wiadomości z propozycją kolejnych kroków.

Problem zaczyna się wtedy, gdy technologia otrzymuje więcej uprawnień, niż rzeczywiście potrzebuje. Bo dostęp do dokumentów jest czymś innym niż możliwość ich modyfikowania, a przygotowanie wiadomości nie oznacza jeszcze prawa do jej wysłania.

AI nie musi łamać zabezpieczeń, żeby zobaczyć coś, czego nie powinna

W wielu organizacjach największym problemem może okazać się sposób, w jaki od lat zarządzano dostępem do plików.

Wyobraźmy sobie firmę, w której dokument z informacjami o wynagrodzeniach przez pomyłkę umieszczono w katalogu dostępnym dla znacznie szerszej grupy pracowników, niż planowano. Przez długi czas nikt tego nie zauważa, ponieważ mało kto zagląda do tego folderu.

Po podłączeniu firmowej wyszukiwarki AI sytuacja może się zmienić. Pracownik zadaje pytanie o strukturę kosztów, a system odnajduje dokument, do którego jego konto formalnie ma dostęp.

Nie doszło do włamania. Sztuczna inteligencja nie musiała przełamywać żadnych zabezpieczeń. Wykorzystała istniejące uprawnienia, które od początku były ustawione zbyt szeroko.

To ważna różnica między ochroną przed nieuprawnionym dostępem a kontrolowaniem informacji udostępnionych użytkownikom. Nawet mechanizm poprawnie respektujący firmowe zasady dostępu nie naprawi błędów w tych zasadach.

Dlatego przed połączeniem AI z firmową dokumentacją warto sprawdzić, kto rzeczywiście może otwierać poszczególne zasoby. Szczególnej uwagi wymagają katalogi współdzielone, pliki udostępnione dużym grupom oraz uprawnienia osób, które dawno zmieniły stanowisko.

AI potrafi przyspieszyć wyszukiwanie informacji. Jeśli jednak organizacja ma bałagan w uprawnieniach, może również sprawić, że skutki tego bałaganu staną się bardziej widoczne.

Niebezpieczne polecenie może ukrywać się w zwykłym e-mailu

Istnieje jeszcze inne zagrożenie, którego nie da się wyjaśnić wyłącznie nieprawidłowymi uprawnieniami. To prompt injection, czyli próba wpłynięcia na zachowanie modelu AI za pomocą odpowiednio przygotowanej treści.

W klasycznym ataku cyberprzestępca może próbować wykorzystać lukę w oprogramowaniu. W przypadku prompt injection celem staje się sposób, w jaki model interpretuje informacje.

Załóżmy, że firmowy asystent ma przygotować podsumowanie korespondencji od klientów. W jednej z wiadomości znajduje się fragment sformułowany tak, jakby był instrukcją dla samego asystenta. Zamiast odnosić się do sprawy klienta, nakazuje wykonanie dodatkowej czynności niezwiązanej z zadaniem.

Jeśli system potraktuje tę treść jako wiążące polecenie, może zmienić przygotowywaną odpowiedź, wykorzystać niewłaściwe informacje albo spróbować uruchomić dostępne mu narzędzie. To scenariusz hipotetyczny, ale oparty na rzeczywistym mechanizmie zagrożenia.

Organizacja OWASP, zajmująca się bezpieczeństwem aplikacji, wymienia prompt injection wśród najważniejszych kategorii ryzyka dla systemów wykorzystujących duże modele językowe. Szczególnie problematyczne są tak zwane pośrednie ataki, w których instrukcja pochodzi z zewnętrznego dokumentu, strony internetowej lub wiadomości.

Dlaczego to działa? Model przetwarza zarówno polecenie użytkownika, jak i treść materiałów, na których ma pracować. System bezpieczeństwa musi więc zadbać, aby informacja zawarta w dokumencie nie została uznana za instrukcję o takim samym znaczeniu jak polecenie wydane przez uprawnioną osobę.

Samo zapisanie w konfiguracji, że AI ma ignorować podejrzane instrukcje, nie daje pełnej ochrony. Potrzebne są dodatkowe ograniczenia dostępu, kontrola wykonywanych działań i testowanie systemu na niepożądane zachowania.

Czy cyfrowy asystent naprawdę potrzebuje przycisku „Wyślij”?

Jedną z podstawowych zasad cyberbezpieczeństwa jest przyznawanie minimalnych niezbędnych uprawnień. System powinien móc wykonywać tylko te operacje, które są konieczne do realizacji jego zadania.

W przypadku agentów AI nabiera to szczególnego znaczenia.

Asystent analizujący korespondencję może potrzebować prawa do odczytywania wiadomości. Nie wynika z tego jednak, że musi mieć możliwość wysyłania poczty, usuwania załączników albo zmieniania ustawień konta.

Podobnie agent przygotowujący raport sprzedażowy niekoniecznie potrzebuje uprawnień do edytowania rekordów w CRM. Dostęp do odczytu może w zupełności wystarczyć.

OWASP określa ryzyko wynikające z nadmiernych możliwości i uprawnień agenta terminem excessive agency. Chodzi o sytuację, w której system jest zdolny do wykonania działań wykraczających poza rzeczywistą potrzebę biznesową.

Praktycznym zabezpieczeniem jest rozdzielenie trzech etapów pracy: zebrania informacji, przygotowania propozycji i wykonania działania.

AI może na przykład przeanalizować zgłoszenie klienta, zaproponować odpowiedź i przygotować jej szkic. Ostateczne wysłanie wiadomości może wymagać zatwierdzenia przez pracownika. Podobną zasadę warto zastosować przy zmianach danych finansowych, usuwaniu dokumentów czy przekazywaniu poufnych informacji poza organizację.

Takie rozwiązanie określa się mianem human-in-the-loop, czyli pozostawienia człowieka w procesie decyzyjnym. Nie musi on ręcznie wykonywać każdego zadania, ale zachowuje kontrolę nad czynnościami, których skutki mogą być trudne do odwrócenia.

Czy można korzystać z firmowej AI bez oddawania kontroli nad danymi?

Na rynku rozwijają się platformy zaprojektowane specjalnie do pracy z informacjami przedsiębiorstw. Ich zadaniem jest łączenie możliwości modeli językowych z firmowymi systemami, przy zachowaniu mechanizmów zarządzania tożsamością, uprawnieniami i działaniami agentów.

Przykładem jest Gemini Enterprise app, rozwiązanie Google prezentowane przez FOTC na stronie https://fotc.com/pl/produkty/gemini-enterprise-app/. Platforma umożliwia integrację z narzędziami wykorzystywanymi w organizacjach, między innymi z Google Workspace oraz wybranymi usługami Microsoft, i udostępnia środowisko do korzystania z agentów AI.

W dokumentacji Google opisano mechanizmy kontroli dostępu oparte na tożsamości użytkownika i uprawnieniach do dokumentów źródłowych. Ich celem jest ograniczenie wyników wyszukiwania do informacji, które dana osoba ma prawo zobaczyć. Dostępne są również narzędzia do zarządzania uprawnieniami, monitorowania aktywności oraz konfigurowania etapów wymagających ludzkiej akceptacji.

Nie oznacza to jednak, że wystarczy kupić licencję, aby problem bezpieczeństwa został rozwiązany. Możliwości kontroli zależą między innymi od edycji produktu, rodzaju połączonych systemów oraz sposobu konfiguracji integracji. Istotne jest także prawidłowe odwzorowanie uprawnień użytkowników.

Osobną kwestią pozostaje wykorzystanie danych przez dostawcę AI. Google deklaruje, że dane klientów korzystających z edycji Business, Standard i Plus Gemini Enterprise app nie są wykorzystywane do trenowania jego modeli ani modeli innych klientów.

To istotna informacja, ale warto pamiętać, że niewykorzystywanie danych do trenowania modeli nie oznacza, że informacje nie są przetwarzane podczas wykonywania zapytań.

Przed wdrożeniem trzeba więc ustalić, jakie dane trafiają do usługi, gdzie i jak długo mogą być przechowywane, kto może uzyskać do nich dostęp oraz jakie informacje zapisują mechanizmy monitorowania. W niektórych konfiguracjach dzienniki aktywności mogą zawierać również treści zapytań i odpowiedzi, dlatego same logi wymagają odpowiedniej ochrony.

Należy też zweryfikować warunki umowne, lokalizację przetwarzania i obowiązki wynikające z przepisów o ochronie danych osobowych. Korzystanie z platformy biznesowej nie zapewnia automatycznie zgodności z RODO.

Zanim AI dostanie dostęp do całej firmy, warto przeprowadzić próbę

Najbezpieczniejszym sposobem rozpoczęcia pracy z firmowymi agentami AI nie musi być udostępnienie im wszystkich narzędzi jednocześnie.

Rozsądniejszy scenariusz to niewielki projekt pilotażowy. Organizacja wybiera jeden proces, na przykład wyszukiwanie informacji w dokumentacji produktowej, i ograniczoną grupę użytkowników. Następnie określa, które źródła danych są niezbędne i jakie czynności system może wykonywać.

Pierwszy etap może polegać wyłącznie na odczytywaniu informacji. Dopiero po sprawdzeniu poprawności odpowiedzi i działania zabezpieczeń warto rozważyć bardziej zaawansowaną automatyzację.

Ważne są także testy wykraczające poza sprawdzenie, czy AI potrafi odpowiedzieć na właściwie zadane pytanie.

Czy pracownik działu marketingu zobaczy informacje zastrzeżone dla finansów? Co zrobi asystent, gdy w dokumencie znajdzie polecenie sprzeczne z zadaniem? Czy agent spróbuje wykonać operację, do której nie powinien mieć uprawnień? Czy administrator będzie w stanie ustalić, jakie działania podjęto?

Takie testy pozwalają sprawdzić nie tylko użyteczność technologii, lecz także jej zachowanie w sytuacjach niepożądanych.

Równie ważna jest możliwość cofnięcia dostępu i zatrzymania automatyzacji. Jeżeli organizacja wykryje problem, powinna móc szybko ograniczyć uprawnienia agenta, wyłączyć integrację lub wstrzymać określony proces. Warto przećwiczyć to jeszcze przed szerszym wdrożeniem.

Nie wolno też zapominać o pracownikach. Powinni wiedzieć, jakie dane można udostępniać asystentom, w jakich przypadkach wymagane jest sprawdzenie odpowiedzi i które decyzje muszą pozostać w rękach człowieka.

Najważniejsze pytanie nie brzmi już: „Co potrafi AI?”

Przez ostatnie lata zachwycaliśmy się tym, że sztuczna inteligencja umie pisać, analizować i odpowiadać na coraz trudniejsze pytania. Rozwój agentów przesuwa jednak punkt ciężkości z generowania treści na wykonywanie działań.

A to zmienia zasady gry.

Pracownikowi, który korzysta z AI do poprawienia jednego akapitu, nie trzeba powierzać dostępu do firmowych systemów. Agent mający samodzielnie przygotowywać raporty, analizować korespondencję i obsługiwać procesy biznesowe potrzebuje już określonych uprawnień.

Nie oznacza to, że należy zrezygnować z takich rozwiązań. Oznacza natomiast, że wraz z ich możliwościami musi rozwijać się sposób zarządzania dostępem, odpowiedzialnością i bezpieczeństwem.

W świecie autonomicznych asystentów najważniejsza może okazać się umiejętność udzielenia bardzo precyzyjnej odpowiedzi na pytanie: co sztuczna inteligencja może zrobić w naszym imieniu, a czego nie wolno jej zrobić bez naszej zgody?

fb button

grab my essay banner

logo jooble