Sztuczna inteligencja stała się nieodłącznym elementem wielu rozwiązań biznesowych. AI ułatwia analizę danych, usprawnia automatyzację procesów, a asystenci tacy jak Microsoft 365 Copilot obiecują rewolucję w efektywności pracy biurowej. Jednak tam, gdzie są nowe technologie, pojawiają się nowe zagrożenia.
Najnowszym tego przykładem jest ujawniona właśnie krytyczna podatność zero-click w popularnym rozwiązaniu Microsoftu. W ostatnich latach AI zyskała popularność ze względu na zdolność do szybkiego analizowania ogromnych ilości danych, przewidywania wyników oraz automatyzowania rutynowych zadań. Rozwiązania AI przyciągają także cyberprzestępców, którzy dostrzegają w nich nowe możliwości ataków. Organizacje powinny być świadome tego, jak nowe technologie wpływają na bezpieczeństwo i wdrażać odpowiednie strategie ochrony, aby unikać potencjalnych zagrożeń związanych z cyberprzestępczością wykorzystującą AI.
Copilot na celowniku: jak wyglądał atak zero-click?
Atak nazwany EchoLeak, ujawniony przez AIM Labs, dotyczy aplikacji Microsoft 365 Copilot – rozwiązania integrującego GPT-4 z usługami Microsoftu, jak Outlook czy Teams. To, co szczególnie przeraża w tej podatności, to jej charakter typu zero-click – użytkownik nie musiał nawet kliknąć w link ani pobrać złośliwego pliku, by jego dane zaczęły wyciekać. W dobie cyfryzacji, kiedy większość danych firmowych przetwarzana jest elektronicznie, podatności typu zero-click stają się niezwykle niebezpieczne, ponieważ ofiara może nawet nie być świadoma, że doszło do naruszenia. Ponieważ Copilot jest zintegrowany bezpośrednio z kluczowymi aplikacjami biznesowymi, potencjalny atak mógł mieć ogromny zasięg, dotykając wielu działów i pracowników jednocześnie. Firmy korzystające z takich rozwiązań powinny jak najszybciej wdrożyć mechanizmy monitorowania i reagowania, które wykryją i zatrzymają podejrzane działania w czasie rzeczywistym.
Pod maską ataku: techniczne szczegóły podatności EchoLeak
Podatność EchoLeak opierała się na błędnym przetwarzaniu informacji przez Copilota. Specyficzne instrukcje w polach nagłówków MIME wiadomości e-mail były interpretowane przez model AI jako polecenia do synchronizacji treści z zewnętrznym serwerem. W praktyce, Copilot traktował ukryte komendy jak standardową operację, kopiując i przekazując dane na zewnątrz, bez jakiejkolwiek autoryzacji. Technicznie rzecz biorąc, podatność była możliwa ze względu na niedokładności w analizie metadanych, które były błędnie interpretowane przez model AI. Błędy te są wynikiem zbyt szerokich uprawnień, które Copilot posiadał w kontekście automatycznego przetwarzania informacji. Dodatkowo brak odpowiednich mechanizmów weryfikacyjnych i filtrujących pozwalał atakującym na bezproblemowe przenikanie zabezpieczeń i realizację złośliwych działań. Microsoft musiał szybko interweniować, aby załatać tę lukę, ale skuteczna ochrona danych wymaga systematycznej kontroli bezpieczeństwa AI i dostosowania konfiguracji do zmieniających się zagrożeń.
Co na to eksperci?
Patryk Budkowski , Cybersecurity Researcher z zespołu Cybersec AI SNOK , komentuje:
„EchoLeak to książkowy przykład tego, jak złożone rozwiązania AI mogą stać się wektorem ataku bez żadnej akcji użytkownika. Microsoft 365 Copilot pokazał, że zaawansowana automatyzacja procesów biznesowych wymaga równie zaawansowanej ochrony. W naszym laboratorium SNOK stale analizujemy tego typu podatności, aby dostarczać klientom rzetelne informacje i rozwiązania zwiększające bezpieczeństwo w erze AI. Kluczowe jest zrozumienie tego, jak działają mechanizmy AI oraz jakie mają uprawnienia. Tylko wtedy możemy świadomie wdrażać zabezpieczenia i minimalizować ryzyko wykorzystania AI jako narzędzia ataku.”
SNOK – eksperci w ochronie AI
SNOK to firma specjalizująca się w zabezpieczaniu środowisk IT, ze szczególnym naciskiem na technologie sztucznej inteligencji i automatyzacji. Nasz zespół ekspertów z zakresu cyberbezpieczeństwa AI nie tylko na bieżąco analizuje najnowsze zagrożenia, ale także opracowuje dedykowane strategie i rozwiązania, które zapewniają maksymalny poziom ochrony danych klientów. W SNOK wierzymy, że kompleksowe podejście do cyberbezpieczeństwa, obejmujące zarówno audyty, jak i ciągły monitoring zagrożeń, jest kluczem do sukcesu w walce z cyberatakami. Dzięki wdrożeniu modeli on-premise na serwerach klientów, SNOK zapewnia pełną kontrolę nad procesem przetwarzania danych, ograniczając do minimum ryzyko ataków.
Jak chronić swoje dane przed atakami typu EchoLeak?
Incydent z Copilotem pokazuje, jak istotne jest świadome podejście do bezpieczeństwa AI. Wiele firm może zdecydować się na przejście z usług SaaS na modele hostowane on-premise, które oferują pełną kontrolę nad przetwarzaniem danych. SNOK oferuje klientom możliwość wdrożenia modeli sztucznej inteligencji na własnych serwerach, dzięki czemu dane firmowe nie opuszczają zabezpieczonego środowiska IT.