Sztuczna inteligencja może analizować duże ilości danych dotyczących bezpieczeństwa szybciej niż jakikolwiek zespół specjalistów. Może rozpoznawać wzorce, grupować powiązane zdarzenia, podsumowywać ustalenia techniczne i proponować priorytety.
Dzięki temu jest przydatna w cyberbezpieczeństwie, gdzie analitycy muszą przetwarzać tysiące alertów, podatności, aktywności użytkowników i zmian w systemach.
Szybkość nie oznacza jednak uprawnienia do podejmowania decyzji.
System wykorzystujący sztuczną inteligencję może oszacować prawdopodobieństwo zagrożenia albo wskazać, która podatność powinna zostać usunięta w pierwszej kolejności. Nie może jednak automatycznie przejąć odpowiedzialności za biznesowe konsekwencje tej decyzji. Może nie znać zależności operacyjnej, zbliżającego się zobowiązania wobec klienta lub rzeczywistych skutków wyłączenia systemu produkcyjnego.
Najważniejsze pytanie nie brzmi zatem, czy wszystkie decyzje dotyczące cyberbezpieczeństwa powinny być podejmowane przez ludzi, czy przez sztuczną inteligencję. Należy raczej ustalić, które decyzje można zautomatyzować, które powinny być wspierane przez AI, a które muszą pozostać pod pełną kontrolą człowieka.
Nie wszystkie decyzje dotyczące cyberbezpieczeństwa są takie same
Określenie „decyzja dotycząca cyberbezpieczeństwa” obejmuje wiele różnych działań.
Niektóre decyzje są podejmowane często, mają charakter techniczny i opierają się na ustalonych regułach. Inne wiążą się z niepewnością, wpływem operacyjnym, zobowiązaniami umownymi albo konsekwencjami finansowymi.
Organizacja może na przykład podjąć decyzję o:
- zablokowaniu podejrzanej wiadomości e-mail,
- wyłączeniu sesji użytkownika,
- odizolowaniu urządzenia końcowego,
- nadaniu priorytetu podatności,
- przesunięciu aktualizacji oprogramowania,
- zaakceptowaniu ryzyka związanego z dostawcą,
- poinformowaniu klienta o incydencie,
- wyłączeniu usługi produkcyjnej,
- inwestycji w nowy środek bezpieczeństwa,
- zaakceptowaniu ryzyka przekraczającego standardowy poziom tolerancji.
Traktowanie wszystkich tych decyzji w taki sam sposób nie byłoby uzasadnione.
Zablokowanie jednoznacznie złośliwego załącznika różni się od zatrzymania linii produkcyjnej. Nadanie priorytetu technicznego nie jest tym samym co zaakceptowanie możliwości przerwania działalności. AI może wspierać każdy z tych procesów, ale zakres jej uprawnień powinien zależeć od możliwych konsekwencji.
Gdzie sztuczna inteligencja sprawdza się najlepiej
Sztuczna inteligencja jest szczególnie przydatna wtedy, gdy podjęcie decyzji wymaga przeanalizowania dużej ilości danych.
Analityk bezpieczeństwa może potrzebować porównania alertów pochodzących z urządzeń końcowych, systemów tożsamości, usług chmurowych, poczty elektronicznej i urządzeń sieciowych. Identyfikacja ważnych powiązań staje się trudna, jeżeli każde narzędzie przedstawia swoje informacje oddzielnie.
AI może pomóc poprzez:
- grupowanie powiązanych alertów,
- identyfikowanie powtarzających się wzorców,
- podsumowywanie dowodów technicznych,
- korelowanie aktywności w różnych systemach,
- wskazywanie nietypowych zachowań,
- porównywanie bieżących zdarzeń z wcześniejszymi incydentami,
- identyfikowanie brakujących informacji,
- proponowanie wstępnego priorytetu,
- przygotowywanie podsumowania przypadku dla analityka.
Ogranicza to czas poświęcany na powtarzalne czynności analityczne.
Celem nie powinno być jednak usunięcie analityka z procesu. Sztuczna inteligencja powinna zapewniać mu lepszy punkt wyjścia do dalszej oceny.
Zamiast ręcznie analizować setki niezależnych zapisów, analityk może skoncentrować się na mniejszej liczbie uporządkowanych przypadków i poświęcić uwagę dowodom wymagającym profesjonalnej oceny.
Gdzie nadal potrzebna jest ludzka ocena
Decyzje dotyczące cyberbezpieczeństwa często wymagają uwzględnienia informacji, do których system AI nie ma dostępu.
Kierownik produkcji może wiedzieć, że określonego systemu nie wolno wyłączać przed realizacją ważnego zamówienia. Prawnik może rozumieć, że incydent uruchamia umowny obowiązek powiadomienia klienta. Właściciel biznesowy może wiedzieć, że aplikacja oznaczona jako niekrytyczna wspiera obecnie kluczowy projekt dla klienta.
Informacje te mogą nie występować w dziennikach technicznych ani na platformach bezpieczeństwa.
Ludzie odpowiadają również za wyważenie sprzecznych interesów. Podatność może być poważna, ale proponowana aktualizacja może stworzyć większe ryzyko operacyjne, jeżeli nie została odpowiednio przetestowana. Dostawca może posiadać niewystarczającą dokumentację bezpieczeństwa, a jednocześnie świadczyć usługę, której nie można szybko zastąpić. Środek bezpieczeństwa może ograniczać cyberryzyko, ale powodować niedopuszczalne opóźnienia w istotnym procesie biznesowym.
AI może przedstawić dowody i możliwe kierunki działania. Nie może jednak samodzielnie zdecydować, jakie konsekwencje biznesowe organizacja powinna zaakceptować.
Różnica między rekomendacją a odpowiedzialnością
To rozróżnienie ma podstawowe znaczenie.
AI może zalecić odizolowanie systemu. Za konsekwencje nadal odpowiada człowiek, jeżeli izolacja doprowadzi do zatrzymania krytycznej usługi.
AI może zalecić zaakceptowanie ryzyka o niskim poziomie. Wyznaczony właściciel ryzyka musi zdecydować, czy jest ono zgodne z poziomem tolerancji i zobowiązaniami organizacji.
AI może zaklasyfikować alert jako fałszywie dodatni. Organizacja musi nadal określić, kto odpowiada za sytuację, w której klasyfikacja okaże się błędna.
Odpowiedzialności nie można przypisać modelowi.
Organizacja korzystająca z modelu pozostaje odpowiedzialna za jego wybór, konfigurację, monitorowanie skuteczności oraz określenie sposobu wykorzystywania wyników.
Każdy ważny proces wspierany przez AI powinien więc określać:
- kto jest właścicielem procesu,
- kto zatwierdza wykorzystanie AI,
- kto sprawdza rekomendacje,
- które działania mogą być realizowane automatycznie,
- które działania wymagają zatwierdzenia przez człowieka,
- jak obsługiwane są wyjątki,
- jak dokumentowane są decyzje,
- jak analizowane są błędne wyniki.
Bez takich zasad sztuczna inteligencja może przyspieszyć działanie, a jednocześnie zmniejszyć przejrzystość odpowiedzialności.
Praktyczny, trzystopniowy model decyzyjny
Organizacja może podzielić decyzje dotyczące cyberbezpieczeństwa wspierane przez AI na trzy poziomy.
Poziom 1: Zautomatyzowane działania operacyjne
Są to działania o ograniczonym wpływie, wykonywane na podstawie jasno określonych warunków.
Przykłady obejmują:
- blokowanie znanego złośliwego adresu internetowego,
- poddanie kwarantannie załącznika odpowiadającego potwierdzonej sygnaturze złośliwego oprogramowania,
- grupowanie zduplikowanych alertów,
- uzupełnianie alertu o informacje dotyczące zasobu i użytkownika,
- automatyczne utworzenie zgłoszenia dla potwierdzonego ustalenia,
- wymaganie dodatkowego uwierzytelnienia po spełnieniu określonych warunków ryzyka.
Również takie działania wymagają kontroli. Organizacja powinna testować automatyzację, monitorować fałszywe alarmy i zapewnić możliwość cofnięcia nieprawidłowej czynności.
Automatyzacja nie może oznaczać braku nadzoru.
Poziom 2: Rekomendacja AI zatwierdzana przez człowieka
Ten poziom jest odpowiedni, gdy decyzja wymaga kontekstu lub może wpłynąć na działalność biznesową.
Przykłady obejmują:
- priorytetyzowanie podatności,
- rekomendowanie izolacji urządzenia,
- proponowanie zmiany poziomu dostępu,
- określanie poziomu krytyczności incydentu,
- rekomendowanie terminu usunięcia problemu,
- wskazywanie dostawcy do dodatkowej oceny,
- rekomendowanie eskalacji zaległego działania.
AI może przygotować dowody i zaproponować sposób postępowania. Wykwalifikowana osoba sprawdza rekomendację, a następnie ją zatwierdza, zmienia albo odrzuca.
Osoba sprawdzająca powinna rozumieć, dlaczego przedstawiono daną rekomendację. Sama ocena punktowa bez uzasadnienia nie jest wystarczająca do podjęcia ważnej decyzji.
Poziom 3: Decyzje biznesowe i dotyczące ryzyka pozostające pod kontrolą człowieka
Niektóre decyzje powinny pozostać pod bezpośrednią kontrolą człowieka.
Obejmuje to:
- akceptację istotnego ryzyka rezydualnego,
- zatrzymanie krytycznych procesów operacyjnych,
- powiadomienie organów nadzorczych, klientów lub partnerów biznesowych,
- zatwierdzenie znaczących inwestycji w bezpieczeństwo,
- zaakceptowanie wyjątków od ważnych polityk,
- kontynuowanie współpracy z dostawcą o wysokim poziomie ryzyka,
- podejmowanie decyzji dotyczących konsekwencji prawnych lub umownych.
AI może wspierać takie decyzje poprzez porządkowanie informacji, porównywanie dostępnych możliwości i przedstawianie wcześniejszych przypadków. Ostateczna decyzja należy jednak do upoważnionej osoby.
Dlaczego rekomendacje AI mogą być błędne
Wynik generowany przez system AI może brzmieć przekonująco nawet wtedy, gdy informacje źródłowe są niewystarczające.
Model może otrzymywać niepełne dane dotyczące zasobów. System może być oznaczony jako niekrytyczny, mimo że jego znaczenie biznesowe uległo zmianie. Dane właściciela systemu mogą być nieaktualne. Środek bezpieczeństwa może być zarejestrowany jako aktywny, mimo że nie działa już skutecznie.
W takich przypadkach sztuczna inteligencja może przedstawić logiczną rekomendację opartą na błędnych informacjach.
Model może również nie rozpoznać nietypowej sytuacji, która nie przypomina wcześniejszych zdarzeń. Incydenty cyberbezpieczeństwa często obejmują niepełne dowody, nowe techniki ataku oraz celowe próby uniknięcia wykrycia.
Nie oznacza to, że AI nie nadaje się do zastosowania w cyberbezpieczeństwie. Oznacza to, że jakość wyników zależy od jakości, znaczenia i kompletności dostępnych informacji.
AI powinna wspierać uporządkowaną analizę, a nie ją zastępować.
Decyzje podejmowane przez ludzi również mogą być błędne
Błędem byłoby omawianie ryzyka związanego z AI przy założeniu, że decyzje podejmowane przez ludzi są zawsze prawidłowe.
Ludzie mogą przeoczyć informacje, działać według utrwalonych schematów, nieprawidłowo ocenić prawdopodobieństwo lub opóźnić konieczne działania. Analitycy pracujący pod presją mogą zbyt szybko zamknąć alert. Kierownicy mogą zaniżyć znaczenie ryzyka technicznego, ponieważ podobny incydent nie wystąpił wcześniej. Zespoły mogą nadawać priorytety według najbardziej stanowczego żądania zamiast faktycznego poziomu narażenia biznesowego.
AI może poprawić spójność, stosując te same kryteria w wielu przypadkach. Może przypominać o pominiętych krokach, wskazywać podobne zdarzenia i zwracać uwagę na decyzje odbiegające od ustalonych wzorców.
Najskuteczniejszym modelem nie jest ani ludzka ocena pozbawiona wsparcia technologicznego, ani AI pozbawiona nadzoru. Jest nim uporządkowane połączenie szybkości maszynowej z odpowiedzialnością człowieka.
Kontekst biznesowy decyduje o jakości wsparcia AI
System AI nie może przedstawiać wartościowych priorytetów, jeżeli otrzymuje wyłącznie informacje techniczne.
Aby prawidłowo wspierać decyzje dotyczące cyberbezpieczeństwa, powinien mieć kontrolowany dostęp do istotnych danych dotyczących:
- krytyczności zasobów,
- procesów biznesowych,
- klasyfikacji informacji,
- poziomu ekspozycji systemów,
- użytkowników i uprawnień uprzywilejowanych,
- znanych podatności,
- istniejących środków bezpieczeństwa,
- dostawców i zależności zewnętrznych,
- wcześniejszych incydentów,
- kryteriów akceptacji ryzyka,
- terminów działań naprawczych,
- odpowiedzialnych właścicieli.
Nie oznacza to, że wszystkie dane organizacji powinny zostać przekazane do jednego modelu. Dostęp musi być ograniczony, nadzorowany i odpowiedni do zamierzonego zastosowania.
Najważniejsza zasada polega na połączeniu informacji technicznych z kontekstem biznesowym. Bez tego powiązania AI będzie jedynie szybciej przetwarzać niepełne dane techniczne.
Wyjaśnienia są szczególnie ważne przy decyzjach o dużym wpływie
Nie każde działanie automatyczne wymaga obszernego uzasadnienia. Jeżeli system grupuje identyczne alerty, wystarczające może być zarejestrowanie zastosowanej reguły i jej wyniku.
Im większy jest potencjalny wpływ decyzji, tym większe znaczenie ma zrozumiałe uzasadnienie.
Osoba rozważająca odizolowanie serwera powinna wiedzieć:
- jaka aktywność spowodowała wydanie rekomendacji,
- które źródła danych zostały wykorzystane,
- jaka jest wiarygodność tych źródeł,
- której usługi biznesowej może dotyczyć decyzja,
- jakie alternatywne działania są dostępne,
- co może się wydarzyć, jeżeli żadne działanie nie zostanie podjęte.
Wyjaśnienie nie musi ujawniać wszystkich wewnętrznych obliczeń modelu. Musi jednak zawierać wystarczające informacje, aby kompetentna osoba mogła podjąć świadomą decyzję.
AI nie powinna stać się kolejnym rozłączonym systemem
Istnieje ryzyko, że organizacje wdrożą sztuczną inteligencję jako dodatkowe, niezależne narzędzie.
Jeżeli asystent AI nie ma dostępu do wiarygodnych danych o zasobach, aktualnych informacji o właścicielach, kryteriów ryzyka lub statusu istniejących środków bezpieczeństwa, może tworzyć atrakcyjnie brzmiące podsumowania bez rzeczywistej poprawy jakości decyzji.
Organizacja może następnie kopiować rekomendacje wygenerowane przez AI do zgłoszeń i arkuszy kalkulacyjnych. Spowoduje to dodanie kolejnego etapu do już rozproszonego procesu.
AI przynosi większą wartość, gdy jest połączona ze zdefiniowanym przepływem pracy.
Rekomendacja powinna prowadzić do wyznaczenia właściciela, podjęcia decyzji, określenia działania, ustalenia terminu i przedstawienia dowodu wykonania. Organizacja powinna również odnotować, czy osoba sprawdzająca zaakceptowała rekomendację, czy ją zmieniła. Informacje te pomagają ocenić, czy wsparcie AI rzeczywiście przynosi korzyści.
Jak mierzyć wpływ AI na decyzje dotyczące cyberbezpieczeństwa
Skuteczności AI nie należy mierzyć liczbą wygenerowanych podsumowań lub automatycznych alertów.
Przydatne mierniki mogą obejmować:
- skrócenie czasu potrzebnego na weryfikację ustaleń,
- ograniczenie liczby zduplikowanych alertów,
- skrócenie czasu działań naprawczych,
- odsetek rekomendacji zaakceptowanych przez osoby sprawdzające,
- liczbę rekomendacji zmienionych lub odrzuconych,
- odsetek wyników fałszywie dodatnich i fałszywie ujemnych,
- liczbę cofniętych działań automatycznych,
- zmniejszenie liczby zaległych działań związanych z bezpieczeństwem,
- spójność procesu ustalania priorytetów,
- opinie analityków i właścicieli ryzyka.
Mierniki te powinny być analizowane w czasie oraz osobno dla różnych rodzajów decyzji.
Model skuteczny w klasyfikowaniu poczty elektronicznej może nie nadawać się do podejmowania decyzji dotyczących ryzyka dostawców. Rekomendacja odpowiednia dla standardowego środowiska biurowego może być niewłaściwa dla systemów produkcyjnych.
Skuteczność należy oceniać w odniesieniu do konkretnego zastosowania.
Pytania przed zastosowaniem AI w podejmowaniu decyzji
Przed wprowadzeniem AI do procesu cyberbezpieczeństwa organizacja powinna odpowiedzieć na kilka praktycznych pytań:
- Jaką konkretną decyzję ma wspierać AI?
- Z jakich informacji będzie korzystać?
- Czy informacje te są kompletne i aktualne?
- Czy rekomendację można zrozumiale wyjaśnić osobie sprawdzającej?
- Jakie byłyby konsekwencje błędnej rekomendacji?
- Które działania mogą być realizowane automatycznie?
- Które działania wymagają zatwierdzenia?
- Kto pozostaje odpowiedzialny za decyzję?
- W jaki sposób będą obsługiwane wyjątki?
- Jak będzie mierzona skuteczność?
- W jaki sposób można cofnąć działanie automatyczne?
- Jak proces będzie kontynuowany, jeżeli usługa AI będzie niedostępna?
Jeżeli organizacja nie potrafi odpowiedzieć na te pytania, proces nie jest gotowy na autonomiczne podejmowanie decyzji.
Właściwy podział zadań
AI dobrze sprawdza się w wyszukiwaniu, porównywaniu, grupowaniu, podsumowywaniu i przygotowywaniu rekomendacji. Ludzie odpowiadają za interpretowanie skutków, wyważanie różnych priorytetów i przyjmowanie odpowiedzialności za podjęte decyzje.
Ten podział nie jest niezmienny. W miarę rozwoju modeli i zdobywania doświadczenia przez organizacje coraz więcej działań o ograniczonym wpływie może być automatyzowanych. Decyzje o dużym znaczeniu powinny jednak nadal podlegać kontroli odpowiedniej do ich możliwych konsekwencji biznesowych, prawnych i operacyjnych.
Celem nie powinno być zastępowanie specjalistów ds. bezpieczeństwa. Należy ograniczać niepotrzebną pracę ręczną i pomagać wykwalifikowanym osobom podejmować lepsze decyzje na podstawie pełniejszych informacji.
Praktyczny model jest prosty:
AI identyfikuje wzorce i przygotowuje rekomendacje. Ludzie zapewniają kontekst, zatwierdzają działania o istotnych konsekwencjach i pozostają odpowiedzialni za podjęte decyzje.
Takie podejście pozwala organizacji korzystać z większej szybkości bez utraty kontroli. Zapewnia także powiązanie cyberbezpieczeństwa z rzeczywistością biznesową, w której decyzje dotyczą pracowników, klientów, działalności operacyjnej, umów i zakresów odpowiedzialności, których nie można ograniczyć do pojedynczej oceny technicznej.
