Niektóre zastosowania sztucznej inteligencji w polskich organizacjach są oczywiste – na przykład programiści mogą korzystać z GitHub Copilot do generowania kodu. Jednak wiele innych zastosowań AI jest znacznie trudniejszych do zauważenia. Możesz nie zdawać sobie sprawy, że AI jest już wbudowana w oprogramowanie wykorzystywane do rekrutacji. Jeśli korzystasz z systemu wykrywającego oszustwa w celu identyfikacji podejrzanych transakcji, może on wykorzystywać modele uczenia maszynowego działające w tle.
Problem polega na tym, że nie można skutecznie zarządzać AI, jeśli nie wiadomo, gdzie i w jaki sposób jest ona wykorzystywana.
Czym właściwie jest AI?
W większości organizacji nie istnieje jedna, spójna definicja sztucznej inteligencji. W efekcie system wykorzystujący uczenie maszynowe może być wewnętrznie określany jako „analityka”. Z kolei dostawca oprogramowania może nazywać swój produkt „automatyzacją”, mimo że decyzje są podejmowane przez model AI działający w tle.
Istnieje również AI, która całkowicie wymyka się nadzorowi – i nie chodzi tylko o pracowników korzystających prywatnie z ChatGPT. Twoja organizacja może już korzystać z zatwierdzonego oprogramowania, które wydaje się oparte wyłącznie na regułach, podczas gdy w rzeczywistości wykorzystuje AI. Standardowy spis oprogramowania nie zawsze ujawni taką różnicę.
Jak uzyskać pełny obraz wykorzystania AI?
Organizacje wdrażające sztuczną inteligencję w Polsce powinny najpierw zidentyfikować, gdzie AI jest już wykorzystywana, zanim zdecydują, jak nią zarządzać.
1. Znajdź miejsca, w których AI może być ukryta
Nie ograniczaj się do produktów wyraźnie oznaczonych jako AI. Sprawdź, czy oprogramowanie już wykorzystywane przez Twoje zespoły zawiera funkcje oparte na uczeniu maszynowym lub AI. Przejrzyj dokumentację dostawców, aby sprawdzić, czy do istniejących systemów dodano funkcje AI.
2. Utwórz rejestr AI
Przygotuj wykaz obejmujący:
- systemy wykorzystujące AI,
- sposób ich wykorzystania,
- procesy biznesowe, które od nich zależą.
Uwzględnij zarówno narzędzia zewnętrznych dostawców, jak i systemy opracowane wewnętrznie.
3. Podziel narzędzia AI według poziomu ryzyka
Kategorie będą zależeć od sposobu wykorzystania AI w Twojej organizacji, jednak ogólnie można podzielić systemy według konsekwencji ich błędnego działania.
Wysokie ryzyko
Dotyczy AI, która automatycznie wykonuje działania o istotnych skutkach, np.:
- przetwarza wrażliwe dane klientów lub firmy,
- podejmuje decyzje finansowe,
- wpływa na procesy rekrutacyjne,
- zmienia ustawienia bezpieczeństwa lub wykonuje działania związane z cyberbezpieczeństwem.
Średnie ryzyko
Obejmuje AI wykorzystywaną wewnętrznie (niepublicznie) do podsumowywania spotkań lub analizowania danych operacyjnych, które nie są poufne. Do tej kategorii można również zaliczyć AI wspierającą tworzenie kodu, który przed wdrożeniem jest weryfikowany przez programistę.
Niskie ryzyko
AI wykorzystywana do burzy mózgów, generowania pomysłów lub podstawowych wyszukiwań informacji w internecie.
4. Wprowadź zabezpieczenia odpowiednie do poziomu ryzyka
W przypadku AI wysokiego ryzyka wymagaj zatwierdzenia przez człowieka przed wykonaniem działań o istotnych konsekwencjach.
Dla AI średniego ryzyka wdroż mechanizmy zapobiegania wyciekom danych (Data Loss Prevention) oraz regularnie sprawdzaj poprawność generowanych wyników.
W przypadku AI niskiego ryzyka warto opracować i opublikować wytyczne dotyczące dopuszczalnego korzystania z AI.
Możemy pomóc
Jeśli Twoja firma wdraża sztuczną inteligencję w Polsce, zespół CA pomoże zidentyfikować, gdzie AI jest już wykorzystywana, oraz ocenić związane z nią ryzyka. Skontaktuj się z naszym zespołem.
