Doradztwo w zakresie etyki AI i odpowiedzialnej sztucznej inteligencji
Sztuczna inteligencja może usprawniać usługi, wspierać pracowników i pomagać organizacjom efektywniej wykorzystywać informacje. Może również wpływać na ludzi w sposób, który trudno zauważyć, szczególnie gdy decyzje są automatyzowane lub opierają się na złożonych modelach.
System może działać zgodnie z projektem, a mimo to prowadzić do niesprawiedliwych, trudnych do wyjaśnienia lub nieodpowiednich rezultatów. Odpowiedzialność może także stać się niejasna, gdy pracownik polega na modelu zewnętrznego dostawcy lub wykorzystuje rekomendację AI do wsparcia ważnej decyzji.
Doradztwo CA w zakresie etyki AI i odpowiedzialnej sztucznej inteligencji pomaga uwzględnić szerszy wpływ tej technologii. Przekładamy zasady odpowiedzialnego wykorzystania AI na praktyczne decyzje, zabezpieczenia i sposoby pracy wspierające uczciwość, przejrzystość, rozliczalność, prywatność, bezpieczeństwo oraz rzeczywisty nadzór człowieka.
Dlaczego to ważne
Systemy AI mogą wpływać na klientów, pracowników, kandydatów, pacjentów, dostawców i osoby korzystające z usług publicznych. Wpływ może być bezpośredni, na przykład w formie rekomendacji lub zautomatyzowanej decyzji. Może być także pośredni, gdy system ustala kolejność informacji, zgłoszeń albo spraw przedstawianych człowiekowi do oceny.
Problemy etyczne nie ograniczają się do celowej dyskryminacji lub zastosowań, które są oczywiście szkodliwe. Mogą wynikać z niepełnych danych, niewłaściwych wskaźników, niejasnych wyjaśnień, nadmiernego polegania na automatycznych wynikach albo braku realnej możliwości zakwestionowania decyzji.
Odpowiedzialne podejście do AI pomaga:
Wcześnie rozpoznawać możliwe szkody
Uwzględniać osoby, na które system może wpływać, oraz możliwe skutki wyników niedokładnych, niesprawiedliwych, wprowadzających w błąd lub wykorzystywanych niezgodnie z przeznaczeniem.
Wspierać uczciwe i zrozumiałe decyzje
Sprawdzać, czy odpowiednie osoby są traktowane w spójny sposób oraz czy ważne rezultaty można zrozumieć i zakwestionować.
Utrzymywać rzeczywisty nadzór człowieka
Zapewnić osobom sprawdzającym wyniki AI odpowiednie informacje, wiedzę i uprawnienia do ich zakwestionowania lub zmiany.
Budować zaufanie do usług wspieranych przez AI
Zwiększać pewność pracowników, klientów, partnerów i kadry zarządzającej, że sztuczna inteligencja jest wykorzystywana w odpowiedzialny sposób.
Nasze podejście
Nie traktujemy odpowiedzialnej AI jako listy ogólnych zasad zapisanych w polityce, ale niezwiązanych z rzeczywistymi systemami i decyzjami. Zasady przynoszą wartość tylko wtedy, gdy wpływają na sposób wyboru, projektowania, testowania, zatwierdzania, wykorzystywania, monitorowania i wycofywania AI.
Zaczynamy od osób, procesów biznesowych i decyzji, na które system może wpływać. Analizujemy sposób, w jaki technologia zmieni dotychczasowy proces, kto skorzysta z rozwiązania, kto może ponosić dodatkowe ryzyko i czy planowany poziom automatyzacji jest odpowiedni.
Szczegółowość oceny dostosowujemy do możliwego wpływu. Wewnętrzne narzędzie produktywności może wymagać prostych zasad. System wpływający na zatrudnienie, finanse, opiekę zdrowotną, edukację lub dostęp do ważnych usług wymaga dokładniejszej analizy.
Poznanie przypadku użycia i osób, na które może wpływać
Zaczynamy od wyjaśnienia celu systemu AI, problemu, który ma rozwiązać, oraz decyzji i działań, które będzie wspierać.
Identyfikujemy osoby i grupy korzystające z systemu, reprezentowane w danych, otrzymujące jego wyniki lub odczuwające konsekwencje jego działania. Uwzględniamy również osoby, które nie mają bezpośredniego kontaktu z systemem, ale mogą podlegać wpływowi rekomendacji, klasyfikacji, rankingu albo automatycznego działania.
Analizujemy obecny proces i zmiany wynikające z wprowadzenia AI. Pomaga to ustalić, czy technologia tworzy nowe ryzyko, zwiększa istniejącą nierównowagę lub usuwa ważną możliwość zastosowania ludzkiej oceny.
Jasno dokumentujemy przeznaczenie systemu, oczekiwane korzyści, znane ograniczenia oraz sytuacje, w których nie powinien być wykorzystywany.
Ocena ryzyk etycznych i potencjalnego wpływu
Oceniamy, w jaki sposób system może wpływać na osoby, organizację i pozostałych interesariuszy.
Analiza może obejmować niesprawiedliwe wyniki, pośrednią dyskryminację, niewłaściwe profilowanie, naruszenie prywatności, ograniczoną przejrzystość, błędne informacje, utratę kontroli człowieka, manipulację, wykluczenie, bariery dostępności i nadmierną zależność od automatycznych rekomendacji.
Analizujemy dane, model, wskaźniki skuteczności, użytkowników, interfejsy, dostawców i proces operacyjny. Pozwala to ustalić, czy problem może wynikać z samej technologii, czy ze sposobu, w jaki ludzie interpretują i wykorzystują jej wyniki.
Potencjalny wpływ oceniamy w konkretnym kontekście. Uwzględniamy znaczenie decyzji, możliwą podatność osób na szkodę, skalę wykorzystania, możliwość poprawienia błędu oraz dostępność praktycznej ścieżki zadawania pytań lub kwestionowania wyników.
Określenie zabezpieczeń wspierających odpowiedzialną AI
Przekładamy rozpoznane obawy na praktyczne zabezpieczenia systemu i powiązanego procesu biznesowego.
Mogą one obejmować wyraźniejsze ograniczenia wykorzystania, reprezentatywne testy, kontrole jakości, przeglądy człowieka, wyjaśnienia dla użytkowników, dostępną komunikację, ścieżki odwoławcze, dodatkowe zatwierdzenia, ograniczenia danych, szkolenia pracowników, wymagania wobec dostawców i monitorowanie nietypowych wyników.
Starannie projektujemy nadzór człowieka. Sama obecność pracownika w procesie nie zapewnia rzeczywistej kontroli, jeśli pracownik nie ma wystarczającej ilości czasu, informacji, uprawnień lub pewności, aby zakwestionować wynik modelu.
Określamy więc, co należy sprawdzać, kiedy wynik wymaga zakwestionowania, których decyzji nie wolno w pełni automatyzować oraz jak eskalować przypadki nietypowe lub sporne.
Każde zabezpieczenie przypisujemy do odpowiedzialnego właściciela i łączymy z dowodami potwierdzającymi, że działa ono w praktyce.
Włączenie odpowiedzialnej AI do procesów i przegląd wyników
Pomagamy włączyć odpowiedzialną AI do ładu organizacyjnego, ocen ryzyka, zakupów, rozwoju, zatwierdzania, monitorowania i zarządzania zmianami.
Praktyczne wytyczne i szkolenia pomagają właścicielom biznesowym, programistom, zespołom zakupowym, osobom dokonującym przeglądów oraz użytkownikom zrozumieć ich odpowiedzialność. Zapisy decyzji wyjaśniają, dlaczego system został zatwierdzony, które ograniczenia zaakceptowano i jakie warunki muszą pozostać spełnione.
Po wdrożeniu organizacja powinna monitorować rzeczywiste rezultaty, zamiast polegać wyłącznie na testach przeprowadzonych przed uruchomieniem. Skargi, poprawki, różnice między grupami użytkowników, nietypowe zachowanie, decyzje zmienione przez pracowników oraz incydenty mogą ujawnić problemy, które wcześniej nie były widoczne.
Regularne przeglądy umożliwiają poprawę zabezpieczeń, ograniczenie zastosowania systemu lub ponowne rozważenie całego rozwiązania, gdy dowody wskazują, że oczekiwane korzyści nie uzasadniają już istniejącego ryzyka.
Co wyróżnia CA
Odpowiedzialna AI powiązana z rzeczywistymi decyzjami
Koncentrujemy się na wpływie systemu na ludzi, usługi i procesy biznesowe, zamiast omawiać zasady etyczne wyłącznie w teorii.
Połączenie wielu perspektyw
Łączymy kwestie etyczne z celami biznesowymi, technologią, danymi, bezpieczeństwem, prywatnością, obowiązkami prawnymi, dostępnością i ryzykiem operacyjnym.
Rzeczywisty nadzór człowieka
Pomagamy zapewnić, aby osoby dokonujące przeglądu mogły zrozumieć, zakwestionować, zmienić lub odrzucić wynik AI, gdy jest to konieczne.
Praktyczne i niezależne doradztwo
Nasze zalecenia wynikają z konkretnego przypadku użycia i obowiązków organizacji, a nie z wybranego modelu, platformy lub dostawcy.
Wartość biznesowa
Doradztwo CA w zakresie etyki AI i odpowiedzialnej sztucznej inteligencji pomaga wykorzystywać technologię w sposób wspierający zarówno cele biznesowe, jak i odpowiedzialne wyniki.
Zespoły biznesowe i techniczne otrzymują uporządkowany sposób identyfikowania osób, na które system może wpływać, możliwych szkód i niezbędnych zabezpieczeń. Dzięki temu ważne kwestie można rozwiązać, zanim system zostanie szeroko wdrożony lub stanie się trudny do zmiany.
Jasne wyjaśnienia, rzeczywisty nadzór człowieka i praktyczne ścieżki przeglądu lub odwołania mogą zwiększyć zaufanie klientów, pracowników, partnerów i innych osób, na które system wpływa.
Odpowiedzialne praktyki wspierają również lepsze decyzje biznesowe. Systemy nieodpowiednie, niewiarygodne lub mogące powodować możliwe do uniknięcia szkody można zmienić, zanim organizacja przeznaczy na nie znaczny czas i budżet.
Rezultatem jest bardziej przemyślane wdrażanie AI, jaśniejsza rozliczalność, skuteczniejsza ochrona osób oraz większa pewność, że innowacje są rozwijane zgodnie z wartościami i obowiązkami organizacji.
Następny krok
Odpowiedzialne wykorzystanie AI zaczyna się od zrozumienia nie tylko możliwości systemu, ale również osób, na które może on wpływać, oraz zasadności danego zastosowania.
Skontaktuj się z CA, aby umówić się na wstępną konsultację. Pomożemy ocenić szerszy wpływ systemów AI, rozpoznać ryzyka etyczne i wprowadzić praktyczne zabezpieczenia wspierające uczciwe, przejrzyste oraz odpowiedzialne wykorzystanie sztucznej inteligencji.