Dlaczego Biały Dom zajmuje się atakami z użyciem sztucznej inteligencji
Sztuczna inteligencja może wspierać obronę sieci, ale może też obniżać koszt przygotowywania prób oszustw, wyszukiwania luk w oprogramowaniu i automatyzowania kolejnych etapów ataku. Właśnie ten drugi obszar był przedmiotem rozmów grupy doradczej administracji USA. Według przedstawiciela Białego Domu uczestnicy omawiali mechanizmy zachęcające organizacje do przekazywania informacji o incydentach, zamiast ukrywania problemów w obawie przed konsekwencjami prawnymi.
Najważniejszym wyróżnikiem nowej dyskusji jest zakres podmiotów, których miałoby to dotyczyć. Nie chodzi tylko o twórców modeli językowych, lecz również o przedsiębiorstwa i instytucje, których systemy obsługują krytyczne usługi. W sieci energetycznej uszkodzenie systemu sterowania może mieć inne skutki niż wyciek dokumentów w zwykłej firmie. W bankowości zdarzenie może dotyczyć ciągłości rozliczeń, a w ratownictwie dostępności narzędzi potrzebnych do pracy w sytuacji zagrożenia życia.
Co rzeczywiście omawiano na spotkaniu
Emil Michael, odpowiadający za technologię w Departamencie Obrony i pełniący funkcję wiceprzewodniczącego zespołu, przedstawił postępy rozmów o krajowych standardach zgłaszania zdarzeń związanych z bezpieczeństwem AI. Według komunikatu administracji dyskutowano również o tym, jak umożliwić operatorom infrastruktury krytycznej ujawnianie podatności oraz informacji o atakach bez obawy, że sama współpraca narazi ich na nieuzasadnione roszczenia.
Ważne jest rozróżnienie między propozycją standardu a obowiązującym przepisem. Spotkanie zespołu doradczego nie jest głosowaniem Kongresu ani przyjęciem rozporządzenia. Nie ma podstaw, aby ogłaszać nowy termin zgłaszania wszystkich ataków, konkretną wysokość kar lub gotowy formularz dla przedsiębiorców. Rzecznik administracji mówił o zachętach do ujawniania zagrożeń, nie o przyjętym katalogu sankcji. To różnica ważna dla operatorów infrastruktury krytycznej, którzy planują procedury zgodności z prawem. Takie elementy wymagałyby odrębnego aktu prawnego albo formalnej decyzji właściwego organu.
Infrastruktura krytyczna - praktyczne znaczenie
To usługi i systemy kluczowe dla funkcjonowania państwa i gospodarki, między innymi energia, bankowość oraz reagowanie kryzysowe. W takich sektorach incydent informatyczny może szybko przestać być jedynie problemem technicznym.
Gdzie przebiega granica między luką w modelu a cyberatakiem
Nie każde nieprzewidziane zachowanie systemu AI jest próbą włamania. Program może wygenerować błędną odpowiedź lub wykonać zadanie niezgodnie z intencją użytkownika z powodu wadliwych ustawień. O ataku można mówić wtedy, gdy pojawia się działanie nakierowane na naruszenie bezpieczeństwa, na przykład wykorzystanie uprawnień bez zgody właściciela systemu. Takie rozróżnienie jest niezbędne przy tworzeniu zasad raportowania: w przeciwnym razie firmy mogłyby przekazywać ogromną liczbę mało przydatnych zgłoszeń, utrudniając identyfikację naprawdę niebezpiecznych incydentów.
Zabezpieczenie infrastruktury wymaga także współpracy wielu podmiotów. Producent modelu może znać sposób działania oprogramowania, ale operator sieci energetycznej lepiej rozumie własne procesy i skutki ewentualnego przestoju. Zgłoszenie użyteczne dla obrony powinno odróżniać wykrytą podatność, faktyczną próbę wykorzystania oraz skutki dla usług. Nie wymaga to automatycznego publicznego ujawniania haseł, danych klientów ani szczegółów ułatwiających ponowny atak. Organ państwowy odpowiada natomiast za wymianę ostrzeżeń i koordynację w sytuacjach przekraczających granice jednej firmy. Celem rozmów jest znalezienie zasad, które umożliwią przepływ informacji bez publikowania wrażliwych szczegółów ataku.
Praktyczne znaczenie odporności administracji uwidocznił cyberatak na berlińskie urzędy. Tamte zdarzenia nie były potwierdzonym przykładem wykorzystania autonomicznego AI, ale wskazywały na ryzyko dla systemów instytucji publicznych.
Inny sektor pokazuje sprawa oskarżeń o cyberatak na sklepy we Francji. Również jej nie wolno przedstawiać jako dowodu na samodzielne działanie sztucznej inteligencji. Oba przypadki pomagają zrozumieć, dlaczego wymiana danych o zagrożeniach może być ważna dla różnych branż.
Ważny termin dla amerykańskich zasad wymiany danych
Jednym z elementów tła jest amerykańska ustawa Cybersecurity Information Sharing Act z 2015 roku. Pozwala ona organizacjom dzielić się określonymi informacjami o cyberzagrożeniach przy zapewnieniu prawnych zabezpieczeń dla dozwolonych działań. Obecnie trwa dyskusja o przyszłości tej regulacji, której obowiązywanie ma wygasnąć w kolejnym miesiącu. To oznacza, że rozmowy o cyberatakach związanych z AI zbiegają się z szerszą debatą o regułach współpracy państwa i sektora prywatnego.
W Europie równolegle rozwija się dyskusja o niezależności technologicznej, o której pisaliśmy przy wypowiedziach kanclerza Niemiec dotyczących AI. Z kolei plany Korei Południowej dotyczące wspólnej ochrony przed cyberatakami pokazują, że problem wymiany informacji nie ogranicza się do Stanów Zjednoczonych. Rozwiązania mogą jednak różnić się pod względem prawa, odpowiedzialności i zakresu obowiązków.
Co będzie rozstrzygające dla przedsiębiorstw
Firmy i instytucje powinny odróżniać zalecenia poprawy zabezpieczeń od obowiązków formalnych. W obecnym stanie sprawy nie opublikowano nowego jednolitego wymogu raportowania ataków z wykorzystaniem AI. Znaczenie będą miały ewentualne projekty prawa, zakres ochrony prawnej zgłaszających, definicja incydentu i instytucja przyjmująca informacje. Dopiero takie szczegóły pozwolą ocenić, czy zmiana rzeczywiście przyspieszy reakcję na zagrożenia bez tworzenia nieproporcjonalnych obciążeń.
Źródła informacji
Reuters, Biały Dom, Departament Obrony USA
