{"id":4119,"date":"2023-10-23T22:18:58","date_gmt":"2023-10-23T22:18:58","guid":{"rendered":"https:\/\/aplaw.pl\/?p=4119"},"modified":"2023-10-23T22:30:41","modified_gmt":"2023-10-23T22:30:41","slug":"cecha-charakterystyczna-systemow-si-jest-to-ze-ich-dzialanie-opiera-sie-na-duzych-ilosciach-danych-dlatego-znaczna-liczba-zagrozen-moze-zostac-nakierowana-na-zasoby-danych-ataki-na-systemy-sztuczne","status":"publish","type":"post","link":"https:\/\/aplaw.pl\/en\/publications\/cecha-charakterystyczna-systemow-si-jest-to-ze-ich-dzialanie-opiera-sie-na-duzych-ilosciach-danych-dlatego-znaczna-liczba-zagrozen-moze-zostac-nakierowana-na-zasoby-danych-ataki-na-systemy-sztuczne\/","title":{"rendered":"The main characteristic of AI driven systems is the fact that functioning of those systems is based on Big Data. This is the reason why a big number of cyberattacks may be focused on databases. The cyberattacks on AI driven systems can use data files, for example \u201edata poisoning\u201d attack – write Artur Piechocki and Katarzyna Gorzkowska"},"content":{"rendered":"

Wprowadzenie<\/h4>\n

Rozw\u00f3j sztucznej inteligencji (ang. artificial intelligence, w skr\u00f3cie: SI) niesie wiele potencjalnych korzy\u015bci, ale wi\u0105\u017ce si\u0119 tak\u017ce z istotnymi zagro\u017ceniami, takimi jak brak przejrzysto\u015bci czy wyja\u015bnialno\u015bci, jak r\u00f3wnie\u017c podatno\u015bci\u0105 na nowe typy atak\u00f3w. Poniewa\u017c algorytmizacja zada\u0144 wchodzi na wy\u017cszy poziom zaawansowania, rozw\u00f3j autonomicznych narz\u0119dzi mo\u017ce doprowadzi\u0107 do zmniejszenia przejrzysto\u015bci zasad dzia\u0142ania oprogramowania i urz\u0105dze\u0144, kt\u00f3rych funkcjonowanie zosta\u0142o oparte na sztucznej inteligencji. Na brak
\nzrozumienia funkcjonowania SI wp\u0142yw mog\u0105 mie\u0107 r\u00f3wnie\u017c ewentualne zmiany w kodzie lub algorytmach dokonywane przez cyberprzest\u0119pc\u00f3w. Rozw\u00f3j SI powi\u0105zany jest zatem ze wzrostem zagro\u017ce\u0144 dla cyberbezpiecze\u0144stwa. Przest\u0119pcy coraz cz\u0119\u015bciej podejmuj\u0105 pr\u00f3by prze\u0142amania zabezpiecze\u0144 system\u00f3w SI. Konsekwencj\u0119 takich dzia\u0142a\u0144 mo\u017ce stanowi\u0107 manipulowanie danymi, na kt\u00f3rych oparte zosta\u0142o dzia\u0142anie SI, jak r\u00f3wnie\u017c przekszta\u0142cenie
\nsposobu dzia\u0142ania algorytm\u00f3w. Nieuprawniona zmiana zasad funkcjonowania algorytm\u00f3w b\u0119dzie prowadzi\u0142a do podejmowania niew\u0142a\u015bciwych decyzji, co mo\u017ce wyrz\u0105dzi\u0107 szkody u\u017cytkownikom system\u00f3w opartych o SI. Warto zaznaczy\u0107, \u017ce wadliwe dzia\u0142anie SI nara\u017ca nie tylko u\u017cytkownik\u00f3w, lecz
\nr\u00f3wnie\u017c inne osoby, kt\u00f3re znajduj\u0105 si\u0119 w obszarze jej oddzia\u0142ywania, cho\u0107 nie korzystaj\u0105 one z system\u00f3w, w kt\u00f3rych wykorzystano SI, np. systemy wykorzystywane do dostarczania energii elektrycznej. Zatem kr\u0105g os\u00f3b potencjalnie poszkodowanych mo\u017ce okaza\u0107 si\u0119 znacznie szerszy.
\nAktualnie wi\u0119kszo\u015b\u0107 rozwi\u0105za\u0144 SI opiera si\u0119 na uczeniu maszynowym 1 (ang. machine learning, w skr\u00f3cie: ML). Tymczasem eksperci wskazuj\u0105, \u017ce ze wzgl\u0119du na specyfik\u0119 budowy dzia\u0142ania ML, bazuj\u0105ce na niej systemy s\u0105 nara\u017cone na liczne podatno\u015bci, kt\u00f3re wp\u0142ywaj\u0105 na poziom cyberbezpiecze\u0144stwa tych rozwi\u0105za\u0144. W ocenie ekspert\u00f3w nieuniknione
\ns\u0105 sytuacje dokonania b\u0142\u0119dnych prognoz przez systemy SI opieraj\u0105ce si\u0119 na ML. W zwi\u0105zku z powy\u017cszym coraz cz\u0119\u015bciej pojawiaj\u0105 si\u0119 opinie o konieczno\u015bci modyfikowania standard\u00f3w i norm, w celu ich dostosowania do zmieniaj\u0105cych si\u0119 potrzeb. Zapewnieniu cyberbezpiecze\u0144stwa system\u00f3w SI nie sprzyja brak jednolitych regulacji. Tym bardziej pozostawienie tego obszaru do samodzielnej regulacji pa\u0144stwom cz\u0142onkowskim nie doprowadzi\u0142oby do powstania jednolitego poziomu ochrony i skutecznego zapewniania
\nbezpiecze\u0144stwa. Wed\u0142ug Komisji Europejskiej sytuacj\u0119 ma zmieni\u0107 ustanowienie wsp\u00f3lnych ram prawnych na poziomie Unii Europejskiej. W projekcie aktu w sprawie sztucznej inteligencji 5 (w skr\u00f3cie: AI Act) przewidziano obowi\u0105zkowe rozwi\u0105zania, w tym dotycz\u0105ce
\nbezpiecze\u0144stwa cybernetycznego, maj\u0105ce zastosowanie na etapie projektowania\u00a0 rozporz\u0105dzeniu system\u00f3w sztucznej inteligencji, czyli jeszcze przed wprowadzeniem do obrotu takich system\u00f3w. Przepisy maj\u0105 tak\u017ce ustanowi\u0107 podwaliny pod opracowanie zharmonizowanych norm technicznych.<\/p>\n

Cyberbezpiecze\u0144stwo SI<\/h4>\n

Na gruncie prawa Unii Europejskiej cyberbezpiecze\u0144stwo mo\u017cna zdefiniowa\u0107 jako \u201edzia\u0142ania niezb\u0119dne do ochrony sieci i system\u00f3w informatycznych, u\u017cytkownik\u00f3w takich system\u00f3w oraz innych os\u00f3b przed cyberzagro\u017ceniami\u201d , czyli \u201ewszelkimi potencjalnymi okoliczno\u015bciami, zdarzeniami lub dzia\u0142aniami, kt\u00f3re mog\u0105 wyrz\u0105dzi\u0107 szkod\u0119, spowodowa\u0107 zak\u0142\u00f3cenia lub w inny spos\u00f3b niekorzystnie wp\u0142yn\u0105\u0107 w przypadku sieci i system\u00f3w informatycznych, u\u017cytkownik\u00f3w takich system\u00f3w oraz innych os\u00f3b\u201d. W przypadku system\u00f3w SI cyberbezpiecze\u0144stwo odgrywa istotn\u0105 rol\u0119 dla zapewniania odporno\u015bci
\nsystem\u00f3w sztucznej inteligencji przed aktami os\u00f3b trzecich dzia\u0142aj\u0105cych w z\u0142ej wierze, jak pr\u00f3by modyfikacji w tym w zakresie zastosowania, zachowania, skuteczno\u015bci dzia\u0142ania, jak r\u00f3wnie\u017c obej\u015bcia zabezpiecze\u0144. Obecnie mo\u017cna spotka\u0107 si\u0119 z r\u00f3\u017cnymi interpretacjami rozumienia cyberbezpiecze\u0144stwa
\nsystem\u00f3w SI. W w\u0105skim znaczeniu, cyberbezpiecze\u0144stwo sprowadza si\u0119 do dzia\u0142a\u0144 maj\u0105cych stanowi\u0107 ochron\u0119 systemu SI przed atakami na poufno\u015b\u0107, integralno\u015b\u0107 i dost\u0119pno\u015b\u0107 aktyw\u00f3w, tj. komponent\u00f3w SI oraz powi\u0105zanych danych i proces\u00f3w. Przy czym zapewnienie ochrony dotyczy ca\u0142ego cyklu \u017cycia systemu SI, nie tylko etapu jego tworzenia. W szerokim rozumieniu cyberbezpiecze\u0144stwo obejmuje tak\u017ce dzia\u0142ania maj\u0105ce na celu zapewnienie
\nwiarygodno\u015bci systemu SI, w tym jako\u015bci danych, nadzoru, solidno\u015bci, dok\u0142adno\u015bci, wyja\u015bnialno\u015bci, przejrzysto\u015bci i identyfikowalno\u015bci.
\nCech\u0105 charakterystyczn\u0105 system\u00f3w SI jest to, \u017ce ich dzia\u0142anie opiera si\u0119 na du\u017cych ilo\u015bciach danych. Dlatego znaczna liczba zagro\u017ce\u0144 mo\u017ce zosta\u0107 nakierowana na zasoby danych. Ataki na systemy sztucznej inteligencji mog\u0105 polega\u0107 na wykorzystaniu poszczeg\u00f3lnych zasob\u00f3w, np. zbior\u00f3w danych treningowych (przyk\u0142adowo atak \u201edata poisoning\u201d). Ataki mog\u0105 tak\u017ce
\ndotyczy\u0107 samych modeli. Przyk\u0142adowo atak mo\u017ce polega\u0107 na wprowadzeniu do modelu z\u0142o\u015bliwych danych w celu spowodowania dzia\u0142ania systemu innego ni\u017c zamierzony przez jego sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniaj\u0105ce niekt\u00f3re akty ustawodawcze Unii.
\nPrzest\u0119pcy mog\u0105 tak\u017ce pr\u00f3bowa\u0107 wykorzysta\u0107 podatno\u015bci w zasobach cyfrowych systemu sztucznej inteligencji lub w ca\u0142ej infrastrukturze stanowi\u0105cej podwaliny danego systemu SI. Aby zapewni\u0107 odpowiedni do ryzyka poziom cyberbezpiecze\u0144stwa, dostawcy system\u00f3w sztucznej inteligencji powinni wdro\u017cy\u0107 adekwatne \u015brodki, uwzgl\u0119dniaj\u0105ce
\ninfrastruktur\u0119 ICT, na kt\u00f3rej opiera si\u0119 dany system. Zapewnienie stosownych \u015brodk\u00f3w ma znaczenie zw\u0142aszcza w przypadku system\u00f3w SI wysokiego ryzyka. Warto zaznaczy\u0107, \u017ce obecnie dominuj\u0105 techniki ML, kt\u00f3re s\u0105 nara\u017cone na liczne podatno\u015bci.
\nTrudno jest kontrolowa\u0107 jako\u015b\u0107 danych wykorzystanych w ramach ML. R\u0119czne
\nkontrolowanie danych w takich sytuacjach jest niemo\u017cliwe do wykonania. Postulowane jest w takiej sytuacji wdro\u017cenie procedur \u015bledzenia obiegu danych lub procedur sprzyjaj\u0105cych zapewnieniu jako\u015bci danych. Takie rozwi\u0105zania powinny zosta\u0107 wprowadzone w celu zapewnienia, \u017ce wykorzystywane dane nie zawieraj\u0105 b\u0142\u0119d\u00f3w, jak r\u00f3wnie\u017c nie zosta\u0142y celowo
\nzmienione, czy nie zosta\u0142y celowo lub nieumy\u015blnie b\u0142\u0119dnie oznakowane. Niestety nie ma unikalnej strategii kontroli bezpiecze\u0144stwa w celu ochrony algorytm\u00f3w uczenia maszynowego. Obecnie stosowane metody nie zosta\u0142y wystarczaj\u0105co zweryfikowane, ani ustandaryzowane pod wzgl\u0119dem tego, jak powinny by\u0107 wdra\u017cane. W zwi\u0105zku z czym rodzaje ryzyka i zagro\u017ce\u0144 zwi\u0105zanych z systemami SI nale\u017cy ustali\u0107 na podstawie indywidualnego podej\u015bcia, uwzgl\u0119dniaj\u0105c specyfik\u0119 ka\u017cdego sektora i danego przypadku.
\nPrzy kalkulowaniu ryzyka istotne jest uwzgl\u0119dnienie wp\u0142ywu systemu SI na prawa podstawowe i bezpiecze\u0144stwo. Systemy SI mog\u0105 mie\u0107 zastosowanie w wielu r\u00f3\u017cnych dziedzinach, dlatego identyfikacja zagro\u017ce\u0144 dla bezpiecze\u0144stwa cybernetycznego oraz okre\u015blenie stosownych wymaga\u0144 dla bezpiecze\u0144stwa powinny bazowa\u0107 na analizie dostosowanej dla danego systemu oraz, w razie potrzeby, na normach sektorowych, kt\u00f3re powinny mie\u0107 charakter horyzontalny, jak r\u00f3wnie\u017c by\u0107 dostosowane do specyfiki SI.<\/p>\n

Podej\u015bcie oparte na ryzyku<\/h4>\n

Regulacje odnosz\u0105ce si\u0119 do cyberbezpiecze\u0144stwa okre\u015blaj\u0105 trzy poziomy pewno\u015bci (podstawowy, znaczny, wysoki), kt\u00f3re s\u0105 wsp\u00f3\u0142mierne do poziomu ryzyka zwi\u0105zanego z zamierzonym wykorzystaniem produktu, us\u0142ugi, procesu ICT. Pojawiaj\u0105 si\u0119 stanowiska o konieczno\u015bci zweryfikowania, czy i jak te poziomy zapewnienia mog\u0105 mie\u0107 zastosowanie w przypadku system\u00f3w SI i projektu AI Act. Rozwi\u0105zania zaproponowane w AI Act r\u00f3wnie\u017c uwzgl\u0119dniaj\u0105 podej\u015bcie oparte na ryzyku w celu okre\u015blenia, czy system AI jest obarczony wysokim ryzykiem w zakresie wp\u0142ywu jego zastosowania na zdrowie, bezpiecze\u0144stwo i prawa podstawowe. Jest to odmienne podej\u015bcie, kt\u00f3re r\u00f3\u017cni si\u0119 od podej\u015bcia opartego na ryzyku cybernetycznym rozumianym jako funkcja negatywnych skutk\u00f3w cyberzagro\u017ce\u0144 i prawdopodobie\u0144stwa ich wyst\u0105pienia.
\nPodczas weryfikowania systemu SI pod k\u0105tem uznania za system wysokiego ryzyka zasadnicze znaczenie ma rozmiar szkodliwego wp\u0142ywu wywieranego na prawa podstawowe chronione na mocy Karty praw podstawowych. W\u015br\u00f3d tych praw znajduj\u0105 si\u0119: prawo do godno\u015bci cz\u0142owieka, poszanowanie \u017cycia prywatnego i rodzinnego, ochrona danych osobowych, wolno\u015b\u0107 wypowiedzi i informacji, wolno\u015b\u0107 zgromadzania si\u0119 i stowarzyszania si\u0119 oraz niedyskryminacja, ochrona konsument\u00f3w, prawa pracownicze, prawa os\u00f3b niepe\u0142nosprawnych, prawo do skutecznego \u015brodka prawnego i dost\u0119pu do bezstronnego s\u0105du, prawo do obrony i domniemania niewinno\u015bci, prawo do dobrej administracji.
\nProjekt rozporz\u0105dzenia przewiduje, \u017ce cyberbezpiecze\u0144stwo system\u00f3w SI r\u00f3wnie\u017c b\u0119dzie wymogiem, jednak\u017ce maj\u0105cym zastosowanie dopiero po zakwalifikowaniu systemu jako systemu SI wysokiego ryzyka. Zgodnie z projektowanymi przepisami tylko systemy wysokiego ryzyka b\u0119d\u0105 podlega\u0142y wymogowi zapewnienia bezpiecze\u0144stwa cybernetycznego. W motywie AI Act wskazano na konieczno\u015b\u0107 zapewnienia poziomu cyberbezpiecze\u0144stwa
\nodpowiedniego do ryzyka. Dlatego dostawcy system\u00f3w AI wysokiego ryzyka powinni przedsi\u0119wzi\u0105\u0107 nale\u017cyte \u015brodki, uwzgl\u0119dniaj\u0105ce r\u00f3wnie\u017c bazow\u0105 infrastruktur\u0119 ICT. W propozycji art. 15 ust. 1 AI Act przewidziano, \u017ce systemy sztucznej inteligencji wysokiego ryzyka powinny by\u0107 projektowane i opracowywane w spos\u00f3b zapewniaj\u0105cy odpowiedni poziom dok\u0142adno\u015bci, solidno\u015bci i cyberbezpiecze\u0144stwa. Przes\u0142anki te maj\u0105 zastosowanie do ca\u0142ego cyklu \u017cycia systemu SI. Z kolei za spe\u0142niaj\u0105ce wymogi cyberbezpiecze\u0144stwa zostan\u0105 uznane te systemy, kt\u00f3re uzyska\u0142y stosowny certyfikat.
\nSystemy AI wysokiego ryzyka odnosz\u0105 si\u0119 do system\u00f3w AI przeznaczonych do stosowania jako elementy bezpiecze\u0144stwa w produktach, kt\u00f3re maj\u0105 podlega\u0107 ocenie zgodno\u015bci przez stron\u0119 trzeci\u0105. Kontrola ma by\u0107 realizowana ex ante. Dotycz\u0105 samodzielnych system\u00f3w AI maj\u0105cych wp\u0142yw na prawa podstawowe oraz wykorzystywanych do zarz\u0105dzania i eksploatacji infrastruktury krytycznej.
\nZ tych wzgl\u0119d\u00f3w zdecydowano si\u0119 na okre\u015blenie wymog\u00f3w sprzyjaj\u0105cych zapewnieniu bezpiecze\u0144stwa. Przede wszystkim systemy SI wysokiego ryzyka powinny by\u0107 odporne na pr\u00f3by manipulacji przez osoby nieuprawnione, tj. zmiany przez nieupowa\u017cnione osoby trzecie sposobu ich u\u017cytkowania lub dzia\u0142ania poprzez wykorzystanie s\u0142abych punkt\u00f3w systemu. Zatem powinny zosta\u0107 wdro\u017cone odpowiednie \u015brodki techniczne, dostosowane do podatno\u015bci, kt\u00f3re obejmuj\u0105 \u015brodki maj\u0105ce na celu zapobieganie atakom, jak r\u00f3wnie\u017c kontrol\u0119 atak\u00f3w skierowanych na manipulowanie zbiorem danych szkoleniowych, danych wej\u015bciowych, czy maj\u0105cych na celu spowodowanie, \u017ce model pope\u0142ni b\u0142\u0105d lub wad modelu.
\nProjekt rozporz\u0105dzenia przewiduje r\u00f3wnie\u017c system zarz\u0105dzania procesem oceny zgodno\u015bci system\u00f3w SI wymaganiami. Przede wszystkim podmioty przeprowadzaj\u0105ce ocen\u0119 zgodno\u015bci b\u0119d\u0105 musia\u0142y posiada\u0107 odpowiednie narz\u0119dzia i kompetencje, w tym w zakresie bezpiecze\u0144stwa cybernetycznego. W niekt\u00f3rych przypadkach, ocena b\u0119dzie mog\u0142a zosta\u0107 przeprowadzana przez jednostki notyfikowane. Sprostanie wymaganiom ma znaczenie z uwagi na konieczno\u015b\u0107 zapewnienia, \u017ce nie dojdzie do dokonywania z\u0142ych ocen, czy zak\u0142\u00f3cenia na rynku w wyniku stosowania SI. Jednak obecnie nie istniej\u0105 normy, kt\u00f3re by\u0142yby odpowiednie w przypadku bezpiecze\u0144stwa cybernetycznego i opisywa\u0142yby kompetencje organizacji w zakresie audytu, certyfikacji i testowania system\u00f3w SI, jak r\u00f3wnie\u017c audytor\u00f3w.
\nZatem istniej\u0105 luki standaryzacyjne dotycz\u0105ce kompetencji w zakresie walidacji, testowania, audytu, certyfikacji. W projekcie AI Act przewidziano tak\u017ce, \u017ce w przypadku system\u00f3w wysokiego ryzyka powinna zosta\u0107 do\u0142\u0105czona instrukcja u\u017cytkowania, okre\u015blaj\u0105ca takie elementy jak poziom dok\u0142adno\u015bci, odporno\u015bci i cyberbezpiecze\u0144stwa, w zakresie kt\u00f3rego system zosta\u0142 przetestowany i zatwierdzony i kt\u00f3rego mo\u017cna oczekiwa\u0107, jak r\u00f3wnie\u017c wszelkie znane i przewidywalne okoliczno\u015bci, kt\u00f3re mog\u0105 mie\u0107 wp\u0142yw na ten oczekiwany poziom dok\u0142adno\u015bci, odporno\u015bci i cyberbezpiecze\u0144stwa.<\/p>\n

Interpretowalno\u015b\u0107 i wyja\u015bnialno\u015b\u0107 SI<\/h4>\n

W przypadku system\u00f3w SI stosowanie nawet najlepszych praktyk w zakresie zapewniania jako\u015bci oprogramowania mo\u017ce by\u0107 utrudnione ze wzgl\u0119du na brak przejrzysto\u015bci niekt\u00f3rych modeli SI. Dysponowanie informacjami na temat sposobu opracowania systemu sztucznej inteligencji wysokiego ryzyka i jego dzia\u0142ania w ca\u0142ym cyklu \u017cycia jest istotne dla weryfikacji zgodno\u015bci z wymogami okre\u015blonymi w projekcie AI Act. Przyjmuje si\u0119, \u017ce algorytmy s\u0105 wyt\u0142umaczalne, je\u017celi zasady podejmowania przez nie decyzji mog\u0105 by\u0107 zrozumiane przez cz\u0142owieka (np. dewelopera lub audytora), a nast\u0119pnie wyja\u015bnione u\u017cytkownikowi ko\u0144cowemu.
\nZapewnienie okre\u015blonego poziomu przejrzysto\u015bci system\u00f3w SI jest konieczne ze wzgl\u0119du na potrzeb\u0119 zapobie\u017cenia efektowi czarnej skrzynki. Mo\u017ce on doprowadzi\u0107 do braku mo\u017cliwo\u015bci zrozumienia dzia\u0142ania system\u00f3w SI. W efekcie systemy sztucznej inteligencji stan\u0105 si\u0119 niezrozumia\u0142e lub zbyt skomplikowane dla os\u00f3b fizycznych. Wym\u00f3g ten w szczeg\u00f3lno\u015bci odnosi si\u0119 do system\u00f3w sztucznej inteligencji wysokiego ryzyka. Coraz cz\u0119\u015bciej podnoszone jest, \u017ce u\u017cytkownicy powinni by\u0107 w stanie interpretowa\u0107 wyniki dzia\u0142ania systemu i odpowiednio z nich korzysta\u0107. Dlatego do system\u00f3w sztucznej inteligencji wysokiego ryzyka powinna zosta\u0107 do\u0142\u0105czona odpowiednia dokumentacja i instrukcja obs\u0142ugi. Ponadto, takie systemy powinny zawiera\u0107 zwi\u0119z\u0142e i jasne informacje dotycz\u0105ce ewentualnego zagro\u017cenia dla praw podstawowych oraz dyskryminacji. Pomimo, \u017ce dokumentacja sama w sobie nie jest wymogiem bezpiecze\u0144stwa, jednak\u017ce stanowi istotny element przejrzysto\u015bci systemu i wyja\u015bnialno\u015bci w przypadku kontroli bezpiecze\u0144stwa.<\/p>\n

W przypadku system\u00f3w SI wysokiego ryzyka kolejn\u0105 wa\u017cn\u0105 kwesti\u0119 stanowi\u0105 kryteria dotycz\u0105ce jako\u015bci wykorzystywanych zbior\u00f3w danych dokumentacji technicznej i rejestrowania zdarze\u0144, przejrzysto\u015bci i przekazywania informacji u\u017cytkownikom, nadzoru ze strony cz\u0142owieka oraz solidno\u015bci, dok\u0142adno\u015bci i cyberbezpiecze\u0144stwa. Niew\u0105tpliwie systemy sztucznej inteligencji wysokiego ryzyka powinny podlega\u0107 r\u00f3wnie\u017c takim wymogom. Jest to konieczne ze wzgl\u0119du na potrzeb\u0119 skutecznego ograniczenia zagro\u017ce\u0144 dla zdrowia, bezpiecze\u0144stwa i praw podstawowych. Do niezb\u0119dnych kryteri\u00f3w powinny si\u0119 zalicza\u0107 tak\u017ce obowi\u0105zkowe prowadzenia rejestr\u00f3w zdarze\u0144, zapewnienia dost\u0119pno\u015bci dokumentacji technicznej zawieraj\u0105cej informacje niezb\u0119dne do oceny zgodno\u015bci systemu sztucznej inteligencji z odpowiednimi wymogami. Dostarczane informacje powinny obejmowa\u0107 og\u00f3lne w\u0142a\u015bciwo\u015bci, mo\u017cliwo\u015bci i ograniczenia systemu, algorytmy, dane, procesy zwi\u0105zane z trenowaniem, testowaniem i walidacj\u0105, a tak\u017ce dokumentacj\u0119 dotycz\u0105c\u0105 odpowiedniego systemu zarz\u0105dzania ryzykiem. Ze wzgl\u0119du na specyfik\u0119 SI, dokumentacja techniczna powinna podlega\u0107 aktualizacji. Na istot\u0119 weryfikowania zdarze\u0144 i aktywno\u015bci, jak r\u00f3wnie\u017c kwesti\u0119 prowadzenia audyt\u00f3w (zar\u00f3wno zautomatyzowanych, jak r\u00f3wnie\u017c r\u0119cznych) uwag\u0119 zwracaj\u0105 tak\u017ce poszczeg\u00f3lne organy nadzoru w zakresie ochrony danych osobowych. W ocenie Agencia Espanola Proteccion Datos takie dzia\u0142ania, jak r\u00f3wnie\u017c certyfikacja s\u0105 nieod\u0142\u0105cznymi elementami strategii rozliczalno\u015bci, odpowiedzialno\u015bci oraz wynikaj\u0105 z wymog\u00f3w prawnych. Pliki dziennika zdarze\u0144 s\u0105 wymagane do wspierania proces\u00f3w audytu i mechanizm\u00f3w bezpiecze\u0144stwa. W zakresie ochrony danych pliki dziennika powinny dostarcza\u0107 dowod\u00f3w w celu: ustalenia, kto i w jakich okoliczno\u015bciach uzyskuje dost\u0119p do danych osobowych, kt\u00f3re mog\u0105 by\u0107 zawarte w modelu; zapewni\u0107 identyfikowalno\u015b\u0107 w odniesieniu do aktualizacji modeli wnioskowania, komunikacji interfejsu API u\u017cytkownika z modelem oraz wykrywania nadu\u017cy\u0107 lub pr\u00f3b w\u0142ama\u0144. Ponadto, zapewnienie identyfikowalno\u015bci powinno by\u0107 stosowane w celu umo\u017cliwienia zarz\u0105dzania ujawnianiem danych. S\u0105 r\u00f3wnie\u017c niezb\u0119dne w celu zapewnienie monitorowania parametr\u00f3w jako\u015bciowych wnioskowania, gdy sztuczna inteligencja jest wykorzystywana do podejmowania decyzji lub w procesach wspomagaj\u0105cych podejmowanie decyzji. Z kolei od deweloper\u00f3w komponent\u00f3w SI, korzystaj\u0105cych zrozwi\u0105za\u0144 opartych na ML oczekuje si\u0119 wdro\u017cenia dodatkowych rejestr\u00f3w w celu udokumentowania i umo\u017cliwienia \u015bledzenia pochodzenia danych szkoleniowych i ich walidacji, a tak\u017ce rejestr\u00f3w analizy danych, a tak\u017ce zapis\u00f3w analiz przeprowadzonych na temat wa\u017cno\u015bci takich danych i ich wynik\u00f3w.<\/p>\n

Normalizacja<\/h4>\n

Ze wzgl\u0119du na z\u0142o\u017cono\u015b\u0107 i potencjalne zagro\u017cenia, jakie niesie ze sob\u0105 wdra\u017canie rozwi\u0105za\u0144 opartych o systemy SI, nale\u017cy zapewni\u0107 sp\u00f3jno\u015b\u0107 ich funkcjonowania w ca\u0142ym cyklu ich \u017cycia, ponadto odpowiedni stopie\u0144 ich solidno\u015bci, dok\u0142adno\u015bci, jak r\u00f3wnie\u017c cyberbezpiecze\u0144stwa. Przede wszystkim systemy SI nale\u017cy wyposa\u017cy\u0107 w odpowiednie rozwi\u0105zania techniczne, kt\u00f3rych sama SI nie b\u0119dzie w stanie obej\u015b\u0107, jak r\u00f3wnie\u017c w takie, kt\u00f3re zapewni\u0105 reagowanie na dzia\u0142ania cz\u0142owieka\u2013operatora systemu. Osoby nadzoruj\u0105ce powinny tak\u017ce posiada\u0107 niezb\u0119dne kompetencje, w tym szkolenie i uprawnienia.
\nIstotnym wymogiem jest r\u00f3wnie\u017c solidno\u015b\u0107 techniczna. Systemy Si powinna cechowa\u0107 odporno\u015b\u0107 na zagro\u017cenia zwi\u0105zane z np. b\u0142\u0119dami, usterkami, niesp\u00f3jno\u015bciami, nieprzewidzianymi sytuacjami; ponadto odporno\u015b\u0107 na szkodliwe dzia\u0142ania, kt\u00f3re mog\u0105 naruszy\u0107 bezpiecze\u0144stwo systemu i skutkowa\u0107 niepo\u017c\u0105danym zachowaniem. Kluczow\u0105 rol\u0119 w ustalaniu odpowiednich rozwi\u0105za\u0144 technicznych w celu zapewnienia zgodno\u015bci z przepisami, w tym AI Act powinna odgrywa\u0107 normalizacja. Istotne znaczenie b\u0119dzie mia\u0142 aktualny stan wiedzy. Aktualnie wsparcie, jakiego mog\u0105 udzieli\u0107 normy w celu zabezpieczenia system\u00f3w SI, jest ograniczone dojrza\u0142o\u015bci\u0105 rozwoju technologicznego. Wskazuje si\u0119, \u017ce w niekt\u00f3rych przypadkach mo\u017cliwe jest opracowanie pierwszych norm, ale prawdopodobnie musia\u0142yby zosta\u0107 zaktualizowane i dostosowywane w miar\u0119 post\u0119pu prac badawczo-rozwojowych.<\/p>\n

https:\/\/www.ksiegarnia.beck.pl\/prawo\/czasopisma\/prawo-nowych-technologii-kwartalnik<\/a><\/p>\n

\"\"<\/p>\n","protected":false},"excerpt":{"rendered":"

[\u2026]<\/span><\/p>\n","protected":false},"author":1,"featured_media":4123,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[51],"tags":[],"class_list":["post-4119","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-publications"],"_links":{"self":[{"href":"https:\/\/aplaw.pl\/en\/wp-json\/wp\/v2\/posts\/4119","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aplaw.pl\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aplaw.pl\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aplaw.pl\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/aplaw.pl\/en\/wp-json\/wp\/v2\/comments?post=4119"}],"version-history":[{"count":0,"href":"https:\/\/aplaw.pl\/en\/wp-json\/wp\/v2\/posts\/4119\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aplaw.pl\/en\/wp-json\/wp\/v2\/media\/4123"}],"wp:attachment":[{"href":"https:\/\/aplaw.pl\/en\/wp-json\/wp\/v2\/media?parent=4119"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aplaw.pl\/en\/wp-json\/wp\/v2\/categories?post=4119"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aplaw.pl\/en\/wp-json\/wp\/v2\/tags?post=4119"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}