Europska komisija predstavila je akcijski plan za strukturirani odgovor na rizike koje napredni modeli umjetne inteligencije donose kibersigurnosti, ali i za iskorištavanje njihovih mogućnosti u obrani od kibernapada.
Komisija upozorava da napredni modeli umjetne inteligencije već sada mijenjaju područje kibersigurnosti. Umjetna inteligencija može se zloupotrijebiti za otkrivanje ranjivosti, automatizaciju napada te povećanje razmjera i brzine kiberincidenata na dosad nezabilježen način.
Akcijski plan nadovezuje se na pravni okvir EU-a za umjetnu inteligenciju i kibersigurnost. Njime bi se trebale okupiti države članice, industrija i europske organizacije kako bi se ojačala zaštita digitalnog okruženja od ranjivosti koje stvara napredna umjetna inteligencija.
Procjena AI modela prije dolaska na tržište
Komisija ističe da učinkovita sigurnost zahtijeva temeljito razumijevanje načina na koji se nove tehnologije mogu koristiti, zloupotrebljavati i iskorištavati.
Prema Aktu o umjetnoj inteligenciji, napredni modeli umjetne inteligencije moraju proći procjenu, a mjere ublažavanja rizika moraju se pažljivo razmotriti prije nego što se takvi modeli stave na tržište EU-a.
Kako bi razvila domaće stručno znanje, Komisija će objaviti poseban poziv za uspostavu europskih kapaciteta za evaluaciju kibersigurnosti. Očekuje se da će taj novi kapacitet biti operativan 2027. godine.
On bi trebao pomoći Uredu za umjetnu inteligenciju u regulatornoj ulozi, jačanjem procjena sposobnosti i rizika naprednih modela koje provode treće strane na globalnoj razini.
Jasan pristup najnaprednijim modelima
Komisija navodi da su Europi potrebni jasni i transparentni uvjeti za pristup najnaprednijim sustavima umjetne inteligencije.
Zato će surađivati s Agencijom EU-a za kibersigurnost, ENISA-om, na izradi europskog plana za strukturirani pristup naprednim kapacitetima umjetne inteligencije u području kibersigurnosti.
Tim bi se smjernicama europskim javnim i privatnim organizacijama trebalo pomoći da dobiju pristup naprednim modelima umjetne inteligencije.
Sigurna platforma za testiranje
ENISA i Zajednički istraživački centar Europske komisije uspostavit će sigurnu platformu za testiranje umjetne inteligencije za kibersigurnost, uključujući simulirana okruženja.
Cilj je da subjekti u ključnim sektorima, poput financija, energetike, zdravstva, prometa i javne uprave, dobiju znanje i iskustvo o sigurnoj upotrebi umjetne inteligencije.
Zaštita kritične infrastrukture
Komisija ističe da EU mora zaštititi kritičnu infrastrukturu od ranjivosti koje mogu nastati zlouporabom naprednih modela umjetne inteligencije.
Organizacije bi, u skladu s pravilima EU-a o kibersigurnosti, trebale pojačati prakse kiberhigijene, mjere upravljanja rizicima i načela integrirane sigurnosti.
Komisija također poziva organizacije da počnu koristiti već dostupne sposobnosti umjetne inteligencije, uključujući modele otvorenog koda, kako bi brže otkrivale i uklanjale ranjivosti te sprječavale kibernapade i odgovarale na njih.
ENISA će u tome podupirati partnerstva između javnih tijela, poduzeća i zajednica otvorenog koda. To će uključivati smjernice, preporuke, najbolje prakse i kampanju za zaštitu ključnog softvera otvorenog koda.
Natječaj za europska AI rješenja u kibersigurnosti
Kako bi potaknula razvoj europskog tržišta, Komisija će pokrenuti veliki izazov EU-a u području umjetne inteligencije za kibersigurnost.
Natječaj bi trebao okupiti poduzeća, istraživače i organizacije radi razvoja novih AI rješenja za kibersigurnost.
Komisija ističe i da EU mora nastaviti ulagati u razvoj vlastitih naprednih kapaciteta u području umjetne inteligencije, koristeći infrastrukturu koju pružaju tvornice umjetne inteligencije i buduće gigatvornice.
U tom bi kontekstu najavljeni europski kapacitet vlasničkog kapitala u području tehnologije, iz paketa o tehnološkoj suverenosti, mogao potaknuti privatna ulaganja i jačanje domaćih sposobnosti u umjetnoj inteligenciji.
Širi pravni okvir EU-a
Europska unija već ima pravni okvir za kibersigurnosne izazove povezane s novim tehnologijama.
Akt o umjetnoj inteligenciji zahtijeva procjenu i ublažavanje rizika AI modela, dok Kodeks dobre prakse za umjetnu inteligenciju opće namjene dodatno razrađuje te zahtjeve i olakšava usklađivanje dobavljača naprednih modela. Te se odredbe počinju primjenjivati 2. kolovoza 2026.
Akt o kiberotpornosti, koji će se početi primjenjivati do kraja 2027., propisuje integriranu sigurnost hardverskih i softverskih proizvoda.
Direktiva NIS2 usmjerena je na povećanje sigurnosti ključnih sektora poput prometa i energetike, dok se Akt o digitalnoj operativnoj otpornosti, DORA, odnosi na financijski sektor.
Akt o kibersolidarnosti dodatno jača kapacitete EU-a za otkrivanje, pripremu i odgovor na velike kibersigurnosne prijetnje i napade.
RSS
