Hoppa till innehåll
EN In english

CLAS: Cybersäkra lärande reglersystem

Diarienummer
RIT17-0046
Projektledare
Proutiere, Alexandre
Start- och slutdatum
180301-230228
Beviljat belopp
33 000 000 kr
Förvaltande organisation
KTH - Royal Institute of Technology
Forskningsområde
Informations-, kommunikations- och systemteknik

Summary

The advances in ICT have led to a dramatic increase in the number of deployed devices that can communicate, sense, and actuate. Such devices and adjoining computing infrastructures enable a plethora of new applications, but they rely on open systems and networks, which suffer from potential vulnerabilities. In CLAS, we focus on analyzing and defending the cyber-security of physical infrastructures controlled and monitored using machine-learning algorithms. Machine learning has gained immense popularity, and is being introduced in the real-time operation of large-scale infrastructures. Nevertheless, such algorithms can be sensitive to small but malicious manipulations of data. To date, no principled, robust design methodology for machine-learning algorithms operating in closed loops exists, and consequently the main scientific contribution of CLAS will be to develop and demonstrate such techniques. The project consists of six work packages covering threat models, robust learning, resilient control, risk allocation, control forensics, and demonstration. As a demonstrator, CLAS will use the KTH Live-In Lab, incorporating 200 apartments, as a proxy for a smart city. The CLAS consortium consists of five complementary groups at KTH. Individually, all groups can be claimed to be leading in their respective fields, and together they form a world-class research environment, facilitating true breakthroughs in research supporting future cyber-secure learning and control systems.

Populärvetenskaplig beskrivning

Vårt samhälle och dess kritiska infrastrukturer är allt mer beroende av komplexa IT-system bestående av komponenter med förmåga att kommunicera med och reglera sin omgivning. Komponenterna är ofta kopplade mot globala kommunikations- och beräkningsinfrastrukturer vilket kommer låta dem samla in och lära sig av stora mängder data i realtid. En teknik som möjliggör detta är maskininlärning som genomgått en dramatisk utveckling och numera kan lösa många uppgifter lika bra, eller bättre, än en mänsklig operatör. Vi kan förvänta oss att maskininlärande algoritmer kommer att integreras i regler- och övervakningssystem för smarta elnät, intelligenta transportsystem, processregleringssystem och framtidens smarta städer. Maskininlärning kommer då att samverka med traditionella återkopplade reglersystem för att tolka mätsignaler, för att identifiera och trimma modeller och för att utveckla nya styrlagar. Dessa nya tekniker har stor potential att uppfylla högt ställda miljömål och förväntningar på effektivitet i framtidens smarta infrastrukturer. Samtidigt kommer dessa nya komplexa system utgöra väldigt lockande mål för cyberattacker. Särskilt illavarslande är att ett antal maskininlärande algoritmer har visat sig vara extremt känsliga mot små och illvilliga störningar av data. Det är därför helt avgörande att vi är proaktiva och redan nu i utvecklingsfasen identifierar och motverkar oacceptabla risker. Det övergripande målet i CLAS är att studera och utveckla nya metoder för cybersäkerhet i storskaliga reglersystem som stöds av maskininlärande algoritmer. Särskilt kommer vi att identifiera sårbarheter och hur de beror på en angripares resurser. Baserat på dessa resultat kommer vi utveckla nya försvarsmekanismer för att hindra och begränsa inverkan av cyberangrepp i realtid, men även metoder för att efter inträffade säkerhetsincidenter identifiera tidigare okända attackvektorer. Dessa kan då användas för att träna lärandealgoritmer och anomalidetektorer att reagera på framtida liknande angrepp. I CLAS samverkar fem kompletterande forskargrupper för att skapa en världsledande miljö som tar sig an ovan nämnda säkerhetsutmaningar i framtidens infrastrukturer. Grupperna var för sig är ledande inom sina respektive områden och tillsammans har de en unik möjlighet för genombrott i detta nya område. För att demonstrera sina resultat kommer CLAS använda testbädden Live-in Lab som utgör ett bra exempel på hur framtidens smarta städer kommer att regleras och övervakas.