Tillförlitlig AI i Säkra Autonoma System
- Diarienummer
- ID21-0071
- Projektledare
- Daneshtalab, Masoud
- Start- och slutdatum
- 220101-251231
- Beviljat belopp
- 2 500 000 kr
- Förvaltande organisation
- Mälardalen University, Västerås
- Forskningsområde
- Informations-, kommunikations- och systemteknik
Summary
Datadrivna utvecklingsmetoder visar sig producera träffsäkra modeller för perceptionsrelaterade funktioner som objektdetektion och semantisk segmentering, men de flesta modellerna saknar de övergripande egenskaper som gör dem lämpliga för tillförlitliga system. Detta projekt ämnar resultera i robusta maskininlärningsmodeller som möter upp och överträffar de krav som ställs för certifiering. En betydande faktor i noggrannheten hos en tränad modell beror på det underliggande dataset den tränats på, men ändå fokuserar en stor del av forskningen idag på utveckling av modellarkitektur. Detta projekt avser belysa och adressera datasidan av problemet, vilket inkluderar nya data-anpassningsmetoder såsom neural anpassning. Förväntade resultat från projektet är att grunden läggs för säkerhetskritiska tillförlitliga ML-system samt att tillhandahålla metodiken för att iterera och förfina sådana system. Resultaten kommer spridas externt genom publikationer samt inom företaget via interna seminarier och presentationer.
Populärvetenskaplig beskrivning
Avancerad maskininlärning har ett brett användningsområde i samhället och är ofta den metod som används när man pratar om artificiell intelligens. Det är en datadriven metod, vilket innebär att man skapar sin modell genom att låta den hitta och lära sig de mönster som finns i data som man exponerar den för under den sk träningsfasen. Mycket forskning har på senare tid ägnats åt modellarkitektur, och trots att datat man tränar modellen på starkt påverkar dess prestanda och noggrannhet när modellen används t ex för att klassificera objekt har detta område inte fått det fokus det förtjänar. I säkerhetskritiska system, där hög tillförlitlighet är en självklarhet behöver man kunna leda i bevis att den data man tränat en modell med faktiskt är representativ för den miljö i vilken modellen ska operera, d v s den tränade modellen behöver vara tillräckligt robust. I detta projekt studerar vi metoder för att bearbeta data som sedan används för träning av modeller som används i flygande system. Ett exempel på funktion kan vara att detektera en landningsbana från luften med hjälp av visuella kameror när ett flygplan går in för landning. Syftet med att bearbeta data är att höja kvaliteten på den och att möjliggöra att använda olika källor (både simulerat data och riktigt insamlat data) för att på så sätt täcka en större del av alla möjliga fall som modellen kan komma att utsättas för (i det visuella fallet kan man tänka sig att man använder bilder från en simulerad omvärld för att komplettera de bilder som insamlats vid en riktig flygning). Genom att ha en kontrollerad metod för databearbetning kan man lättare argumentera för att den tränade modellen uppfyller de starka krav som ställs på tillförlitliga system genom den ökade robustheten som följer av dessa metoder.