AutoPiM: Efficient accelerator for autonomous vehicles
- Reference number
- SIP21-0087
- Project leader
- Petersen Moura Trancoso, Pedro
- Start and end dates
- 221101-271031
- Amount granted
- 3 112 000 SEK
- Administrative organization
- Chalmers University of Technology
- Research area
- Information, Communication and Systems Technology
Summary
Autonomous vehicles are a key aspect in future’s mobility of people and goods. This is becoming a reality due to the advances in Machine Learning (ML) algorithms which in turn became feasible with the development of powerful and efficient hardware technology. While early products are being deployed, the challenges are still many in terms of supporting ML algorithms with increased capabilities and at the same time deliver the computational power and memory capacity needed within tighter energy constraints. A known major hurdle is the large penalty in terms of time and energy for accesses to memory. To address the challenges, we propose to disrupt the von Neumann model and move the computation as close to the data as possible. Our goal is to achieve this with an architecture that exploits a combination of two processing-in-memory (PiM) techniques, near- and in-data processing, called dualPiM. The AutoPiM framework is composed of dualPiM and tools to exploit the efficient execution of autonomous vehicle ML applications. The success of this project is built on the common and complementary experience of the partners. While both teams are expert in computer architecture and hardware prototyping, the Swedish team brings in the expertise in the near-data processing for ML acceleration while the Israeli team brings in the expertise in the in-data processing technology. The results of this project will be exploited by industrial partners and academic programs and dissemination.
Popular science description
Autonoma fordon som bilar, bussar eller lastbilar som kör på egen hand, utan mänsklig inblandning, är en viktig aspekt på framtidens rörlighet av människor och varor. Även om detta lät som science fiction för några år sedan börjar det äntligen bli verklighet på grund av de stora framstegen inom både området för artificiell intelligens och maskininlärning och datorsystemen som äntligen kan leverera den höga prestanda som behövs för dessa uppgifter. Även om produkterna som demonstreras och släpps ut på marknaden idag är imponerande, är de fortfarande ganska begränsade vad gäller vad de kan göra. För att kunna leverera mer kapabla system behöver vi utveckla nya kraftfullare och effektivare datorsystem! Traditionella datorsystem består av två huvudkomponenter: en processorenhet (CPU) som gör alla operationer som behövs, och minne som används för att lagra allt som behövs för dessa operationer. Ett vanligt problem vi står inför idag är att mycket tid och energi läggs ner i processorn på att fråga efter den data som behövs och sedan spara resultaten i minnet. Låt oss kalla denna bearbetning processering-utanför-minnet. Så vi måste undersöka ett nytt sätt att göra saker på! En intressant lösning är att ha både data och enheter som behöver den data på samma plats. För med denna lösning gör vi operationerna på samma ställe som vi lagrar data. Vi kallar denna bearbetning processering-i-minnet! Det här är ingen ny idé. I många år har forskare pratat om denna lösning men ingen bra teknik för att göra sådana nya system har funnits. Nyligen har nya tekniker föreslagits och vi tror att det nu är dags att vi äntligen kan ha processorer och minne levande lyckligt tillsammans i samma modul eller chip! I detta projekt – AutoPiM – planerar vi att bygga ett nytt system där beräkningen och data görs tillsammans på ett mycket effektivt sätt. Vi kommer att använda detta nya system för att erbjuda mer prestanda på ett mer effektivt sätt än nuvarande lösningar, för framtidens autonoma fordon.