Robust neuromorphic computing using ferroelectric memristors
- Reference number
- SM21-0008
- Start and end dates
- 220301-241231
- Amount granted
- 1 328 800 SEK
- Administrative organization
- Ericsson AB
- Research area
- Information, Communication and Systems Technology
Summary
Energy-efficient artificial intelligence (AI) can be realized by neuromorphic hardware that use tuneable non-volatile resistors (memristors) to perform so called in-memory computing. Such hardware promises exceptional energy savings up to 10 000x, disrupting AI edge cloud applications, but system performance is impacted by variability and endurance issues in realistic memristors. Therefore, we here explore alternative modes of memristor operation and algorithms, leveraging the nanoelectronics expertise of Borg with that of Ericsson Research on AI algorithms and systems. Borg will work within the Device Platform Research (DPR) group at Ericsson Research and will make full use of DPR’s collaboration with MIT on technologies for neuromorphic computing. We base our analysis on experimental data from Borg’s ferroelectric tunnel junction (FTJ) memristors, up to 100x more energy efficient than competing technologies. The first aim is to realize a FTJ simulation model to explore the design space and extrapolate from device to system. Secondly, we will examine novel FTJ-based binary neural networks that offer energy-efficient operation with simple peripheral circuitry and are robust against device variability. Finally, we explore stochastic state switching in nanoscale FTJs for unsupervised stochastic learning. The project will significantly push the understanding of how to leverage binary and stochastic weights for memristor-based sustainable artificial intelligence.
Popular science description
Artificiell Intelligens blir alltmer en essentiell del av vårt samhälle, med smarta prylar i våra hem, fabriker som själva optimerar material- och arbetsflöden, samt analysverktyg som låter läkare snabbt analysera miljontals forskningsresultat för att sätta rätt diagnos. Och detta är bara början på den digitala revolution som kommer att förändra vårt samhälle i grunden. Det finns dock ett stort hinder, den höga energiförbrukning som dagens AI-system lider av; energin som krävs för att träna ett enda sådant system kan motsvara en bils totala utsläpp under dess livstid. I en tid då vi måste drastiskt minska vår miljöpåverkan för att undvika klimatkollaps blir det därför uppenbart att det behövs nya lösningar för att kunna erbjuda kraftfull men samtidigt miljömässigt hållbar AI. Det som gör AI energikostsamt är att dagens hårdvara inte är väl anpassad för uppgiften. De stora mängder data som bearbetas flyttas ständigt omkring i systemet, vilket kostar energi. Vår hjärnas struktur fungerar annorlunda och logiken sitter i själva mönstret som hjärnans kopplingar skapar, vilket gör att hjärnan med en bråkdel av energin jämfört med dagens hårdvara kan utföra tusenfalt så mycket beräkningar. En lovande väg framåt är därför att utveckla elektronisk hårdvara som inspireras av hjärnans struktur och funktion, så kallad neuromorf hårdvara. Kärnan i denna hårdvara är ett nanometer-stort självjusterande elektriskt motstånd, en memristor, vilket motsvarar en av hjärnans kopplingar. Neuromorf hårdvara har potential att bli 10 000 gånger mer energieffektiv än dagens motsvarighet och kan därmed radikalt förändra AI-industrin. Tyvärr lider dagens memristorer av diverse brister och variationer, vilket i realiteten starkt begränsar hur bra ett neuromorft system presterar. Mattias Borg, docent i nanoelektronik vid LTH, och AI-experterna vid Ericsson Research går här samman för att angripa detta problem genom att studera två alternativa och robusta sätt att använda memristorer på. Vi baserar vår analys på experimentell data från Borgs ferroelektriska memristorer och utvecklar en simuleringsmodell med vilken vi kan utvärdera hela systemets prestanda. Med modellen utforskar vi, utifrån ett systemperspektiv, fördelarna med en memristor med bara två lägen samt en memristor vars tillstånd slumpmässigt kan byta läge. Projektet lägger därmed grunden för att inom en snar framtid etablera en svensk neuromorf hårdvaruplattform till gagn för industri och AI-forskning i Sverige.