Learning task-specific numerical algorithms
- Reference number
- SM19-0029
- Start and end dates
- 200815-211215
- Amount granted
- 827 021 SEK
- Administrative organization
- Uppsala University
- Research area
- Computational Sciences and Applied Mathematics
Summary
The main objective of this project is to develop numerical algorithms that can be tailored to a given task based on previous instances of the same task. The underlying methodology, differentiable programming, extends the successful principles of deep learning, but importantly also allows the type of dynamic behavior that is common in numerical algorithms. The project will be conducted as a 75% research exchange where Jens Sjölund, senior research scientist at the radiotherapy company Elekta, visits Prof. Thomas Schön’s machine learning team at Uppsala University. The research will be driven forward by concrete problems from the radiotherapy and automatic control domains: simulation of radiation dose (effectively numerical integration), treatment plan optimization and real-time control of dose delivery. The expectation is that differentiable programming will make it possible to learn task-specific algorithms with unparalleled performance. Sjölund is expected to actively catalyze connections and collaboration between researchers at Elekta and Uppsala university - not only by participating in the day-to-day work on both sides. At Elekta, he will meet regularly with senior management and hold seminars; promising ideas will be further processed by Elekta’s innovation pipeline. At Uppsala university, he will co-supervise PhD students and strive to initiate joint research projects on problems of special industrial relevance.
Popular science description
Matematik är naturvetenskapens språk. Matematiska problem uppträder inom i stort sett alla naturvetenskapliga områden och att kunna lösa dem effektivt är grundläggande för vår teknologiska utveckling. I verkligheten är det dock få problem som går att lösa exakt, men det finns desto fler som en dator kan hitta en approximativ lösning till - detta är vad forskningsområdet numerisk analys, även kallat beräkningsmatematik, handlar om. I tillämpningar som använder numerisk analys är det vanligt att variationer av samma problem dyker upp om och om igen, exempelvis när det gäller att göra en väderprognos eller att ta fram en strålbehandlingsplan för en cancerpatient. De lösningsmetoder som används idag tenderar dock att vara väldigt generella, till priset av att de har små möjligheter att anpassas till de egenheter som utmärker ett visst problem. Under de senaste åren har artificiell intelligens (AI) rönt enormt stort uppmärksamhet tack vare en rad häpnadsväckande framgångar. Dessa beror till stor del på genombrott inom det som kallas djupinlärning. En stor skillnad mellan djupinlärning och dess föregångare är att man vid djupinlärning endast sätter upp ett ramverk för hur algoritmen får bete sig, och sedan låter det exakta beteendet bestämmas av vad som ger bäst resultat på en stor uppsättning tidigare exempel. En begränsning har dock varit att ramverket endast tillåtit statiska beteenden, alltså att de ingående stegen måste bestämmas i förväg. Detta är i kontrast till många numeriska lösningsmetoder, vars beteende är dynamiskt, och det till exempel är vanligt att ett visst steg upprepas tills man uppnått en tillräckligt god approximation (utan att man vet på förhand hur många steg som kommer krävas). Nu har det dock kommit nya metoder, som går under benämningen differentierbar programmering, som möjliggör dynamisk djupinlärning. Syftet med detta projekt är att använda differentierbar programmering för att utveckla nya numeriska lösningsmetoder som kan tränas till ett specifikt ändamål givet en uppsättning exempel. Förhoppningen är att denna specialisering kommer göra metoderna betydligt snabbare och effektivare än deras traditionella motsvarigheter. Projektet kommer att utföras genom ett forskningsutbyte mellan strålterapiföretaget Elekta och maskininlärningsgruppen på Uppsala universitet, och det faller sig därför naturligt att de problem som studeras i första hand kommer att vara sådana som uppstår vid planering av strålbehandling.