Het succes van transformers bij het verwerken van sequentiële data voor taal- en visuele taken (zoals ChatGPT, DALL-E) heeft geleid tot grote belangstelling voor het toepassen van deze modellen op voorspellingsvraagstukken. Hierdoor zijn er talloze onderzoeksvoorstellen ontstaan die veel aandacht trekken en tegelijkertijd discussie en scepsis oproepen over de werkelijke capaciteiten van deze van nature black-box modellen. Dit project wil deze zorgen aanpakken door een mechanistische interpreteerbaarheidsaanpak te hanteren—een benadering die waardevol is gebleken bij het begrijpen van taal- en visuele modellen. Op deze manier streven we ernaar om meer inzicht te bieden in de interne werking van time-series transformers.
