Description
Date depot: 27 août 2021
Titre: Auto-tuning de précision et validation numérique
Directrice de thèse:
Fabienne JEZEQUEL (LIP6)
Directeur de thèse:
Stef GRAILLAT (LIP6)
Directeur de thèse:
Thibault HILAIRE (LIP6)
Domaine scientifique: Sciences et technologies de l'information et de la communication
Thématique CNRS : Modèles de calcul, preuve, vérification
Resumé: L'objectif de cette thèse, réalisée dans le cadre du projet ANR
Interflop, est l'amélioration d'algorithmes d'auto-tuning de précision
et de validation numérique. Nous proposerons notamment de nouveaux
algorithmes d'auto-tuning de précision fondés sur la différenciation
algorithmique. Grâce à la différenciation algorithmique, on peut
obtenir pour chaque variable la dérivée de la fonction décrivant son
processus de calcul, et donc son conditionnement et sa précision. Nous
prévoyons d'utiliser la différenciation algorithmique dans les
algorithmes d'auto-tuning de précision afin d'améliorer la détection
des variables qui peuvent être déclarées en précision plus faible.
D'autres pistes de recherche seront explorées pour améliorer la
performance des algorithmes d'auto-tuning de précision : la détection
automatique des variables qui doivent avoir la même précision, la
parallélisation de la recherche des configurations de types
possibles,... L'auto-tuning de précision a été proposé jusqu'à
présent pour générer des codes en arithmétique à virgule flottante qui
peuvent mélanger différents formats existants: précision "half",
simple, double et quadruple si nécessaire. Cependant, les
architectures telles que les FPGA permettent le calcul en précision
arbitraire et la taille des formats numériques choisis est cruciale en
termes de performances. Nous prévoyons de proposer des algorithmes
d'auto-tuning de précision qui fourniront des configurations de types
en précision arbitraire. L'amélioration de noyaux d'algèbre linéaire
en précision est une autre direction de recherche planifiée. Nous
explorerons également la conversion automatique en précision mixte de
noyaux d'algèbre linéaire lors de l'auto-tuning de précision. Les
algorithmes d'auto-tuning de précision conçus au cours de cette thèse
seront validés sur des codes à large échelle fournis par les
partenaires du projet ANR Interflop.
Résumé dans une autre langue: The aim of this PhD, carried out in the framework of the Interflop ANR
project, is the improvement of algorithms for precision auto-tuning
and numerical validation. We will propose new algorithms for precision
auto-tuning based on Algorithmic Differentiation (AD). Thanks to AD,
one can obtain for each variable the derivative of the function
describing its computation process, and therefore its conditioning and
its accuracy. We plan to use AD in floating-point auto-tuning
algorithms to improve the detection of variables that can be declared
in lower precision. Other directions will be explored to improve the
performance of precision auto-tuning: the automatic detection of
variables that should have the same precision, the parallelization of
the search for suitable precision configurations,... Floating-point
auto-tuning has been proposed so far to generate codes that can mix
several precisions: half, single, double, and quadruple if
necessary. However architectures such as FPGAs enable computation in
arbitrary precision and the length of the chosen numerical formats is
crucial in terms of performance. We plan to propose precision
auto-tuning algorithms that will provide configuration types in
arbitrary precision. The improvement of mixed precision linear algebra
kernels is another planned research direction. We will also explore
the automatic conversion in mixed precision of suitable linear algebra
kernels inside auto-tuning tools. The precision auto-tuning algorithms
designed during this PhD will be validated on large scale programs
provided by partners of the Interflop ANR project.
Doctorant.e: Ferro Quentin, Vincent, Baptiste