YMYannick Malot

Yannick Malot

*This is an algorithmically generated author record based on publicly available information.

Current Organizations / Institutes

The organizations/institutes from the scholar's latest article


Yannick Malot has a total of 11 co-authors. Here are the top co-authors by number of shared publications:


Latest Publications

  • Quantized DNN learning algorithms with limited hardware overhead for Edge implementation

    by Yannick Malot

    Algorithmes DNN quantifiés à surcoût matériel limité en vue d'une implémentation Edge: Les modèles d'intelligence artificielle (IA) utilisant des réseaux de neurones profonds (Deep Neural Networks, DNN) ont vu leur complexité croître très fortement ces dernières années, et le champ de leurs applications s'élargir considérablement. Cependant, ces modèles nécessitent une phase d'entraînement qui requiert d'importantes ressources informatiques, en tête desquelles de la mémoire et des données d'entraînement. En parallèle, le développement de l'internet des objets (Internet of Things, IoT) pose la question du déploiement de solutions d'IA au plus proche du capteur. Ce concept, appelé IA à l'edge, cible des applications telles que l'industrie ou le domaine médical. Les appareils concernés vont typiquement des Micro Controller Units (MCUs) aux smartphones : ils sont peu puissants, et posent des contraintes fortes en termes de consommation d'énergie, d'utilisation de mémoire, et de latence. Les besoins des modèles basés sur des DNN dépassent couramment ces contraintes. L'IA à l'edge pose également un enjeu de confidentialité puisque les données traitées pendant le déploiement peuvent être sensibles.Cette thèse s'intéresse à la problématique de l'IA embarquée sous l'angle de la compression des modèles, et étudie des moyens de déployer - et possiblement, d'entraîner - un modèle dans un contexte où les ressources sont très limitées. Cela permet de faire en sorte que le modèle utilise les données localement et d'éviter de les faire transiter vers un serveur, résolvant ainsi le problème de confidentialité. Ce travail couvre des méthodes de compression par quantification de paramètres ainsi que des méthodes algorithmiques pour apprendre un réseau malgré de faibles ressources. Les contributions proposées sont :- Une analyse comparative de méthodes de compression de modèles par quantification (Quantization Aware Training, QAT) qui visent à diminuer la précision numérique des modèles. Cette analyse suggère que des méthodes simples d'utilisation existent et ne sont pas toujours dépassées par d'autres plus complexes ;- Une étude du compromis entre la taille d'un modèle et sa précision numérique, à empreinte mémoire constante, suggérant que de grands modèles en faible précision donnent de meilleures performances ;- Des méthodes pour faire apprendre un modèle sous les contraintes imposées, que ce soit en utilisant les propriétés de matériel dédié utilisant du calcul analogique ou en proposant des astuces algorithmiques pour l'apprentissage, permettant de diviser la mémoire nécessaire à l'apprentissage d'un modèle par au moins dix.

  • Open Access

    A ferroelectric–memristor memory for both training and inference

    by Michele Martemucci, François Rummens, Yannick Malot, Tifenn Hirtzlin, Olivier Guille, Simon Martin, Catherine Carabasse, Adrien F. Vincent, Sylvain Saïghi, Laurent Grenouillet, et al.

    Developing artificial intelligence systems that are capable of learning at the edge of a network requires both energy-efficient inference and learning. However, current memory technology cannot provide the necessary combination of high endurance, low programming energy and non-destructive read processes. Here we report a unified memory stack that functions as a memristor as well as a ferroelectric capacitor. Memristors are ideal for inference but have limited endurance and high programming energy; ferroelectric capacitors are ideal for learning, but their destructive read process makes them unsuitable for inference. Our memory stack uses a silicon-doped hafnium oxide and titanium scavenging layer that are integrated into the back end of line of a complementary metal–oxide–semiconductor process. With this approach, we fabricate an 18,432-device hybrid array (consisting of 16,384 ferroelectric capacitors and 2,048 memristors) with on-chip complementary metal–oxide–semiconductor periphery circuits. Each weight is associated with an analogue value stored as conductance levels in the memristors and a high-precision hidden value stored as a signed integer in the ferroelectric capacitors. Weight transfers between the different memory technologies occur without a formal digital-to-analogue converter. We use the array to validate an on-chip learning solution that, without batching, performs competitively with floating-point-precision software models across several benchmarks.