Bonjour,
Dans le cadre des séminaires de l'équipe Sécurité /Systèmes, nous écouterons sur Teams Raphael Joud, Ingénieur de Grenoble-INP - UGA, jeudi 04/04/2024 à 14h30.
Raphael Joud nous parlera de ses travaux sur "Analyses Side Channel contre la Confidentialité des modèles de Deep Learning Embarqués".
Résumé:
Le déploiement des modèles de Deep Learning (DL) sur des plateformes embarquées prend de plus en plus d’importance. Ces modèles étant amenés à réaliser des tâches et manipuler des données parfois sensibles, leur sécurité doit être assurée, notamment dans le cadre des projets de régulation européens. Cependant, la sécurisation des modèles de DL n’est pas pensée au moment de leur conception et leurs d´déploiements les exposent aux attaques physiques en plus des nombreuses attaques algorithmiques déjà existantes. Cette présentation se concentre sur les menaces visant la confidentialité des modèles de DL exploitant les attaques matérielles, plus spécifiquement les analyses side channel. Les paramètres qui font la spécificité d’un modèle sont ciblés sous l’angle de la fidélité. Ce type de scénario ne se concentre pas seulement sur la performance du modèle victime, mais vise à en obtenir un clone. Tout d’abord, nous ´étudions l’obtention de l’architecture de modèles quantifiés dans un contexte boîte noire restrictif. Ces ´évaluations ont été réalisées en ne s’appuyant que sur des analyses simples de reconnaissance de motifs observés au niveau des ´émanations ´électromagnétiques du circuit. Ensuite, nous nous concentrons sur l’extraction des paramètres d’un modèle de DL implémenté sur un mmicrocontrôleur32 bits (Cortex-M7). En s’appuyant sur une méthode d’extraction itérative, nous mettons en ´évidence plusieurs défis liés à l’extraction complète d’un modèle par analyse side channel. A partir de ces résultats, nous considérons différentes contre-mesures visant à renforcer la confidentialité des modèles embarqués.
Bio :
Ingénieur de Grenoble-INP - UGA, j’ai récemment soutenu ma thèse au sein de l’équipe commune du CEA Leti et Mines Saint-Étienne du département Systèmes et Architectures Sécurisées (SAS) localisé à Gardanne (13). Cette étude portait sur les menaces que représentent les analyses side channel pour la confidentialité de réseaux de neurones profonds embarqués sur microcontrôleurs, et le développement de contremesures adaptées à ces menaces.
Cordialement,
Ghada Gharbi
________________________________________________________________________________
Microsoft Teams Besoin d'aide ?<https://aka.ms/JoinTeamsMeeting?omkt=fr-FR>
Rejoindre la réunion maintenant<https://teams.microsoft.com/l/meetup-join/19%3ameeting_Zjk0Y2ZhMGUtYTE2ZC00…>
ID de réunion : 336 164 718 883
Code secret : bJvW8E
________________________________
Pour les organisateurs : Options de réunion<https://teams.microsoft.com/meetingOptions/?organizerId=9a220f60-43fb-406a-…> | Réinitialiser le code confidentiel de participation<https://dialin.teams.microsoft.com/usp/pstnconferencing>
________________________________________________________________________________
______________________
Doctorants mailing list -- doctorants(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/doctorants.ml.lre.epita.fr//
______________________
Docs mailing list -- docs(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/docs.ml.lre.epita.fr//
______________________
Docs.rennes mailing list -- docs.rennes(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/docs.rennes.ml.lre.epita.fr//
Title: Topology-based Explanations for Neural Networks
Abstract:
The seminar will be a summary of the research activities conducted on the topic of Explainable AI. The first part of the talk will be about the development of Self-Explainable Graph Neural Networks. Successively, the discussion will shift towards providing logic explanations for neural networks' predictions. Finally, different applications will be presented, spanning NLP, Drug Discovery and Reinforcement Learning.
BIO:
Alessio Ragno is a Ph.D. student in Artificial Intelligence at Sapienza University of Rome, supervised by Professor Roberto Capobianco. With a passion for applying AI to various scientific realms, Alessio focuses on Explainable AI (XAI) to enhance understanding and usability.
His research involves creating topology-based XAI methods tailored to specific AI models, aiming to make neural network predictions more interpretable. Prior to his Ph.D., Alessio earned Master's and Bachelor's degrees in AI & Robotics and Computer and Control Engineering, respectively.
Alessio gained practical experience in AI's application to chemistry and drug discovery during his time at the University of North Carolina and collaborations with Sapienza University of Rome's Pharmaceutical Chemistry and Technology Department. His dedication lies in making AI more accessible and transparent for meaningful scientific advancements.
________________________________________________________________________________
Microsoft Teams Besoin d'aide ?<https://aka.ms/JoinTeamsMeeting?omkt=fr-FR>
Rejoindre la réunion maintenant<https://teams.microsoft.com/l/meetup-join/19%3ameeting_NGE3ODZiMmMtZDY2MS00…>
ID de réunion : 316 761 014 068
Code secret : GvFQ64
________________________________
Appel par téléphone
+33 1 73 44 50 21,,721133954#<tel:+33173445021,,721133954#> France, Paris
Trouver un numéro local<https://dialin.teams.microsoft.com/b1f8449c-d1c4-451a-9b29-7e5316542160?id=…>
ID de la conférence téléphonique : 721 133 954#
Pour les organisateurs : Options de réunion<https://teams.microsoft.com/meetingOptions/?organizerId=63181773-1d26-4dee-…> | Réinitialiser le code confidentiel de participation<https://dialin.teams.microsoft.com/usp/pstnconferencing>
________________________________________________________________________________
______________________
Current mailing list -- current(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/current.ml.lre.epita.fr//
______________________
Doctorants mailing list -- doctorants(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/doctorants.ml.lre.epita.fr//
______________________
Docs mailing list -- docs(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/docs.ml.lre.epita.fr//
______________________
Docs.rennes mailing list -- docs.rennes(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/docs.rennes.ml.lre.epita.fr//
Bonjour à tous,
Je vous annonce que le prochain séminaire de l'axe ML sera donné par Alessio Ragno (https://alessio.ragno.info/), doctorant en visite à Epita (Lyon)
Ci-dessous, le titre et l'abstract du talk.
Merci de bien vouloir remplir le framadate suivant : https://framadate.org/SL6e6uySXrMDrSv6
Au plus tard le vendredi 22 mars, afin de fixer rapidement un créneau pour la semaine prochaine
Bonne fin de journée,
----------------------------------------------------------------------------------------------------------------------------------------
Title: Topology-based Explanations for Neural Networks
Abstract:
The seminar will be a summary of the research activities conducted on the topic of Explainable AI. The first part of the talk will be about the development of Self-Explainable Graph Neural Networks. Successively, the discussion will shift towards providing logic explanations for neural networks' predictions. Finally, different applications will be presented, spanning NLP, Drug Discovery and Reinforcement Learning.
BIO:
Alessio Ragno is a Ph.D. student in Artificial Intelligence at Sapienza University of Rome, supervised by Professor Roberto Capobianco. With a passion for applying AI to various scientific realms, Alessio focuses on Explainable AI (XAI) to enhance understanding and usability.
His research involves creating topology-based XAI methods tailored to specific AI models, aiming to make neural network predictions more interpretable. Prior to his Ph.D., Alessio earned Master's and Bachelor's degrees in AI & Robotics and Computer and Control Engineering, respectively.
Alessio gained practical experience in AI's application to chemistry and drug discovery during his time at the University of North Carolina and collaborations with Sapienza University of Rome's Pharmaceutical Chemistry and Technology Department. His dedication lies in making AI more accessible and transparent for meaningful scientific advancements.
[Une image contenant texte, clipart, signe Description générée automatiquement]
Idir Benouaret
Enseignant-Chercheur
[https://lh6.googleusercontent.com/dCYVl9pmYNgg1wBndkYtELRR9DX8RRY5d_e4N2Xhk…]
[https://lh4.googleusercontent.com/O8lm18dZZ188g_iBNOmO2UX8qPx8zNmCfFbItUDzk…]
[https://lh4.googleusercontent.com/iJejRKKnVTGA2lyz-eMOKQvI9vVP-ftzUIqzCoeoR…]
[https://lh6.googleusercontent.com/J3eMugeLIjhhZigE4aw44kR3o5SCCOf3J7YJfPDTC…]
[https://lh3.googleusercontent.com/2nPXgKhjFiG8S9uTa2TTXP1-CcUjZnjdJ5CVAd3_f…]
[Une image contenant texte, clipart Description générée automatiquement]
+33 4 28 29 37 63
[https://lh6.googleusercontent.com/hGLtorzP2LwpWN7a7qPxHUf-Ufq7UmoJXpduyzZWG…]
______________________
Current mailing list -- current(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/current.ml.lre.epita.fr//
______________________
Doctorants mailing list -- doctorants(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/doctorants.ml.lre.epita.fr//
______________________
Docs mailing list -- docs(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/docs.ml.lre.epita.fr//
______________________
Docs.rennes mailing list -- docs.rennes(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/docs.rennes.ml.lre.epita.fr//
Bonjour à tous,
Vous trouverez ci-dessous l'appel à article pour la session 'Detection of complex attacks' que nous organisons lors de la conférence KES'24.
N'hésitez pas à transmettre à vos partenaires ! (les partenaires habituels de l'équipe sont déjà informés).
Bien à vous,
Pierre
Dear partners,
Please find below the call for paper for the Session on 'Detection of Complex Attacks' at KES'2024.
Session: 'Detection of Complex Attacks through Advanced Learning Models'
Conference: KES'2024, the 28th International Conference on Knowledge-Based and Intelligent Information & Engineering Systems
When: 11-13 September 2024
Where: Seville, Spain
Deadline: 8th April 2024
All information: https://kes-dca.lre.epita.fr/
Submission: http://kes2024.kesinternational.org/easychair.php
Scope of Session
This session intends to address the next challenges in the coupling of cybersecurity and AI by focusing on a blind spot of detection of complex cybersecurity attacks: the analysis of weak signals and stealthy interactions inside the systems to be protected.
Attacks and their countermeasures have grown dramatically more complex with the combination of extensive digital transformation in service and industries, the maturation of both defense and attack software, and the growing pressure of increasing cybersecurity threats. In this context, efficient detection requires a radical refinement of these systems which can no longer be considered as monolithic (or monolithic abstractions). The specificities of the user, machine, operating system, and service levels must be considered, while maintaining a technical control, and a cognitive one for the operator in charge, over the ever-growing heterogeneity. In particular: weak signals, traffic betraying an ongoing APT (advanced Persistent Threat), or attacks against the detection systems easily evade state of the art detectors. Being able to hunt these novel threats necessitates to support the identification of emerging behaviors, tracking the evolution of connections as well as connection patterns, or even making correlations through remote systems. And to do so in an antagonist environment where the adversary does not passively wait to be detected but takes actives steps to evade, lure or exploit the detection systems.
The session on "Interactions for security detection" deals with following key challenges:
* How to model interactions between users, machines, systems, and services?
* How to detect low signals and their drift, as well as learn and handle novel threats in antagonist environments?
* How to exploit these low signals to abuse operational and protection systems
* How to design robust systems, detection systems (federated learning), or bricks of detection systems (SOCs at system and user level)
Topics of interest are, but not restricted to:
· Learning emerging behaviors for security detection
· Low signals for detection
· Graph representation learning for security: knowledge, provenance, connectivity graphs.
· Advanced learning paradigms
· Distributed learning and Decentralized learning
· Federated learning
· Stream learning
· User interactions
· Machine learning for security attack and defense
· Detection in heterogeneous environments
· LLM for security, security for LLMs
· Adversarial machine learning
· Trustworthy machine learning
Application domains are, but not restricted to:
· IoT environments
· Critical infrastructures
· Cloud infrastructures
· IT Networks
Best regards,
Pierre Parrend, Marc-Oliver Pahl, Nidà Meddouri
Pierre Parrend
Deputy Head of LRE - Research Laboratory at EPITA
Head of Security and Systems Team
Professor, Dr. HDR
______________________
Secu-sys mailing list -- secu-sys(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/secu-sys.ml.lre.epita.fr//
______________________
Secu-sys.rennes mailing list -- secu-sys.rennes(a)ml.lre.epita.fr
https://lists.lrde.epita.fr/postorius/lists/secu-sys.rennes.ml.lre.epita.fr…