Réussir le test pour développer une IA de confiance
Les systèmes à base d’Intelligence Artificielle sont de plus en plus répandus, notamment dans des cas d’applications critiques, tels que la conduite autonome, l’aviation ou encore l’imagerie médicale. Cependant, les techniques classiques de test logiciel ne sont généralement pas applicables à ces systèmes. Pour répondre à ce besoin, de nouveaux processus de test pour l’Intelligence Artificielle ont émergé ces dernières années. Cette formation permet de comprendre les enjeux du test des systèmes à base d’IA, au regard de leurs vulnérabilités, et d’identifier les méthodes de test et de vérification les plus pertinentes.
OBJECTIFS
Comprendre les spécificités du test logiciel dans le domaine de l’IA
Connaître les principales vulnérabilités d’une IA
Identifier les méthodes de test et de vérification pertinentes
PUBLIC VISE
Cette formation cible les chefs de projet, ingénieurs, développeurs, chercheurs
PREREQUIS
Connaissance des fondamentaux en IA et du langage de programmation Python nécessaire.
Un PC avec webcam, haut-parleur et micro et une liaison Internet sont requis.
INTERVENANT
Doctorante spécialisée en test pour l’IA.
Le programme CAP’TRONIC aide, chaque année, 400 entreprises à monter en compétences sur les technologies liées aux systèmes électroniques et logiciel embarqué.
PRIX
Non-adhérent : 1400 € HT
Adhérent CAP’TRONIC : 1100 € HT
Remarque : Notre certification QUALIOPI vous garantit un process certifié sur nos actions de formation et permet un financement des formations CAP’TRONIC par votre Opérateur de Compétences (OPCO) hors CPF.
PROGRAMME
Jour 1
Tour de Table
Enjeux du test de l’IA
Le test des systèmes basés sur une IA : définition
Pourquoi tester l’IA ?
Exemple : COMPAS (2015-2016)
Cycle de vie du Machine Learning
Machine Learning vs logiciel traditionnel
Les défis du test des systèmes basés IA
Propriétés d’une IA fiable et vulnérabilités
Qu’est- ce qu’une IA de confiance ?
Qualité des données
Ethique et équité : définitions et vulnérabilités
Explicabilité : définition / classification binaire / classification d’images
Sécurité : définition et exemple
Sureté et robustesse
Travaux pratiques : mise en oeuvre de méthodes pour l’équité et l’explicabilité
Méthodes et outils de test
Les oracles de test
Générateurs de cas de test
▪ Test métamorphique : définition / exemples de relations
▪ Attaques adverses : modèle de l’attaquant / métriques / méthodes
Critères d’adéquation des tests
▪ Métriques de couverture en boite blanche
▪ Tests de mutation : méthodologie / opérateurs
Exemple : DeepTest
Travaux pratiques : mise en oeuvre des méthodes de test métamorphique et d’attaques adverses
Jour 2
Méthodes de vérification formelle
Méthodes formelles
Définitions
Neurones instables
Interprétation abstraite
Approximation linéaire
Solveur SMT
Branch-and-bound
Taxonomie des méthodes
Travaux pratiques : mise en oeuvre des méthodes d’interprétation abstraite et de branch-and-bound.
Développer une IA de confiance
Bonnes pratiques
Méthodes de défense
Environnement normatif pour l’IA
Règlementation européenne : AI Act
Tour de table
Le découpage de la formation est proposé à titre indicatif et pourra être adapté.
ORGANISATION
MOYENS PEDAGOGIQUES
Outil de visioconférence. Support de cours. Etude de cas. . Une assistance pédagogique sur le cours sera assurée par le formateur pendant 1 mois à l’issue de la formation.
MOYENS PERMETTANT D’APPRECIER LES RESULTATS DE L’ACTION
Evaluation de l’action de formation par l’envoi d’un questionnaire de satisfaction à chaud à l’issue de la formation, puis d’un questionnaire à froid quelques semaines après la formation.
MOYEN PERMETTANT DE SUIVRE L’EXECUTION DE L’ACTION
Evaluation des connaissances via un questionnaire avant et après la formation.
SANCTION DE LA FORMATION
Attestation d’assiduité.
RENSEIGNEMENTS ET INSCRIPTION
Florence CAGNARD, cagnard@captronic.fr - 06 70 73 23 43
Pour toute question y compris les conditions d’accès pour les publics en situation de handicap.
Réussir le test pour développer une IA de confiance du 13 au 14 novembre 2024
Les informations recueillies sur ce formulaire sont enregistrées dans un fichier informatisé par JESSICA France à des fins de communication via emailing. Elles sont conservées jusqu’à votre demande de désinscription et sont destinées aux équipes de JESSICA France localisées en France.
Conformément à la loi « informatique et libertés », vous pouvez exercer votre droit d’accès aux données vous concernant et les faire rectifier en contactant
Informations mises à jour le 19/03/2024