Logo de la rubrique Réussir le test pour développer une IA de confiance

Réussir le test pour développer une IA de confiance

Les systèmes à base d’Intelligence Artificielle sont de plus en plus répandus, notamment dans des cas d’applications critiques, tels que la conduite autonome, l’aviation ou encore l’imagerie médicale. Cependant, les techniques classiques de test logiciel ne sont généralement pas applicables à ces systèmes. Pour répondre à ce besoin, de nouveaux processus de test pour l’Intelligence Artificielle ont émergé ces dernières années. Cette formation permet de comprendre les enjeux du test des systèmes à base d’IA, au regard de leurs vulnérabilités, et d’identifier les méthodes de test et de vérification les plus pertinentes.

OBJECTIFS

Comprendre les spécificités du test logiciel dans le domaine de l’IA
Connaître les principales vulnérabilités d’une IA
Identifier les méthodes de test et de vérification pertinentes

PUBLIC VISE

Cette formation cible les chefs de projet, ingénieurs, développeurs, chercheurs

PREREQUIS

Connaissance des fondamentaux en IA et du langage de programmation Python nécessaire.
Un PC avec webcam, haut-parleur et micro et une liaison Internet sont requis.

INTERVENANT

Doctorante spécialisée en test pour l’IA.
Le programme CAP’TRONIC aide, chaque année, 400 entreprises à monter en compétences sur les technologies liées aux systèmes électroniques et logiciel embarqué.

PRIX

Non-adhérent : 1400 € HT
Adhérent CAP’TRONIC : 1100 € HT

Remarque : Notre certification QUALIOPI vous garantit un process certifié sur nos actions de formation et permet un financement des formations CAP’TRONIC par votre Opérateur de Compétences (OPCO) hors CPF.

PROGRAMME

Jour 1

Tour de Table

Enjeux du test de l’IA

Le test des systèmes basés sur une IA : définition
Pourquoi tester l’IA ?
Exemple : COMPAS (2015-2016)
Cycle de vie du Machine Learning
Machine Learning vs logiciel traditionnel
Les défis du test des systèmes basés IA

Propriétés d’une IA fiable et vulnérabilités

Qu’est- ce qu’une IA de confiance ?
Qualité des données
Ethique et équité : définitions et vulnérabilités
Explicabilité : définition / classification binaire / classification d’images
Sécurité : définition et exemple
Sureté et robustesse
Travaux pratiques : mise en oeuvre de méthodes pour l’équité et l’explicabilité

Méthodes et outils de test
Les oracles de test
Générateurs de cas de test
▪ Test métamorphique : définition / exemples de relations
▪ Attaques adverses : modèle de l’attaquant / métriques / méthodes
Critères d’adéquation des tests
▪ Métriques de couverture en boite blanche
▪ Tests de mutation : méthodologie / opérateurs
Exemple : DeepTest
Travaux pratiques : mise en oeuvre des méthodes de test métamorphique et d’attaques adverses

Jour 2
Méthodes de vérification formelle
Méthodes formelles
Définitions
Neurones instables
Interprétation abstraite
Approximation linéaire
Solveur SMT
Branch-and-bound
Taxonomie des méthodes
Travaux pratiques : mise en oeuvre des méthodes d’interprétation abstraite et de branch-and-bound.

Développer une IA de confiance
Bonnes pratiques
Méthodes de défense
Environnement normatif pour l’IA
Règlementation européenne : AI Act

Tour de table

Le découpage de la formation est proposé à titre indicatif et pourra être adapté.

ORGANISATION

MOYENS PEDAGOGIQUES
Outil de visioconférence. Support de cours. Etude de cas. . Une assistance pédagogique sur le cours sera assurée par le formateur pendant 1 mois à l’issue de la formation.

MOYENS PERMETTANT D’APPRECIER LES RESULTATS DE L’ACTION
Evaluation de l’action de formation par l’envoi d’un questionnaire de satisfaction à chaud à l’issue de la formation, puis d’un questionnaire à froid quelques semaines après la formation.

MOYEN PERMETTANT DE SUIVRE L’EXECUTION DE L’ACTION
Evaluation des connaissances via un questionnaire avant et après la formation.

SANCTION DE LA FORMATION
Attestation d’assiduité.

RENSEIGNEMENTS ET INSCRIPTION

Florence CAGNARD, cagnard@captronic.fr - 06 70 73 23 43
Pour toute question y compris les conditions d’accès pour les publics en situation de handicap.

Réussir le test pour développer une IA de confiance du 13 au 14 novembre 2024



Les informations recueillies sur ce formulaire sont enregistrées dans un fichier informatisé par JESSICA France à des fins de communication via emailing. Elles sont conservées jusqu’à votre demande de désinscription et sont destinées aux équipes de JESSICA France localisées en France.
Conformément à la loi « informatique et libertés », vous pouvez exercer votre droit d’accès aux données vous concernant et les faire rectifier en contactantPNG

Informations mises à jour le 13/06/2024