Deniz Pekin

Cybersécurité de l’IA : comprendre les risques, se protéger et réagir face aux vulnérabilités des outils d’intelligence artificielle

Deniz Pekin

Cybersécurité de l’IA : comprendre les risques, se protéger et réagir face aux vulnérabilités des outils d’intelligence artificielle

Tarifs

À définir/participant TTC

Durée

14 heures (2 jours)

Objectifs

  • Comprendre les vulnérabilités propres aux modèles de langage (LLMs) : injection de prompt, jailbreaks, hallucinations, fuites de données.
  • Distinguer les risques techniques (attaques sur le modèle) des risques organisationnels (Shadow AI, non-conformité).
  • Maîtriser une grille de lecture des mécanismes de défense multicouches inspirée des principes de biosécurité.
  • Identifier les bonnes pratiques de sécurité et de confidentialité à appliquer au quotidien.
  • Mettre en place des garde-fous adaptés à son contexte métier (développement, RH, management).
  • Savoir réagir face à un incident de sécurité lié à l’IA.

Public

(12 personnes maximum)

Cette formation s’adresse à un public mixte de professionnels confrontés aux risques liés à l’IA générative dans leur activité : développeurs, managers, équipes RH, et autres professionnels techniques ou métiers utilisant ou déployant des outils d’IA.

Pré-requis

  • Aucune expertise en cybersécurité n’est requise.
  • Utilisation régulière ou envisagée d’outils d’IA générative en contexte professionnel.
  • Des notions de développement facilitent la compréhension de certains modules techniques, sans être indispensables.

Méthode pédagogique

  • Quiz interactif de positionnement en ouverture, pour ajuster le niveau au groupe
  • Apports théoriques illustrés d’exemples réels d’attaques et d’incidents
  • Étude de cas techniques (anatomie d’une injection de prompt)
  • Ateliers pratiques en groupe et en individuel
  • Temps d’échange et de questions-réponses

Modalité d’évaluation

  • Quiz de positionnement en entrée de formation
  • Évaluation des compétences en sortie de formation
  • Feuilles de présence
  • Certificat de réalisation

Programme détaillé

Jour 1 : Comprendre les risques : vulnérabilités et attaques sur les LLM

  1. Introduction : pourquoi la sécurité de l’IA diffère de la cybersécurité traditionnelle
  2. Quiz interactif : évaluer son niveau de maîtrise des enjeux
  3. Panorama des vulnérabilités : injection de prompt, jailbreaks, hallucinations
  4. Fuites de données et confidentialité dans les usages IA
  5. Le Shadow AI : usages non maîtrisés au sein des organisations
  6. Étude de cas : anatomie d’une attaque par injection de prompt

Jour 2 : Se défendre : bonnes pratiques et mécanismes de protection

  1. Le triptyque de la défense : sanitizing, immunisation, traitement (une analogie inspirée de la biosécurité)
  2. Sanitizing : filtrage des entrées utilisateurs (classifieurs type PromptGuard)
  3. Immunisation : fine-tuning adversarial et alignement (Constitutional AI)
  4. Traitement : filtrage des sorties, coupe-circuits pour agents IA, audit et détection d’anomalies
  5. Bonnes pratiques organisationnelles : gestion des accès, conformité RGPD
  6. Atelier pratique : élaborer sa propre checklist de sécurité IA
  7. Gestion des incidents : procédure de signalement et de réaction
  8. Conclusion et ressources à emporter

Accessibilité

Formation accessible dans un délai de 2 semaines, aménageable sur demande à un public en situation de handicap. Conformément à la réglementation (loi du 11 Février 2005 et Articles D.5211-1 et suivants du code du travail), RS GROUP s’engage à répondre aux besoins particuliers des stagiaires en situation de handicap en proposant des aménagements en termes de durée, rythme, méthodes et supports pédagogiques. Le cas échéant, l’organisme de formation pourra mobiliser des compétences externes (CARIF OREF HDF, Plan régional d’insertion des travailleurs handicapés, AGEFIPH HDF, mon parcours handicap) et les ressources AD HOC (ACCEA, EPATECH,..) pour la recherche de solutions permettant l’accès aux formations. Adaptation des conditions d’examen aux personnes en situation de handicap : le référent handicap prendra en compte dès l’inscription du candidat sa situation de handicap, si celle-ci est mentionnée. Il sera alors proposé au candidat un entretien afin d’envisager avec lui les aménagements qui pourront être apportés.

    Comment s’inscrire ?

    Pour vous inscrire, contactez-nous via notre formulaire de contact. Nous vous recontacterons pour prévoir une date pour la réalisation de la formation.

    notre certification

    RS GROUP est certifié comme organisme de formation Qualiopi depuis mars 2026. Cela signifie que nos formations respectent des critères stricts de qualité définis par l’Etat français.

    Voir la certification

    Intéressé ?

    Réservez une visio de 30 min pour découvrir les leviers d’optimisation adaptés à votre contexte

    Nous contacter