Module 5 - IA éthique pour les Entreprises

Introduction :

L'IA fait de plus en plus partie de la prise de décision quotidienne des PME — du service client et marketing aux RH et opérations. Cela s'accompagne de nouvelles responsabilités en matière d'équité, de transparence, de protection des données et de responsabilité. Ce module offre une introduction pratique à l'IA éthique, aidant les PME à comprendre les risques réels, à repérer les signaux d'alarme courants et à appliquer des pratiques simples et responsables lors de l'utilisation d'outils IA. L'accent est mis sur des actions réalistes que les entreprises peuvent entreprendre pour garantir que leur utilisation de l'IA reste sûre, équitable et digne de confiance.

Résultats de l'apprentissage

En terminant le module 5 : IA éthique pour les entreprises, les apprenants seront capables de :

  • Comprendre les principales préoccupations éthiques liées à l'utilisation de l'IA dans les PME, notamment les biais, la transparence, la confidentialité et la responsabilité.
  • Identifier les risques éthiques courants dans les outils IA quotidiens tels que les chatbots, les générateurs de contenu, les filtres de recrutement et les tableaux de bord analytiques.
  • Appliquer des stratégies pratiques pour réduire les risques éthiques, de réputation et juridiques dans leur propre PME.
  • Promouvoir une adoption de l'IA responsable, inclusive et transparente dans les processus d'entreprise.

Unités de ce module

Unité 1 : Comprendre l'IA éthique — Des principes à la pratique
Unité 2 : Défis de l'éthique de l'IA pour les PME
Unité 3 : Gérer l'IA de manière éthique dans votre entreprise
Unité 4 : Ressources supplémentaires et évaluation

Unité 1 – Comprendre l'IA éthique : des principes à la pratique

Introduction

L'IA éthique n'est pas un concept abstrait. C'est le fondement qui rend l'intelligence artificielle fiable, sûre et utile dans des contextes commerciaux réels. Les PME considèrent souvent l'IA comme un outil technique, mais chaque décision commerciale impliquant l'IA a des conséquences éthiques, que ce soit dans ses interactions avec les clients, ses relations avec les employés ou la gestion des données. Cette unité explore la signification de l'IA éthique, telle que définie par les directives internationales (UNESCO, UE), et pourquoi elle devrait faire partie intégrante du processus de prise de décision quotidienne des PME.

Qu'est-ce que l'IA éthique ?

L'IA éthique fait référence à la conception et à l'utilisation de systèmes d'IA qui respectent des valeurs telles que :

  • équité – éviter les biais et la discrimination ;
  • la transparence – rendre les décisions compréhensibles;
  • la responsabilisation – clarifier qui est responsable ;
  • confidentialité – la protection des droits sur les données ;
  • durabilité – réduire l’impact environnemental.

 

Exemple :un outil IA qui recommande des candidats pour un emploi ne devrait pas exclure injustement les femmes ou les groupes minoritaires. Un chatbot marketing devrait clairement indiquer aux utilisateurs quand ils interagissent avec une IA et comment leurs données seront utilisées.

Cadres internationaux façonnant l'IA éthique

  • UNESCO (2021). Premier Accord mondial sur l'éthique de l'IA, adopté par 193 États membres, soulignant l'équité, la transparence, la responsabilité, la vie privée, la durabilité et l'interdiction des pratiques nuisibles telles que le système de notation sociale et la surveillance de masse.
  • Livre blanc de l'UE sur l'IA (2020) . Introduit l'idée double d'un écosystème d'excellence (innovation) et d'un écosystème de confiance (sécurité, éthique, conformité légale).
  • Prochaine loi européenne sur l'IA. Introduira des règles contraignantes pour les “ systèmes d'IA à haut risque ” et des orientations pour les PME.

 

Pourquoi l'IA éthique est importante pour les PME

✔ Renforce la confiance des clients

Les gens font confiance aux entreprises transparentes sur la façon dont l'IA est utilisée.

✔ Réduit les plaintes et le risque juridique

Les mauvaises décisions de l'IA peuvent enfreindre le RGPD ou les futures règles européennes sur l'IA.

✔ Améliore l'équité en matière d'embauche, de marketing et de communication

Une IA mal conçue peut exclure des clients ou des candidats.

✔ Renforce la réputation de la marque

Le comportement éthique crée un avantage concurrentiel.

L'IA éthique au quotidien dans les PME 

L'IA éthique n'est pas abstraite – elle affecte les opérations simples et quotidiennes. 

Exemple A : Agents conversationnels 

  • Doit divulguer qu'ils sont une IA
  • Devrait proposer une option pour passer à un humain
  • Doit respecter le consentement de l'utilisateur avant de collecter des données

Exemple B : Marketing IA

  • Doit éviter de renforcer les stéréotypes
  • Doit vérifier sa formulation pour déceler les préjugés
  • Doit s'assurer que les données sont utilisées avec permission

     

Exemple C : Outils de recrutement

  • L'IA peut aider à la présélection, mais des humains doivent vérifier
  • Les critères devraient être liés au poste, et non démographiques
  • Les suggestions de l'IA doivent être explicables

     

Exemple D : Tableaux de bord d'informations client

  • Les données doivent être anonymisées
  • Les prédictions doivent être vérifiées
  • Les employés doivent comprendre ce que le tableau de bord dit — et ce qu'il ne dit pas.

Vérification de la conscience éthique

Réfléchissez à votre propre PME, et cochez celles qui s'appliquent : 

Nous divulguons lorsque les clients interagissent avec un chatbot
  •  
Le contenu généré par IA est toujours revu par un humain
  •  
Nous évitons de télécharger des données sensibles ou personnelles dans des outils IA publics
  •  
Nous avons une personne désignée responsable de la supervision de l'IA
  •  
Le personnel comprend les limites des outils d'IA qu'il utilise
  •  

Drapeaux rouges à surveiller 

Ce sont des signes qu'un outil IA peut être en train de ne pas agir de manière éthique :

🔴 L'outil fournit des résultats mais aucune explication

🔴 Il demande des données personnelles inutiles

🔴 Il se comporte différemment pour des utilisateurs similaires

🔴 Les résultats du marketing ou du recrutement semblent étrangement biaisés

🔴 Le personnel ressent une pression à accepter les résultats de l'IA sans les remettre en question

🔴 L'organisation cache où l'IA est utilisée

Le rôle de l'humain dans la garantie de l'IA éthique 

 

Même lorsque l'IA est intégrée aux flux de travail, les gens restent responsables.

Les humains sont responsables de :

  • définir des limites et des règles pour l'utilisation de l'IA
  • examiner et approuver les résultats de l'IA
  • identifier et corriger les schémas nuisibles
  • communiquer les décisions aux clients
  • assurer la sécurité des données
  • surveiller les performances au fil du temps

L'IA sert de support — mais ce sont les humains qui décident.

Réflexion 

  • Quel principe éthique est le plus pertinent pour votre PME en ce moment ?
  • Où voyez-vous le plus grand risque éthique ?
  • Quelle est une petite amélioration que votre PME pourrait apporter dès demain ?

Unité 2 – Défis éthiques de l'IA pour les PME

Risques éthiques courants pour les PME

L'IA peut améliorer l'efficacité, la prise de décision et le service client — mais elle introduit également des risques que les PME négligent souvent.
Ces risques ne sont pas théoriques : ils se manifestent dans des outils du quotidien comme les chatbots, les publicités automatisées, les filtres de CV et les tableaux de bord d'analyse.

Cette unité met en lumière les principaux risques éthiques que les PME devraient comprendre et fournir des exemples pratiques, des signaux d'alerte et des conseils d'atténuation.

 

Risque éthique 1 : Biais et discrimination

Les systèmes d'IA apprennent à partir de données — et si les données contiennent des biais, l'IA les reproduira.

Comment cela apparaît dans les outils TPE/PME réels

  • Les filtres de recrutement attribuent des scores plus bas aux CV en raison de l'âge, du genre, de la nationalité ou des noms.
  • L'IA de Marketing cible principalement ses publicités à un groupe démographique restreint.
  • Les chatbots comprennent mal les clients plus âgés ou ceux qui utilisent une formulation non standard.
  • Les systèmes de notation par points dévalorisent les clients de certains codes postaux.

Pourquoi c'est important

  • Résultats injustes
  • Clients exclus
  • Atteinte à la réputation
  • Conséquences juridiques potentielles en vertu des lois sur l'égalité et la lutte contre la discrimination

Drapeaux rouges (à surveiller)

  • Les recommandations favorisent fortement un groupe
  • La sortie de l'IA “ ne semble pas correcte ” mais le personnel ne peut pas expliquer pourquoi
  • Résultats très différents pour des cas similaires

Comment les PME peuvent réduire les biais

  • Toujours utiliser une intervention humaine avant validation
  • Tester les outils avec des exemples variés
  • Éviter de saisir des données personnelles sensibles dans des outils automatisés
  • Choisir des fournisseurs qui offrent une transparence sur leurs modèles et leurs données d'entraînement

Risque éthique 2 : Manque de transparence

De nombreux outils d'IA fournissent des résultats — mais aucune explication.
Pour les PME, cela crée de la confusion et de la méfiance.

Exemples

  • Un résultat d'éligibilité à un prêt apparaît sans aucune explication.
  • Un assistant IA priorise certains prospects mais le personnel ignore pourquoi.
  • Un chatbot donne des réponses incohérentes et personne ne comprend sa logique.

Pourquoi c'est important

  • Le personnel ne peut pas justifier les décisions de l'IA auprès des clients.
  • Les PME risquent de s'appuyer sur des décisions qu'elles ne peuvent pas vérifier.
  • Plus difficile de détecter les erreurs ou les biais.

Drapeaux rouges

  • L'outil dit : “Décision prise. Aucune explication disponible.”
  • Différents membres de l'équipe obtiennent des résultats différents à partir de la même requête.
  • Le vendeur ne sait pas expliquer le fonctionnement du modèle.

Comment les PME peuvent améliorer la transparence

  • Choisir des outils d'IA avec des fonctionnalités "d'explicabilité"
  • Exiger des fournisseurs qu'ils répondent à: “ Quels facteurs influencent ce modèle ? ”
  • Fournir des explications simples destinées aux clients
  • Désigner une personne responsable de l'examen des décisions basées sur l'IA

Risque éthique 3 : Confidentialité et protection des données

Les outils d'IA nécessitent souvent un accès aux données — parfois plus que ce que les PME réalisent.

Exemples

  • Téléchargement d'e-mails de clients dans des outils d'IA générative publics
  • Des assistants marketing stockant des données utilisateur sans consentement
  • Modèles d'IA CRM combinant les données clients avec le comportement en ligne
  • Les chatbots enregistrant les conversations indéfiniment

Pourquoi c'est important

  • Violations du RGPD
  • Perte de confiance des clients
  • Fuites ou mauvaise utilisation des données
  • Informations sensibles se retrouvant dans l'entraînement des modèles

Drapeaux rouges

  • L'outil d'IA demande des données personnelles inutiles
  • Absence de paramètres de confidentialité clairs
  • « Nous stockons vos données pour améliorer nos modèles » sans explication supplémentaire
  • Aucune option pour supprimer les données

Stratégies d'atténuation des PME

  • Ne pas télécharger de données personnelles sensibles dans des systèmes d'IA publics
  • Ne conserver que les données réellement nécessaires
  • Utiliser des outils permettant la suppression et l'exportation de données
  • Vérifiez les politiques de confidentialité avant l'adoption

Risque éthique 4 : Sécurité et Vulnérabilité du Modèle

Certains systèmes d'IA peuvent être manipulés ou exploités.

Exemples

  • Les chatbots répondant à des messages malveillants
  • Des e-mails générés par IA servant à se faire passer pour des employés
  • Les outils de détection de fraude ont contournant l'utilisation de données synthétiques
  • Des requêtes "débridées" générant des contenus préjudiciables

Pourquoi c'est important

  • Violations de sécurité
  • Le personnel ou les clients reçoivent des informations trompeuses
  • Atteinte à la réputation
  • Exposition réglementaire

Drapeaux rouges

  • L'IA envoie des instructions inattendues ou nuisibles
  • Manque de certifications de sécurité des fournisseurs
  • Aucun suivi ni mise à jour de prévus
  • L'IA accepte des entrées arbitraires sans restriction

Ce que les PMEs peuvent faire

  • Fournir des consignes au personnel pour des prompts sûres
  • Utiliser des outils avec des fonctionnalités de modération de contenu
  • Demander aux fournisseurs comment ils protègent contre les « attaques modèles »
  • Mettre à jour ou corriger régulièrement les systèmes

Risque éthique 5 : Impact sur les Effectifs et l'Organisation

L'adoption de l'IA peut aussi affecter les employés — éthiquement et culturellement.

Problèmes courants

  • Précarité de l'emploi ou peur d'être remplacé
  • Confusion au sujet de la responsabilité
  • Perte de confiance si les décisions semblent " algorithmiques » ou opaques
  • Dépendance excessive à l'automatisation
  • Absence de supervision de l'IA

Ce que les PME Devraient Privilégier

  • Communiquez en toute transparence : l'IA assiste, les humains décident
  • Impliquez le personnel dès le début de l'évaluation de l'outil
  • Dispenser une formation sur les nouveaux flux de travail
  • Définir clairement les responsabilités humaines
  • S'assurer que le personnel puisse contester les résultats de l'IA sans crainte

Exercice 

 

Exercice A - Repérez le Risque 

Choisissez un outil IA que votre PME utilise (ou pourrait utiliser).
Identifier un risque éthique et une mesure d'atténuation.

Exercice B - Expliquez la Décision

Imaginez qu'une IA ait classé un CV, signalé un risque ou recommandé un produit.
Ecrivez une explication de 2-3 phrases pour un client ou collègue.
Si c'est compliqué → cela démontre un problème de transparence.

Exercice C - Vérifiez la Donnée

Citez trois types de donnée collectés par votre PME.
Décidez lesquels sont:

  • essentiel
  • optionnel
  • non nécessaire

Cela aide les apprenants à identifier les soucis de confidentialité.

Résumé : Ce Que les PME Doivent Retenir 

  • L'IA peut amplifier les problèmes existants si elle n'est pas encadrée
  • Les risques éthiques viennent souvent de nos outils de tout les jours, et non des systèmes avancés
  • Les biais, le manque de transparence et les problèmes de confidentialité sont les écueils les plus courants
  • L'Humain reste responsable des décisions
  • L'éthique n'est pas un concept abstrait — il renforce la confiance et protège votre entreprise

 

Le tableau ci-dessous liste les erreurs les plus courantes que les entreprises peuvent commettre lorsqu'elles utilisent l'IA de manière éthique et suggère des actions pour atténuer le risque.

 

Erreur courante

Description

Comment y remédier

Confiance aveugle dans les résultats de l'IA

Supposer que le contenu ou les informations générés par l'IA sont toujours exacts sans vérification

Vérifiez toujours les faits et faites preuve de discernement avant d'agir sur la base des résultats de l'IA.

Manque de transparence

Utiliser des outils d'IA ou du contenu généré par IA sans le divulguer

Soyez transparent sur quand et comment vous utilisez l'IA, en particulier dans la recherche, l'écriture ou les médias

Négligence de la confidentialité des Données

Saisie d'informations personnelles, confidentielles ou sensibles dans les systèmes d'IA.

Considérez les systèmes d'IA comme potentiellement publics. Ne saisissez jamais de données que vous ne partageriez pas de manière sécurisée

Angles morts de biais et d'équité

Ignorer que les modèles d'IA peuvent refléter et amplifier les biais humains

Soyez attentif aux biais potentiels dans les datasets, les supports de formation, et les résultats, en particulier dans les contextes d'embauche, juridiques ou de santé

Mauvaise utilisation ou surutilisation de l'IA

Application de l'IA à des décisions ou contextes où elle n'est pas adaptée 

Impliquez toujours une personne dans les décisions sensibles, à haut risque ou d'ordre moral

Sous-estimation des risques juridiques et réputationnels

Ne pas aligner l'utilisation de l'IA sur les réglementations (RGPD, loi sur l'IA, lois du travail) ou les attentes du public

Surveillez régulièrement le respect des réglementations telles que la loi européenne sur l'IA et le RGPD

Principes éthiques à retenir lors de l'utilisation de l'IA :

  • Responsabilité : Vous êtes responsable des résultats, pas l'outil.
  • Équité : Traitez tous les utilisateurs et parties prenantes avec respect et équité.
  • Transparence : Soyez honnête sur le rôle et les limites de l'IA.
  • Confidentialité : Protégez les données et obtenez le consentement avant utilisation.
  • Supervision humaine : Maintenez une vérification et une intervention humaine aux étapes critiques.

Unité 3 : Gérer l'IA de manière éthique dans votre entreprise

Introduction :

Connaître les risques de l'IA ne suffit pas — les PME ont besoin de façons pratiques de gérer ces risques.
Cette unité donne aux apprenants des méthodes simples et réalistes pour garantir que l'IA est utilisée de manière responsable, sûre et transparente.

Nous nous concentrons sur ce que les PME peuvent mettre en œuvre immédiatement, sans expertise technique ni gros budgets.

Gouvernance de l'IA Éthique pour les PME : Un Cadre Simple 

Mais elles peuvent adopter un cadre léger et efficace basé sur cinq piliers :

Définir pourquoi vous utilisez l'IA.

  • Quel problème résolvons-nous ?
  • L'IA est-elle le bon outil ?
  • Qui en profite ?

Ceci empêche une utilisation négligente ou inutile de l'IA.

Assurez-vous que les données sont :

  • minimales (seulement ce dont vous avez vraiment besoin)
  • sécurisées
  • recueillies légalement (avec consentement, le cas échéant)
  • rangées en toute sécurité
  • accessibles uniquement au personnel compétent

Demande :
“Quelles données cet outil utilise-t-il, et en avons-nous réellement besoin ?”

Toute tâche soutenue par l'IA doit avoir un gérant humain.

Une personne devrait :

  • examiner les sorties importantes
  • annuler les décisions incorrectes
  • répondre aux questions des clients
  • approuver le contenu généré par l'IA
  • surveiller le comportement du système

L'IA soutient ; les humains décident.

Les gens méritent de savoir :

  • quand l'IA est utilisée
  • quel rôle elle joue
  • qui est responsable des décisions

Les PME devraient :

  • dire aux clients quand ils interagissent avec un chatbot
  • expliquer les décisions majeurs supportées par l'IA dans un langage clair
  • documenter comment les outils influencent leur workflows

Les outils IA doivent être vérifiés régulièrement.

Ceci inclut :

  • une vérification ponctuelle des sorties
  • de tester les résultats incohérents ou biaisés
  • d'examiner les retours clients
  • la mise à jour des outils
  • de supprimer les outils qui ne servent plus l'objectif commercial

Un simple point mensuel suffit pour de nombreuses PME.

 

Conseils pratiques pour une utilisation éthique de l'IA : à faire et à ne pas faire 

A FAIRE

  • Utiliser l'IA pour soutenir – et non remplacer – la prise de décision humaine
  • Examiner le ton, l'exactitude et l'équité du contenu généré par IA
  • Tenir un registre sur la manière dont les outils IA sont utilisés dans vos workflows
  • Former du personnel sur les limitations et l'utilisation en toute sécurité
  • Assurer le stockage sécurisé des données client
  • Demandez aux fournisseurs d'expliquer comment leurs systèmes prennent des décisions.

A NE PAS FAIRE

  • Télécharger des données sensibles de clients ou d'employés dans des outils IA publics
  • Permettre aux outils IA de prendre des décisions finales en matière d'embauche, de finances ou de discipline
  • S'appuyer sur du texte généré par IA sans vérification humaine
  • Collecter plus de données que nécessaire
  • Cacher l'utilisation de l'IA aux clients ou au personnel
  • Ignorer les sorties inhabituelles ou incohérentes de l'IA

Comment les PME peuvent-elles appliquer les principes éthiques

Scénario 1 — Outil de recrutement

Un outil de présélection par IA classe systématiquement les candidats plus jeunes en meilleure position.

Réponse éthique :

  • Auditer les critères utilisés
  • Rééquilibrer les données d'entraînement ou ajuster les filtres
  • Soumettre à une révision humaine tout CV
  • Documenter manuellement les décisions d'embauche

     

Scénario 2 — Générateur de contenu marketing

Un outil d'IA générative produit du texte publicitaire qui stéréotype involontairement certains groupes.

Réponse éthique :

  • Vérifier le contenu généré par l'IA avant de le publier
  • Supprimer le langage biaisé
  • Entraîner le modèle avec de meilleurs exemples (si disponibles)
  • Exiger une approbation à deux personnes pour les campagnes sensibles

     

Scénario 3 — Chatbot de support client

Le chatbot a du mal avec certains accents et redirige mal les appels.

Réponse éthique :

  • Améliorer les phrases d'exemple utilisées pour l'entraînement
  • Ajouter une option rapide “Parler à un humain”
  • Faire suivre les classifications incorrectes pour les surveiller
  • Fournir au personnel des résumés hebdomadaires des problèmes rencontrés

     

Scénario 4 – Outil de prévision des ventes

Un modèle d'IA prédit une demande plus faible, mais le personnel est au courant d'événements à venir qui ne sont pas reflétés dans les données.

Réponse éthique :

  • Comparer les sorties de l'IA avec les connaissances humaines
  • Ajuster les prévisions manuellement
  • Ajouter des notes contextuelles (par ex. promotions prévues, événements locaux)
  • Utiliser l'IA comme point de départ, pas comme réponse finale

 

Outils simples pour les PME pour la gestion éthique de l'IA 

Les PME peuvent utiliser des méthodes légères pour garantir une utilisation responsable :

Un “ Registre d'utilisation de l'IA ”

Un simple tableur listant :

  • chaque outil IA
  • ce qu'ils font
  • quelles données ils utilisent
  • qui est responsable
  • les risques connus
  • à quelle fréquence sont-ils vérifiés

2. Un point mensuel sur l'IA

Une séance de 30 minutes pour :

  • analyser les problèmes
  • tester les résultats
  • vérifier les comportements inhabituels
  • évaluer si l'outil est toujours nécessaire

3. Une Checklist d'Examination par l'Humain

Avant de publier ou d'approuver la sortie de l'IA :

  • Ces informations sont-elles exactes ?
  • Est-ce juste et inclusif ?
  • Est-ce qu'elle respecte la vie privée ?
  • Un client pourrait-il mal l'interpréter ?

Comprend-on pourquoi l'IA a fait cette suggestion ?

4. Guides Rapides Internes

Instructions courtes et faciles à lire concernant :

  • quand et comment le personnel peut utiliser l'IA
  • quelles données ils peuvent envoyer ou non
  • comment faire remonter les problèmes

Exercice 

Choisissez un outil IA utilisé par votre PME. Identifiez :

  1. Un risque éthique
  2. Une amélioration que vous pourriez faire sur transparence
  3. Une étape négligée
  4. Une étape de communication client

Unité 4 : Ressources supplémentaires

AlgorithmWatch

Une organisation à but non lucratif qui surveille l'impact des systèmes automatisés sur la société.
Ils se concentrent sur la transparence, l'explicabilité, et la responsabilisation dans les algorithmes.
https://algorithmwatch.org/en/

2. AI Now Institute (Université de New York)

Recherche les implications sociales de l'IA, y compris l'équité, la discrimination et la responsabilité publique.
Leurs rapports sont rédigés dans un langage accessible — idéal pour les PME.
 https://ainowinstitute.org/

3. DARPA – Intelligence Artificielle Explicable (Programme XAI)

L'Agence pour les projets de recherche avancée de défense des États-Unis dirige les travaux mondiaux sur l' IA explicable — Les systèmes d'IA qui montrent pourquoi ils prennent des décisions.
Leurs documents sont utiles pour comprendre les normes de transparence.
  https://www.darpa.mil/program/explainable-artificial-intelligence

4. CHAI – Centre pour l'IA compatible avec l'humain (UC Berkeley)

Se concentre sur la garantie que les systèmes d'IA restent bénéfiques, dignes de confiance et alignés sur les valeurs humaines.
Leurs ressources aident les PME à comprendre les risques à long terme et la conception de systèmes sûrs.
 https://humancompatible.ai/

5. NSCAI – Commission nationale de sécurité sur l'intelligence artificielle

Une commission indépendante américaine qui examine l'impact de l'IA sur la sécurité nationale et l'innovation responsable.
Utile pour des normes éthiques de haut niveau et des perspectives politiques.
https://www.nscai.gov/

Tâche Scénario : Évaluation de l'utilisation de l'IA dans une PME

Scénario

Une PME de commerce de détail de taille moyenne a récemment introduit plusieurs outils IA :

  • un chatbot gérant les requêtes des clients
  • un assistant IA générant du contenu marketing
  • un outil automatisé de filtrage de CV
  • un tableau de bord de prévision de la demande utilisé par le directeur du magasin

Au cours du mois dernier, le personnel a signalé des problèmes :

  • les clients sont frustrés lorsque le chatbot donne de mauvaises réponses
  • les publications marketing comprennent des formulations stéréotypées
  • le filtrage des CV semble favoriser les candidats plus jeunes
  • les prévisions ne tiennent pas compte des événements locaux, ce qui désoriente le personnel
  • les employés ne sont pas sûrs de qui est responsable de l'examen des résultats de l'IA

Votre tâche

Écrivez une courte réponse (8 à 12 phrases) abordant le sujet suivant :

  1. Identifiez trois risques éthiques présents dans le scénario
    (par exemple, biais, manque de transparence, surveillance inadéquate, préoccupations relatives à la vie privée).
  2. Expliquez pourquoi chaque risque est important pour les clients ou les employés.
  3. Proposez une solution réaliste pour chaque risque, en utilisant les cadres des unités 1 à 3
    (par exemple, vérifications par des humains, déclarations de transparence, pratiques de données améliorées, revues mensuelles).
  4. Décrivez qui doit être responsable de la surveillance des outils IA.

Vous pouvez répondre sous forme de paragraphe ou sous forme de tableau.

Financé par l'Union européenne. Les points de vue et les opinions exprimés n'engagent que la ou les responsabilité(s) de l'auteur et ne reflètent pas nécessairement ceux de l'Union européenne ou de l'Agence exécutive européenne pour l'éducation et la culture (EACEA). Ni l'Union européenne ni l'EACEA ne peuvent être tenues responsables. [Numéro de projet : 2024-1-AT01-KA220-VET-000245796]

Retour en haut