Pourquoi l’IA doit-elle être conçue de manière responsable ?

Les environnements de travail du futur seront influencés de manière décisive par le développement de l’intelligence artificielle et certaines années scientifiques ont mêmes été axé sur les opportunités et les défis de cette technologie. Dans le contexte de la numérisation et du développement de nouvelles technologies telles que l'”intelligence artificielle” (IA), des questions éthiques se posent de plus en plus.

Pour se faire une idée des implications éthiques considérables, il est important d’examiner les différents domaines d’application des systèmes d’IA. C’est pourquoi, cet article présente quelques exemples concrets qui sont déjà discutés en public pour le développement durable de l’intelligence artificielle.

Le système IA et l’éthique numérique

  • Recrutement en système IA

Le système d’IA d’Amazon pour la sélection des nouveaux employés est discriminatoire à l’égard des femmes et évalue systématiquement leurs candidatures moins bien que celles des hommes. Les tentatives d’Amazon pour se débarrasser de ce préjugé ont échoué et le système a dû être complètement abandonné. Que signifie donc développer des algorithmes équitables ? Et comment pouvons-nous utiliser le potentiel de l’IA, en particulier dans les procédures de recrutement, pour permettre des procédures plus équitables sans parti pris humain et préférence (inconsciente) ?

  • Services de Chatbots

Les chatbots peuvent être utilisés dans divers secteurs, du service à la clientèle aux conseils médicaux. Google Duplex a récemment démontré comment un tel système d’intelligence artificielle peut passer des appels par lui-même. Le problème, cependant, est que nous ne pouvons plus distinguer si nous communiquons avec un humain ou une machine. En Californie (États-Unis), par exemple, il a été décidé que les “chat bots” devront s’identifier comme tels à l’avenir. Mais comment ? Et à quoi tout cela devrait-il s’appliquer ?

  • Reconnaissance de l’image

Les progrès de la reconnaissance de l’image par l’IA offrent d’énormes possibilités. En même temps, d’importantes questions juridiques et éthiques se posent : la reconnaissance des visages dans les lieux publics est-elle proportionnée ? La publicité doit-elle être personnalisée grâce à la reconnaissance des visages ?

En médecine, l’IA en reconnaissance d’images peut aider à établir des diagnostics plus précis et plus précoces. Mais comment traiter de telles informations, quelle évaluation médicale spécialisée est alors encore ou de plus en plus nécessaire ? Et en quoi cela change-t-il la profession médicale ? Et si les algorithmes commencent à prédire la psychose ou même la mort ?

L’éthique numérique dans les grandes instances

  • Système IA et justice

Aux États-Unis, les tribunaux ont utilisé le système d’AI COMPAS pour évaluer le risque de récidive des délinquants. Là aussi, le système a fait preuve d’un parti pris injuste en calculant à tort que les Afro-Américains avaient deux fois plus de chances de rechuter que les Blancs. Outre la discrimination raciale injuste, voulons-nous vraiment utiliser les systèmes d’IA dans les processus de décision judiciaire ?

  • Système IA et service public de l’emploi

Afin d’utiliser plus efficacement les ressources dans la politique du marché du travail, certains services publics de l’emploi ont développé un algorithme qui divise les chômeurs en trois groupes, par exemple en Autriche. Le facteur décisif est ici la probabilité de pouvoir justifier d’un certain nombre de jours de travail dans une certaine période.

Dans quelle mesure une classification aussi sensible des personnes peut-elle être équitable, si, par exemple, des possibilités de formation continue ou d’autres mesures de soutien sont décidées par la suite ? Et quels facteurs devraient jouer un rôle dans l’évaluation ? Quel est le danger d’un comportement stratégique de la part des personnes concernées afin d’exploiter l’algorithme de manière ciblée ? Et quel rôle jouent alors les conseillers de l’AMS, de nouvelles compétences sont-elles peut-être importantes ?

  • Système IA et Industrie 4.0

L’utilisation de systèmes d’IA joue également un rôle de plus en plus important dans la production dans le contexte de l’industrie 4.0, par exemple en ce qui concerne les systèmes cyberphysiques (CPS) ou un Internet industriel des objets (IIoT). Cependant, les nouveaux processus et environnements de travail soulèvent également d’importantes questions éthiques concernant la collaboration entre les humains et les machines.

Quelles sont les données (personnelles) collectées, par exemple sur les processus de travail, par le biais de caméras ou d’autres capteurs ? Comment ces données sont-elles traitées, sécurisées et qui y a accès ? Seront-ils consultés lors de la prochaine décision relative au personnel ? Et dans quelles conditions (ergonomiques) les activités individuelles sont-elles encore raisonnables pour l’homme, si toutes les étapes de travail environnantes sont déjà entièrement automatisées ?

Comment s’assurer que l’automatisation des processus de travail ne devienne pas aussi le contrôle des employés ? Et quelles sont les nouvelles compétences dont les employés ont besoin pour pouvoir s’adapter et se développer ? Autant de questions qui méritent de réponses surtout en terme de protection des données.

L’éthique de l’éco-conception au centre de l’innovation

Ces exemples illustrent l’importance du développement technologique et des processus d’innovation responsables au sein des entreprises. Les techniques appliquées restent toujours biaisées par des facteurs externes généralement importants et modifient fortement l’impact de l’éthique vis-à-vis du public. Les entreprises et les autres organismes devront alors changer leurs approches en matière d’éthique  dans le but de supprimer les biais en plus de bénéficier d’un meilleur contrôle sur l’éthique.

Certains experts ont toutefois développé une approche d’innovation responsable pour traiter les questions éthiques au cours du processus de développement technologique. De leur point de vue, cela permet de mener d’importants débats éthiques non seulement par la suite, mais aussi sur la base de solutions et de modèles commerciaux déjà existants.

En outre, de nouvelles perspectives et de nouveaux potentiels d’innovation peuvent être découverts et exploités, dans laquelle l’imbrication de l’éthique et de l’innovation est une tâche centrale de l’époque. La conception responsable IA est donc plus qu’ indispensable dans le développement durable de l’innovation dans le futur.