Design éthique : humaniser l'intelligence artificielle

par María José Tellez - Directrice du design senior chez EGGS, membre de Sopra Steria Espagne
| minutes de lecture

Avant et après l'intelligence artificielle

Aujourd'hui, il est difficile de se rappeler à quoi ressemblait le monde avant l'intelligence artificielle et l'IA générative. Les réseaux neuronaux et l'apprentissage non supervisé existent depuis plusieurs années déjà. Nous voilà désormais immergés dans des flux de travail assistés par l'IA et des agents autonomes. Bientôt viendront les LWMs : des IA intégrées aux

robots, aux interfaces cerveau-machine, et à d'autres innovations technologiques que nous ne pouvons pas encore pleinement imaginer.

Tout cela présente à la fois des opportunités et des menaces, suscitant des réactions diverses : euphorie, intégration passive, prudence, paralysie ou déni pur et simple. Dans ce contexte d'accélération technologique et de discours orientés, il devient difficile de trouver le bon équilibre entre saisir les opportunités et s'adapter aux changements. Mais il n'est plus possible de faire machine arrière.

L'adaptation, le changement et la transition sont souvent coûteux. Ils demandent parfois un effort cognitif considérable pour donner un véritable sens à la transformation : il faut remettre en question nos croyances et nos comportements, et poser la question du « pourquoi ». Or, bien souvent, les cadres nécessaires pour accompagner ces changements au-delà d'effets à court terme font défaut.

Une IA pour les humanistes

L'accélération technologique, les algorithmes et l'impératif de productivité maximale s'imposent à nous. Les cadres juridiques exigent désormais audits et certifications. Face à cette réalité, une alternative émerge : l'approche humaniste appliquée au design propose des actions concrètes et des récits intégrant empathie, contexte culturel et responsabilité sociale. Elle permet ainsi de faire le lien entre innovation et valeurs humaines.

Là où l'ingénierie privilégie l'efficacité et le droit veille à la conformité, le design, guidé par une vision humaniste et systémique, permet d'identifier et de traiter les questions éthiques. Et elles sont nombreuses : comment concilier sécurité et vie privée avec les caméras de reconnaissance faciale ? Comment créer des parcours utilisateurs qui allient données techniques et expériences humaines ? Comment organiser des espaces partagés entre humains et robots ? Mais surtout, comment anticiper les conséquences et effets secondaires de ces technologies ?

Nous savons déjà que l'IA n'évolue pas dans le vide : elle consomme d'énormes quantités d'énergie et de ressources naturelles comme les minéraux ou l'eau. De plus, elle peut reproduire des biais, influencer des décisions cruciales et redéfinir les interactions sociales. Mais nous savons aussi que nous disposons des moyens de contenir ses effets négatifs, de viser l'éco-efficience et d'assumer nos responsabilités dans notre manière d'utiliser l'IA, de la communiquer et de la protéger. Nous pouvons garantir les droits fondamentaux, la propriété intellectuelle, les neurodroits et la souveraineté des données. Cependant, si nous n'y prêtons pas attention, nous perdrons toute capacité d'intervention.

L'urgence du design éthique

C'est pourquoi le design éthique s'impose. Cette approche, appliquée à la conception de produits et services numériques, ne se contente pas d'éviter les dérives, elle vise à créer des systèmes qui favorisent l'équité et le bien-être, au-delà des rôles figés du sauveur, de la victime et du bourreau. Les méthodes du design éthique permettent d'anticiper les risques et les vulnérabilités en s’appuyant sur l'esprit critique, les enquêtes participatives et une perspective humaniste. Se questionner selon ces axes permet de réorienter les projets et de concevoir ensemble des solutions plus responsables.

Concrètement, cela se traduit par plusieurs actions : rendre les interfaces transparentes pour expliquer les décisions de l'IA, optimiser les empreintes numériques, privilégier les composants modulaires pour allonger la durée de vie des systèmes et créer des expériences qui encouragent les comportements sains. Mais l'essentiel reste les bonnes questions qui incitent à la réflexion au sein des équipes.

L'IA ne sera jamais neutre : elle reflète les priorités de celles et ceux qui la conçoivent. Alors, comment faire en sorte que chaque solution créée contribue à une société plus juste, plus humaine et à un monde plus vivable ? Au-delà du travail en équipes pluridisciplinaires et de l'implication active de toutes les parties prenantes dans la conception et l'usage, il faut évaluer si une technologie nous aide réellement ou ne fait que brouiller les pistes. Il s'agit également de comprendre son cycle de vie complet : de la conception et du développement à l'intégration, l'usage et l'obsolescence.

Si la conformité réglementaire peut permettre de limiter certains dégâts, elle ne suffit pas. Le design apporte une couche essentielle d'intentionnalité éthique et opérationnelle. Il faut un véritable engagement pour construire dès aujourd'hui les futurs que nous souhaitons. L'IA nous place face à un choix crucial : est-ce que la technologie est une fin en soi ou doit-on garder à l'esprit l'équilibre entre innovation et respect de l'humain ? La réponse est dans la question. Nous pouvons soit dériver vers une dystopie, soit choisir d'utiliser la technologie au service de l'intelligence du vivant.

Search

artificial-intelligence

Contenus associés

L’IA en première ligne dans la lutte d’Iberpay contre la fraude financière

Iberpay intègre l’IA à son service anti-fraude et offre aux banques des données clés pour lutter contre la criminalité financière. 

TradSNCF : L’IA au service des agents de gare pour l’accueil des voyageurs

Découvrez TradSNCF, l'outil de traduction de la SNCF alimenté par l'IA qui améliore l'expérience voyage de millions de passagers du monde entier.

La technologie au service de la lutte contre l’analphabétisme

Comment Norad et Sopra Steria utilisent l'IA et la technologie cloud pour lutter contre l'analphabétisme infantile.