Toute technologie émergente mise en œuvre au sein d'une organisation doit respecter les droits de l'homme inaliénables, et ceci n’est pas négociable. La question reste de savoir comment l'éthique peut être auditée lorsqu'elle implique autant de perspectives qui peuvent être influencées par des points de vue culturels différents. L'éthique est généralement définie comme un ensemble de croyances sur ce qui est considéré comme des comportements acceptables et inacceptables au sein d'une société.1 Mais les opinions des individus d'une région du monde peuvent être très différentes de celles d'une autre région. En outre, demander aux organisations d'effectuer des audits de leurs implémentations technologiques dans une optique éthique semble aller à l'encontre de ce qui détermine le résultat net 'une organisation et la valeur des parties prenantes - en particulier lorsqu'il est demandé aux organisations de documenter les résultats. Lorsque les organisations ne parviennent pas à faire de l'éthique une exigence fondamentale de leurs processus de développement et qu'il s'avère qu'elles violent des croyances éthiques fondamentales ancrées dans la société, elles peuvent être confrontées à un impact financier ou sur la réputation, à des litiges potentiels ou à des conséquences réglementaires.2 Cela peut avoir une incidence directe sur la confiance des clients et des employés dans l'organisation et peut annuler tous les avantages potentiels obtenus en contournant les processus. Il est essentiel que les organisations comprennent et intègrent l'éthique lors du développement et de la mise en œuvre des technologies émergentes, validant ainsi leurs processus technologiques responsables tout au long du cycle de vie. En outre, elles doivent vérifier les processus mis en œuvre afin de s'assurer que les valeurs éthiques sont intégrées dans l'ensemble du processus.
Le dilemme éthique
Bien qu'il y ait généralement un consensus sur les normes acceptées dans la société, il n'existe pas de perspective éthique spécifique qui serve de norme quant à la manière dont les organisations doivent agir ou définir leurs programmes de technologie éthique ou responsable. Ces perspectives fondamentales informent et déterminent l'optique éthique utilisée lors du développement des technologies. Les opinions sur ce qui est éthique peuvent varier considérablement d'une communauté à l'autre au sein de la société.3 L'éthique peut également évoluer, ce qui rend essentiel d’établir d'un nouveau processus pour tenir compte de l'évolution des perspectives.
Il a été noté que « la culture a un impact significatif lorsqu'il s'agit de déterminer les valeurs fondamentales à exploiter lors du déploiement de systèmes technologiques ».4 En outre, les moteurs de l'activité ont un impact sur les décisions éthiques et obligent les organisations à faire des compromis entre l'exactitude, l'équité et l'éthique telles qu'elles sont perçues par la société.5 À moins qu'une organisation ne soit fermement ancrée dans son programme d'éthique, l'éthique ne devient une priorité que lorsque les organisations risquent de devenir une étude de cas ou d'être confrontées à des impacts réglementaires.6 Les organisations doivent faire mieux pour s'assurer que la technologie honore les droits de l'homme inaliénables et ne provoque pas d'impact disparate inutile sur les membres de la société.
En ce qui concerne les technologies émergentes, il n'existe pas d'alignement clair ou d'approche standard pour intégrer l'éthique.
L'initiative mondiale de l'Institute of Electrical and Electronics Engineers (IEEE) sur l'éthique des systèmes autonomes et intelligents stipule ce qui suit :
Que nos pratiques éthiques soient occidentales (aristotéliciennes, kantiennes), orientales (shintoïstes, confucéennes), africaines (Ubuntu) ou issues d'une autre tradition, en créant des systèmes autonomes et intelligents qui honorent explicitement les droits humains inaliénables et les valeurs bénéfiques de leurs utilisateurs, nous pouvons donner la priorité à l'augmentation du bien-être humain en tant que mesure du progrès à l'ère algorithmique.7
Différentes approches pour répondre aux préoccupations d’ordre éthique
En ce qui concerne les technologies émergentes, il n'existe pas d'alignement clair ou d'approche standard pour intégrer l'éthique. Les organisations se concentrent sur la mise sur le marché de leurs produits et risquent d'ignorer les conversations qui pourraient retarder l'obtention d'une valeur ajoutée. Au contraire, les organisations doivent s'aligner sur les normes sociales et morales pour guider leur approche du développement de technologies éthiques.8 Cependant, il existe plusieurs approches de la gestion de l'éthique pour les technologies émergentes. Une option consiste à ignorer l'éthique pour éviter d'étouffer l'innovation, l'objectif ultime étant que les résultats l'emportent sur les conséquences négatives. Une autre approche consiste à répondre aux préoccupations éthiques au fur et à mesure qu'elles se manifestent. La dernière approche consiste à essayer de prévoir les défis éthiques et de comprendre comment ils peuvent avoir un impact sur les technologies émergentes.
Une approche proposée par l’auteur pour prévoir les défis éthiques est l'éthique technologique anticipative.9 Cette approche prend en compte trois niveaux d'analyse éthique : la technologie, l'artefact et l'application. Au niveau technologique, l'examen éthique se concentre sur les éléments de la technologie et examine les questions éthiques associées à ces éléments. Au niveau de l'artefact, l'analyse éthique se concentre sur les éléments qui résultent ou pourraient résulter d'une technologie spécifique présentant un problème moral. À ce niveau, les résultats sont inévitables par nature, en raison d'applications potentielles ou simplement en raison du risque inhérent à l'artefact ou de la nécessité d'une justification éthique. Au niveau de l'application, l'accent est mis sur la manière dont les artefacts sont utilisés, sur la procédure ou sur sa configuration potentielle. Bien qu'il soit difficile de définir une vision commune de l'éthique et de son application aux technologies émergentes, il est nécessaire de trouver une voie à suivre et d'intégrer l'éthique dans tous les processus de développement.10 Une façon de s'assurer que les valeurs éthiques évoluent et sont intégrées en permanence est de veiller à ce que les processus développés s'alignent sur le code de conduite et d'éthique de l'organisation.
Auditer le processus, pas l'application
Les audits de l'éthique permettent de s'assurer que les comportements d'une organisation sont conformes à son code de conduite et d'éthique.11 Un code d'éthique est un ensemble de règles dictant ce qui est considéré comme un comportement acceptable et inacceptable au sein d'une organisation. La Securities and Exchange Commission (SEC) des États-Unis définit un code de conduite comme un moyen de dissuader les actes répréhensibles et de promouvoir, entre autres, un comportement honnête et éthique.12
Un audit de l'éthique comprend l'analyse de la mission, de la vision, des déclarations de valeur, du code d'éthique et des documents d'appui de l'organisation. Les entretiens ou les questionnaires remplis par les membres du conseil d'administration, le personnel et les bénévoles permettent d'identifier d'éventuelles lacunes. L'élaboration d'un rapport et les activités de suivi peuvent inclure le développement d'un programme éducatif et d'un suivi pour combler les lacunes.13, 14
Cependant, l'éthique de l'audit est un défi car les points de vue peuvent changer en fonction des croyances individuelles et des antécédents sociétaux des personnes impliquées dans le processus. En outre, les organisations ont des cadres moraux différents, qui sont des ensembles de croyances et de principes moraux raisonnables et cohérents qui distinguent un groupe de personnes ou une culture, ou des valeurs communes et acceptées dans la société.15 Les cadres moraux des organisations sont le résultat du positionnement des organisations au sein du secteur et de la définition de valeurs fondamentales et de perspectives uniques pour les employés.
Bien qu'il existe un désaccord sociétal sur de nombreux défis éthiques communs, les organisations ne peuvent pas s'appuyer sur un seul cadre moral pour auditer ou garantir la conformité des technologies émergentes. Elles doivent plutôt chercher à comprendre le processus qui traite l'éthique et s'assurer que les contrôles appropriés ont été mis en œuvre. Il est essentiel de veiller à ce que les évaluations et les points de contrôle éthiques constituent un élément fondamental du processus de développement technologique.
En tant qu'exigence fondamentale et pour promouvoir la transparence et la confiance dans les résultats, les organisations devraient faire évaluer leurs programmes par un auditeur indépendant après leur adoption.
La compréhension et l'examen de l'impact des technologies émergentes, des valeurs culturelles de ceux qui développent le système et de ceux pour qui le système est déployé sont un élément essentiel qui doit être pris en compte pour garantir des déploiements de technologies éthiques.16 La prise en compte des raisons pour lesquelles le système a été conçu et des personnes sur lesquelles il aura un impact devrait être au premier plan pour toutes les organisations qui examinent leurs déploiements. En outre, lors du déploiement de ces systèmes, des examens éthiques devraient être effectués et les droits de l'homme inaliénables explicitement respectés.17 Le déploiement de technologies ayant un impact disparate sur des individus ou des parties de la société devrait inciter les organisations à faire une pause et à évaluer les véritables objectif et besoin de leur technologie. Pour bien évaluer la technologie, les organisations doivent maintenir des points de vue divers et variés lors de la mise en œuvre de l'intelligence artificielle (IA) et de l'apprentissage automatique (ML) et veiller à ce que tous les facteurs de risque potentiels soient analysés tout au long du cycle de vie du déploiement.18 18 Il est essentiel d'inclure des parties prenantes d'horizons différents qui offrent des perspectives culturelles variées dans le cadre des processus de conception, d'essai et de suivi pour garantir une technologie responsable. Des personnes doivent être chargées de confirmer que le déploiement des technologies émergentes suit un cycle de développement éthique, ce qui implique de veiller à ce que les implications éthiques soient évaluées avant la mise en œuvre et validées après le déploiement.19
Considérations éthiques relatives à l'audit des technologies émergentes
En tant qu'exigence fondamentale et pour promouvoir la transparence et la confiance dans les résultats, les organisations devraient faire évaluer leurs programmes par un auditeur indépendant après leur adoption. Cela permet d'éliminer les risques de partialité et d'accroître la confiance du public dans le processus. Voici quelques éléments qui devraient être inclus dans un audit de processus éthique :
- Veiller à ce que les audits de l'éthique fassent partie du processus standard d'une organisation et suivent un format d'audit standard, en commençant par une analyse des artefacts au sein de l'organisation. L'analyse de ces documents permet de comprendre comment l'organisation aborde les décisions éthiques, les pratiques de gestion de l'éthique et les résultats attendus.
- Évaluer les personnes impliquées dans le processus d'examen éthique afin de déterminer si elles proviennent d'horizons et de niveaux d'éducation variés et si elles offrent des perspectives uniques. L'équipe d'examen est-elle composée de personnes ayant des points de vue variés afin d'inclure différentes optiques éthiques telles que l'optique des droits, l'optique de la justice, l'optique utilitaire, l'optique du bien commun, l'optique de la vertu et l'optique de l'éthique des soins ?20 L'optique des droits suggère que l'action éthique est la meilleure et qu'elle protège les droits des personnes affectées. L'optique de la justice part du principe que chaque individu doit bénéficier d'un traitement équitable ou égal. L'optique utilitaire vise à comprendre l'impact sur toutes les personnes impliquées et les conséquences. L'optique du bien commun vise à considérer que la vie en communauté est bonne et que les actions doivent y contribuer, en mettant l'accent sur le souci de tous les membres d'une communauté. L'objectif de la vertu vise à garantir que les actions éthiques s'alignent sur les vertus idéales pour l'humanité. L'optique de l'éthique des soins vise à comprendre les besoins et l'impact de chaque individu et de ses circonstances spécifiques.
- S'assurer que les personnes qui participent au processus éthique comprennent le déploiement technologique qu'elles analysent, y compris l'objectif et les résultats escomptés, et qu'elles savent qui est concerné par le système. Comprendre qui sera touché par le système peut modifier la perspective éthique. Par exemple, le déploiement d'un système destiné aux adultes a des exigences complètement différentes de celui d'un système destiné aux mineurs.
- Déterminer si le processus éthique comprend des artefacts documentés pour l'examen éthique, les décisions et les résultats. La documentation et le suivi des processus d'examen éthique sont essentiels pour garantir la responsabilité et promouvoir la transparence du processus.
- Contrôler les résultats des systèmes analysés pour s'assurer qu'ils ne s'écartent pas des résultats escomptés. L'absence de validation et de contrôle de la conformité aux résultats escomptés peut entraîner des impacts non détectés.
- Veiller à ce qu'une boucle de retour d'information documentée soit présente afin que les enseignements tirés et le retour d'information externe soient réintroduits dans le processus éthique.
Lorsque les organisations s'appuient sur l'audit pour valider les processus susceptibles d'avoir un impact sur le domaine en pleine expansion des technologies émergentes, elles peuvent s'assurer que les risques et les préoccupations éthiques sont évalués plus tôt dans le processus.
Conclusion
Veiller à ce que les technologies soient conçues et déployées de manière éthique peut apporter de la valeur aux organisations, générer des profits et donner la priorité aux droits de l'homme inaliénables. Il est essentiel que les organisations se souviennent que « certaines tendances du secteur doivent être prises en compte et qu'il ne sera plus acceptable de privilégier les objectifs opérationnels et l'efficacité au détriment de l'éthique ».21 Bien que les audits ne puissent fournir qu'un aperçu de l'approche actuelle d'une organisation à l'égard de son processus d'éthique, ils peuvent fournir la validation externe d'un programme d'éthique ou de technologie responsable bien défini et mis en œuvre. Une bonne compréhension des questions éthiques qui se posent peut aider les parties prenantes à réfléchir aux résultats technologiques potentiels et à l'écart par rapport à la trajectoire prévue. Les organisations doivent comprendre le contexte d'utilisation d'un système et la manière dont les questions éthiques pourraient évoluer afin que la société puisse avoir confiance dans la manière dont ces systèmes sont déployés.22 La haute direction est chargée de donner le ton sur la manière dont l'éthique est abordée et traitée au sein de l'organisation.
Il est essentiel de promouvoir la transparence dans les processus éthiques, d'établir des pratiques normalisées et de garantir une surveillance appropriée et la participation des parties prenantes. L'audit a toujours été une étape cruciale pour s'assurer que les organisations respectent leurs processus de base et les exigences réglementaires. Lorsque les organisations s'appuient sur l'audit pour valider les processus susceptibles d'avoir un impact sur le domaine en pleine expansion des technologies émergentes, elles peuvent s'assurer que les risques et les préoccupations éthiques sont évalués plus tôt dans le processus. Ces audits peuvent révéler dans quelle mesure les organisations sont alignées sur les normes attendues et garantir la confiance de la société dans les solutions et l'approche éthique de l'organisation. Lorsque les organisations réalisent des audits portant sur leurs processus éthiques et leurs systèmes concernés, elles peuvent donner l'assurance qu'elles ont intégré les conclusions de l'audit dans leur mode de fonctionnement. En outre, cela valide l'importance que l'organisation a accordée au développement d'une technologie responsable. Les organisations doivent auditer leurs programmes de technologie responsable pour s'assurer de leur cohérence et de leur alignement sur leurs valeurs éthiques afin de valider l'existence de ces processus fondamentaux et de s'assurer qu'il n'y a pas d'impact disparate sur les individus ou la société.
Bibliographie
1 Scarpino, J. P.; « An Exploratory Study: Implications of Machine Learning and Artificial Intelligence in Risk Management, » Marymount University, Arlington, Virginie, États-Unis, 2022
2 Cheatham, B.; K. Javanmardian; H. Samandari; « Confronting the Risks of Artificial Intelligence, » McKinsey Quarterly, 26 avril 2019, https://www.mckinsey.com/capabilities/quantumblack/our-insights/confronting-the-risks-of-artificial-intelligence
3 Chaput, R.; J. Duval; O. Boissier; M. Guillermin; S. Hassas; « A Multi-Agent Approach to Combining Reasoning and Learning for an Ethical Behavior, » Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society, juillet 2021, https://doi.org/10.1145/3461702.3462515
4 Op cit Scarpino
5 Lo Piano, S.; « Ethical Principles in Machine Learning and Artificial Intelligence: Cases From the Field and Possible Ways Forward, » Humanities and Social Sciences Communications, vol. 7, iss. 1, 2020, https://doi.org/10.1057/s41599-020-0501-9
6 Op cit Scarpino
7 Shahriari, K.; M. Shahriari; « Ethically Aligned Design: A Vision for Prioritizing Human Well-Being With Autonomous and Intelligent Systems (A/ IS), » 2017 IEEE Canada International Humanitarian Technology Conference (IHTC), Canada, 2017, p. 197–201, https://ieeexplore.ieee.org/document/8058187
8 Trunk, A.; H. Birkel; E. Hartmann; « On the Current State of Combining Human and Artificial Intelligence for Strategic Organizational Decision Making, » Business Research, vol. 13, iss. 3, 2020, p. 875–919, https://doi.org/10.1007/s40685-020-00133-x
9 Brey, P.; « Anticipatory Technology Ethics for Emerging IT, » CEPE 2011: Crossing Boundaries, University of Wisconsin Milwaukee, États-Unis, 2011, p. 13–26.
10 Manyika, J.; J. Silberg; B. Presten; « What Do We Do About the Biases in AI? » Harvard Business Review, 25 octobre 2019, https://hbr.org/2019/10/what-do-we-do-about-the-biases-in-ai
11 Krell, E.; « How to Conduct an Ethics Audit, » HR Magazine, vol. 55, iss. 4, 2010, p. 48–51, https://www.proquest.com/trade-journals/how-conduct-ethics-audit/docview/205070994/se-2
12 US Securities and Exchange Commission, « Code of Business Conduct and Ethics, » https://www.sec.gov/Archives/edgar/data/1094007/000119312504044901/dex14.htm
13 Allen, M. B.; « The Ethics Audit, » Nonprofit World, vol. 13, 1995, p. 51, https://www.proquest.com/magazines/ethics-audit/docview/221335917/se-2
14 Hofmann, P. B.; « Performing an Ethics Audit, » Healthcare Executive, vol. 10, iss. 6, 1995, p. 47, https://www.proquest.com/trade-journals/performing-ethics-audit/docview/200314221/se-2
15 Frederick, R.; A Companion to Business Ethics, Wiley-Blackwell, États-Unis, 1999
16 Op cit Scarpino
17 Ibid.
18 Ibid.
19 Scarpino, J.; « Evaluating Ethical Challenges in AI and ML, » ISACA® Journal, vol. 4, 2022, p. 27–33, https://www.isaca.org/archives
20 Markkula Center for Applied Ethics at Sanata Clara University, « A Framework for Ethical Decision Making, » États-Unis, 2021, https://www.scu.edu/ethics/ethics-resources/a-framework-for-ethical-decision-making/
21 Op cit Scarpino, ISACA Journal, 2022
22 Stahl, B. C.; J. Timmermans; C. Flick; « Ethics of Emerging Information and Communication Technologies: On the Implementation of Responsible Research and Innovation, » Science and Public Policy, vol. 44, iss. 3, juin 2017, p. 369–381, https://doi.org/10.1093/scipol/scw069
JOSH P. SCARPINO | D.SC., CISM
Vice-président de la sécurité de l'information chez TrustEngine, où il dirige les opérations informatiques et les programmes de sécurité et de conformité. Il est également chargé de développer et de gérer le programme de technologie responsable de l'organisation. M. Scarpino a plus de 18 ans d'expérience dans le domaine de l'informatique et de la sécurité au sein du Ministère américain de la défense (DoD). Il a dirigé des opérations de sécurité pour des entreprises du Fortune 500, renforcé les contrôles critiques dans des organisations financières et industrielles, et dirigé, étendu et audité des programmes de sécurité et de conformité. Il a passé sa carrière à faire le lien entre les domaines de la technologie et de la sécurité pour inclure les opérations, la gouvernance, le risque et la conformité (GRC), et la technologie responsable. M. Scarpino se passionne également pour la formation de la prochaine génération de professionnels. Actuellement, il travaille en partenariat avec ForHumanity pour développer des cadres d'audit des systèmes d'intelligence artificielle (IA) et poursuit ses recherches sur l'IA éthique de manière indépendante et en partenariat avec le CAIR Lab de l'Université de Pittsburg (Pennsylvanie, États-Unis).