L’intelligence artificielle une démocratie numérique mondiale
Artificial intelligence a global digital democracy
Prepared by the researche :Youssra jay koraichi – Doctorante Chercheuse, Université Sidi Mohmed Ben Abdellah, FSJES-FES.MAROC.
Democratic Arabic Center
International Journal of Legal Interpretative Judgement : Sixteenth Issue – December 2024
A Periodical International Journal published by the “Democratic Arab Center” Germany – Berlin
:To download the pdf version of the research papers, please visit the following link
Résumé
Depuis quelques années, l’Intelligence Artificielle (IA) connaît un regain d’intérêt sans précédent grâce à d’importantes avancées technologiques, notamment dans le domaine de l’apprentissage machine (machine Learning), qui étendent les capacités des ordinateurs et accroissent leurs performances dans un grand nombre de domaines (traitement du langage, compréhension de la parole, reconnaissance d’images, robotique, etc.). Ces avancées ouvrent de vastes perspectives en termes d’innovation technologique et d’automatisation dans les situations de travail. Cet article s’intéresse aux questions et enjeux soulevés par ces évolutions concernant, l’économie numérique, la protection des données et souveraineté et usage de l’IA et Les défis juridiques liés à l’IA.
Abstract
In recent years, Artificial Intelligence (AI) has experienced an unprecedented revival of interest thanks to significant technological advances, particularly in the field of machine learning (machine learning), which extend the capabilities of computers and increase their performance in a wide range of fields (language processing, speech understanding, image recognition, robotics, etc.). These advances open up vast opportunities for technological innovation and automation in work situations. This article focuses on the questions and issues raised by these evolutions concerning, the digital economy, data protection and sovereignty and use of AI and the legal challenges related to AI.
Introduction
L’intelligence artificielle (IA) est une branche du secteur informatique dont l’objectif primordial est de développer des systèmes informatiques automatiques capables d’effectuer des tâches nécessitant l’intervention de l’Homme, tels que: la compréhension du langage naturel, l’auto apprentissage et la reconnaissance de formes et surtout la prise de décision[1]. Selon Russell et Norvig[2], l’intelligence artificielle est définie comme “le domaine des technologies de l’information dédié à la création de machines capables d’exécuter des tâches qui nécessitent habituellement l’intelligence humaine, telles que la perception, la compréhension du langage, la prise de décision et l’apprentissage”.
Un système artificiel “intelligent” connaît non pas les situations, mais seulement les problèmes que lui soumettent les agents humains. C’est sur ce point uniquement que l’intelligence artificielle peut nous épauler. De fait elle résout une variété toujours plus grande de problèmes pressants[3].
L’intelligence artificielle est considérée comme l’innovation majeure qui a impacté notre monde depuis le début du 21ème siècle. Déployée dans de nombreux domaines, elle est devenue un outil incontournable dans plusieurs industries. À l’ère de la 4ème révolution industrielle et de la digitalisation, les entreprises cherchent à acquérir et retenir une main-d’œuvre qualifiée, talentueuse et diversifiée pour être compétitives sur un marché à caractère global[4].
Certes, ces technologies constituent une opportunité pour l’Homme dans les domaines vitaux de l’éducation, la santé, l’environnement, la culture, le commerce et autres. Mais elles suscitent, simultanément, de nombreuses inquiétudes quant aux risques et dangers qu’elles font peser sur les individus et les pays. Aussi, il s’avère nécessaire de réfléchir aux moyens de contrôler cette technologie à double tranchant et de légiférer autour de son utilisation.
Les risques liés à l’IA sont comme « un nouveau continent qu’on n’a pas encore fini d’explorer malgré des années de recherches », le danger réside dans le fait que la criminalité transcontinentale, les Hackers ainsi que les individus et les organisations aux intentions malveillantes, utilisent ces applications dans le cadre de ce qu’on appelle les guerres de quatrième génération[5].
Selon plusieurs experts, encadrer l’utilisation des applications de l’IA constitue une problématique mondiale qui requiert une réflexion approfondie.
Comme c’est le cas pour Internet et les Smartphones qui sont accessibles à un large public et qui peuvent être utilisés à bon ou à mauvais escient, l’IA comporte des risques de dérapage, explique ce spécialiste, soulignant que cette technologie, qui est aujourd’hui à la portée de tout le monde, peut servir à la diffusion de Fake News et d’images truquées.
De ce fait, la complexité de l’intelligence artificielle dépasse notre entendement immédiat et suscite nombre d’idées reçues. Ainsi, l’intelligence artificielle reproduirait l’activité de notre cerveau, elle ferait que les ordinateurs ne se trompent jamais et… qu’à terme nous en devenions les esclaves[6].
L’importance de l’intelligence artificielle la plus capitale réside dans le fait qu’elle est considérée comme un élément central de la transition numérique de la société. Si l’IA joue déjà un rôle clé dans le quotidien de tout un chacun, ses futures applications devraient mener davantage à d’énormes changements.
Dans cet ordre d’idées, la problématique essentielle de ce thème et la suivante :
Quels sont les avantages et les limites juridico économique de l’Intelligence Artificielle ?
La réponse à la problématique posée dans le cadre de ce travail nous amène à construire une grille d’analyse répartie en trois parties :
- Influence sur l’économie numérique
- Protection des données et souveraineté de l’IA
III. Les défis juridiques liés à l’intelligence artificielle
- Influence sur l’économie numérique
L’IA n’est pas un domaine en soi, il s’agit plutôt d’un mélange hétérogène de divers domaines de recherche. Il est dès lors difficile de décrire l’influence d’un domaine unique ou nettement défini sur l’économie. Néanmoins, les applications industrielles liées à l’IA sont à l’origine des technologies de pointe qui transforment à un rythme effréné tous les aspects de notre vie.
Au cours des prochaines décennies, les applications liées à l’IA remplaceront l’essentiel de la main-d’œuvre humaine dans les secteurs tels que les centres d’appels, l’assistance clientèle et le transport du fret aérien[7] . Les technologies IA facilitent les prévisions météorologiques par reconnaissance des modèles (données) de précipitations répétées, les tâches ennuyeuses et répétitives grâce à la robotique (nettoyage des sols, tonte du gazon, etc.), le transport de personnes et de marchandises à l’aide de véhicules sans pilote, l’envoi dans l’espace de navettes intelligentes autonomes, le développement de bras robotiques, la prédiction des cours boursiers, la sécurité domestique, l’aide aux personnes âgées et en situation de handicap par des serviteurs robotisés[8], etc.
Parmi les technologies liées à l’IA, certaines présentent une importance accrue en termes d’impact sur la société et, en particulier, l’économie numérique. Domaine hétérogène, l’IA influence notablement l’apprentissage machine, la robotique, les transports, la finance, la santé et la bio-informatique, le cybercommerce, les jeux, les méga-données et l’Internet des objets. Il convient également de noter qu’il existe un recouvrement fonctionnel entre ces domaines; par exemple, l’apprentissage machine est utilisé en bio-informatique et les robots peuvent acquérir de nouvelles compétences afin de mieux dispenser les soins.
- Protection des données et souveraineté de l’IA
Le droit du numérique a été l’objet de plusieurs réflexions, et différentes approches divergentes en matière d’IA soulignent la nécessité d’une réglementation globale. La souveraineté numérique devient cruciale, avec les États en compétition avec des entités privées et internationales pour contrôler le cyberespace.
- Protection des données
La protection des données personnelles diffère considérablement entre l’Union européenne et les États-Unis. L’Europe, avec le RGPD, offre le niveau de protection le plus élevé au monde, ancré dans des droits fondamentaux et des règles extraterritoriales. En revanche, les États-Unis se concentrent sur la libre circulation des données, sans régulation générale. La protection repose sur des pratiques sectorielles et une approche libérale, limitée aux atteintes du gouvernement fédéral[9].
Les différences ont entraîné des tensions, l’UE considérant souvent le niveau de protection américain comme inadéquat. En ce qui concerne les algorithmes, les États-Unis privilégient une approche légère, favorisant l’innovation, tandis que l’UE impose des limitations à la prise de décision algorithmique, encadrant le profilage automatisé et garantissant des droits individuels. De ce fait, les expériences de l’utilisation et de la régulation de l’IA diffèrent d’un contexte à un autre. Aux États-Unis, l’utilisation croissante du Big Data et des analyses prédictives, notamment à travers des outils tels que Compstat, PredPol, HunchLab et Palantir, a transformé les méthodes de maintien de la paix et de gestion des forces de police. La “police prédictive” vise à anticiper les crimes en se basant sur des données passées. Cependant, les différences législatives en matière de protection des données ont favorisé ces développements.
En France, par exemple la loi interdit les décisions automatisées en matière de police, autorisant uniquement les outils d’aide à la décision. En matière de justice prédictive, les juridictions américaines utilisent des logiciels comme COMPAS, tandis que la France limite l’utilisation des traitements automatisés à des fins d’arbitrage en exigeant la transparence et le consentement des parties. Aux États-Unis, le 4e amendement offre une protection contre les recherches et saisies déraisonnables, mais des violations ont été constatées.
Ensuite, l’utilisation d’algorithmes soulève des questions sur la transparence et les droits de la défense, comme illustré par des affaires judiciaires aux États-Unis. En réponse, l’Union européenne (UE) cherche à encadrer l’IA en adoptant des normes éthiques. Elle insiste sur la nécessité de la transparence, de la non-discrimination, du respect des droits de l’homme, et de la responsabilité des développeurs.
La Commission européenne propose des lignes directrices et souhaite établir un cadre éthique et légal solide, aligné sur les valeurs européennes. La Soft Law est privilégiée, reflétant la complexité évolutive de la technologie. En France, des règles strictes interdisent les décisions automatisées en matière de police, tandis que l’UE vise à renforcer la confiance publique en promouvant la compréhension de l’IA et en développant des lignes directrices éthiques.
Ces efforts soulignent l’importance d’encadrer le déploiement de l’IA pour préserver les droits fondamentaux et les valeurs démocratiques.[10]
- La Souveraineté en question
La question de la souveraineté numérique constitue un enjeu central dans le contexte de la révolution numérique, où le développement omniprésent d’Internet a profondément perturbé l’autorité souveraine des États. L’avènement du cyberespace, immatériel, a-territorial et transnational par nature, a bouleversé la structure traditionnelle et hiérarchique du système juridique étatique.[11] Les États se retrouvent désormais en compétition avec d’autres entités productrices de normativité, telles que des opérateurs privés économiques ou des instances internationales, remettant en cause leur monopole sur l’énonciation et l’application des règles de droit.
Cette redistribution des pouvoirs induite par le développement d’Internet invite à repenser le concept classique de souveraineté étatique. La structure pyramidale traditionnelle cède la place à un jeu horizontal et enchevêtré dans le cyberespace.
La déterritorialisation accélère la remise en cause des frontières physiques qui délimitaient l’exercice traditionnel de la souveraineté étatique, remettant en question le mode national de production du droit.[12]
L’émergence de l’IA, redéfinit les contours de la souveraineté des États et les processus démocratiques, générant à la fois des opportunités et des préoccupations. À l’échelle internationale, cette transformation suscite des perspectives diverses et des tensions palpables. Sur le plan national, des innovations numériques sont déjà perceptibles, bien que leurs résultats suscitent encore des interrogations.[13]
L’État, en premier lieu, se trouve confronté à l’essor des technologies numériques, en particulier d’Internet. Ces outils facilitent le dialogue transnational, diluent les frontières, rapprochent les sociétés, et construisent de nouveaux espaces d’expression des opinions publiques.
En effet, Les failles du système de gouvernance des espaces numériques soulèvent des questionnements sur la possibilité d’une transposition aux instances internationales des principes du constitutionnalisme. L’idée d’une “Constitution de l’Internet” est évoquée, envisageant la constitutionnalisation des principes, droits, et devoirs liés à la communication numérique. « Ce sont, d’ailleurs, les failles du système de gouvernance des espaces numériques, mises en évidence par certains scandales récents, qui conduisent à s’interroger sur la perspective d’une transposition aux instances internationales de régulation des principes du constitutionnalisme (légitimité, représentativité, responsabilité, transparence).
La réflexion sur une potentielle « Constitution de l’Internet », par exemple, porte l’hypothèse d’une « constitutionnalisation » des principes, droits et des devoirs attachés à la communication numérique (principe de neutralité, ouverture, liberté de l’internet), auxquels la communauté unifiée des concepteurs et des utilisateurs accepterait de se soumettre ».[14]
En substance, la souveraineté numérique émerge comme un concept clé dans cette ère de déterritorialisation. Les États se retrouvent en compétition avec des acteurs privés et des instances internationales pour le contrôle du cyberespace. Les tentatives de certains États pour reprendre le contrôle de leur souveraineté numérique témoignent des tensions inhérentes à cette nouvelle configuration de pouvoir.
III. Les défis juridiques liés à l’intelligence artificielle
L’intelligence artificielle (IA) présente de nombreux avantages et opportunités, mais elle soulève également des défis juridiques complexes. À ce jour, le législateur n’a pas encore établi de cadre juridique précis pour l’IA, mais plusieurs normes et recommandations éthiques sont en place pour guider son développement. Dans cette analyse, nous examinerons les principaux enjeux juridiques liés à l’IA, en se basant sur le cadre juridique actuel et les questions qui se posent.
- L’encadrement juridique de l’IA
Actuellement, il existe principalement des normes de droit souple ou Soft Law qui promeuvent des règles éthiques pour l’IA. Ces normes incluent des chartes, des codes de déontologie, des guides de bonnes pratiques et des lignes directrices. Par exemple, la norme ISO[15] relative aux technologies de l’information est largement reconnue.
En France, la loi pour une République numérique confie à la CNIL[16] la mission de réfléchir aux problèmes éthiques posés par les technologies numériques. Le Rapport Villani de 2018[17] propose des pistes pour encadrer éthiquement le développement de l’IA, notamment en améliorant la transparence, en adaptant la protection des droits et libertés, en établissant un système de responsabilité et en créant une instance participative pour déterminer la gouvernance démocratique de l’IA.
- Les protections juridiques de l’IA
L’IA est composée de divers éléments tels que le logiciel, les bases de données et les algorithmes. Certains de ces éléments peuvent être protégés par la propriété intellectuelle. Par exemple, le droit d’auteur protège généralement le logiciel et l’interface graphique de l’IA.
Cependant, les algorithmes et les bases de données essentiels au fonctionnement de ces systèmes intelligents ne peuvent pas être protégés par le droit d’auteur.
En revanche, il est possible d’obtenir des droits de propriété intellectuelle sur ces éléments en les acquérant légalement[18]. En ce qui concerne les brevets, l’obtention d’un brevet pour un algorithme est généralement exclue, mais une appropriation indirecte peut être envisageable si l’algorithme est utilisé dans une application concrète ou dans un procédé technique.
- Les obstacles juridiques à l’IA
L’intégration de l’IA dans notre quotidien soulève divers obstacles juridiques. Parmi eux, on trouve des problématiques liées à l’éthique, au respect du RGPD, à la sécurité, à la santé et à la justice. La régulation des données personnelles constitue un défi majeur, car l’IA entraîne une augmentation exponentielle des données personnelles. Il est donc essentiel de protéger les libertés individuelles tout en favorisant le développement de l’IA.
Par ailleurs, les questions éthiques posées par l’IA sont de plus en plus préoccupantes, notamment en ce qui concerne les propos injurieux. La responsabilité de l’exploitant des machines intelligentes et la question de la responsabilité des propos injurieux générés par des machines intelligentes ont été débattues. Les lois existantes, telles que la loi sur la liberté de la presse, la diffamation et l’injure, sanctionnent les propos injurieux en exigeant à la fois un contenu matériel et l’intention d’exprimer de tels propos. La responsabilité des remarques injurieuses générées par des machines intelligentes a soulevé des questions, mettant en avant la liberté de choix de l’algorithme et exonérant l’exploitant de toute responsabilité.
La question de la responsabilité des robots est également cruciale, les initiatives nationales et européennes ont commencé à aborder la question de la responsabilité civile en cas de préjudice causé par des robots. Actuellement, les robots ne peuvent pas être tenus responsables des actes ou omissions causant un préjudice à des tiers. Cependant, lorsque l’IA prend des décisions autonomes, il est difficile de dissocier la responsabilité de l’opérateur, et le régime de responsabilité pour les produits défectueux peut ne pas s’appliquer.
Conclusion
L’intelligence artificielle, source de fantasme et d’excitation, pénètre le domaine des sciences comme elle a traversé de nombreux secteurs. Nous avons tenté de montrer comment cette pénétration s’opère actuellement et quels changements devraient impacter la recherche en sciences juridiques et économiques. Il est important de signaler que tous les chercheurs cités dans cet article et travaillant sur l’IA convergent sur le fait que la découverte scientifique restera grandement d’origine humaine, pendant encore de nombreuses années.
Par conséquent, la réflexion sur la “souveraineté numérique” reste énigmatique et controversée, englobant la maîtrise non seulement par les États, mais aussi par les entreprises, les communautés d’utilisateurs, voire les individus, de leur destin numérique. Le droit offre le cadre nécessaire pour enraciner les règles de vie commune. Les principes traditionnels sont remis en question, mais le droit, en tant qu’outil de régulation, peut guider cette transition vers une ère de démocratie numérique mondiale respectant les principes du libre accès et de l’égalité d’accès à l’espace numérique.
- Ouvrages
- Jean-Gabriel Ganascia, : « Intelligence artificielle : vers une domination programmée ? », Le Cavalier Bleu, 13/01/2022.
- Daniel Andler, : « Intelligence artificielle, intelligence humaine : la double énigme », Gallimard, 04/05/2023.
- Articles
- Bonnet J. et P. Türk, Le numérique : un défi pour le droit constitutionnel, Les Nouveaux Cahiers du Conseil constitutionnel 2017/4, N° 57,
- Benhamou B., « Architecture et Gouvernance de l’Internet », Revue Esprit, mai 2006 ; Nocetti J., « Internet, gouvernance et démocratie », Politique étrangère, Vol. 76, n° 4, 2011
- Türk P., « La souveraineté des États à l’épreuve d’Internet », Revue du Droit Public, n° 6, 2013
- Céline Castets-Renard, « L’intelligence artificielle, les droits fondamentaux et la protection des données personnelles dans l’Union européenne et les Etats-Unis »,Revue de droit international d’Assas n° 2, Décembre 2019.
- Kaoutar RARHOUI, « Droit public du numérique et Intelligence Artificielle : défis des libertés fondamentales et de la souveraineté », Working Paper 1 Février 2024
- Rebecca Burn Callander andRebecca Burn Calland, Artificial intelligence ‘will take the place of humans within five years’, 29 August 2013
- Smail SAADAOUI et Bouchra BELMOUFFEQ, « L’impact de l’Intelligence Artificielle sur la Gestion des Ressources Humaines : Une revue de littérature », earn.suvley.2024
- ISMAÏL BOUSHABA, L’impact de l’intelligence artificielle sur le management de projet : opportunités et défis, International Journal of Economics and Management Research, V4, N°5,2023
- Russell, S. J., & Norvig, P. Artificial intelligence: a modern approach. Prentice Hall.2010.
- Thèse
- Cassar B., La transformation numérique du monde du droit, Thèse de Doctorat en droit privé, Université de Strasbourg, 4 décembre 2020
- Rapports
- Le rapport sur l’intelligence artificielle (IA) rédigé par le mathématicien et député Cédric Villani, a été rendu public mercredi 28 mars 2018
- Conseil des technologies de l’information et des communications, l’intelligence artificielle au canada où en sommes-nous?, AVRIL 2015.
- Sites internet
https://www.hblawfirm.ma/my-post
[1] ISMAÏL BOUSHABA, L’impact de l’intelligence artificielle sur le management de projet : opportunités et défis, International Journal of Economics and Management Research, V4, N°5,2023, 88.
[2] Russell, S. J., & Norvig, P. Artificial intelligence: a modern approach. Prentice Hall.2010, p.23.
[3] Daniel Andler, : « Intelligence artificielle, intelligence humaine : la double énigme », Gallimard, 04/05/2023, p.15.
[4] – Smail SAADAOUI et Bouchra BELMOUFFEQ, « L’impact de l’Intelligence Artificielle sur la Gestion
des Ressources Humaines : Une revue de littérature », earn.suvley.2024. p.3.
[5] https://lareleve.ma/103052/, Intelligence artificielle: Un cadre juridique s’impose, consulté le 29/03/2024.
[6] Jean-Gabriel Ganascia, : « Intelligence artificielle : vers une domination programmée ? », Le Cavalier Bleu, 13/01/2022, p.9.
[7] Rebecca Burn Callander and Rebecca Burn Calland, Artificial intelligence ‘will take the place of humans within five years’, 29 August 2013.
[8] Conseil des technologies de l’information et des communications , l’intelligence artificielle au canada où en sommes-nous?, AVRIL 2015, p.3.
[9] Kaoutar RARHOUI, « Droit public du numérique et Intelligence Artificielle : défis des libertés
fondamentales et de la souveraineté », Working Paper 1 Février 2024,p.10.
[10] Céline Castets-Renard, « L’intelligence artificielle, les droits fondamentaux et la protection des données
personnelles dans l’Union européenne et les Etats-Unis »,Revue de droit international d’Assas n° 2, Décembre
2019.
[11] Türk P., « La souveraineté des États à l’épreuve d’Internet », Revue du Droit Public, n° 6, 2013,p.63.
[12] Cassar B., La transformation numérique du monde du droit, Thèse de Doctorat en droit privé, Université de
Strasbourg, 4 décembre 2020. P.113
[13] Benhamou B., « Architecture et Gouvernance de l’Internet », Revue Esprit, mai 2006 ; Nocetti J., « Internet,
gouvernance et démocratie », Politique étrangère, Vol. 76, n° 4, 2011. Cité par, Kaoutar RARHOUI, « Droit public du numérique…, op.cit. p.12.
[14] Bonnet J. et P. Türk, Le numérique : un défi pour le droit constitutionnel, Les Nouveaux Cahiers du Conseil
constitutionnel 2017/4, N° 57, pages 13 à 24.
[15] L’ISO (Organisation internationale de normalisation) est une fédération mondiale d’organismes nationaux de normalisation (comités membres de l’ISO). L’élaboration des Normes internationales est en général confiée aux comités techniques de l’ISO. Chaque comité membre intéressé par une étude a le droit de faire partie du comité technique créé à cet effet. Les organisations internationales, gouvernementales et non gouvernementales, en liaison avec l’ISO participent également aux travaux. L’ISO collabore étroitement avec la Commission électrotechnique internationale (IEC) en ce qui concerne la normalisation électrotechnique.
[16] La Commission nationale de l’informatique et des libertés est une autorité administrative indépendante française.
[17] Le rapport sur l’intelligence artificielle (IA) rédigé par le mathématicien et député Cédric Villani, a été rendu public mercredi 28 mars 2018. Parmi les nombreuses pistes proposées : créer un réseau d’Instituts interdisciplinaires d’intelligence artificielle, mettre en place un supercalculateur conçu spécifiquement pour les applications d’IA, ou encore rendre plus attractives les carrières dans la recherche publique, Ministère de l’Enseignement Supérieur et de la Recherche ( en France).
[18] https://www.hblawfirm.ma/my-post.Consulté le 30/03/2024.à 16h35.
