L’Intelligence Artificielle est-elle digne de confiance ? Éthique et réglementation dans l’IA et le Web3
Dans notre monde moderne, deux technologies révolutionnaires ont bouleversé notre manière de voir les choses : l’Intelligence Artificielle (IA) et le Web 3.0.
Jadis confinées aux pages de la science-fiction, ces innovations sont désormais des outils indispensables au quotidien. L’IA s’est incrustée dans tous les secteurs, de la sécurité à la santé en passant par le juridique, offrant aux entreprises des moyens d’améliorer leur productivité de manière exponentielle.
Parallèlement, le Web 3.0, reposant sur la blockchain, a ouvert un horizon de possibilités pour les petites et moyennes entreprises, transformant les modèles de gouvernance traditionnels grâce à un espace décentralisé qui élimine les intermédiaires de confiance. Cependant, cette révolution technologique s’accompagne de défis majeurs en matière d’éthique et de réglementation.
L’IA, en traitant des volumes massifs de données personnelles, pose plusieurs questions concernant la confidentialité et la sécurité des informations. L’utilisation de ces données pour personnaliser les résultats expose les utilisateurs à des risques de divulgation non autorisée à des fins commerciales ou publicitaires, et les biais algorithmiques peuvent entraîner des conséquences néfastes sur les individus. La bonne gouvernance de l’IA, intégrant les leçons et les meilleures pratiques de diverses juridictions mondiales, est devenue l’un des enjeux les plus pressants de notre époque.
De son côté, le Web 3.0, avec ses structures décentralisées comme les organisations autonomes décentralisées (DAO), propose de nouveaux modèles de gouvernance démocratique et inclusifs, mais il soulève également des questions de sécurité et de conformité. Maintenir un équilibre entre innovation technologique et protection des données personnelles représente un grand défi pour ces systèmes émergents.
Nous allons explorer les dimensions éthiques et les cadres réglementaires de l’IA et du Web 3.0, soulignant la nécessité d’une régulation stricte et d’une gouvernance responsable pour assurer une utilisation sécurisée, éthique et conforme de ces technologies révolutionnaires.
Défis éthiques et pratiques de l’intelligence artificielle : de la confidentialité des données aux biais algorithmiques
Dans le monde moderne où l’IA est omniprésente, la confidentialité des données devient un enjeu complexe. Les entreprises doivent non seulement être des visionnaires technologiques, mais aussi des gardiens vigilants de la confidentialité des données. Cette responsabilité nécessite une approche qui intègre des solutions techniques avancées, des protocoles opérationnels solides et une conscience aiguë des implications éthiques.
IA digne de confiance
Pour qu’un système d’IA soit considéré comme digne de confiance, il doit respecter quatres caractéristiques essentielles tout au long de son cycle de vie :
- être licite,
- être conforme à la législation en vigueur,
- être éthique en adhérant à des principes et valeurs morales tel que le respect des droits fondamentaux,
- être robuste tant sur le plan technique que social, en garantissant la fiabilité, la sécurité et la minimisation des préjudices involontaires.
Ainsi, les systèmes d’IA doivent répondre à sept exigences : la supervision humaine, la sécurité technique, le respect de la vie privée et la gouvernance des données, en veillant à la qualité et à l’intégrité des données et en garantissant un accès légitime à celles-ci.
Le Conseil de l’Europe a adopté un traité international visant à garantir que les activités liées à l’IA respectent les droits fondamentaux, la démocratie et l’État de droit. Ce traité exige que l’IA soit respectueuse des droits fondamentaux à toutes les étapes, de la conception au développement, en passant par la collecte des données, particulièrement dans les domaines sensibles tels que la santé, la sécurité et l’emploi. D’autre part, il impose une exigence de transparence, obligeant à informer les utilisateurs lorsqu’ils interagissent avec des systèmes d’IA et il prévoit également que les États mettent en place des voies de recours permettant aux utilisateurs de contester les décisions prises par une IA, assurant ainsi une protection juridique aux personnes potentiellement affectées par ces systèmes.
Différentes réglementations applicables
Les réglementations actuelles, telles que le RGPD le DMA et le DSA ne s’appliquent qu’indirectement à l’IA et ne couvrent pas toutes les problématiques ni tous les usages de l’IA. Le RGPD encadre l’utilisation des données personnelles par les IA et permettent un certain contrôle, telle que l’obligation des entreprises à mettre en œuvre des mécanismes internes pour être en conformité avec la réglementation européenne et à démontrer cette conformité à tout moment par le biais du principe d’accountabitlity.
Le DSA de son côté, entièrement applicable depuis le 17 février 2024, pose des règles importantes pour les plateformes en ligne. Bien que le DSA ne se concentre pas spécifiquement sur l’IA, il a un impact significatif sur les systèmes d’IA utilisés par ces plateformes surtout en luttant contre la haine, la désinformation et en mettant en œuvre des mesures de vigilances concernant la publicité ciblé.
Le DMA, qui vise à lutter contre les pratiques anticoncurrentielles des contrôleurs d’accès « gatekeepers », les GAFAM plus spécialement, et à corriger les déséquilibres que ces acteurs ont causés sur le marché numérique européen, peut aussi être appliqué aux systèmes d’IA.
La déclaration de Benoit Coeuré, président de l’Autorité de la concurrence, met en lumière une préoccupation croissante concernant les implications potentielles de l’IA sur la concurrence : « l’IA a le potentiel de devenir le musée des horreurs de l’anti-trust si on ne fait rien ». En effet, le développement de systèmes d’IA nécessite une puissance de calcul considérable et l’accès à de vastes ensembles de données, des ressources que les grandes entreprises technologiques comme Google, Amazon et Facebook possèdent en abondance. Cette capacité pourrait leur permettre de monopoliser le marché de l’IA, restreignant ainsi la concurrence et entravant l’innovation.
Ainsi, l’amende imposée par l’Autorité de la concurrence française à Google en juillet 2023 illustre une préoccupation croissante concernant les pratiques anticoncurrentielles potentielles liées à l’utilisation de l’IA. Dans ce cas précis, Google, à travers son service d’intelligence artificielle Bard (maintenant Gemini), a été sanctionné pour avoir utilisé des contenus provenant d’éditeurs et d’agences de presse sans leur consentement explicite et sans proposer une solution technique leurs permettant d’exercer leur droit d’opt-out, ni rémunération adéquate.
Cette pratique a été interprétée comme limitant la capacité des éditeurs à négocier une juste rémunération pour l’utilisation de leurs contenus par Google, ce qui constitue une entrave à la libre concurrence.
L’amende significative de 250 millions d’euros reflète la gravité de ces infractions aux règles de la concurrence. Elle vise non seulement à sanctionner Google pour ses actions présumées, mais aussi à dissuader d’autres entreprises de pratiquer des comportements similaires qui pourraient compromettre l’équité du marché et l’innovation dans le domaine de l’IA.
L’adoption de l’IA Act
Comme on peut le constater, différentes réglementations peuvent s’appliquer sur les systèmes d’IA, mais ces règles ne sont pas toujours suffisantes pour encadrer son développement et son utilisation. Ainsi, l’UE a adopté l’IA Act, un règlement qui marque une avancée majeure dans la régulation de l’utilisation de l’IA. Ce cadre juridique, le premier de son genre, vise à équilibrer l’innovation technologique avec la protection des droits fondamentaux et la sécurité des utilisateurs.
Le règlement établit un système de classification des risques associés aux systèmes d’IA, allant de minimal à inacceptable, et impose des obligations proportionnées aux entreprises selon le niveau de risque.
Prenons l’exemple de la notation sociale, un système d’IA interdit par le règlement car considéré comme contraire aux droits fondamentaux et à la dignité humaine. Ce système évalue et classe les individus en fonction de leur comportement social, entraînant ainsi un traitement préjudiciable. Par exemple, en Chine si ces personnes ont été considérées comme indignes de confiance, le système de crédit social utilise ces notes pour restreindre l’accès des individus à certains services, tels que les aides sociales, l’accès au crédit, en raison d’un score trop bas.
Problématiques d’algorithmes aux variables discriminatoires
L’IA présente également des problèmes de biais discriminatoires, tels que la discrimination basée sur le sexe, la couleur de peau ou la nationalité. Un autre exemple est lié à Google Gemini, dans son effort pour prendre en compte les problèmes d’égalité raciale, qui a fini par produire des résultats inverses. Plusieurs utilisateurs se sont plaints de cette tendance à la diversité, la percevant comme une forme de racisme anti-blanc ou de propagande “woke”. Par exemple, l’écrivain Frank J. Fleming a écrit sur X : « Nouveau jeu : essayez de demander à Google Gemini de créer une image d’un homme de race blanche. Je n’ai pas réussi jusqu’à présent. ».
Par ailleurs, une obligation de vigilance pèse aussi sur les utilisateurs des IA. Les chatbots peuvent parfois inventer des faits, ce qui peut nuire à la réputation de certains professionnels ou entraîner des situations humiliantes. Un exemple de mauvaise utilisation de l’IA est illustré par un incident survenu en 2023. Un avocat new-yorkais avait utilisé ChatGPT pour effectuer des recherches juridiques dans le cadre d’une affaire de préjudice corporel. Il a rédigé un mémoire de dix pages, citant plusieurs décisions de justice antérieures, qui se sont révélées être entièrement fabriquées par le chatbot.
Web 3.0 et régulation : vers une nouvelle ère de transparence et d’autonomie numérique
L’industrie du Web 3.0 se caractérise par des principes de protection, de transparence, de fiabilité et d’efficacité. Le secteur des PME en France affiche une grande diversité d’activités, allant de la tokenisation et la sécurité, à la conservation d’actifs et aux NFT, démontrant ainsi la capacité d’innovation et d’adaptation des entreprises françaises aux besoins du marché.
Au niveau de la réglementation, tant en Europe qu’en France, les législateurs travaillent à encadrer et réguler cet univers encore largement complexe. Au niveau européen, le règlement MiCA, qui entre pleinement en application à la fin de l’année, instaure des règles de marché uniformes dans l’UE pour les crypto-actifs. Le règlement couvre les crypto-actifs qui ne sont pas régulés par la législation existante sur les services financiers. Les principales dispositions pour les acteurs qui émettent et négocient des crypto-actifs, y compris les stablecoins, concernent la transparence, la divulgation, l’autorisation et la supervision des transactions. Le nouveau cadre juridique soutiendra l’intégrité du marché et la stabilité financière en régulant les offres publiques de crypto-actifs et en veillant à ce que les consommateurs soient mieux informés des risques qui y sont associés.
En France, la loi SREN a été mise en place pour réguler l’espace numérique, avec un accent particulier sur les jeux à objets numériques monétisables (JONUM) qui se réfèrent aux jeux Web 3.0 basés sur un système de « play to earn ».
Cette loi crée un cadre légal spécifique pour ces jeux, les distinguant des jeux de hasard, généralement interdits. Le régime dérogatoire pour les JONUM a été conçu pour offrir une régulation plus adaptée et équilibrée, tout en assurant la protection des consommateurs et la lutte contre la fraude.
Les technologies Web 3.0 ne représentent pas seulement un nouveau terrain de développement pour l’apparition de nouveaux acteurs sur le marché, mais à travers la blockchain elles introduisent également un système de stockage et d’échange de valeur de pair à pair qui supprime les intermédiaires et redonne sa souveraineté à l’utilisateur et retire le pouvoir des mains des entités centralisatrices.
En réduisant l’influence des « gatekeepers », le Web 3.0 permet de transformer le modèle économique d’internet en introduisant la notion de « propriété » en ligne. Cela donne aux citoyens et aux entreprises la possibilité de reprendre le contrôle de leurs propres données, sans que ces géants numériques puissent les exploiter à des fins de profit ou de publicité.
Par ailleurs, un nouveau système de gouvernance est apparu en soutenant, par exemple, l’instauration du vote électronique par les DAO (Organisations Autonomes Décentralisées). Ce système basé sur la blockchain permet aux personnes de se coordonner et de se gouverner elles-mêmes grâce à des règles auto-exécutables déployées sur une blockchain.
Par conséquent, l’UE s’engage déjà pleinement au niveau de la régulation. Cependant, la question se pose toujours de savoir comment assurer une application effective de toutes ces règles. Les systèmes d’IA et le Web 3.0 pourraient jouer un rôle essentiel en facilitant leur mise en œuvre.
IA et blockchain : Renforcement des régulations et préservation de la confiance numérique
Le Web 3.0 soutient ainsi les objectifs du RGPD et pourrait être reconnu comme un outil fiable et sécurisé dans les réglementations relatives à la protection des données personnelles, grâce à l’anonymat qu’il offre.
Les blockchains offrent une solution pour certifier l’authenticité et la traçabilité d’une information, ce qui permet de lutter de façon plus efficace contre la désinformation et les contenus illégaux. De plus, les NFT permettent de protéger les œuvres d’art et les droits d’auteur en enregistrant sur la blockchain leurs créations. Chaque œuvre est associée à un identifiant unique qui sert de certificat d’authenticité et facilite la mise en œuvre du droit de suite, assurant une rémunération continue aux créateurs lorsque leurs œuvres sont revendues.
L’IA joue également un rôle important dans l’amélioration de la blockchain. Elle peut optimiser l’audit des codes des smart contracts afin de détecter les potentielles failles, et analyser les vastes quantités de données générées par les blockchains pour détecter les fraudes.
Ce partenariat IA et blockchain peut être un outil pertinent pour l’exécution des règlementations et les autorités pour préserver un espace de confiance dans ce système.
LawForCode
LawForCode est une alliance d'avocats, fiscalistes et d'experts-comptables qui accompagne les entrepreneurs Web3, cofondée par Maître Arnaud Touati associé cabinet Hashtag Avocats, Maître Axel Sabban associé Revo Avocats et Claryss Lefort Expert-Comptable et fondatrice de Build.
