L'UE annonce des lignes directrices sur l'éthique de l'IA | Voyages pas cher

L’Union européenne a annoncé un nouvel ensemble de directives visant à façonner l’avenir de l’IA, avec des règles claires sur ce que nous devrions faire et ne pas attendre, notamment dans les domaines qui contredisent l’éthique humaine.

Nous sommes obsédés par les dilemmes éthiques et l’IA depuis que le mot «robot» a été inventé dans la pièce russe de 1920, RUR, qui traitait d’une révolution des robots menant à l’extinction de la race humaine.

Près de 100 ans plus tard, la Commission européenne cherche à formaliser le rôle de l’IA et sa portée avec ce nouvel ensemble de règles. Est-ce que cela va assez loin et l'industrie de l'IA en prendra-t-elle note?

Quelles sont les lignes directrices de l’UE en matière d’IA?

L'un des plus gros défis posés par le nouveau règlement est un ensemble de sept exigences que les développeurs d'intelligence artificielle devront respecter. Voici le résumé directement du rapport, qui est téléchargeable ici.

Assurez-vous que le développement, le déploiement et l'utilisation des systèmes d'intelligence artificielle répondent aux sept exigences clés de l'IA de confiance:

(1) agence humaine et surveillance

(2) robustesse technique et sécurité

(3) confidentialité et gouvernance des données

(4) la transparence

(5) diversité, non-discrimination et équité

(6) bien-être environnemental et sociétal

(7) responsabilité

Tout cela est plus facile à dire qu'à faire, avec (5) en particulier, qui s'est révélé être un point d'achoppement pour de nombreux projets d'intelligence artificielle. Puisque les données utilisées pour l'apprentissage automatique proviennent d'ensembles de données erronés et biaisés, l'IA qui en résulte est défectueuse de la même manière. Dans l’industrie sexiste techno-clouée des yeux, il est facile de créer accidentellement une IA sexiste, comme l’a appris Amazon à la dure l'année dernière.

Ces besoins essentiels mettent l’accent sur la transparence et le contrôle, ce qui est un pas dans la bonne direction.

Comment les directives de l'UE sur l'IA seront-elles appliquées?

Ils ne le feront pas – pour le moment.

Le nouvel ensemble de réglementations de l’UE est conçu comme une directive plutôt que comme une règle. Cependant, il est possible que, à mesure que l’intelligence artificielle se développe, les gouvernements soient contraints de réglementer davantage le secteur.

En établissant des attentes, le nouveau document de l’Union européenne joue un rôle important en orientant la conversation publique dans la bonne direction et pourrait un jour aider les agents de ce gouvernement à élaborer un ensemble de réglementations qui seront effectivement applicables.

Pourquoi l'UE a-t-elle créé des lignes directrices sur l'IA?

Nous avons passé des millénaires à définir une éthique de base sur laquelle tout le monde peut s’accorder. N’exploitez pas les informations personnelles d’autres personnes, ne respectez pas votre prochain, ne blessez pas d’autre, et ainsi de suite. Mais, à mesure que la technologie d’IA de plus en plus avancée se développe, elle constitue un pipeline capable de produire des résultats contraires à l’éthique.

Sans lignes directrices ni quoi que ce soit pour attirer l'attention sur les questions éthiques, toute nouvelle technologie peut potentiellement répéter les erreurs passées à une échelle vaste (et automatisée).

Plus concrètement, l'éthique de l'IA a fait la une récemment. Les employés de Microsoft se sont regroupés en février pour protester contre le contrat de 479 millions de dollars toujours en vigueur avec l’armée américaine pour un système intégré d’augmentation visuelle. La manifestation était une réplique de la réaction de Microsoft contre un contrat ICE d’une valeur de plusieurs millions de dollars lié à l’IA pour la reconnaissance faciale.

Le panel d'éthique de Google sur l'IA

Pendant ce temps, Google lutte avec ses propres batailles éthiques sur l'IA. À savoir, il a établi et immédiatement dissous un nouveau comité d'éthique sur l'IA en l'espace d'une semaine. La question qui a probablement conduit à la dissolution du comité est la crainte des médias sociaux concernant la panéliste Kay Coles James, présidente du groupe de réflexion conservateur Heritage Foundation. Toutefois, cela n'empêchera pas Google de faire pression, le géant de la technologie affirmant qu'il «trouverait différents moyens d'obtenir des avis extérieurs sur ces sujets».

L'éthique dans l'IA? Tout le monde convient qu’ils sont nécessaires. Mais il est beaucoup plus difficile de faire en sorte que les gens s’entendent sur la manière de les définir et de les aborder. Espérons que les nouvelles lignes directrices de l’UE aident à orienter la conversation plutôt que d’ajouter à la cacophonie.