Courrier des lecteurs

Ethique et intelligence artificielle

Lundi 29 Avril 2019 - 09:49

Ce sujet de réflexion est né de la participation à la soirée d'inauguration du festival du film scientifique, qui se tient du 26 avril au 11mai 2019. Le thème de la soirée d'inauguration de ce vendredi, ainsi que de ce samedi, traitait de l'intelligence artificielle. 
 
Y a-t-il besoin pour commencer de décrire ces deux (ou trois) notions : «Éthique de l'intelligence artificielle» ? L'éthique est cette matière pluri-millénaire qui tente de déterminer, de caractériser ce qui constitue le but de la vie humaine. Et dans ce cadre, évidemment, elle rentre en concurrence avec l'autre moteur principal qui tente de régler les vies humaines, à savoir les religions. Et d'une certaine manière, l'éthique et la religion ne sont qu'une et même chose, même si elles sont plurielles. Il existe de nombreuses religions comme il existe plusieurs visions de l'éthique (ou de la morale, pour moi comme pour beaucoup de philosophes, ces deux termes sont relativement synonymes, équi-remplaçables), comme il existe des éthiques profanes ou des philosophes athées.
 
L'intelligence artificielle de son côté est une matière extrêmement récente, qui a quelques décennies d'ancienneté. Nous nous trouvons ainsi à la croisée, à la rencontre des deux matieres aussi différentes que l'epoque qui les a vu naître. Mais l'intelligence artificielle est elle-même constituée de deux notions pas si simples à caractériser ; qu'est-ce que l'intelligence ? Et qu'est-ce que l'artificiel ? 
 
Pour cette raison, certains, quand ils réfléchissent au concept de l'éthique et de l'intelligence artificielle, pensent en fait à l'éthique du concepteur de l'intelligence artificielle, à l'éthique du concepteur ou de l'apprenant de l'intelligence artificielle, à l'éthique de l'homme qui est derrière l'utilisation ou la conception de l'intelligence artificielle. C'est notamment ce qui revient souvent lorsque l'on parle de l'éthique et de l'intelligence artificielle. Lorsque l'on parle de robot tueur, on pense à l'éthique du militaire qui est derriere les ordres donnés au robot. Lorsque l'on parle de conduite autonome, lorsque l'on pense à prioriser les vies humaines dans le cas où il faudrait choisir une victime, dans le cas dans un accident (vaut-il mieux faucher une mère et son enfant en bas âge au bord de la route ou percuter une vieille dame ou un vieil homme, ou bien percuter un arbre et risquer de tuer son passager ?) c'est ce que l'on entend derrière le concept d'intelligence artificielle et de conduite autonome, et il s'agit d'une certaine manière d'éthique, mais de l'éthique entendue comme l'éthique de celui qui aura programmé le programme de conduite autonome de la voiture.
 
Dans ce cadre-là, on ne parle pas de l'éthique de la machine elle-même, on ne parle pas de l'existence de la conscience artificielle elle-même, on ne parle pas d'une éthique de cette conscience artificielle. On ne pense pas que cette machine autonome, cette intelligence artificielle, puisse avoir après coup, après l'accident, de remords ou des réflexions éthiques sur le choix qu'elle aura realisé. Qu'est-il arrivé à la voiture autonome qui a percuté/fauché une femme à vélo qui traversait une route aux Etats-Unis ? La société qui effectuait ces essais, Uber, Google ou Tesla, ont-ils jetée cette voiture autonome à la décharge, l'étudient-ils, l'ont-ils simplement désactivée ou effacée ?
 
Mais je ne voudrais pas me limiter dans ces posts à parler de la seule éthique des concepteurs qui, soit, programment, conçoivent, réfléchissent, font apprendre à l'intelligence artificielle. Ces hommes sont forcément d'ailleurs imparfaitement moraux, éthiques ; ce ne sont que des hommes, rien que des hommes avec nos failles, nos faiblesses, nos haines, et nos envies. Non, je voudrais aussi parler du sujet de l'éthique de l'intelligence artificielle elle-même, de la manière dont elle peut apprendre, de la manière dont on peut la lui inculquer, la lui imposer !
 
Mais pour cela, encore faut-il croire qu'une intelligence artificielle puisse avoir une conscience, conscience d'elle même, réfléchir sur elle-même. Comme l'indiquait un des invités du festival du film scientifique, Antoine Cully, spécialiste de l'intelligence artificielle, si on mettait dans une même pièce les plus grandes intelligences artificielles de la planete et qu'on les laissait une nuit complète seules, au petit matin, on ne les retrouverait pas ayant conçu un plan de domination de l'humanité mais on les trouverait plus vraisemblablement complètement désœuvrées, ou une à se rouler par terre. Au pire, on retrouverait le parquet de la pièce parfaietement propre. Selon lui, on est très loin de devoir craindre une intelligence artificielle ayant conscience d'elle-même et de ses actes.
 
Quand on parle d'éthique de l'intelligence artificielle, on se retrouve ainsi à penser l'intelligence artificielle comme un outil, comme une aide à la prise de décision. S'est-on déjà interrogé si le marteau avait une éthique ? La réflexion éthique conduite sur l'intelligence artificielle a alors trait à l'impact énergétique ou carbone des serveurs informatiques nécessaires pour faire tourner, entraîner ou stocker les données nécessaires pour le fonctionnement de l'intelligence artificielle. Elle a également trait à l'usage qui peut être fait des milliards de kilo-octets de données récoltées sur chacun d'entre nous, sur chacun des individus qui utilisent les téléphones, les réseaux sociaux, les outils informatiques de recherche, ou les objets connectés qui commencent à envahir nos vies ou nos villes.
 
Pour cette raison, j'appelle «éthique du concepteur» cette forme de réflexion éthique sur l'intelligence artificielle. Elle est forcément à l'image de l'homme/des hommes qui conçoit ou qui possède cette intelligence artificielle, cet outil informatique. Imparfaite, dépendante des coûts et des bénéfices à attendre de cette utilisation et de ces développements ! Comme l'indiquait Antoine Cully, intervenant lors du festival du film scientifique, cette éthique (si on peut lui donner ce nom-là) dépend de la demande ou des critères imposées par les consommateurs. On peut ainsi aussi parler de prescriptions éthiques des consommateurs, sur ce qu'ils accepteront ou non de voir, d'utiliser, de se satisfaire. Mais pour moi, cette ethique du concepteur n'est qu'une fraction de la reflexion éthique qui doit être menée sur l'intelligence artificielle. Car, ces vehicules autonomes qui ont tué des passants, que conservent-ils de cet accident ? Que conserveront-ils demain de tels accidents si ceux-ci venaient à se reproduire, lorsque la conduite autonome sera entrée dans nos vies, dans nos fonctionnements ?

https://saucrates.blog4ever.com/
Saucratès
Lu 327 fois



1.Posté par A mon avis le 29/04/2019 20:17

Définition de l'éthique

@ Saucratès,
On a l'impression que vous ne vous documentez pas avant de bla-blater dans Zinfos !

J'ai lu votre texte jusqu'au 2ème paragraohe. Je me suis arrêté à :

"Il existe de nombreuses religions comme il existe plusieurs visions de l'éthique (ou de la morale, pour moi comme pour beaucoup de philosophes, ces deux termes sont relativement synonymes, équi-remplaçables), comme il existe des éthiques profanes ou des philosophes athées."


Quelle prétention de vous comparer à "beaucoup de philosophes" en écrivant ce "charabia" !

Je n'ai pas eu le courage de lire davantage.

Pour votre info : une définition de l'éthique :

Etymologie : du grec ethikos, moral, de ethos, moeurs.

L'éthique est la science de la morale et des moeurs. C'est une discipline philosophique qui réfléchit sur les finalités, sur les valeurs de l'existence, sur les conditions d'une vie heureuse, sur la notion de "bien" ou sur des questions de moeurs ou de morale.

L'éthique peut également être définie comme une réflexion sur les comportements à adopter pour rendre le monde humainement habitable. En cela, l'éthique est une recherche d'idéal de société et de conduite de l'existence.
http://www.toupie.org/Dictionnaire/Ethique.htm

2.Posté par Saucratès le 29/04/2019 23:42

Cher «À mon avis», c'est toujours un bonheur de vous lire. Plutôt que de chercher des liens vers des articles internet, vous pourriez aussi lire ou nous citer des livres. Ethique vient en effet du grec «ethos», dont les significations sont «séjour, habitation» mais aussi «habitude, coutume». De son côté, Morale vient du latin «mores», ou mœurs. Nous avons donc deux notions équivalentes, l'une étant basée sur une racine grecque et l'autre sur une racine latine (Jean-Francois Mattéi). Difficile de savoir si «Ethikos» existe comme votre site l'indique.

Mais en quoi cela contredit-il ce que j'écris ? Dommage, je vous ai perdu au deuxième paragraphe. Je ne sais plus sur quoi écrire afin que vous ne soyez pas énervé ! A une prochaine fois ! Saucratès

3.Posté par A mon avis le 01/05/2019 00:29

@ 2 Saucratès :
Je ne suis pas "énervé" par la lecture de vos billets. Je ne les lis que par divertissement. Aussi j'abandonne souvent la lecture avant la fin tant vos idées sont tortueuses : vous semblez aligner les mots au fur et à mesure de votre pensée, mais sans trop savoir où vous voulez aller, ni ce que vous voulez démontrer ! On dirait que vous posez ça sur la table et que vous dites au lecteur : à vous de trier !

Dans mon commentaire précédent j'ai cité une phrase dans laquelle vous parlez de :
- ...comme il existe une "éthique profane" : à mon sens c'est un pléonasme ! L'éthique ne peut être que profane. L'éthique ne peut pas être religieuse.
En effet : la religion impose et dicte ses règles, sa morale émanant de son ou ses dieux. Règles intangibles par définition.
Alors que l'éthique définit ce que la société plurielle accepte comme normes de comportement ; normes qui évoluent avec l'évolution de la société et la confrontation des idées, les progrès techniques.

- vous dites encore : ...comme il existe des "philosophes athées". A vous lire, on pourrait croire qu'il n'y a que des philosophes croyants : le vrai philosophe n'est-il,pas celui qui se pose des questions avant de croire ?

Finalement je vous ai lu, Mais en fin de compte on se demande quel sens vous donnez au mot "éthique" que vous employez d'innombrables fois en l'attribuant aussi bien à des objets qu'à des algorithmes, qu'à des robots (c'est même votre conclusion).

Quant à "intelligence artificielle" on ne peut pas dire que votre texte soit éclairant !
Vous attribuez son apparition il y a une ou deux décennies, mais chaque fois que l'Homme a fabriqué une machine automatique, il a créé une "intelligence artificielle". Les horloges, les automates, la machine à calculer de Pascal étaient déjà des "intelligences artificielles".
Certes on atteint une nouvelle dimension avec les nouvelles technologies et les "réseaux de neurones profonds".

L'éthique ne s'applique pas aux objets. Aussi évoluée soit-elle, "l'intelligence artificielle" n'est (pour l'instant) qu'un outil, qui n'a pas de conscience.

Le chercheur peut se poser des questions sur la finalité de ses découvertes : mais peut-on parler d'éthique individuelle ou bien plutôt de sentiment personnel de ce qui est juste ou non ?

C'est à la société que revient la responsabilité de définir une éthique et donc de dire si telle ou telle découverte, invention, technique est éthique c'est à dire conforme aux normes comportementales et morales définies par la société.
Ce n'est pas la découverte qui pose un problème d'éthique, mais son application.

Nouveau commentaire :
Facebook Twitter

Si aucune page de confirmation n'apparaît après avoir cliqué sur "Proposer" , merci de nous le faire savoir via le mail contact@zinfos974.com
------
Merci de nous donner les informations suivantes, elles nous serviront à mieux cerner votre situation :
-- Smartphone ou ordinateur (mac ou windows)
-- Navigateur utilisé
-- Votre fournisseur d'accès internet
------
Toute l'équipe de Zinfos974 vous remercie

Dans la même rubrique :
< >

Jeudi 23 Mai 2019 - 09:57 Pourquoi pas Pontalba ou Lalane?