Divers

Bentham, Hobbes et l'éthique de l'intelligence artificielle

Bentham, Hobbes et l'éthique de l'intelligence artificielle

Si vous avez prêté attention aux nouvelles, vous penseriez que la révolution de l'intelligence artificielle à venir était une conclusion d'avance, mais beaucoup de ces déclarations ont tendance à reconnaître brièvement l'éthique de l'intelligence artificielle comme si elles étaient simplement académiques. des exercices qui n'ont aucune incidence réelle sur le développement de l'IA.

Ceux qui sont à la pointe du développement de l'IA le savent mieux. Les constructeurs de véhicules autonomes gèrent avec soin le déploiement des véhicules autonomes en sachant très bien qu'une introduction hâtive de ces systèmes pourrait entraîner une réaction publique qui peut arrêter le tout. Si vous avez le moindre doute à ce sujet, ne cherchez pas plus loin que le débat sur la recherche sur les cellules souches embryonnaires aux États-Unis pour un exemple récent de considération politique qui l'emporte sur la science.

Alors quelles sont les controverses autour de l'éthique de l'intelligence artificielle? Plusieurs des principaux cadres éthiques, tels que l’utilitarisme de Jeremy Bentham et la théorie du contrat social de Thomas Hobbes, ont des choses importantes à dire sur le développement de l’intelligence artificielle. Et - comme toute bonne philosophie - il n'y a pas de réponses faciles.

Le plus grand bien pour le plus grand nombre

En 1789, le philosophe et réformateur social britannique Jeremy Bentham a publié Une introduction aux principes de morale et de législation, l'une des œuvres philosophiques les plus importantes écrites depuis Aristote.

Dans ce document, Bentham a énoncé le principe de l'utilité, qui soutient que le bien est défini comme ce qui est agréable et que le mal est défini par ce qui est douloureux; et que ce qui est le plus éthique est de fournir le plus grand bien pour le plus grand nombre de personnes ou de prévenir le plus grand mal pour le plus grand nombre.

C'est un argument très courant utilisé en faveur de l'intelligence artificielle. Les véhicules autonomes, on l’a souvent souligné, ont le potentiel d’éviter un million de morts sur la route chaque année en éliminant le conducteur humain de l’équation - dont l’erreur est presque toujours la cause de l’accident.

Cela se fait au prix de millions d'emplois dans les transports dans le monde qui seront perdus lorsque les chauffeurs de camion, les chauffeurs de taxi et autres seront remplacés par des systèmes d'IA, dont beaucoup auront du mal, voire impossible, à se recycler pour d'autres emplois, ce qui entraîne une difficultés dans toute la société.

De même, dans la fabrication, des millions d'emplois ont déjà été remplacés par l'automatisation et ce nombre ne fera qu'augmenter à mesure que les IA seront en mesure d'exécuter des tâches plus sophistiquées à un coût considérablement réduit pour le fabricant.

VOIR AUSSI: LA HAUSSE DE L'IA ET DE L'EMPLOI: COMMENT LES EMPLOIS CHANGERONT POUR S'ADAPTER

Cela conduira invariablement à une baisse des prix des produits de consommation pour tous dans la société, mais au prix de salaires déprimés qui peuvent ne pas être corrélés à la baisse des prix; rien ne garantit que les salaires inférieurs pourront acheter le même niveau de vie qu’auparavant.

Dans ces deux cas - comme dans bien d'autres où l'intelligence artificielle est impliquée -, essayer d'identifier le plus grand bien est une question épineuse, mais dont chacun devrait faire entendre sa contribution. Ce n’est cependant pas toujours le cas.

Qu'est-ce que le contrat social?

L’une des œuvres les plus célèbres de philosophie politique et morale est celle de Thomas Hobbes.Léviathan, où le théoricien politique britannique explore comment les sociétés se sont fusionnées à partir de ce qu'il a appelé «l'état de nature».

L'état de nature, selon Hobbes, est l'homme contre tous - chaque homme ou chaque femme était entièrement responsable de sa propre vie dans son intégralité et devait se battre contre toute autre personne dans une lutte pour la survie de base.

Chaque personne devait être le charpentier qui construisait son abri, le fermier qui faisait pousser sa nourriture et le guerrier qui protégeait tout cela de la personne suivante qui vous tuerait et vous prendrait tout pour qu'elle puisse survivre à la place.

Célèbre, Hobbes a décrit la vie à l'état de nature comme «solitaire, pauvre, méchante, brutale et courte».

En réponse à cette réalité, dit Hobbes, des sociétés se sont formées où l'humanité coopérait au lieu de rivaliser. Le fermier a fait pousser la nourriture pour la communauté et a nourri le charpentier qui a construit son propre abri ainsi que l'abri pour le fermier et le guerrier, qui les ont protégés tous les trois.

De cette manière, connue sous le nom de contrat social, l'humanité a pu développer des compétences spécialisées et progresser technologiquement et socialement au-delà de simples animaux.

L'IA viole-t-elle le contrat social?

Et si quelqu'un abuse de cet arrangement? Et si quelqu'un fait construire sa maison et cultiver sa nourriture pour lui, mais utilise plutôt ses compétences non pas pour aider sa communauté, mais pour s’enrichir aux dépens de la communauté?

Sans le travail de la communauté élargie pour permettre aux chercheurs de Caltech et de Google de créer un environnement sûr pour construire leurs systèmes d'IA, ces systèmes ne seraient pas possibles. Mark Zuckerberg n’aurait pas pu fonder Facebook s’il avait dû travailler dans les champs pour faire pousser sa nourriture ou s’il avait dû protéger personnellement le campus de Facebook chaque soir contre des bandes de maraudeurs itinérants.

Si les développeurs de ces systèmes d'IA se retournent et introduisent des systèmes qui rendent les contributions du reste de la société superflues - qui a besoin d'un chauffeur de camion lorsqu'un véhicule autonome peut faire le même travail et ne jamais se plaindre des heures de travail ou des salaires -, il y a un danger très réel que les personnes mises au chômage sentent que le contrat social a été violé de façon flagrante et que leur réaction [PDF] peut être très déstabilisante.

L'histoire ne manque pas de dirigeants qui ont sous-estimé la colère d'une population en colère et qui ont perdu des empires vieux de plusieurs siècles en conséquence. Il ne suffit pas d’appeler une foule d’administrateurs enragés un groupe de Luddites sans instruction alors qu’ils détruisent votre ordinateur quantique sophistiqué qui les a tous mis au chômage.

Vous pourriez avoir raison à 100%, mais vous aurez toujours vos qubits détruits - si vous avez de la chance.

Beaucoup de nos dirigeants le reconnaissent, c'est pourquoi certains des plus grands partisans d'un revenu de base universel sont dans l'industrie de la technologie. Il reste à voir si la politique de tels programmes peut être aplatie avant que des IA sophistiquées ne poussent le problème à un point de crise, ou même qu'un tel système serait efficace.

Nous pouvons avoir une société d'IA éthique

S'il y a des écueils, il y a aussi des développements prometteurs grâce aux IA. L’arbitrage entre la sécurité des personnes et les emplois des personnes n’a pas à produire un perdant définitif. Nous pouvons faire en sorte que les machines fassent tout notre travail pour nous et réalisent réellement les rêves de nombreux philosophes et économistes qui prophétisent la fin des travaux depuis des siècles maintenant.

Si prévenir le plus grand mal est un impératif moral, et que nous pouvons mettre fin aux souffrances causées par le travail obligatoire sous peine de famine, il s'agit d'un bien social certain qui doit être poursuivi, mais seulement si nous abordons la révolution à venir de l'IA avec éthique. Sinon, Thomas Hobbes a beaucoup à dire sur l'alternative.


Voir la vidéo: Léthique de lintelligence - Laurent Alexandre, à lUSI (Juillet 2021).