Réflexion pour le futur de l'humanité
L'intelligence artificielle est en plein essor. Mais faut-il en avoir peur pour le futur de l'humanité ? Voici ce qu'en pensent les scientifiques !
Le débat entre les experts universitaires porte sur l'impact potentiel des ordinateurs et des robots qui deviennent autonomes et prennent leurs propres décisions. Il est possible qu'ils soient capables d'acquérir un niveau d'autonomie propre, ce qui pourrait constituer une menace sérieuse pour la race humaine. Les chercheurs ont déjà observé que certaines machines ont acquis diverses formes de semi-autonomie, étant capables de trouver des sources d'énergie et de choisir de manière autonome des cibles à attaquer avec des armes. Ils ont également découvert que certains virus informatiques sont capables d'échapper au processus d'élimination et ont atteint une "intelligence de cafard".
La capacité d'apprentissage automatique, en soi, ne constitue pas un danger pour les scientifiques. Le problème se pose, selon eux, si l'on ajoute à cela leur compétence analytique et leur potentiel informatique infini, couplé à la rapidité des processus. Cela désavantagerait sérieusement les êtres humains. Ce raisonnement nous donne l'idée que, pour les machines intelligentes, nous sommes "remplaçables", en plus d'être assez défectueux, nécessitant beaucoup d'entretien, d'apprentissage et de repos.
D'autres aspects sociaux méritent également d'être pris en considération. Si nous ne parvenons pas à une plus grande égalité entre les pays du monde, la polarisation du capital et des ressources creusera davantage le fossé entre les riches et les pauvres. Les nations qui n'ont pas la capacité d'investir dans des technologies sophistiquées ou qui sont incapables de les acquérir auraient moins de chances de se développer. En outre, un autre élément à l'étude est la mesure dans laquelle les robots remplaceront les humains dans les emplois, car ils sont beaucoup moins coûteux à résoudre : ils ne doivent pas être payés, sont très productifs et ne créent pas de problèmes de main-d'œuvre.
D'éminents scientifiques et experts ont signé un document intitulé "Research Priorities for Robust and Beneficial Artificial Intelligence IA : an Open Letter". Le document aborde directement les dangers potentiels impliqués et parmi les principales mises en garde figure la possibilité que, dans un environnement insuffisamment contrôlé, les systèmes d'intelligence artificielle puissent adopter un comportement indésirable, voire nuisible. Il craint qu'une éventuelle indépendance de l'IA ne se traduise par une vie propre. "Ceux d'entre nous qui sont en charge de ces appareils aujourd'hui perdraient alors le contrôle des machines et celles-ci pourraient agir contre leurs créateurs", font-ils valoir. Selon la lettre ouverte, la recherche devrait s'attacher à amener ceux qui travaillent avec elle à prendre des mesures de sécurité en cas de rébellion robotique en cas de problème.
Comme le précise diblogotus.com, l'écart entre l'intelligence et les capacités des robots et des ordinateurs et l'esprit humain se réduit, voire nous dépasse à certains égards, ce qui peut être inquiétant. Les machines et les systèmes d'intelligence artificielle sont dépourvus de deux choses très importantes : les sentiments et l'éthique. Ils ne sont donc pas capables de discerner correctement le bien et le mal, car leur comportement dépend de la programmation et non de la rationalité. La lettre, signée par près de 700 chercheurs et experts (possédant des connaissances approfondies en physique, philosophie, éthique, informatique, sociologie et science-fiction), souligne la nécessité de faire preuve de prudence, car "l'intelligence artificielle ne doit pas devenir un jeu qui tombe entre de mauvaises mains".
Cet article a suscité de nombreuses réactions, et plus d'un scénario catastrophe a été décrit ci-dessous. Cependant, les risques actuels sont différents. Par exemple, la capacité de traiter de grandes quantités de données à l'aide d'ordinateurs peut donner à ceux qui les contrôlent - et analysent toutes les informations - un pouvoir oraculaire qui leur permet de dominer la finance au niveau international. Plus encore, des scientifiques du Massachusetts Institute of Technology ont récemment démontré que toute personne anonyme peut être identifiée à partir des habitudes d'utilisation de sa carte de crédit. En d'autres termes, la principale menace de l'intelligence artificielle aujourd'hui est l'utilisation abusive de la capacité des appareils à extraire et à analyser des données à grande échelle.
Le développement de la robotique intelligente dans le but de disposer de robots soldats est très inquiétant, car il est presque impossible pour un robot de faire la distinction entre un civil innocent et un combattant. La voiture sans conducteur en est un autre exemple. Il faudra des années avant que ces véhicules ne prennent la route, et tout porte à croire que lorsqu'ils la prendront, ils seront plus sûrs. Mais si des accidents se produisent, cette faille soulève des questions : qui doit être responsable : le "conducteur", le propriétaire ou le concepteur ? Et s'il est vrai que les machines font moins d'erreurs que les humains, faut-il laisser les gens conduire aux côtés des robots ? Les experts estiment que les scientifiques et les politiques devraient se réunir pour créer une législation. Le problème ne vient pas de la technologie elle-même, mais de l'humanité. Il est plus probable que ce soit un homme mal intentionné qui provoque une éventuelle guerre entre les humains et les machines.
Les pertes d'emplois sont un autre danger actuel de l'intelligence artificielle. Jusqu'à présent, les robots ont remplacé les personnes dans les tâches répétitives ou dangereuses, mais avec les progrès, les emplois dans le secteur des services, par exemple, commenceront à être menacés. Des études montrent que près de 50 % des professions actuelles seront totalement superflues d'ici 2025 si l'intelligence artificielle continue à transformer les entreprises comme elle le fait déjà.
Les experts s'accordent à dire que l'éducation est la mesure la plus importante. Il est nécessaire de rechercher des emplois où la créativité est une priorité, peut-être est-il approprié qu'une éducation artistique s'ajoute aux matières étudiées en ingénierie et en mathématiques. Il s'agit, après tout, d'une transformation des professions. Reste à savoir si les différents acteurs de la société s'empresseront de mettre en œuvre les moyens nécessaires - lois technologiques, éducatives, etc. - pour que cette inévitable révolution du travail se fasse dans l'intérêt général de l'humanité.
Les ordinateurs avancés sont pilotés par des algorithmes, mais des chercheurs comme Nick Bostrom et Eliezer Yudkowsky préconisent de faire évoluer le système vers des "arbres de décision", car ils obéissent mieux aux normes sociales de transparence et de prévisibilité, ce qui est essentiel pour rendre les humains moins vulnérables aux machines face aux pirates informatiques.
Dans le livre "Moral Machines : Teaching Robots Right from Wrong", Wendell Wallach et Colin Allen concluent que les tentatives d'enseigner aux robots la différence entre le bien et le mal contribueront à faire progresser notre compréhension de l'éthique humaine, en incitant les humains à combler les lacunes de la théorie normative moderne et en fournissant une plate-forme pour la recherche expérimentale.