Les graines d'éclipse phase. 9

Les graines d'éclipse phase.
Bonjour.
Dans ce topic je souhaite parler des éléments présent dans la science et la culture actuel et qui pourraient constituer les éléments précurseurs de l'univers d'éclipse phase. Le but serait de créer un historique possible et éventuellement de dégager des personnages historiques. L'univers ne semble pas vraiment habité tout au plus hanté par des entités abstraites. Je trouve qu'il manque dans EP des personnages tutélaires.
Je commence.
Aubrey de Grey
Son objet de recherche est de contrecarrer les effets du vieillissement biologique afin d'accroitre la durée de vie jusqu'à rendre les effets du vieillissement négligeable. C'est le directeur de recherche de la Methuselah Foundation ( Fondation Mathusalem ) qui est un organisme qui vise à promouvoir les recherches sur ce thème. Il y a identifié 7 facteurs biologiques qui seraient responsable de « de l’accumulation des effets secondaires du métabolisme qui finissent par nous tuer ».
Les travaux de de Grey auraient pu servir à allonger la durée de vie des individus avant que la technologie de morphose ne soit au point mais également servir à optimiser la biologie des morphs.
Page Wikipedia : https://fr.wikipedia.org/wiki/Aubrey_de_Grey
Lien vers une vidéo ( en Anglais) : https://www.ted.com/talks/aubrey_de_grey_says_we_can_avoid_aging
Sebastian Seung
La théorie de ce chercheur est que le psychisme humain peut se résumer à l'ensemble des connexions entre neurones. C'est ce qu'il appel de connectome. Il tente de recréer le connectome de cerveaux de souris. Le problème de cette technique est ce cette examen ne peut se faire que post-mortem. En effet il consiste à découper le cerveau en tranche très fine afin d'en faire une image en microscopie, puis de reconstruire par ordinateur une représentation du cerveau. Or la mort ainsi que les traitements réalisés sur le cerveau pour le préparer au scan peuvent créer des lésions cérébrales. Pour que la simulation numérique soit efficace il faudrait donc une technologie pour cartographier le cerveau in vivo.
Je trouve la personne en elle-même assez charismatique. Ses recherches sur la cartographie des connectomes me semble une étape cruciale vers l'établissement d'un plan du cerveau pour chaque individus.
Lien vers une vidéo ( en Anglais) : https://www.ted.com/talks/sebastian_seung
Human Brain Project
Ce projet européen vise à créer un modèle numérique du cerveau qui intégrerait l’ensemble des connaissances dans le domaine. Il démarre avec un petit groupe de neurone, devrait atteindre le niveau d'un cerveau de souris puis à terme un cerveau humain.
A terme l'aboutissement d'un tel projet ouvre donc la possibilité de crée des modèles numériques réaliste du cerveau et donc d'émuler le fonctionnement de cerveaux humains.
Site du projet : https://www.humanbrainproject.eu/discover/the-project/overview

Expérimentation culturel
La Finlande pourrait bien expérimenter un nouveau modèle de société. Un revenu fixe, pas très élevé mais permettant de vivre modestement, serait donner à chacun sans condition.
Ce genre d'expérimentation sociétale si elle se réalise pourraient bien inspirer les générations futures. Chacune voulant construire une société à l'image de ses idéaux. Elle permettrait surtout aux individus de pouvoir se concentrer sur d'autres choses que la simple subsistance ce qui favoriserait la vie associative, les actions pro-sociales et la production culturel.
http://geopolis.francetvinfo.fr/la-finlande-prete-a-experimenter-la-fin-du-travail-71493
D'un point de vue historique j'imagine que les travaux d'Aubrey de Grey permettent de rallonger l'espérance de vie. Cela permet à Seung de continuer ses travaux. ( Il pourrait donc être toujours vivant dans l'univers d'éclipse phase. Je le vois bien dans une hypercorps genre cognite.) Aidé par les progrès dans le domaine des nanotechnologies il parvient à mettre au point la technologie permettant de scanner le cerveau. En s'appuyant sur les travaux du Humain brain project ce scan peut être émulé. Les nouveaux ordinateurs permettent une démocratisation de ce procédé.

«Blue Brain Project»
Après dix ans d’efforts, une partie du cerveau d’un rat a été reproduite dans un programme informatique par une équipe internationale de plus de 80 chercheurs, dont l’avancée a été publiée jeudi dans la revue américaine Cell.
Ces travaux menés dans le cadre du «Blue Brain Project» coordonnés par l’École Polytechnique Fédérale de Lausanne (EPFL) en Suisse, visent tout d’abord à reproduire un cerveau de rat complet et à plus long terme à digitaliser un cerveau humain pour mieux le comprendre et l’étudier.
Cette première reconstruction d’un échantillon de tissu cérébral et de son fonctionnement contient plus de 31 000 neurones, 55 couches de cellules et 207 différents sous-types de neurones.
D’importants efforts de recherche sont en cours en Europe et aux Etats-Unis pour déterminer les différents types de neurones ou encore les cellules nerveuses du cerveau, pour mesurer leurs propriétés électriques et cartographier les circuits neuronaux et leurs branchements.
Utilisant cette abondance de données, ces scientifiques ont reproduit une tranche virtuelle du cerveau représentant différents types de neurones dans la région du néocortex ainsi que les mécanismes clés contrôlant leur fonctionnement: en découle notamment une modélisation de leur connectivité, y compris près de 40 millions de synapses et 2 000 branchements entre chaque type de cellule cérébrale.
«Cette reconstruction virtuelle a nécessité un nombre gigantesque d’expériences», a expliqué Henry Markram de l’EPFL. «Elle ouvre la voie à la capacité de prédire le flux électrique dans tous les 40 millions de synapses», des structures permettant la transmission de messages électriques ou chimiques entre les neurones.
Une fois achevée cette reconstruction, les chercheurs ont utilisé de puissants super-ordinateurs pour simuler le comportement des neurones dans différentes conditions.
Ils ont toutefois estimé que cette simulation cérébrale ne constituait pas une démonstration suffisante indiquant qu’il est possible de reproduire informatiquement un cerveau humain, qui contient plus de cent milliards de neurones.
«Il s’agit seulement d’un premier pas», a dit Henry Markram, qui imagine un outil de recherche capable de digitaliser certaines caractéristiques des neurones et leurs branchements qui sont communs à tous les cerveaux.

On est encore très loin, estiment les chercheurs, de pouvoir télécharger la personnalité d’un être humain dans un ordinateur.
Cette étude a été en partie financée par le «Human Brain Project», un programme de recherche européen doté de plus d’un milliard de dollars.
Ce programme et celui du «Blue Brain Project» ont suscité des controverses dans les milieux scientifiques avec la signature par des centaines de neurologues d’une lettre ouverte en 2014 critiquant leurs projets et leurs objectifs, dont notamment la faisabilité de digitaliser un cerveau humain.
http://www.journaldemontreal.com/2015/10/08/une-partie-du-cerveau-dun-rat-digitalise

Les réflexions intéressantes d'un thésard sur les enjeux sociétaux pointus du transhumanisme.

Son interview à lire ICI

https://theconversation.com/crispr-cas9-comment-modifier-les-genomes-va-changer-la-societe-66320

CRISPR/Cas9 : comment modifier les génomes va changer la société

October 4, 2016 8.04pm BST

Révolution en cours pour les biotechnologies : la technique d’édition des génomes CRISPR/Cas9 pourrait permettre de grandes avancées dans les domaines de la médecine, de l’agriculture, et, plus largement, impacter la société tout entière.

Qu’est-ce que CRISPR/Cas9 et comment cela fonctionne ?

Le ruban d’ADN de 3 milliards de lettres et 1 mètre de long qui porte le patrimoine génétique d’un être humain est une chose fragile, sans cesse rompu par les multiples stress que subit une cellule. Heureusement de puissants mécanismes de réparation veillent et œuvrent, parfois mis en défaut et c’est la maladie, cancers ou vieillissement accéléré. À partir de découvertes sur les mécanismes de réparation de l’ADN, les chercheurs ont tenté depuis longtemps de mimer cette fonction. Mais les techniques développées jusque-là étaient coûteuses, peu efficaces, peu précises et fastidieuses.

CRISPR/Cas9, ce sont deux éléments biologiques : CRISPR et Cas9. CRISPR – pour Clustered Regularly Interspaced Short Palindromic Repeats- est un système naturel utilisé par les bactéries pour se protéger des infections virales. Quand une bactérie est attaquée par un virus, elle se protège en découpant son ADN et en garde la mémoire en conservant quelques fragments. CRISPR est une sorte de disque dur pour stocker ces fragments. Quand la bactérie est de nouveau attaquée par le même virus elle possède alors sa « fiche d’identité » stockée dans CRISPR. Les fragments « mémoire » vont agir comme un aimant en reconnaissant l’ADN du virus et permettre l’intervention d’un ciseau moléculaire, Cas9, qui découpe et détruit le virus. La bactérie est ainsi protégée du virus.

En 2012, plusieurs équipes ont adapté le principe aux cellules animales et développé des systèmes CRISPR/Cas9 pouvant être programmés pour cibler n’importe quel gène. Grâce à de multiples variants, naturels ou bricolés par des ingénieurs en biotechnologie, il est devenu possible non seulement de couper un gène mais aussi de le réparer, de le modifier ou d’en moduler l’expression, en l’augmentant ou en la diminuant. La méthode est redoutablement efficace, relativement simple, très rapide et peu coûteuse. Une révolution biotechnologique est en marche.

Quelles sont les applications de CRISPR/Cas9 ?

Comme on le devine, les possibilités d’application de CRISPR/Cas9 sont multiples, voire infinies en biologie et en médecine. Cette technique s’applique à n’importe quelle espèce, à toute la biodiversité du vivant sur la planète.

Chromosomes d’une personne atteinte d’un cancer du cerveau. NIH Image Gallery/Flickr, CC BY-NC

En juin 2016, l’Institut National américain de la Santé (NIH) a donné son accord pour porter le premier essai clinique utilisant CRISPR/Cas9 sur l’humain, pour créer en laboratoire des cellules immunitaires génétiquement modifiées afin de combattre trois types de cancer. Le cancer se produit lorsque les cellules ne meurent plus et se multiplient tout en se cachant du système immunitaire. Avec CRISPR, les scientifiques pourraient modifier en laboratoire des cellules immunitaires de notre organisme, une fois réinjectées dans notre corps, ces cellules génétiquement modifiées seraient alors capables de combattre les cellules cancéreuses. Ainsi, CRISPR pourrait aussi nous débarrasser du virus VIH et d’autres rétrovirus qui se cachent dans l’ADN humain, comme le virus de l’herpès.

CRISPR/Cas9 offre aussi beaucoup d’autres espoirs sur le plan thérapeutique pour guérir les maladies rares et héréditaires. De ce fait, la technique intéresse beaucoup les associations de patients atteints de maladies rares et héréditaires (l’Alzheimer, maladies de Parkinson, de Huntington, etc.). Avec cette technique, la modification du génome de cellules germinales (les cellules sexuelles) et de l’embryon devient accessible à tous.

Sur les animaux, la technique de CRISPR/Cas9 peut être utilisée pour les rendre plus résistants aux maladies, mais aussi pour augmenter la production de viande en les rendant plus corpulents. En Australie, CRISPR a également été testé pour modifier le gène responsable de l’allergie aux œufs de poule et rendre alors les œufs hypoallergéniques.

On envisage aussi d’utiliser CRISPR/Cas9 pour modifier les moustiques Anopheles, qui transmettent le paludisme. Par la technique du « gene drive » ou « forçage génétique », on pourrait modifier des milliers de moustiques Anopheles pour les empêcher d’être vecteur de parasites. Ceci devrait permettre d’éradiquer en quelques générations les maladies affectant essentiellement les populations des pays aux économies les plus fragiles.

Sur les plantes, CRISPR/Cas9 viendrait remplacer les OGM, les herbicides et pesticides. Au lieu d’injecter un composant étranger, on pourrait directement modifier l’ADN de toute son espèce pour la rendre définitivement résistante aux maladies, comme le mildiou, ou pour la rendre plus productrice.

Un laboratoire d’amélioration des plantes. felixioncool/Pixabay

Sur les micro-organismes, des scientifiques essaient de modifier le génome de certaines levures pour qu’elles puissent produire des biocarburants. À ce propos, la firme Monsanto vient de signer le premier accord de licence industrielle avec le Broad Institute d’Harvard qui possède les brevets déposés par l’équipe de Feng Zhang, concurrent des co-découvreuses Jennifer Doudna et Emmanuelle Charpentier.

Quelles sont les enjeux techniques et éthiques de CRISPR/Cas9 ?

Le principal enjeu technique de CRISPR/Cas9 est qu’on ne connaît pas encore suffisamment le rôle de tous les gènes, et donc les conséquences à long terme de telles modifications sur le génome, que ce soit chez l’être humain, les animaux, les plantes. La modification du génome peut juste se transmettre sans variation mais elle pourrait dans certains cas entraîner une réaction en chaîne de changements dans l’ADN qu’on ne saurait contrôler. La technique du « gene drive » modifierait-elle seulement le génome de la population visée ou pourrait-elle être transmise à d’autres espèces ? La disparition d’une population jugée nuisible entraînerait-elle le déséquilibre de tout un écosystème ?

Sur le plan sécuritaire et militaire, la technique est simple et à faible coût, ce qui la rend accessible à tous les scientifiques et amateurs de « biologie dans un garage », soulevant des questions sécuritaires nationales non négligeables à l’heure du terrorisme. CRISPR a été déclarée découverte scientifique de l’année 2015, mais a aussi été classée au rang des armes de destruction massive par les Agences de sécurité américaines.

Déjà d’autres techniques de modification du génome ont été développées depuis CRISPR/Cas9. Ainsi, ce n’est pas la technique en elle-même qui soulève le plus de questions éthiques, mais la possibilité de pouvoir modifier simplement et de créer le vivant à façon, ouvrant par exemple la porte à un eugénisme sans limite.

Cette découverte s’inscrit dans un débat plus large sur notre société, agitant des questions relevant du transhumanisme, de l’expérimentation animale et de la protection de l’environnement. La science a dépassé la fiction : n’avons-nous pas déjà accepté la pré-sélection de nos bébés avec le dépistage précoce de la trisomie 21 ? Quelle est la limite à ne pas dépasser, en sachant qu’aujourd’hui nous sommes capables de réaliser les fantasmes les plus fous de nos aïeux ? Quelles sont les applications des techniques de modifications du génome que nous pouvons autoriser et celles que nous devons interdire, et celles que nous pouvons autoriser, contrôler et surveiller ?

Tel est le débat d’ores et déjà engagé par de nombreuses institutions publiques françaises dont l’Inserm, et étrangères tel l’institut Harvard. Par exemple, les chercheurs de Harvard, dans leur accord avec Monsanto, ont imposé à cette compagnie des restrictions éthiques d’utilisation de CRISPR (interdiction de créer des semences stériles, limitation de la manipulation des feuilles de tabac…). Seule une recherche importante et dynamique pourra répondre aux multiples questions scientifiques ouvertes, permettre d’élaborer les outils d’évaluation de la sécurité de la méthode et ainsi éclairer le public et les décideurs politiques pour autoriser ou non le transfert vers des applications utiles et sures.

L'Hypercorp^^ MOSANTO a obtenu la première licence d'utilisation CRISPR pour manipuler les cultures.

C'est en effet une technologie assez incroyable et qui ne va pas cesser de faire parler d'elle! Je suis ça du coin de l'oeil mais dans la dizaine d'année qui arrive je pense qu'on va commencer à voir arriver des choses intéressante (ou inquiétante).

Monsanto si ils se contentent de modifier des végétaux ça va, c'est plutôt les pays qui se moquent un peu de la déontologie où je me demande si on va pas avoir droit à des bébé génétiquement modifiés, d'abord pour supprimer des maladies puis peut être ensuite pour les rendre plus résistant ou juste pour leur filer les yeux bleus. On verra bien!

2014 UZ224

Encore un futur habitat pour la transhumanité^^

La technologie BLOCKCHAIN, le disrupteur économique.

« Block chain », ou chaîne de blocs, ce terme est sur toutes les bouches et fait la une des magazines les plus prestigieux comme the Economist qui titrait, le 31 octobre dernier « Comment la technologie derrière le bitcoin pourrait changer le monde ».
Si cette technologie est encore loin de faire parler d’elle comme a pu le faire le BitCoin à ses débuts, il s’agit, selon les experts de la finance et de la cryptologie d’une véritable révolution industrielle qui est en marche et sa déferlante pourrait être encore plus forte que celle que le web a eu sur l’humanité depuis le milieu des années 90.
Le monde de la finance, lui, commence à prendre au sérieux ce concurrent et les grands opérateurs, comme Orange, n’hésitent plus à investir dans des startups disruptives de la blockchain aux côté de grands capital-risqueurs américains ou Microsoft qui vient de lancer un service basé sur la block chain.

Histoire, décryptage d’une tendance et perspectives à plus long terme, AEC propose dans ce dossier de veille de revenir sur la genèse d’un phénomène qui semble promis à un grand avenir.

TÉLÉCHARGER LE DOSSIER DE VEILLE BLOCK CHAIN

Article latribune.fr

----------------------------------------------------------------------------------------------------------------------------------------

« Post-vérité », ou "ère post-factuelle" est désigné mot de l’année 2016 sur le dictionnaire Oxford

"After much discussion, debate, and research, the Oxford Dictionaries Word of the Year 2016 is post-truth – an adjective defined as ‘relating to or denoting circumstances in which objective facts are less influential in shaping public opinion than appeals to emotion and personal belief’."

Sur wiki ; une citation qui résume l'enjeu : "Le 12 juillet 2016, la journaliste anglaise Katharine Viner, rédactrice en chef du Guardian, affirme que si l'on est entré dans l'ère post-factuelle, c'est en premier lieu parce que le numérique a ébranlé notre rapport aux faits: « À l’heure du numérique, il n’a jamais été aussi facile de publier des informations mensongères qui sont immédiatement reprises et passent pour des vérités. (...) Au lieu de renforcer les liens sociaux, d’informer ou de cultiver l’idée qu’informer est un devoir civique et une nécessité démocratique, ce système crée des communautés clivées qui diffusent en un clic des mensonges les confortant dans leurs opinions et creusant le fossé avec ceux qui ne les partagent pas ».

Un concept mine d'or pour détailler les limites et travers dangereux des (algoryhtmes) réseaux ou encore contextualiser les failles de la toile ultra-connectée d'EP dans vos scénarios

Pour en savoir plus ;

Article le monde.fr

Article le nouvel obs

Pour les bébés génétiquement modifiés on pourrait citer le docteur Jeffrey Steinberg (il a dut arrêter ses travaux mais il a reprit donc dans le futur pourquoi pas) :

http://www.lemonde.fr/societe/article/2010/07/31/la-clinique-des-bebes-sur-mesure_1393699_3224.html

http://www.largeur.com/?p=3924

sur le même sujet, une vidéo arté : http://info.arte.tv/fr/bebe-sur-mesure

Cevi : "je me demande si on va pas avoir droit à des bébé génétiquement modifiés, d'abord pour supprimer des maladies puis peut être ensuite pour les rendre plus résistant ou juste pour leur filer les yeux bleus".

==> c'est déjà le cas ^^ regarde la vidéo de arté sur le sujet ^^. On peut déjà choisir le sexe de son enfant depuis 2009/2010, la couleur de ses yeux depuis 2015, pour supprimer des maladies (donc le rendre plus résistant) c'est d'actualité ^^.

Article du monde intéressant sur les enjeux actuels des IAs.

Au-delà des fantasmes, quels sont les problèmes concrets que pose l’intelligence artificielle ?

Les récents progrès de ces technologies posent, dès à présent, des questions moins spectaculaires, mais bien plus concrètes.

LE MONDE | 03.08.2017 à 15h54 • Mis à jour le 04.08.2017 à 09h34 | Par Morgane Tual

« Je n’arrête pas de tirer la sonnette d’alarme, mais tant que les gens ne verront pas des robots descendre dans la rue pour tuer tout le monde, ils ne sauront pas comment réagir. » Ces propos inquiétants sont signés Elon Musk, le patron de Tesla et de Space X, et grand adepte des coups médiatiques. Une phrase qui a déclenché, le 24 juillet, un échange cinglant avec le patron de Facebook, Mark Zuckerberg, qui a qualifié ses propos d’« irresponsables », et a vanté les avancées que promettait l’intelligence artificielle (IA) dans le domaine de la santé ou de la sécurité routière. « J’ai discuté avec Mark [Zuckerberg] de tout cela, a répondu publiquement Elon Musk sur Twitter. Sa compréhension du sujet est limitée. »

Si la passe d’armes a fait jaser les internautes ce jour-là, elle est surtout révélatrice d’un domaine mal connu du grand public, où règne la confusion entre les fantasmes de science-fiction, la réalité scientifique, les annonces grandiloquentes et les informations déformées qui circulent à propos de l’IA — comme celle selon laquelle des ingénieurs de Facebook auraient débranché en urgence des programmes ayant inventé leur propre langage. Si le pessimisme affiché d’Elon Musk, qui résonne avec un certain imaginaire collectif, semble, de l’avis de la communauté scientifique, extrêmement exagéré, l’intelligence artificielle soulève toutefois d’autres problèmes bien plus concrets et pressants.

Inquiétudes pour l’emploi

Sera-t-il possible qu’existe un jour une intelligence artificielle avocat ? MANON LOUVARD / LE MONDE

L’une des craintes le plus souvent évoquées à propos des récents progrès de l’IA et de la robotique est leur impact sur l’emploi. Ces technologies vont-elles rendre l’humain obsolète pour certains métiers jusqu’ici épargnés par la mécanisation et la numérisation ? Rien n’est sûr. Plusieurs études sérieuses ont été publiées sur le sujet, qui tendent à… se contredire. Des chercheurs d’Oxford estiment, par exemple, dans une étude publiée en 2013, que 47 % des emplois américains sont menacés. Trois ans plus tard, l’OCDE affirmait, de son côté, que 9 % des emplois étaient menacés dans les vingt et un pays qui la composent.

« Les études s’intéressent juste au phénomène de destructions brutes d’emplois », soulignait Marie-Claire Carrère-Gée, présidente du Conseil d’orientation pour l’emploi, lors d’une audition au Sénat le 19 janvier. « Mais elles ne s’intéressent pas à la création d’emplois », ni même aux transformations des emplois existants que ces technologies pourraient engendrer, selon elle. « A chaque grande vague d’innovation technologique, il y a la crainte d’un chômage massif. Or, l’histoire montre que depuis toujours le progrès technologique a créé des emplois, y compris ces dernières années. »

Impossible donc de prévoir avec certitude l’impact de l’intelligence artificielle sur l’emploi dans les années à venir, qu’il s’agisse de destruction ou de transformation d’emplois.

Des programmes aussi racistes et sexistes que les humains

Les immenses bases de données grâce auxquelles « s’entraînent » certaines technologies d’IA sont souvent biaisées. Quentin Hugon / Le Monde

Un certain nombre des technologies d’IA « apprennent » à partir d’énormes bases de données créées par des humains, dont elles doivent s’inspirer pour émettre des conclusions. Or, ces lots de données sont souvent biaisés. Résultat : plusieurs programmes ont déjà montré qu’ils reproduisaient le racisme ou le sexisme des humains. Ainsi, quand un programme d’IA est devenu jury d’un concours de beauté en 2016, il a éliminé la plupart des candidats noirs. Une autre technologie, censée émettre des liens entre les mots, a reproduit certains stéréotypes, en associant par exemple les femmes au foyer et les hommes aux professions scientifiques…

L’IA apprend donc de nos propres préjugés pour mieux les reproduire. Comment améliorer la situation ? Si les bases de données sont biaisées, c’est aussi, selon Emmanuel Mogenet, directeur de Google Research Europe, parce qu’elles sont souvent incomplètes, et pas assez représentatives des minorités. « Il faut trouver les endroits où on n’a pas récolté assez de données, expliquait-il au Monde en avril. C’est un problème sur lequel on se penche, qui nous préoccupe énormément, car on veut des modèles qui n’ignorent pas les minorités. Ça avance. »

Pirater l’esprit humain — et la démocratie

En exploitant nos données personnelles, des programmes d’intelligence artificielle pourraient permettre d’influencer la façon dont on pense. Quentin Hugon / Le Monde

Eric Horvitz le dit sans détour : il craint « des attaques de l’IA sur l’esprit humain ». Cet éminent spécialiste de l’intelligence artificielle, directeur de Microsoft Research Labs, a listé, au festival SXSW qui s’est tenu en mars à Austin (Texas), les dangers potentiels de l’IA auxquels il faudrait, selon lui, réfléchir dès aujourd’hui. Ce qu’il entend par « attaques » n’a rien à voir avec un délire cyberpunk d’implantation de technologies dans le cerveau. Le danger est bien plus concret — et est, pour lui, déjà là.

Eric Horvitz évoque par exemple des programmes d’IA capables de rédiger un tweet « spécialement conçu » pour une personne. « Sur quoi tweete-t-elle ? Quand est-ce qu’elle répond ? A quels événements a-t-elle participé ? Ces informations peuvent être utilisées pour concevoir un tweet tel qu’il est quasi impossible pour [la personne] de ne pas cliquer. »

Une nouvelle étape pour la publicité ciblée, mais pas seulement. « Des entreprises utilisent ces données pour personnaliser des messages, mais aussi pour influencer la façon dont les gens votent, comme Cambridge Analytica ». Eric Horvitz évoque également le risque des « fake news », de fausses informations montées de toutes pièces, qui pourraient bénéficier de ces technologies : aujourd’hui, des programmes sont par exemple capables de faire dire ce que l’on veut à Barack Obama ou à Vladimir Poutine, en vidéo. Un problème qui n’est pas spécifique à l’intelligence artificielle, mais ces technologies permettent d’automatiser et de simplifier ces moyens d’influence.

Le spectre des armes autonomes

Pour l’instant, les Etats affirment que les robots utilisés dans les armées sont toujours contrôlés à distance par des humains. Quentin Hugon / Le Monde

Etant donné le niveau des technologies d’IA et de robotique, rien ne s’oppose techniquement à la création d’armes létales autonomes. Aujourd’hui, les armées affirment que les machines qu’elles utilisent sont toujours contrôlées à distance par un humain, comme les drones de l’armée américaine, et qu’aucune ne prend jamais la décision de tirer. Mais aucune réglementation internationale n’interdit aujourd’hui l’usage d’armes létales autonomes, qui fait l’objet de discussions à l’ONU.

En 2015, plus d’un millier de personnes, parmi lesquelles de nombreux chercheurs en IA, mais aussi des personnalités comme Elon Musk ou l’astrophysicien Stephen Hawking, avaient signé un appel pour faire interdire ces armes. « L’intelligence artificielle a atteint un point où le déploiement de tels systèmes sera — matériellement, sinon légalement — faisable d’ici à quelques années, et non décennies, et les enjeux sont importants : les armes autonomes ont été décrites comme la troisième révolution dans les techniques de guerre, après la poudre à canon et les armes nucléaires », pouvait-on lire dans cet appel.

Une nouvelle étape dans la surveillance

Les technologies de vision par ordinateur ont considérablement progressé ces dernières années. Le Monde.fr

La vision par ordinateur a connu d’importants progrès ces dernières années grâce aux avancées du deep learning (« apprentissage automatique profond »). Des programmes sont désormais capables de reconnaître les visages, de distinguer un chat d’un chien et de décrire des images. De plus en plus, ces innovations s’appliquent à la vidéo, et notamment à la vidéosurveillance. La SNCF a par exemple annoncé, peu après les attentats de novembre 2015 en région parisienne, qu’elle expérimentait des technologies de détection des comportements suspects à partir des caméras de surveillance, en se basant sur des critères comme « le changement de température corporelle, le haussement de la voix ou le caractère saccadé de gestes, qui peuvent montrer une certaine anxiété ».

Couplé à des technologies de reconnaissance faciale, ce type de système pourrait par exemple permettre de détecter en direct une personne fichée S abandonnant un colis suspect. Mais aussi un militant pour les droits de l’homme dans une dictature ou une personne homosexuelle dans un pays où cela est condamné. Ces systèmes sont encore loin de fonctionner parfaitement, et le risque de « faux positifs » reste important.

Des systèmes opaques

Les millions de calculs effectués par les réseaux de neurones artificiels sont difficiles à décomposer et analyser. QUENTIN HUGON/LE MONDE

Grâce aux technologies d’intelligence artificielle, il est possible de créer des programmes permettant de sélectionner des curriculum vitae, de proposer des diagnostics médicaux ou d’approuver une demande de prêt. Or, une bonne partie des décisions prises par ces programmes… ne sont pas explicables. Concrètement, les ingénieurs ne savent pas retracer la multitude de calculs effectués par la machine pour arriver à sa conclusion.

En clair, cela signifie que si votre demande de prêt est refusée, ou votre CV recalé, aucune explication ne pourra vous être fournie. Un constat gênant, qui explique entre autres qu’aujourd’hui les technologies d’IA ne sont généralement utilisées que pour suggérer des solutions, validées ensuite par des humains.

Expliquer le fonctionnement de ces technologies, basées sur des réseaux de neurones artificiels, est l’un des grands défis des chercheurs en IA, qui travaillent sur la question. « L’explication du comportement est très importante, c’est ce qui détermine l’acceptabilité par la société de ces systèmes », expliquait David Sadek, directeur de la recherche à Mines Telecom, au Sénat, le 19 janvier.

Ces derniers mois, la controverse qui a entouré l’algorithme APB qui arbitre les choix d’orientation des bacheliers — qui n’est pas un programme d’IA, mais dont le code est longtemps resté entièrement secret — a déjà montré que l’opacité des systèmes automatisés posait d’importants problèmes.

D’importantes questions de droit à régler

Si les robots sont amenés à prendre plus de place dans la vie des humains, le droit devra s’adapter. Quentin Hugon / Le Monde

« Si les robots se développent, qui va être responsable ? Va se poser la question de la réparation en cas de dommages », soulignait Jean-Yves Le Déaut, alors député, lors d’une audition au Sénat le 19 janvier. La question préoccupe, même si la loi ne semble pas être sur le point de changer, ni en France ni ailleurs. « Les systèmes automatisés vont de plus en plus être amenés à prendre des décisions sur des situations que n’auront pas pu prédire les ingénieurs », expliquait Derek Jink, professeur de droit à la faculté de droit de l’université du Texas, lors du festival SXSW en mars.

« Qui, par exemple, sera responsable des actes des voitures autonomes ? » La question revient souvent, et hante déjà les assureurs : si une voiture autonome tue quelqu’un dans un accident, la responsabilité ira-t-elle au constructeur, à l’ingénieur qui a développé l’IA, au propriétaire de la voiture ou à la personne à la place du conducteur ? Des questions pressantes, alors que des voitures autonomes expérimentales ont déjà parcouru, aux Etats-Unis, des millions de kilomètres sur de vraies routes.

Mais pour Terminator, vous pouvez repasser

Une scène du film américain d'Alan Taylor, « Terminator : Genisys », sorti en 2015. PARAMOUNT PICTURES/MELINDA SUE GORDON

« La singularité, ça m’énerve. » En avril, Jean Ponce, chercheur en vision artificielle à l’Ecole normale supérieure (ENS), critiquait les tenants de ce concept qui désigne le moment hypothétique où l’intelligence artificielle dépassera l’intelligence de l’homme. « Je ne vois personnellement aucun indice que la machine intelligente soit plus proche de nous aujourd’hui qu’avant », expliquait-il lors d’une conférence organisée par Google à Paris.

Dans l’imaginaire collectif, l’intelligence artificielle évoque inlassablement les images des films Terminator, dans lesquelles les machines intelligentes ont déclaré la guerre à l’homme. Or, dans la réalité, la grande majorité des chercheurs en IA affirme ne pas avoir la moindre idée de la façon dont pourrait être créée une machine aussi intelligente que l’homme, capable de dialoguer naturellement, de disposer de sens commun, d’humour, capable de comprendre son environnement… Et encore moins sous la forme d’un robot humanoïde.

L’idée d’une IA qui échappe au contrôle de son créateur provoque aussi des sourires en coin dans la communauté, qui peine à comprendre pourquoi certains craignent qu’un programme conçu pour jouer au jeu de go puisse soudainement vouloir s’attaquer à la race humaine.

« C’est incroyable de constater l’intérêt que cela suscite chez les gens, s’étonnait Eric Horvitz, directeur de Microsoft Research Labs, lors du festival SXSW. Les journalistes ont tendance à diffuser un point de vue extrême, alors que la réalité est beaucoup plus nuancée que cela. » Pour lui, cela « reste des questions très intéressantes, (…) sur lesquelles il faut garder un œil, et il ne faut pas se moquer en disant que les gens sont fous ». Mais, souligne-t-il, « ce sont des questions de très long terme, et nous devons réfléchir aux questions qui nous concernent directement, maintenant ».