ACCUEIL | FLUX RSS
Jeudi 21 Juin 2018

TECHNOLOGIES - Publié le 12/06/2018 à 14:17


Voici Norman, l'intelligence artificielle psychopathe



Il voit la mort partout: Norman, «la première intelligence artificielle psychopathe», a été mis au point par des chercheurs aux États-Unis pour expliquer au grand public comment sont confectionnés les algorithmes et le sensibiliser aux dangers possibles de l'IA.

«Quand les gens disent que les algorithmes d'intelligence artificielle sont biaisés ou injustes, le coupable est souvent non pas l'algorithme lui-même mais les données biaisées qui ont été utilisées (pour le mettre au point). Cette idée est bien connue des scientifiques mais beaucoup moins du grand public», ont expliqué lundi Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, du prestigieux Massachusetts Institute of Technology (MIT).

D'où l'idée de créer Norman, prénom choisi d'après le personnage du tueur psychopathe Norman Bates dans le film Psycho (1960) d'Alfred Hitchcock.

Concrètement, Norman a été «nourri» uniquement avec de courtes légendes décrivant des images «de personnes en train de mourir» trouvées sur la plateforme internet Reddit, expliquent les trois chercheurs, qui ont créé un site internet dédié.

Les chercheurs lui ont ensuite soumis des images de taches d'encre, comme dans le test psychologique de Rorschach, pour savoir ce que Norman voyait et pour comparer ses réponses à celles d'une autre IA, entraînée de façon traditionnelle.

Et les résultats sont pour le moins effrayants: quand l'IA traditionnelle voit «deux personnes debout l'une près de l'autre», Norman voit dans la même tache d'encre «un homme qui saute d'une fenêtre». Et quand Norman distingue «un homme tué par balles devant sa femme qui hurle», l'autre IA décèle «une personne en train de tenir un parapluie».

Le site internet montre ainsi dix exemples de taches d'encre accompagnées des réponses des deux systèmes, avec toujours une réponse macabre provenant de Norman. Le site propose aux internautes de faire eux aussi le test des taches d'encre et d'envoyer leurs réponses «pour aider Norman à se réparer».

Plus qu'une expérience réellement scientifique, Norman illustre «les dangers de l'intelligence artificielle quand elle tourne mal parce que des données biaisées ont été utilisées» pour l'entraîner, disent les chercheurs, qui «espèrent susciter une prise de conscience du public et un débat sur ces sujets».

A2mac1, le champion français qui vend les secrets des voitures
La commande vocale change la manière de faire les courses
Des lycéens inventent une fleur connectée pour mieux connaître les abeilles
En Chine, un robot-professeur pour garder les tout-petits
Pendant la Coupe du monde les murs russes ont des oreilles, prévient Washington
Dans un atelier d'outils de neuroradiologie, des techniques de haute couture
Le bitcoin, une monnaie décentralisée mais surtout très concentrée
Jeux vidéos: pour Ubisoft, l'avenir passe par les fans et les stars de cinéma
Le Vietnam verrouille internet
Voici Norman, l'intelligence artificielle psychopathe
 Publicité 
 LES PLUS RÉCENTS 
Pythons, lion empaillé, crânes de babouins: 30.000 animaux sauvages, victimes de trafics, interceptés
Alouettes, abeilles et orchidées... un eden près des tarmacs
Désemparés, des apiculteurs contraints de réduire en cendres leurs abeilles
Des associations dénoncent les prix exhorbitants et injustifiés des nouveaux médicaments
Fatigue et douleur, problèmes persistants après la fin du cancer
 LES PLUS LUS 
Les scientifiques américains transfèrent la mémoire d'un escargot à l'autre en transplantant de l'ARN
A la recherche de l'origine des Incas, grâce à la génétique
Pologne: Première naissance en captivité d'un couscous, marsupial indonésien
Découverte d'un nouveau site de sacrifice rituel d'enfants au Pérou
Avec le réchauffement climatique, les légumes vont devenir plus rares
Voici Norman, l'intelligence artificielle psychopathe
Un château en Corrèze pour un peu plus de 11 euros et la bonne cause
Dans le sud du Maroc, les météorites suscitent les convoitises
Le musée des égouts de Paris fait peau neuve
Reforestation: un appel à projets pour planter un million d'arbres
 Publicité 
 En image 
 Publicité 
2011-2018 © Aux Frontières de la Science. Crédits photos: istockphoto. Page générée en 0.029 secondes. Blog d'actualités scientifiques réalisé par des passionnés.