ACCUEIL | FLUX RSS
Samedi 16 Fevrier 2019

TECHNOLOGIES - Publié le 12/06/2018 à 14:17


Voici Norman, l'intelligence artificielle psychopathe



Il voit la mort partout: Norman, «la première intelligence artificielle psychopathe», a été mis au point par des chercheurs aux États-Unis pour expliquer au grand public comment sont confectionnés les algorithmes et le sensibiliser aux dangers possibles de l'IA.

«Quand les gens disent que les algorithmes d'intelligence artificielle sont biaisés ou injustes, le coupable est souvent non pas l'algorithme lui-même mais les données biaisées qui ont été utilisées (pour le mettre au point). Cette idée est bien connue des scientifiques mais beaucoup moins du grand public», ont expliqué lundi Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, du prestigieux Massachusetts Institute of Technology (MIT).

D'où l'idée de créer Norman, prénom choisi d'après le personnage du tueur psychopathe Norman Bates dans le film Psycho (1960) d'Alfred Hitchcock.

Concrètement, Norman a été «nourri» uniquement avec de courtes légendes décrivant des images «de personnes en train de mourir» trouvées sur la plateforme internet Reddit, expliquent les trois chercheurs, qui ont créé un site internet dédié.

Les chercheurs lui ont ensuite soumis des images de taches d'encre, comme dans le test psychologique de Rorschach, pour savoir ce que Norman voyait et pour comparer ses réponses à celles d'une autre IA, entraînée de façon traditionnelle.

Et les résultats sont pour le moins effrayants: quand l'IA traditionnelle voit «deux personnes debout l'une près de l'autre», Norman voit dans la même tache d'encre «un homme qui saute d'une fenêtre». Et quand Norman distingue «un homme tué par balles devant sa femme qui hurle», l'autre IA décèle «une personne en train de tenir un parapluie».

Le site internet montre ainsi dix exemples de taches d'encre accompagnées des réponses des deux systèmes, avec toujours une réponse macabre provenant de Norman. Le site propose aux internautes de faire eux aussi le test des taches d'encre et d'envoyer leurs réponses «pour aider Norman à se réparer».

Plus qu'une expérience réellement scientifique, Norman illustre «les dangers de l'intelligence artificielle quand elle tourne mal parce que des données biaisées ont été utilisées» pour l'entraîner, disent les chercheurs, qui «espèrent susciter une prise de conscience du public et un débat sur ces sujets».

La Gaming Academy, une école pour e-sportifs à Lyon
Au Bénin, des classes mobiles pour réparer la fracture numérique
L'intelligence artificielle d'IBM moins convaincante qu'un humain
Netflix a dépassé les 5 millions d'abonnés en France, 4 ans et demi après son lancement
Des éditeurs américains de jeux vidéos bousculés par le carton Fortnite
Le jour se lève pour des panneaux solaires révolutionnaires
Osmosis : Netflix lance sa nouvelle série originale française en mars
Transpolis, ville fantôme où s'élabore la mobilité de demain
Des robots humanoïdes déployés dans des maisons de retraite privées
Nintendo: une nouvelle Switch attendue pour contrer l'essoufflement
 Publicité 
 LES PLUS RÉCENTS 
Everest: la Chine interdit aux touristes son camp de base au Tibet
Déforestation en Indonésie: plus de 1,3 milliard en amendes impayées
La NASA presse sur l'accélérateur pour un retour sur la Lune
Découverte de la chambre funéraire d'un noble inca au Pérou
Maladies chroniques : et si on prescrivait des activités physiques sur ordonnance ?
 LES PLUS LUS 
Beurk ou miam? La différence est plus dans la tête que dans l'assiette
L'empire contre-attaque ou le retour de Microsoft au sommet
Microbiote: à la découverte de notre jardin intérieur
Cuba: l'internet mobile disponible à partir de jeudi
Climat: une ado en colère plaide en faveur des générations futures
Une lettre d'Einstein sur Dieu vendue 2,89 millions de dollars
Attaque sur les petits écrans: le boom des jeux vidéo sur mobile en Afrique
Naissance du premier bébé grâce à une greffe d'utérus d'une donneuse décédée
L'hiver est là, le charbon brûle, les Balkans suffoquent
Premier vol habité à destination de l'ISS depuis le lancement raté
 Publicité 
 En image 
 Publicité 
2011-2019 © Aux Frontières de la Science. Crédits photos: istockphoto. Page générée en 0.029 secondes. Blog d'actualités scientifiques réalisé par des passionnés.