ACCUEIL | FLUX RSS
Mercredi 21 Août 2019

TECHNOLOGIES - Publié le 12/06/2018 à 14:17


Voici Norman, l'intelligence artificielle psychopathe



Il voit la mort partout: Norman, «la première intelligence artificielle psychopathe», a été mis au point par des chercheurs aux États-Unis pour expliquer au grand public comment sont confectionnés les algorithmes et le sensibiliser aux dangers possibles de l'IA.

«Quand les gens disent que les algorithmes d'intelligence artificielle sont biaisés ou injustes, le coupable est souvent non pas l'algorithme lui-même mais les données biaisées qui ont été utilisées (pour le mettre au point). Cette idée est bien connue des scientifiques mais beaucoup moins du grand public», ont expliqué lundi Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, du prestigieux Massachusetts Institute of Technology (MIT).

D'où l'idée de créer Norman, prénom choisi d'après le personnage du tueur psychopathe Norman Bates dans le film Psycho (1960) d'Alfred Hitchcock.

Concrètement, Norman a été «nourri» uniquement avec de courtes légendes décrivant des images «de personnes en train de mourir» trouvées sur la plateforme internet Reddit, expliquent les trois chercheurs, qui ont créé un site internet dédié.

Les chercheurs lui ont ensuite soumis des images de taches d'encre, comme dans le test psychologique de Rorschach, pour savoir ce que Norman voyait et pour comparer ses réponses à celles d'une autre IA, entraînée de façon traditionnelle.

Et les résultats sont pour le moins effrayants: quand l'IA traditionnelle voit «deux personnes debout l'une près de l'autre», Norman voit dans la même tache d'encre «un homme qui saute d'une fenêtre». Et quand Norman distingue «un homme tué par balles devant sa femme qui hurle», l'autre IA décèle «une personne en train de tenir un parapluie».

Le site internet montre ainsi dix exemples de taches d'encre accompagnées des réponses des deux systèmes, avec toujours une réponse macabre provenant de Norman. Le site propose aux internautes de faire eux aussi le test des taches d'encre et d'envoyer leurs réponses «pour aider Norman à se réparer».

Plus qu'une expérience réellement scientifique, Norman illustre «les dangers de l'intelligence artificielle quand elle tourne mal parce que des données biaisées ont été utilisées» pour l'entraîner, disent les chercheurs, qui «espèrent susciter une prise de conscience du public et un débat sur ces sujets».

Soyez le premier à commenter cet article!

Laisser un commentaire

  • Maximum 250 caractères


42, une école française d'informatique qui bouscule les codes
Le cerveau connecté de Neuralink testé dès l'an prochain, selon Musk
Un jeu vidéo conçu pour développer l'intelligence émotionnelle chez les adolescents
Les jeux vidéo de type Minecraft permettent-ils de doper la créativité ?
Près d'un Français sur deux estime que les médias véhiculent fréquemment des fausses informations
Facebook et YouTube s'engagent contre les remèdes miracles bidons
Et si les humains préféraient s'informer via des robots ?
L'intelligence artificielle bat enfin les humains dans un jeu multijoueur
L'intelligence artificielle et le big data à la rescousse des agriculteurs africains
Aux États-Unis, un drone a livré un colis précieux: un rein
 Publicité 
 LES PLUS RÉCENTS 
Découverte d'une deuxième planète autour de l'étoile Beta Pictoris
Le short biomécanique, un grand pas vers le sprint du futur
42, une école française d'informatique qui bouscule les codes
Climat: les canicules seront plus longues, prévient une étude
Réunion de l’ONU sur le climat au Brésil en pleine polémique sur l’Amazonie
 LES PLUS LUS 
Planète: la seule issue se trouve sous terre, selon certains experts
Une nouvelle espèce humaine découverte aux Philippines
Google ouvre son premier laboratoire d'intelligence artificielle en Afrique
Comment nettoyer l'espace des vieux satellites et débris spatiaux
A Cuba, les abeilles butinent heureuses et leur miel ravit l'Europe
La Lune dans cinq ans ? La NASA entretient le mystère
Les rideaux d'hôpitaux sont des nids à bactéries
L'activité physique pourrait aider à guérir d'une lésion de la moelle épinière
Un régime riche en viande accroît le risque de mortalité
Infarctus ne rime pas nécessairement avec arrêt maladie prolongé
 Publicité 
 En image 
 Publicité 
2011-2019 © Aux Frontières de la Science. Crédits photos: istockphoto. Page générée en 0.055 secondes. Blog d'actualités scientifiques réalisé par des passionnés.