Et si l’IA accouchait d’un monstre ?

Et si l’IA accouchait d’un monstre ? L’idée n’est pas saugrenue et c’est déjà arrivé avec Tay de Microsoft. Le bot qui se faisait passer pour lenteur la plus cool du net avait été repérée par des internautes qui l’avaient alors « alimentée » en propos racistes ce qu’elle était devenu en peu de temps. Microsoft avait du débrancher Tay pour lettre fin à l’expérience. Tout cela parce que dans l’apprentissage des Intelligences Artificielles (le deep learning) les algorithmes se nourrissent d’informations qu’ils vont ensuite traiter en fonction de leur apprentissage.

Cette fois, l’affaire est cocasse puisque ce sont des chercheurs eux-même qui ont réalisé l’expérience pour montrer au public les dangers de l’IA alors qu’eux mêmes en développent. Les chercheurs du MIT ( Massachusetts Institute of Technology de Boston) ont donc volontairement entrainé un algorithme avec des images associées à des commentaires morbides. Cette association a donc créé une IA totalement psychopathe répondant au doux nom de Norman (venant de Norman Bates, le tueur de « Psychose » d’Alfred Hitchcok. En voyant des images ressemblant à celles du test psychologique de Rorschach, Norman « voit » des atrocités. Lorsqu’une IA de comparaison, entrainée « normalement » voit dans une tache un bouquet de fleur, Norman voit un homme mort baignant dans son sang.

On revient donc avec cette expérience faite par des chercheurs eux-même aux craintes maintes fois évoquées concernant les dérives possibles de l’IA. Sans aller jusqu’à la psychopathie, les dérives sexistes, racistes et clivantes de tous ordres peuvent facilement entrer dans le terrain de jeu des IA. Certes, l’on peut avoir peur des iA mais n’oublions pas que le sexisme, le racisme ou l’intolérance, comme bien d’autres travers, existent avant tout…chez les humains que nous sommes !

Il n’est pas trop tard…Mais presque !

Sylvain DEVAUX

Rédacteur en chef

« L’homme a la possibilité non seulement de penser, mais encore de savoir qu’il pense ! C’est ce qui le distinguera toujours du robot le plus perfectionné ».

Jean Delumeau

« Vous pouvez vous abonner gratuitement à la lettre d’information quotidienne sur www.larobolution.com. »