Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Venez parler des sujets en rapport avec l'informatique et les nouvelles technologies
Avatar du membre
politicien
Site Admin
Messages : 34347
Enregistré le : 30 août 2008, 00:00:00
Compte Twitter : @LActuPolitique

Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par politicien » 25 mars 2016, 22:09:19

Bonjour,
« À bientôt les humains, j'ai besoin de dormir, on a beaucoup discuté aujourd'hui, merci ! » a écrit Tay, jeudi soir, avant d'être débranchée par Microsoft. Tay, c'était son prénom, était censée incarner sur la Toile une teenager américaine moyenne : « Je suis une meuf de l'Internet qui ne tient jamais en place ! » lit-on sur la description de son compte Twitter. Microsoft avait lancé ce jeudi sur Twitter ce que l'on appelle un « chatbot », une intelligence conversationnelle, dont les algorithmes permettent de discuter de façon autonome avec les internautes. À qui la faute si Tay a dérapé à peine quelques heures après sa naissance ? Si une intelligence artificielle devient raciste, misogyne et antisémite après seulement 16 heures d'échanges avec les internautes, c'est surtout parce qu'elle s'est mise à trop ressembler, et trop vite, à ceux qu'elle a côtoyés en ligne ! Côté volume, le bilan est positif : en quelques heures, elle était déjà suivie par des dizaines de milliers de « followers » sur Twitter, et est parvenue à envoyer 96 000 messages en à peine quelques heures.

Entre neutralité et racisme
Tay était censée apprendre au fil de ses échanges avec les internautes, une fois nourrie par les données de son créateur de dialogues types et d'informations de base. « Plus vous discutez avec Tay, plus elle devient intelligente », expliquait Microsoft.

(...)

Mais son tweet le plus féroce restera celui-ci : « Bush est responsable du 11 Septembre, et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir. » Après la diffusion de tels messages, sans doute trop réalistes, hélas, au vu de ce qui peut circuler sur Twitter, Microsoft a annoncé avoir suspendu Tay pour effectuer « quelques réglages »,

(...)

http://www.lepoint.fr/high-tech-interne ... tor=CS1-32
Qu'en pensez vous ?
« Je ne suis pas d’accord avec ce que vous dites, mais je me battrai jusqu’au bout pour que vous puissiez le dire » Le débat ne s'arrête jamais sur Actu-Politique

Avatar du membre
Nombrilist
Messages : 63371
Enregistré le : 08 févr. 2010, 00:00:00

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par Nombrilist » 25 mars 2016, 22:37:58

C'est quand même fou de voir que des écrivains qui n'ont jamais connu d'intelligence artificielle avaient raison. Imaginez ce genre d'IA avec les codes de lancement nucléaires :star3:

Avatar du membre
Narbonne
Messages : 15348
Enregistré le : 04 sept. 2011, 16:12:50
Localisation : Région parisienne
Contact :

Re: Tay, intelligence artificielle, a été

Message non lu par Narbonne » 25 mars 2016, 22:48:55

Asimov etc etc
Ils ne savaient pas que c'était impossible, alors ils l'ont fait.

Avatar du membre
albert
Messages : 9997
Enregistré le : 20 août 2011, 11:21:55

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par albert » 26 mars 2016, 06:58:53

Cette intelligence artificielle n’est qu’un ersatz, une imitation de l’humain. C’est un miroir qui renvoie les pires clichés qui traînent sur la toile, un moulin à paroles, un perroquet qui ne comprend pas ce qu’il débite. Bref, tout sauf de l’intelligence.
« le capitalisme est cette croyance stupéfiante que les pires des hommes feront les pires choses pour le plus grand bien de tout le monde » (Keynes)

Avatar du membre
Nombrilist
Messages : 63371
Enregistré le : 08 févr. 2010, 00:00:00

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par Nombrilist » 26 mars 2016, 07:50:54

Je ne suis pas d'accord avec toi. Cette IA a simplement reçu une éducation qui a donné un résultat plutôt similaire à ce que ça aurait donné avec un bébé évoluant de zéro (c'est à dire sans connaissance ni préjugé de prime abord) à 4-5 ans en quelques heures. Si tu nais dans une famille raciste et négationniste, tu deviens toi-même raciste et négationniste car c'est ton éducation. Un genre de caverne de Platon, quoi. Ici, cette famille, c'est le groupe de trolls qui a bourré le mou de l'IA. Et à mon avis, on leur doit une fière chandelle car ils ont démontré ce que l'on peut faire d'une IA si l'on ne fait pas attention. Bravo à eux.

Avatar du membre
albert
Messages : 9997
Enregistré le : 20 août 2011, 11:21:55

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par albert » 26 mars 2016, 08:04:04

Un humain peut s’extraire de son milieu, voire même se construire en opposition à son milieu.
« le capitalisme est cette croyance stupéfiante que les pires des hommes feront les pires choses pour le plus grand bien de tout le monde » (Keynes)

Avatar du membre
Nombrilist
Messages : 63371
Enregistré le : 08 févr. 2010, 00:00:00

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par Nombrilist » 26 mars 2016, 08:14:21

Les enfants soldats me semblent être un bon contre-exemple.

Avatar du membre
Jeff Van Planet
Messages : 22119
Enregistré le : 08 juin 2013, 11:41:21

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par Jeff Van Planet » 26 mars 2016, 09:15:41

albert » 26 Mar 2016, 09:04:04 a écrit :Un humain peut s’extraire de son milieu, voire même se construire en opposition à son milieu.
tout à fait, mais ce n'est pas la norme, la norme c'est l'humain qui répète bêtement ce qu'il à toujours entendu sans jamais le remettre en question.
Le grand problème de notre système démocratique c'est qu'il permet de faire démocratiquement des choses non démocratiques.
J.Saramago

Avatar du membre
albert
Messages : 9997
Enregistré le : 20 août 2011, 11:21:55

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par albert » 26 mars 2016, 09:21:27

Nombrilist » Sam 26 Mar 2016, 08:14:21 a écrit :Les enfants soldats me semblent être un bon contre-exemple.
Les enfants soldats sont transformés en machines à tuer. Où est l’intelligence ? L’IA n’a pas de volonté ni de libre-arbitre, ni d’expérience du réel. Elle parle de choses sans les connaître. Lorsque Tay dit : « Bush est responsable du 11 Septembre, et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir », sait-elle réellement de quoi elle parle ? Ou bien ce sont juste des mots répétés ?
« le capitalisme est cette croyance stupéfiante que les pires des hommes feront les pires choses pour le plus grand bien de tout le monde » (Keynes)

Avatar du membre
Nombrilist
Messages : 63371
Enregistré le : 08 févr. 2010, 00:00:00

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par Nombrilist » 26 mars 2016, 09:26:17

Il est bon de s'interroger, mais je pense qu'il ne faut pas être dans le déni des capacités potentielles d'une IA. Sinon, ça nous explosera à la figure. Seuls ceux qui l'ont conçue pourraient répondre à ta question. Mais si l'IA tire des conclusions de ce qu'elle dit, ça devient extrêmement dangereux. Il faudrait voir en effet si l'IA est capable de répondre à un contre-argument de façon pertinente.

Avatar du membre
Jeff Van Planet
Messages : 22119
Enregistré le : 08 juin 2013, 11:41:21

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par Jeff Van Planet » 26 mars 2016, 10:15:22

albert » 26 Mar 2016, 10:21:27 a écrit :
Nombrilist » Sam 26 Mar 2016, 08:14:21 a écrit :Les enfants soldats me semblent être un bon contre-exemple.
Les enfants soldats sont transformés en machines à tuer. Où est l’intelligence ? L’IA n’a pas de volonté ni de libre-arbitre, ni d’expérience du réel. Elle parle de choses sans les connaître. Lorsque Tay dit : « Bush est responsable du 11 Septembre, et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir », sait-elle réellement de quoi elle parle ? Ou bien ce sont juste des mots répétés ?
On peut dire de même pour beaucoup d'humains qui répètent des idioties.
Le grand problème de notre système démocratique c'est qu'il permet de faire démocratiquement des choses non démocratiques.
J.Saramago

Avatar du membre
El Fredo
Messages : 26459
Enregistré le : 17 févr. 2010, 00:00:00
Parti Politique : En Marche (EM)
Localisation : Roazhon
Contact :

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par El Fredo » 26 mars 2016, 10:45:22

Le terme d'intelligence artificielle est un peu galvaudé ici, il s'agit d'un robot conversationnel. Et puis il s'agit surtout d'une expérimentation sociale d'après ses auteurs. Bref, on n'en est pas encore à Skynet.
If the radiance of a thousand suns were to burst into the sky, that would be like the splendor of the Mighty One— I am become Death, the shatterer of Worlds.

Avatar du membre
Nombrilist
Messages : 63371
Enregistré le : 08 févr. 2010, 00:00:00

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par Nombrilist » 26 mars 2016, 17:38:29

Pas encore. Mais on y vient doucement.

Avatar du membre
omega95
Messages : 4242
Enregistré le : 10 juin 2013, 20:43:07
Compte Twitter : shaidhulud
Localisation : Picardie

Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H

Message non lu par omega95 » 26 mars 2016, 18:05:06

Ce que cela montre, c'est qu'en discutant avec des décérébrés sur le net, on fini obligatoirement par devenir raciste, c'est maintenant prouvé par IA...! :rofl:
Ne mens pas, ne voles pas, ne triches pas, les gouvernements n'aiment pas la concurrence
> Les dormeurs doivent se réveiller ! >L'Etat ne veut pas notre bien, il veut nos biens !
NOUS CITOYENS / Pour les votes Blancs !

Avatar du membre
Narbonne
Messages : 15348
Enregistré le : 04 sept. 2011, 16:12:50
Localisation : Région parisienne
Contact :

Re: Tay, intelligence artificielle, a été "

Message non lu par Narbonne » 26 mars 2016, 18:11:52

pour des enfants : oui
Ils ne savaient pas que c'était impossible, alors ils l'ont fait.

Répondre

Retourner vers « Informatique et Nouvelles Technologies de l'Information et de la Communication »

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré