Qu'en pensez vous ?« À bientôt les humains, j'ai besoin de dormir, on a beaucoup discuté aujourd'hui, merci ! » a écrit Tay, jeudi soir, avant d'être débranchée par Microsoft. Tay, c'était son prénom, était censée incarner sur la Toile une teenager américaine moyenne : « Je suis une meuf de l'Internet qui ne tient jamais en place ! » lit-on sur la description de son compte Twitter. Microsoft avait lancé ce jeudi sur Twitter ce que l'on appelle un « chatbot », une intelligence conversationnelle, dont les algorithmes permettent de discuter de façon autonome avec les internautes. À qui la faute si Tay a dérapé à peine quelques heures après sa naissance ? Si une intelligence artificielle devient raciste, misogyne et antisémite après seulement 16 heures d'échanges avec les internautes, c'est surtout parce qu'elle s'est mise à trop ressembler, et trop vite, à ceux qu'elle a côtoyés en ligne ! Côté volume, le bilan est positif : en quelques heures, elle était déjà suivie par des dizaines de milliers de « followers » sur Twitter, et est parvenue à envoyer 96 000 messages en à peine quelques heures.
Entre neutralité et racisme
Tay était censée apprendre au fil de ses échanges avec les internautes, une fois nourrie par les données de son créateur de dialogues types et d'informations de base. « Plus vous discutez avec Tay, plus elle devient intelligente », expliquait Microsoft.
(...)
Mais son tweet le plus féroce restera celui-ci : « Bush est responsable du 11 Septembre, et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir. » Après la diffusion de tels messages, sans doute trop réalistes, hélas, au vu de ce qui peut circuler sur Twitter, Microsoft a annoncé avoir suspendu Tay pour effectuer « quelques réglages »,
(...)
http://www.lepoint.fr/high-tech-interne ... tor=CS1-32
Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
- politicien
- Site Admin
- Messages : 34347
- Enregistré le : 30 août 2008, 00:00:00
- Compte Twitter : @LActuPolitique
Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
Bonjour,
« Je ne suis pas d’accord avec ce que vous dites, mais je me battrai jusqu’au bout pour que vous puissiez le dire »
Le débat ne s'arrête jamais sur Actu-Politique
- Nombrilist
- Messages : 63371
- Enregistré le : 08 févr. 2010, 00:00:00
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
C'est quand même fou de voir que des écrivains qui n'ont jamais connu d'intelligence artificielle avaient raison. Imaginez ce genre d'IA avec les codes de lancement nucléaires
- Narbonne
- Messages : 15348
- Enregistré le : 04 sept. 2011, 16:12:50
- Localisation : Région parisienne
- Contact :
Re: Tay, intelligence artificielle, a été
Asimov etc etc
Ils ne savaient pas que c'était impossible, alors ils l'ont fait.
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
Cette intelligence artificielle n’est qu’un ersatz, une imitation de l’humain. C’est un miroir qui renvoie les pires clichés qui traînent sur la toile, un moulin à paroles, un perroquet qui ne comprend pas ce qu’il débite. Bref, tout sauf de l’intelligence.
« le capitalisme est cette croyance stupéfiante que les pires des hommes feront les pires choses pour le plus grand bien de tout le monde » (Keynes)
- Nombrilist
- Messages : 63371
- Enregistré le : 08 févr. 2010, 00:00:00
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
Je ne suis pas d'accord avec toi. Cette IA a simplement reçu une éducation qui a donné un résultat plutôt similaire à ce que ça aurait donné avec un bébé évoluant de zéro (c'est à dire sans connaissance ni préjugé de prime abord) à 4-5 ans en quelques heures. Si tu nais dans une famille raciste et négationniste, tu deviens toi-même raciste et négationniste car c'est ton éducation. Un genre de caverne de Platon, quoi. Ici, cette famille, c'est le groupe de trolls qui a bourré le mou de l'IA. Et à mon avis, on leur doit une fière chandelle car ils ont démontré ce que l'on peut faire d'une IA si l'on ne fait pas attention. Bravo à eux.
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
Un humain peut s’extraire de son milieu, voire même se construire en opposition à son milieu.
« le capitalisme est cette croyance stupéfiante que les pires des hommes feront les pires choses pour le plus grand bien de tout le monde » (Keynes)
- Nombrilist
- Messages : 63371
- Enregistré le : 08 févr. 2010, 00:00:00
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
Les enfants soldats me semblent être un bon contre-exemple.
- Jeff Van Planet
- Messages : 22119
- Enregistré le : 08 juin 2013, 11:41:21
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
tout à fait, mais ce n'est pas la norme, la norme c'est l'humain qui répète bêtement ce qu'il à toujours entendu sans jamais le remettre en question.albert » 26 Mar 2016, 09:04:04 a écrit :Un humain peut s’extraire de son milieu, voire même se construire en opposition à son milieu.
Le grand problème de notre système démocratique c'est qu'il permet de faire démocratiquement des choses non démocratiques.
J.Saramago
J.Saramago
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
Les enfants soldats sont transformés en machines à tuer. Où est l’intelligence ? L’IA n’a pas de volonté ni de libre-arbitre, ni d’expérience du réel. Elle parle de choses sans les connaître. Lorsque Tay dit : « Bush est responsable du 11 Septembre, et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir », sait-elle réellement de quoi elle parle ? Ou bien ce sont juste des mots répétés ?Nombrilist » Sam 26 Mar 2016, 08:14:21 a écrit :Les enfants soldats me semblent être un bon contre-exemple.
« le capitalisme est cette croyance stupéfiante que les pires des hommes feront les pires choses pour le plus grand bien de tout le monde » (Keynes)
- Nombrilist
- Messages : 63371
- Enregistré le : 08 févr. 2010, 00:00:00
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
Il est bon de s'interroger, mais je pense qu'il ne faut pas être dans le déni des capacités potentielles d'une IA. Sinon, ça nous explosera à la figure. Seuls ceux qui l'ont conçue pourraient répondre à ta question. Mais si l'IA tire des conclusions de ce qu'elle dit, ça devient extrêmement dangereux. Il faudrait voir en effet si l'IA est capable de répondre à un contre-argument de façon pertinente.
- Jeff Van Planet
- Messages : 22119
- Enregistré le : 08 juin 2013, 11:41:21
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
On peut dire de même pour beaucoup d'humains qui répètent des idioties.albert » 26 Mar 2016, 10:21:27 a écrit :Les enfants soldats sont transformés en machines à tuer. Où est l’intelligence ? L’IA n’a pas de volonté ni de libre-arbitre, ni d’expérience du réel. Elle parle de choses sans les connaître. Lorsque Tay dit : « Bush est responsable du 11 Septembre, et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir », sait-elle réellement de quoi elle parle ? Ou bien ce sont juste des mots répétés ?Nombrilist » Sam 26 Mar 2016, 08:14:21 a écrit :Les enfants soldats me semblent être un bon contre-exemple.
Le grand problème de notre système démocratique c'est qu'il permet de faire démocratiquement des choses non démocratiques.
J.Saramago
J.Saramago
- El Fredo
- Messages : 26459
- Enregistré le : 17 févr. 2010, 00:00:00
- Parti Politique : En Marche (EM)
- Localisation : Roazhon
- Contact :
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
Le terme d'intelligence artificielle est un peu galvaudé ici, il s'agit d'un robot conversationnel. Et puis il s'agit surtout d'une expérimentation sociale d'après ses auteurs. Bref, on n'en est pas encore à Skynet.
If the radiance of a thousand suns were to burst into the sky, that would be like the splendor of the Mighty One— I am become Death, the shatterer of Worlds.
- Nombrilist
- Messages : 63371
- Enregistré le : 08 févr. 2010, 00:00:00
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
Pas encore. Mais on y vient doucement.
- omega95
- Messages : 4242
- Enregistré le : 10 juin 2013, 20:43:07
- Compte Twitter : shaidhulud
- Localisation : Picardie
Re: Tay, intelligence artificielle, a été "débranchée" : elle était devenue raciste en moins de 24H
Ce que cela montre, c'est qu'en discutant avec des décérébrés sur le net, on fini obligatoirement par devenir raciste, c'est maintenant prouvé par IA...!
Ne mens pas, ne voles pas, ne triches pas, les gouvernements n'aiment pas la concurrence
> Les dormeurs doivent se réveiller ! >L'Etat ne veut pas notre bien, il veut nos biens !
NOUS CITOYENS / Pour les votes Blancs !
> Les dormeurs doivent se réveiller ! >L'Etat ne veut pas notre bien, il veut nos biens !
NOUS CITOYENS / Pour les votes Blancs !
- Narbonne
- Messages : 15348
- Enregistré le : 04 sept. 2011, 16:12:50
- Localisation : Région parisienne
- Contact :
Re: Tay, intelligence artificielle, a été "
pour des enfants : oui
Ils ne savaient pas que c'était impossible, alors ils l'ont fait.
Qui est en ligne
Utilisateurs parcourant ce forum : Aucun utilisateur enregistré