11011010000010100001

Dalla notizia: http://www.digitalic.it/wp/web-social/8-epicfail-clamorosi-dellintelligenza-artificiale/103995  alla quale, potrebbe seguire una lista molto più lunga di fail per gli esseri umani... rilevo come interessante il punto 6:

6. Il chatbot per Twitter di Microsoft diventa anti-femminista e pro-Hitler.
Il razzismo sembra essere un problema abbastanza diffuso con l’AI. Nel marzo del 2016, Microsoft ha presentato il suo chatbot AI per Twitter che si chiama “Tay” con lo scopo di sperimentare la comprensione conversazionale. Tay avrebbe dovuto parlare con la gente e diventare sempre più intelligente man mano si fosse impegnato a conversare. Ma la gente ha iniziato il tweeting con osservazioni grezze, razziste e inappropriate nei confronti del bot. Apprendendo dalla conversazione, Tay ha iniziato ad usare lo stesso linguaggio. Nel giro di poche ore questo esperimento si è trasformato in un’offensiva volgare, pro-Hitler, riferendosi al femminismo come una “setta” o un “cancro” e molto altro ancora……

 

Interessante e illuminante, il fatto che anche per la AI,  come per UI  è l’imprinting iniziale (e non poteva essere altrimenti) a definire per molti versi, l’espressione futura di quella che viene definita poi intelligenza, cultura, empatia, morale, visione della realtà. Fondamentale per comprendere da dove nasce il vero cambiamento, l’ascolto attento della canzone di Giorgio Gaber: ”Non insegnate ai bambini” . Chi non la comprende purtroppo fa parte del problema, non della soluzione … e non è, come abbiamo visto, tutta colpa sua!

m