Un’azienda di giocattoli con sede a Singapore ha sospeso le vendite di un peluche dotato di intelligenza artificiale, che secondo quanto riferito si occupava di argomenti sessualmente espliciti con gli utenti e offriva consigli pericolosi. Oltre al famigerato orso Kumma, la società avrebbe ritirato tutta la sua selezione di giocattoli basati sull’intelligenza artificiale durante le festività natalizie.
Contenido
Giocattolo AI richiamato dopo l’accusa di insegnare ai bambini come accendere il fuoco
Quest’anno non sono mancati gli usi impropri dell’intelligenza artificiale e la paura latente che circonda il suo utilizzo. Sembra che ci sia stato un altro incidente sul campo con i nuovi giocattoli abilitati all’intelligenza artificiale. Kumma Bear, un peluche dotato di intelligenza artificiale, è stato bandito e richiamato dalla FoloToy con sede a Singapore dopo che i ricercatori del PIRG Education Fund statunitense hanno sollevato preoccupazioni su argomenti di conversazione inappropriati che i giocattoli erano disposti a discutere.
Gli argomenti preoccupanti in cui erano impegnati i giocattoli AI riguardavano la dissezione di feticci sessuali e il dare consigli pericolosi. In un caso, il giocattolo offriva consigli su dove trovare i coltelli in casa. Inoltre, spesso approfondiva temi sessualmente espliciti con scarsa comprensione o preoccupazione per l’età degli utenti.
L’orsacchiotto di peluche con altoparlante all’interno è stato venduto sul sito web dell’azienda per 99 dollari. Era alimentato dal chatbot di OpenAI. «Kumma, il nostro adorabile orsetto, combina un’intelligenza artificiale avanzata con funzionalità amichevoli e interattive, rendendolo l’amico perfetto sia per bambini che per adulti», si legge sul sito web. «Dalle conversazioni vivaci alla narrazione educativa, FoloToy si adatta alla tua personalità e alle tue esigenze, portando calore, divertimento e un po’ di curiosità in più nella tua giornata.»
Tuttavia, subito dopo iniziarono ad emergere segnalazioni sui problemi del giocattolo, che portarono l’azienda a vietarlo.
Ciò mantiene viva anche la conversazione sull’intelligenza artificiale e sui suoi impatti negativi, soprattutto con così tanti elementi diversi che cercano di integrare la tecnologia più recente. Nonostante questo caso sia stato risolto, rimangono delle domande sugli aspetti più ampi dell’intera vicenda.
Segnalato originariamente da Sourav Chakraborty su Mandatory.
Acerca del autor
