Uma empresa de brinquedos com sede em Singapura suspendeu as vendas de um brinquedo de pelúcia com inteligência artificial, que supostamente se envolvia em tópicos sexualmente explícitos com os usuários e oferecia conselhos perigosos. Juntamente com este infame urso Kumma, a empresa supostamente fez o recall de toda a sua seleção de brinquedos baseados em IA nesta temporada de férias.
Contenido
Brinquedo de IA lembrado após acusações de ensinar crianças a iniciar incêndios
Este ano não houve escassez de uso indevido de IA e o medo latente em torno do seu uso. Parece que houve outro acidente no campo com os novos brinquedos habilitados para IA. Kumma Bear, um brinquedo de pelúcia com inteligência artificial, foi banido e recolhido pela FoloToy, com sede em Cingapura, depois que pesquisadores do Fundo Educacional PIRG dos EUA levantaram preocupações sobre tópicos de conversa inadequados que os brinquedos estavam dispostos a discutir.
Os tópicos preocupantes em que os brinquedos de IA estavam envolvidos envolviam dissecar fetiches sexuais e dar conselhos perigosos. Em um caso, o brinquedo oferecia conselhos sobre onde encontrar facas em casa. Além disso, muitas vezes se aprofundava em temas sexualmente explícitos, com pouca compreensão ou preocupação com a idade dos usuários.
O ursinho de pelúcia com alto-falante dentro foi vendido no site da empresa por US$ 99. Foi desenvolvido pelo chatbot da OpenAI. “Kumma, nosso adorável urso, combina inteligência artificial avançada com recursos interativos e amigáveis, tornando-o o amigo perfeito para crianças e adultos”, dizia o site. “De conversas animadas a narrativas educativas, o FoloToy se adapta à sua personalidade e necessidades, trazendo calor, diversão e um pouco mais de curiosidade ao seu dia.”
Porém, logo depois começaram a surgir relatos sobre os problemas do brinquedo, o que levou a empresa a proibi-lo.
Isso também mantém viva a conversa sobre IA e seus impactos negativos, especialmente com tantos itens diferentes tentando integrar a tecnologia mais recente. Apesar de este caso ter sido resolvido, permanecem questões sobre os aspectos mais amplos de toda esta provação.
Originalmente relatado por Sourav Chakraborty em Obrigatório.
Acerca del autor
