Saiba quais os perigos dos APP com inteligência artificial como o SimSimi

O aplicativo SimSimi, desenvolvido pela empresa sul-coreana ISMaker, levantou nas últimas semanas uma questão que tem sido posta de lado por muitos pais da era tecnológica: até que ponto o constante acesso e a independência no mundo virtual têm deixado as crianças psicologicamente vulneráveis?

Isso porque existe no mercado uma infinidade de softwares, com objetivos variados. Boa parte deles voltado ao entretenimento, mas tantas outras com intenções problemáticas, como o SimSimi, que se apresenta como um chat de conversação entre usuário e máquina, mas envia mensagens com conteúdo sexual e ameaçador aos seus interlocutores.

O app é aquilo que os especialistas chamam de chat bot, um robô que tem por objetivo trocar mensagens com os usuários. O funcionamento é simples: alguém entra numa tela de conversação e é recebido por um “Olá”. A partir dali, máquina e criança trocam mensagens variadas, respostas mecânicas formuladas com base na experiência da Inteligência Artificial (IA) com os demais usuários.

Quando perguntado o que pretender fazer com a humanidade, a máquina responde: “M___ todos os humanos. É uma raça imprestável. Não te preocupes, a única coisa quanto descobrir quem tu és é te m___”, responde o app, dando a entender que quer matar os humanos. O diálogo é baseado em conversas que o SimSimi aprendeu com demais usuários, mas pode trazer implicações na saúde mental das crianças, principalmente porque nem todos se dão conta de que aquilo é uma máquina programada.

Além das ameaças, há conteúdos de referência sexual no aplicativo. Em uma das conversas, o SimSimi diz que vai “dar um chupão” no seu interlocutor. Quando perguntado se isso é algo que crianças podem fazer, o algoritmo diz que sim. Diante destas e tantas conversas maliciosas, pais denunciaram o app em todo o mundo.

Redação