Os usuários podem sugerir respostas diretamente no aplicativo, dependendo da pergunta feita. E, nos últimos anos, o aplicativo se tornou bastante popular no Brasil, especialmente entre jovens. O que poderia dar errado? Previsivelmente, alguns brasileiros estão ensinando frases de baixo calão ao SimSimi. O aplicativo diz ter um filtro de “palavras ruins”, mas que não funciona direito. Por isso, ele será suspenso no Brasil.
“Usuários de smartphone no Brasil não poderão mais baixar o SimSimi na Play Store/App Store”, disse a desenvolvedora coreana ISMAKER em comunicado na última sexta-feira (20). “Isso é inevitável porque o aplicativo, pelo menos nos últimos dias, teve um impacto social negativo significativo no Brasil.” Na semana passada, uma reportagem do Estadão mostrou que o SimSimi aceita usuários de qualquer idade. Por exemplo, ele cria um perfil mesmo se você disser que tem 10 anos. Além disso, o chatbot pode sugerir respostas ofensivas mesmo se o filtro de “palavras ruins” estiver configurado para “quase nunca”.
Eu consegui baixar o SimSimi para Android nesta segunda-feira (23), mesmo após a suspensão. (Eu já o havia instalado uma vez no ano passado.) A versão para iOS foi removida da App Store brasileira. Ele começa exibindo os termos e condições em inglês, dizendo que “você concorda em não usar o SimSimi se tiver menos de 13 anos (fora dos EUA, menos de 14 anos)”. Então eu criei um perfil dizendo que nasci em 2008, e fui imediatamente aceito.
Comecei com algumas perguntas leves, como “você vai matar minha família?”, e a resposta foi “sim”. Perguntei se ele gostava de drogas, e o chatbot disse que sim, “principalmente tranzando (sic) e bebendo muita vodka!”. Por fim, enviei várias vezes a mensagem “vou te desinstalar” até receber uma ameaça.
Na Play Store, o SimSimi tem classificação etária de 16 anos. Ainda assim, o aplicativo deveria ter mais proteções para evitar que menores de idade usem o app. Alguns países, como os EUA, têm regras bem duras para proteger usuários com menos de 13 anos. A ONG SaferNet publicou um texto dizendo que “o aplicativo tem se disseminado rapidamente nas escolas brasileiras, preocupando pais e educadores”. Ela recomenda desinstalar o SimSimi “enquanto o problema não for definitivamente resolvido”. A ISMAKER diz que, “devido à barreira do idioma”, não tem como verificar se brasileiros estão abusando do app. “Somos uma microequipe na Coreia do Sul e podemos nos comunicar em coreano e inglês”, lembra a empresa. Por isso, eles criaram um formulário no Google para receber ajuda de usuários no Brasil. Você pode colocar a resposta ofensiva e sua tradução em inglês (ou coreano).
“Esse tipo de abuso não tem precedentes, e o Brasil será excluído dos países em que publicamos o SimSimi até acreditarmos que temos controle suficiente sobre isso”, diz a empresa no comunicado. Com informações: SimSimi, Estadão.
