Aplicativo usa IA para ajudar pais a manter os filhos seguros na internet

há 1 semana 15

Um novo aplicativo alimentado por IA está ajudando a manter jovens usuários de smartphones seguros online, alertando tanto os pais quanto a criança quando são expostos a conteúdo nocivo.

Chamado Sway.ly, o aplicativo sinaliza conteúdo prejudicial em plataformas como TikTok, Instagram e YouTube, em vez de banir ou restringir o acesso a ele. Ele retreina os feeds em tempo real e fornece aos pais percepções genuínas sobre as atividades online de seus filhos.

“Ele meio que filtra e identifica o conteúdo nocivo dentro das mídias sociais e alerta tanto crianças quanto pais sobre isso, ajudando-os a lidar com a situação e dando dicas e truques sobre o que eles estão sendo expostos”, disse Daniela Fernandez, cofundadora e diretora de estratégia da Sway.ly, à Reuters em uma escola de Londres, com crianças que estavam entre as mais de 2.000 famílias nos EUA e no Reino Unido que ajudaram na pesquisa da empresa.

Os resultados mostraram que 77% das crianças dizem que as mídias sociais estão prejudicando sua saúde, mas a maioria se sente impotente para impedir isso. Quase três quartos das crianças pesquisadas no Reino Unido disseram que viram conteúdo que as fez se sentir desconfortáveis, chateadas, tristes ou com raiva no último mês, apesar da recente introdução de restrições.

A pesquisa também revelou que, embora os pais muitas vezes temam material explícito, as crianças relatam que o verdadeiro dano vem do gotejamento lento e implacável de narrativas tóxicas que moldam como elas veem a si mesmas e ao mundo.

"Pode ser de tudo, desde superexposição à supersexualização, a padrões corporais irrealistas, toxicidade, misoginia, violência, todos esses elementos. Temos 36 filtros diferentes que identificamos e, em seguida, alertamos e damos dicas e truques sobre como lidar com esse tipo de conteúdo e como tentar removê-lo de seu próprio feed," disse Fernandez.

A Notting Hill Preparatory School diz que se orgulha de ser livre de smartphones, mas também aceita que os dispositivos online estarão disponíveis para crianças de todas as idades fora da escola e que as crianças muitas vezes conseguem contornar controles ou proibições mais simples.

"Acho que os pais podem se sentir bastante desamparados com a forma como o mundo online é agora em comparação com sua própria experiência", disse Peter Whitmell, vice-diretor e líder de proteção na Notting Hill Prep, à Reuters.

"O benefício do Sway.ly é que ele torna muito claro para os pais o que está acontecendo online e tem a capacidade, por meio de sua IA, de entender as últimas tendências de uma forma que, francamente, mesmo eu como educador que trabalha com crianças todos os dias, não conseguimos acompanhar. E é aí que o Sway.ly entra de uma forma muito útil", disse Whitmell.