Google bloqueou conta de desenvolvedor que armazenou 700 mil imagens de dataset no Drive

O desenvolvedor Mark Russo passou meses sem acesso ao Gmail e ao Google Drive depois que a empresa suspendeu todas as suas contas por detectar “conteúdo ilegal” em um dataset acadêmico. O material, usado em mais de 250 estudos universitários, foi interpretado como abusivo por sistemas automatizados da plataforma.

O caso, revelado pela publicação especializada 404 Media, reacende o debate sobre os limites da moderação automatizada e seus impactos em pesquisadores e desenvolvedores que dependem das grandes plataformas tecnológicas.

Dataset acadêmico vira motivo de suspensão

Russo desenvolve aplicativos móveis focados em privacidade. Um de seus projetos detecta nudez e violência diretamente no dispositivo do usuário, sem enviar dados para servidores externos. Para treinar o algoritmo, ele recorreu ao NudeNet, um conjunto público de mais de 700 mil imagens coletadas da internet.

O dataset é amplamente conhecido no meio acadêmico. Durante anos, foi compartilhado por plataformas especializadas em dados de pesquisa e serviu de base para centenas de trabalhos científicos.

Em julho de 2025, Russo fez upload do arquivo no Google Drive. Dias depois, perdeu acesso a todas as contas vinculadas ao Google, incluindo seu e-mail principal de trabalho.

Bloqueio sem aviso prévio

A suspensão aconteceu sem notificação prévia. Segundo Russo, a única informação recebida foi uma mensagem genérica apontando violação de políticas por conteúdo ilegal. A empresa identificou, por meio de seus sistemas automatizados, material classificado como abuso infantil dentro do dataset.

O desenvolvedor tentou reverter a decisão por meio dos canais oficiais de recurso do Google. Apresentou explicações sobre a natureza acadêmica do material e solicitou revisão humana. Todas as tentativas foram negadas.

A conta só foi restaurada meses depois, quando um jornalista da 404 Media entrou em contato com o Google para apurar a história. Procurada, a empresa não comentou detalhes específicos do caso.

Desenvolvedor critica falta de transparência

Em post publicado em seu blog pessoal, Russo criticou duramente o processo de moderação da empresa. “Entendo que sou apenas um desenvolvedor independente, alguém que o Google não considera importante. Mas é exatamente por isso que esta história importa”, escreveu.

“Não se trata apenas de perder acesso às minhas contas. Se trata de como os mesmos sistemas que dizem combater abusos estão silenciando pesquisa e inovação legítimas por meio de automação opaca”, afirmou o desenvolvedor.

Russo também destacou que, ao tomar conhecimento do problema específico identificado pelo Google, notificou imediatamente as autoridades competentes e a plataforma Academic Torrents, que distribuía o dataset. O material foi removido do serviço.

Impacto na vida profissional

A suspensão teve consequências diretas no trabalho de Russo. Sem acesso ao Gmail, ele ficou impedido de se comunicar com clientes e parceiros. O bloqueio também afetou o desenvolvimento de aplicativos, já que muitas ferramentas de trabalho dependem de contas Google ativas.

“Tentei fazer a coisa certa e fui punido por isso”, declarou o desenvolvedor.

Debate sobre moderação automatizada

O episódio expõe fragilidades nos sistemas de moderação de conteúdo das grandes plataformas. Especialistas apontam que algoritmos são eficientes para detectar padrões em larga escala, mas têm dificuldade em entender contexto.

Datasets acadêmicos podem conter imagens sensíveis justamente porque foram compilados para treinar sistemas de detecção — o mesmo objetivo declarado pelo Google em suas políticas de segurança. A diferença está no propósito: pesquisa versus disseminação de material ilegal.

Para pesquisadores e desenvolvedores independentes, no entanto, não há como verificar manualmente centenas de milhares de arquivos antes de utilizá-los. E quando há problema, muitas vezes já é tarde: a conta está suspensa e não há canal efetivo de contestação.