Gemini identifica menor em situação sexual e Google suspende contas de toda a família

Um pai escocês está enfrentando uma situação desesperadora após seu filho adolescente de 14 anos ter se masturbado na frente do Gemini Live, o assistente de inteligência artificial da Google com modo de câmera ao vivo. O sistema de IA identificou automaticamente que o usuário era menor de idade durante o ato e acionou os protocolos de proteção infantil da empresa, resultando no banimento imediato de todas as contas Google vinculadas ao tablet da família.

O problema se agravou pelo fato de que o aparelho concentrava as contas de todos os membros da família. Com isso, o pai perdeu acesso a 15 anos de histórico empresarial, incluindo e-mails, documentos no Google Drive e até mesmo o site do seu negócio, que estava hospedado vinculado à conta banida. O episódio ocorreu em um tablet com controles parentais, mas os pais não sabiam que o Gemini não estava coberto por essas restrições.

Ao recorrer ao Google, a família recebeu uma resposta categórica: as contas foram encerradas por "razões de proteção infantil" e não seriam restauradas. A situação coloca o pai em apuros financeiros graves, já que sua empresa encerra o ano fiscal em maio e todos os registros contábeis estavam armazenados nos serviços Google, impossibilitando até mesmo a prestação de contas ao seu contador.

O caso, publicado no Reddit no fórum r/LegalAdviceUK, rapidamente viralizou e acendeu um debate sobre os riscos de concentrar toda a vida pessoal e profissional em um único ecossistema digital. Especialistas alertam que situações como essa evidenciam a vulnerabilidade de depender exclusivamente de plataformas de terceiros, sem backups independentes, e levantam questões sobre a proporcionalidade de punições coletivas aplicadas por sistemas automatizados de IA.

A veracidade do caso não pôde ser verificada imediatante.