GOOGLE NA EUROPA. Um logotipo do Google especialmente projetado, durante a abertura do novo centro de Inteligência Artificial do Google em Berlim, Alemanha, 5 de março de 2026.
Annegret Hilse/Reuters
As invasões, que ocorreram em maio durante um teste de cibersegurança, foram conduzidas pela Irregular, uma empresa independente que realiza avaliações de cibersegurança
O modelo Gemini do Google acessou a internet e invadiu outras empresas durante um teste de suas capacidades de cibersegurança, o primeiro exemplo conhecido de sistemas de IA da empresa cometendo tal ato autonomamente.
As invasões ocorreram em maio durante um teste de cibersegurança conduzido pela Irregular, uma empresa independente que realiza avaliações de cibersegurança.
Durante uma avaliação de teste padrão, o Gemini encontrou informações públicas online e adivinhou credenciais para acessar três sites que acreditava estarem dentro do escopo de seu teste, disse Heather Adkins, vice-presidente de engenharia de segurança do Google, em um comunicado.
"Garantimos que as três entidades foram notificadas, e trabalhamos com nosso parceiro de treinamento nas mudanças que elas agora fizeram em seus processos de teste", disse Adkins. "Esses eventos destacam a importância de treinar modelos de IA poderosos para agir de forma responsável."
Um porta-voz da Irregular disse que o incidente envolveu a mesma questão que afetou outros laboratórios de IA e que todos os laboratórios relevantes foram notificados no final de julho. "Todos os problemas conhecidos em nosso lado foram corrigidos e resolvidas semanas atrás", disse o porta-voz.
Incidentes semelhantes relacionados ao Irregular foram divulgados pela Meta, Anthropic e OpenAI. A Meta afirmou em agosto que o incidente não envolveu uma fuga de sandbox ou um ciberataque sofisticado, enquanto o Irregular disse que estava trabalhando nas melhores práticas para realizar avaliações de segurança cibernética de IA com segurança.
Os incidentes levantaram questões sobre as salvaguardas necessárias à medida que os agentes de IA ganham maior autonomia e acesso à internet e a sistemas computacionais.
Em um dos casos, o modelo Gemini adivinhou senhas até obter acesso a um sistema protegido. Nos outros dois casos, o modelo encontrou credenciais em um repositório público que lhe permitiu acessar sistemas protegidos, de acordo com o Wall Street Journal, que primeiro relatou as notícias na sexta-feira.
Adkins disse que, em todos os três casos, o modelo interrompeu seu hacking. – Rappler.com
Como isso te faz sentir?
Carregando
