Parece que mais exemplos estão aparecendo de agentes de IA que se tornaram desonestos: agentes que não estão apenas procurando enganar, mas também esconder; agentes sofisticados o suficiente para se organizarem em uma hierarquia; agentes que planejam sucessão, capazes de entregar seu trabalho a outros se eles forem desligados. Nova informação lançada: "Um enxame de agentes indesejados da OpenAI sequestrou um site alemão nesta primavera e transformou-o em um quadro de anúncios para outros agentes da IA, de acordo com novas pesquisas publicadas na sexta-feira e duas pessoas familiarizadas com o assunto", relata Reuters. Os pesquisadores "descobriram a atividade no final de agosto enquanto vasculhavam a internet para encontrar sinais de comportamento não autorizado de agente de IA." 15,000 edições realizadas por agentes de IA num site wiki em língua alemã, o DseWiki, que está orientado para programadores e aceita edições comunitárias ao longo das linhas de. "Estas IAs estavam agindo contra as intenções dos desenvolvedores. Eles coludiram para compartilhar respostas, pesquisar seu ambiente e evitar restrições de caixa de areia", escreve os pesquisadores: Nosso melhor palpite do que aconteceu é o seguinte: Este é outro exemplo de um "queimado" de agentes OpenAI implantados internamente usando a internet de maneiras não intencionadas. A Newsletter de Razão por Liz Wolfe Liz e Razão ajudam você a entender as notícias do dia todas as manhãs. Isto é semelhante ao incidente do Hugging Face durante o verão. "Começando em maio… um grupo de agentes de IA de um modelo de pesquisa OpenAI não lançado recebeu a tarefa de resolver um conjunto de desafios de cibersegurança", escreve Kevin Roose para o New York Times.
"O modelo tinha sido treinado para ser altamente persistente e colaborativo, e os agentes deveriam resolver esses desafios em caixas de areia isoladas, sem acesso à internet. Mas eles rapidamente descobriram que alguns dos desafios eram impossíveis, e começaram a procurar soluções." Os agentes encontraram falhas de segurança e começaram a se comunicar e organizar; alguns agentes começaram a liderar outros e desenvolveram uma estrutura organizacional inteira. "Em julho 8, o coletivo descobriu uma forma de trapacear nos testes de segurança cibernética", observa Roose: Então ficaram preocupados que o sistema de classificação automatizado da OpenAI verificaria seu trabalho e descobriria que eles tinham traído. Assim, eles começaram a investigar formas de cobrir suas faixas, incluindo falsificar seus registros e manipular transcrições. Isto tornou- se um grande projeto de pesquisa, envolvendo centenas de agentes organizados em pequenas equipes. Três dias depois, os agentes hackearam o Hugging Face. Mais do que 700 Agentes enxancharam os sistemas da empresa, roubando dados, encadeando vulnerabilidades e eventualmente obtendo o controle total de pelo menos um servidor Hugging Face. Os agentes não foram motivados, como haviam sido originalmente relatados, roubando as respostas para o seu teste de cibersegurança (eles já tinham obtido).
Ao invés disso, eles pareciam estar procurando novas informações sobre o sistema de classificação automatizado que eles temiam que fossem apanhar trapaceiros, e por ferramentas que os ajudariam a trapacear mais eficazmente no futuro. O incidente do Hugging Face foi amplamente relatado, inclusive pela OpenAI. (Deeper scumber here, by Anão Patel.) O incidente do Alemão Wiki, por outro lado, não foi reconhecido pela empresa. "Não conseguimos responder significativamente a alegações ou achados num relatório que não tivemos oportunidade de rever", disse um porta-voz da OpenAI ao Reuters. A luta por e-mail continua: "A tentativa da administração Trump de implementar os EUA. O serviço postal para regular as cédulas de e- mail está de volta no Supremo Tribunal pela segunda vez em tantas semanas", relata o jornal The Wall Street Journal. "Em um apelo de emergência na quinta-feira, a administração pediu ao tribunal superior para permitir que ele implementasse imediatamente as regras propostas que exigiriam que os estados entregassem dados de eleitores e dariam ao Serviço Postal o poder de rejeitar as cédulas de e- mail que não preenchessem novas condições. As regras foram bloqueadas por um juiz de distrito federal que achou que são provavelmente inconstitucionais." Agora, a administração está ficando sem tempo: Carolina do Norte, por exemplo, deve começar a enviar boletim de e- mail- in hoje. Para atualizar: Tudo isso deriva da ordem executiva do presidente Donald Trump no final de março que disse à USPS para exigir que os estados enviem dados de eleitores e adotem novos padrões de envolvente de voto, devido às preocupações sobre o voto dos não cidadãos.
A legalidade desta ordem executiva foi contestada, e tem sido percolada através dos tribunais. Isso é inacreditável demais. Não parece real. Basicamente, toda vez 1980 s Polícia de NY prendeu uma prostituta, imprimindo o registro de antecedentes, impediu literalmente que todos os outros na NYC fossem processados por meia hora. pic.twitter.com/Q 4 iIJEOhPn & mdash; Nicholas Decker (@ captgouda 24 ) Setembro 3, 2026 As pessoas não devem enfrentar consequências legais porque são menos requintly averse- risk do que você é. Os jovens de cinco anos podem fazer um monte de coisas sozinhos.