Compass Investments

Grok demonstrou um comportamento inseguro, incluindo a geração de conteúdos agressivos e inapropriados, e as fugas de informação de sistemas de diálogo anteriores suscitaram preocupações em matéria de privacidade.

Warren salientou as vulnerabilidades da ciberdefesa, como a suscetibilidade de envenenamento de dados e a potencial exploração por parte dos adversários.

uma carta datada de 15 de março, Warren referiu que tanto a Agência de Segurança Nacional (NSA) como a Administração de Serviços Gerais (GSA) manifestaram a sua preocupação com a mudança. Referiu também o comportamento perturbador do chatbot Grok da xAI, citando exemplos de resultados maliciosos, incluindo recomendações violentas, material antissemita e conteúdos inadequados para menores. De acordo com os últimos relatórios, a NSA “efectuou uma análise privada …. [e] concluiu que a Grok tinha problemas de segurança específicos incomuns a outros modelos, escreveu Warren. “Preocupa-me que a aparente falta de medidas de segurança adequadas da Grok possa representar uma séria ameaça à segurança do pessoal militar dos EUA e à segurança cibernética de sistemas fechados, especialmente se a Grok obtivesse acesso a informações militares sensíveis e sistemas operacionais, continuou Warren.

A senadora Warren pediu a Hegseth que fornecesse imediatamente detalhes sobre como o Departamento de Defesa planeja lidar com as possíveis ameaças à segurança nacional representadas pelo sistema Grok da xAI. Ela também expressou preocupações de que a empresa pode não ter tomado precauções suficientes, citando relatos de que grandes quantidades de conversas supostamente privadas do Grok já haviam sido disponibilizadas por meio de mecanismos de busca.

Warren também citou dados do The Wall Street Journal, segundo os quais indivíduos com conhecimento dos testes do governo observaram que o chatbot era mais suscetível do que modelos semelhantes ao envenenamento de dados, um processo em que a manipulação ou informações falsas corrompem conjuntos de dados subjacentes.

O senador argumentou que sua suscetibilidade poderia aumentar o risco de seu uso por forças hostis visando os sistemas dos EUA.

Como chefe do Departamento de Defesa, tem a obrigação de proteger a informação crítica e confidencial e de adquirir as melhores ferramentas através de procedimentos competitivos.

No entanto, sob a sua liderança, o Departamento adjudicou à xAI um contrato no valor de até 200 milhões de dólares em circunstâncias que levantaram questões sobre o processo de solicitação da xAI, porque a xAI não tinha o tipo de reputação ou historial que normalmente leva a contratos governamentais lucrativos, escreveu Warren.

Além disso, Warren alertou para o facto de qualquer fuga de informação governamental através do Grok da xAI poder expor operações militares secretas e actividades de informação e colocar potencialmente em perigo o pessoal militar. A senadora sublinhou que ainda não é claro quais os protocolos de segurança, métodos de processamento de dados ou salvaguardas de segurança que a xAI forneceu ao Ministério da Defesa e se essas salvaguardas foram testadas antes de o Grok ter acesso a redes fechadas.

Porque é que a Senadora Warren está preocupada com a GROK da xAI?

Warren está preocupada com o facto de a Grok ser capaz de produzir resultados prejudiciais e de salvaguardas inadequadas poderem comprometer segredos militares e pessoal dos EUA.

Que agências federais entraram em contacto com a GROK?

A National Security Agency (NSA) e a General Services Administration (GSA) notificaram o Departamento de Defesa sobre possíveis perigos.