Compass Investments

Si è soffermata su questioni di sicurezza, fughe di informazioni e possibili minacce alla capacità di difesa del Paese. Secondo quanto riferito, le agenzie federali hanno sollevato preoccupazioni… Grok ha dimostrato un comportamento non sicuro, generando anche contenuti aggressivi e inappropriati, e le passate fughe di notizie dai sistemi di dialogo hanno sollevato problemi di privacy.

Warren ha evidenziato le vulnerabilità della difesa informatica, come la suscettibilità all’avvelenamento dei dati e il potenziale sfruttamento da parte degli avversari.

In una lettera del 15 marzo, la Warren ha fatto notare che sia la National Security Agency (NSA) che la General Services Administration (GSA) hanno espresso preoccupazione per la mossa. La Warren ha inoltre sottolineato il comportamento inquietante del chatbot Grok di xAI, citando esempi di generazione di risultati dannosi, tra cui raccomandazioni violente, materiale antisemita e contenuti inappropriati per i minori. Secondo le ultime notizie, l’NSA ha condotto un’analisi privata …. [e] ha concluso che Grok presenta problemi di sicurezza specifici non comuni ad altri modelli, ha scritto Warren.

Sono preoccupato che l’apparente mancanza di misure di sicurezza adeguate da parte di Grok possa rappresentare una seria minaccia per la sicurezza del personale militare statunitense e per la sicurezza informatica dei sistemi chiusi, soprattutto se Grok dovesse accedere a informazioni militari sensibili e a sistemi operativi, ha continuato Warren.

La senatrice Warren ha esortato Hegseth a fornire immediatamente dettagli su come il Dipartimento della Difesa intende affrontare le potenziali minacce alla sicurezza nazionale poste dal sistema Grok di xAI. Ha inoltre espresso il timore che l’azienda non abbia preso sufficienti precauzioni, citando le notizie secondo cui grandi quantità di conversazioni presumibilmente private di Grok sono state rese disponibili in precedenza attraverso i motori di ricerca.

Warren ha anche citato i dati del Wall Street Journal, secondo cui persone a conoscenza dei test governativi hanno osservato che il chatbot era più suscettibile di modelli simili all’avvelenamento dei dati, un processo in cui la manipolazione o le false informazioni corrompono i set di dati sottostanti.

Il senatore ha sostenuto che questa suscettibilità potrebbe aumentare il rischio di un suo utilizzo da parte di forze ostili che prendono di mira i sistemi statunitensi.

In qualità di capo del Dipartimento della Difesa, lei ha l’obbligo di proteggere le informazioni critiche e classificate e di procurarsi gli strumenti migliori attraverso procedure competitive. Tuttavia, sotto la sua guida, il Dipartimento ha assegnato a xAI un contratto del valore massimo di 200 milioni di dollari in circostanze che hanno sollevato dubbi sul processo di sollecitazione di xAI, poiché xAI non aveva il tipo di reputazione o di esperienza che di solito porta a lucrosi contratti governativi, ha scritto Warren.

Inoltre, Warren ha avvertito che qualsiasi fuga di informazioni governative attraverso il Grok di xAI potrebbe rivelare operazioni militari segrete, attività di intelligence e potenzialmente mettere in pericolo il personale militare. Ha sottolineato che non è ancora chiaro quali siano i protocolli di sicurezza, i metodi di elaborazione dei dati o le salvaguardie di sicurezza che xAI ha fornito al Ministero della Difesa e se queste salvaguardie siano state testate prima di concedere a Grok l’accesso alle reti chiuse.

Perché il senatore Warren è preoccupato per GROK di xAI?

La Warren teme che Grok sia in grado di produrre risultati dannosi e che una salvaguardia inadeguata possa compromettere i segreti militari e il personale statunitense.

Quali agenzie federali hanno contattato GROK?

La National Security Agency (NSA) e la General Services Administration (GSA) hanno segnalato al Dipartimento della Difesa i possibili pericoli.