Uma nova investigação publicada argumenta que o governo federal está a precipitar-se na inteligência artificial da mesma forma que se precipitou na computação nuvem há uma década, e com as mesmas vulnerabilidades estruturais ainda presentes.
Resumo
- A repórter da ProPublica, Renee Dudley, baseia-se em anos de reportagens sobre cibersegurança federal para delinear três lições de advertência enquanto o governo Trump pressiona agências a adotar rapidamente ferramentas de IA da OpenAI, Google e xAI a preços governamentais reduzidos
- A primeira lição: os chamados acordos tecnológicos gratuitos ou baratos acabam por prender as agências; a segunda: programas de supervisão como o FedRAMP foram esvaziados e carecem de recursos para verificar o que aprovam; a terceira: os auditores de terceiros que avaliam fornecedores de IA são pagos por esses mesmos fornecedores
- A Casa Branca está a apresentar a adoção de IA como urgente e competitiva, espelhando a linguagem que o governo Obama usou para impulsionar a computação nuvem, uma transição que a reportagem da ProPublica descobriu estar repleta de falhas de cibersegurança
Renee Dudley da ProPublica publicou uma investigação a 6 de abril argumentando que, à medida que o governo Trump incentiva agências federais a adotar rapidamente IA de grandes empresas tecnológicas, está a repetir os padrões que atormentaram a transição de Washington para a computação nuvem, onde a velocidade prevaleceu sobre a segurança, a supervisão foi desfinanciada e o governo acabou por se tornar profundamente dependente de contratantes sobre os quais tinha pouca influência.
A Casa Branca posicionou a IA como um imperativo de competitividade nacional. As agências podem agora aceder ao ChatGPT da OpenAI por $1, ao Gemini da Google por 47 cêntimos por utilizador e ao Grok da xAI por 42 cêntimos. O enquadramento, escreve Dudley, espelha de perto a linguagem usada quando o governo Obama declarou a computação nuvem uma prioridade transformacional no início da década de 2010.
Primeira lição: não existe almoços grátis. A investigação da ProPublica descobriu que o compromisso da Microsoft em 2021 de dar ao governo federal $150 milhões em serviços de segurança era, na prática, um mecanismo de aprisionamento. Depois de as agências adotarem as atualizações gratuitas, mudar para um concorrente teria sido dispendioso e disruptivo. "Foi bem-sucedido para além do que qualquer um de nós poderia ter imaginado", disse um ex-vendedor da Microsoft à ProPublica. Como o crypto.news reportou, a Microsoft e a OpenAI desde então entraram em conflito sobre os termos da sua própria parceria de IA, um sinal de quão complexos podem ser os contratos de IA das grandes empresas tecnológicas mesmo entre as partes envolvidas.
Segunda lição: programas de supervisão requerem recursos reais. O Programa Federal de Gestão de Riscos e Autorização, conhecido como FedRAMP, foi criado em 2011 para verificar serviços de computação nuvem antes de as agências federais poderem usá-los. A ProPublica descobriu que a agência desgastou o FedRAMP ao longo de cinco anos para obter aprovação para um produto de nuvem importante apesar de sérias reservas de cibersegurança. Isso foi antes do DOGE. O FedRAMP agora diz que opera "com um mínimo absoluto de pessoal de suporte" e "serviço ao cliente limitado". Um porta-voz da GSA defendeu o programa, dizendo que "opera com mecanismos de supervisão e responsabilização reforçados", mas ex-funcionários disseram à ProPublica que funciona como um carimbo de borracha.
Terceira lição: avaliações independentes são apenas parcialmente independentes. À medida que a capacidade interna do FedRAMP encolheu, empresas de auditoria de terceiros assumiram mais da função de verificação. Essas empresas são pagas pelas mesmas empresas de nuvem que estão a avaliar. As agências, frequentemente com falta de pessoal, carecem da capacidade de conduzir as suas próprias análises completas e dependem amplamente dessas avaliações. Como o crypto.news notou, a preocupação mais ampla entre observadores é que os governos são consistentemente mais lentos a governar tecnologia transformadora do que as empresas que a implementam.
Um Padrão que a Casa Branca Não Abordou
A GSA reconheceu que os "custos de utilização de IA podem crescer rapidamente sem monitorização adequada e controlos de gestão" e aconselhou as agências a estabelecer limites de utilização e rever relatórios de consumo. Mas os problemas estruturais subjacentes permanecem: organismos de supervisão subfinanciados, avaliações dependentes de fornecedores e agências com pouca influência uma vez que a adoção se torne enraizada.
A conclusão de Dudley é direta: "As implicações desta redução para a cibersegurança federal são de grande alcance" à medida que as agências adotam ferramentas de IA que processam dados governamentais sensíveis sob o mesmo quadro de supervisão enfraquecido que lutou para gerir a nuvem.
Fonte: https://crypto.news/three-times-the-us-government-already-failed-at-tech/
