blog

Aug 19, 2023

Biden

Tecnologia Para a administração Biden, uma questão paira sobre o maior desenvolvimento tecnológico dos últimos anos: Qual é o tamanho da ameaça à segurança? Enquanto o Congresso luta para definir quais novas leis serão aprovadas sobre IA,

Tecnologia

Para a administração Biden, uma questão paira sobre o maior desenvolvimento tecnológico dos últimos anos: qual é o tamanho da ameaça à segurança?

Enquanto o Congresso se esforça para definir quais as novas leis a aprovar sobre a IA, e as agências federais flexibilizam as suas autoridades existentes sobre uma tecnologia emergente, a Casa Branca de Biden emergiu como o interveniente mais activo na política de IA. | Olivier Douliery/AFP/Getty Images

Por Mohar Chatterjee

10/08/2023 16h45 EDT

Atualizado: 11/08/2023 08:24 EDT

Link copiado

Na sexta-feira, em hotéis de Las Vegas, alguns dos sistemas de inteligência artificial mais poderosos do mundo serão atacados simultaneamente por um pequeno exército de hackers que tentam encontrar as suas falhas ocultas.

A Casa Branca não só está consciente do ataque público como também o endossa.

Em maio, a administração Biden deu o seu apoio a um ataque de teste deliberado e coordenado aos sistemas de IA, denominado red-teaming, que decorrerá durante três dias numa convenção anual de hackers este fim de semana. Várias empresas líderes de IA, incluindo OpenAI, Google e Meta, concordaram em ter alguns dos seus mais recentes e poderosos sistemas de IA atacados para o exercício.

O ataque hacker destaca o que se tornou uma das principais preocupações da Casa Branca sobre os novos modelos de IA poderosos e em rápido crescimento: até que ponto eles realmente são seguros e se podem representar uma ameaça aos cidadãos americanos ou à segurança nacional no mundo estágio.

“Nosso enquadramento – e isso vem do presidente – é que, para aproveitar as oportunidades da IA, primeiro precisamos gerenciar os riscos também”, disse Alan Mislove, funcionário sênior do Escritório de Política Científica e Tecnológica da Casa Branca, que ajudou os organizadores do desafio de hacking a desenvolver os exercícios de red teaming deste fim de semana. “Para coisas como grandes modelos linguísticos, esses riscos são bastante amplos, em muitos casos podem ser menos claros do que outros sistemas” e “abrangem a nossa sociedade, a nossa economia, a segurança nacional”, disse ele.

Enquanto o Congresso se esforça para definir quais as novas leis a aprovar sobre a IA, e as agências federais flexibilizam as suas autoridades existentes sobre uma tecnologia emergente, a Casa Branca de Biden emergiu como o interveniente mais activo na política de IA. Ela elaborou uma estrutura da Declaração de Direitos da IA, convocou CEOs de tecnologia e realizou uma série de conferências de imprensa sobre a ampla gama de ameaças e oportunidades apresentadas pela tecnologia.

Embora estas ameaças abranjam toda a sociedade, desde a perda de emprego à discriminação e à desinformação, muitas das medidas mais tangíveis da Casa Branca centraram-se na questão da segurança. O seu novo conselheiro especial para IA, Ben Buchanan, tem mais formação em segurança nacional do que técnica. Quando a Casa Branca convocou os líderes da IA ​​para anunciar um conjunto de compromissos voluntários no mês passado, a “segurança” estava no topo da lista, e a segurança desempenhou um papel fundamental no documento.

A elevada prioridade dada à segurança reflecte a ansiedade - entre especialistas, reguladores e a própria indústria - de que os novos e complexos sistemas de IA apresentem uma série de novas questões não totalmente compreendidas, desde o seu potencial para serem pirateados e mal orientados por um adversário, até à ideia de que eles poderiam expor os dados do usuário a usos mais obscuros, como a construção de armas biológicas.

“É possível fazer com que esses modelos façam coisas que seus projetistas e fornecedores não prevêem ou não querem que sejam capazes de fazer. Então, sim, acho que existem considerações reais de segurança”, disse Arati Prabhakar, diretor do Escritório de Política Científica e Tecnológica da Casa Branca.

A IA também pode ser uma ferramenta para melhorar a segurança: esta semana, o Pentágono anunciou um desafio de dois anos para os desenvolvedores usarem a IA para fortalecer a segurança cibernética crítica dos EUA.

Para o desafio da equipe vermelha deste fim de semana, a Casa Branca fez parceria com a AI Village na DEF CON, uma convenção anual onde os organizadores organizam jogos de guerra de hackers e profissionais de segurança cibernética revelam as últimas lacunas em tecnologias onipresentes. Agências governamentais como o Pentágono já recorreram à comunidade hacker para encontrar vulnerabilidades de segurança cibernética: num desafio de hackers da DEF CON no ano passado, um participante encontrou uma falha incapacitante na microrrede elétrica do exército depois de lhe fornecer dados meteorológicos falsos.