São signatárias do acordo a Amazon, Anthropic, Alphabet (Google), Inflection, Meta, Microsoft e a OpenAI
As principais empresas de inteligência artificial (IA) nos Estados Unidos concordaram voluntariamente em implementar salvaguardas para o desenvolvimento dessa nova tecnologia. O acordo foi anunciado pelo governo norte-americano nesta sexta-feira (21), após coordenar as negociações para formalizar o compromisso das empresas em adotar novos padrões de segurança, proteção e confiança em suas ferramentas de IA.
Amazon, Anthropic, Alphabet (Google), Inflection, Meta, Microsoft e OpenAI são as empresas signatárias desse acordo pioneiro. De acordo com a Casa Branca, essas empresas se comprometeram a garantir a segurança de seus produtos antes de disponibilizá-los ao público. O governo dos EUA enfatizou em seu comunicado que, se a IA for gerenciada adequadamente, poderá trazer grandes benefícios para a prosperidade, igualdade e segurança de todos.
Embora a evolução tecnológica na área da inteligência artificial tenha sido impressionante, surgiram preocupações sobre a disseminação de desinformação à medida que os computadores “autoconscientes” se desenvolvem. Portanto, as salvaguardas voluntárias são consideradas apenas um primeiro passo, pois a Casa Branca e outros governos ao redor do mundo buscam estabelecer marcos regulatórios e legais para o desenvolvimento responsável da IA.
No âmbito do acordo anunciado, as empresas se comprometeram a permitir que especialistas em segurança independentes testem seus sistemas antes de lançá-los e a desenvolver ferramentas para identificar e reduzir a disseminação de desinformação por meio da IA, por exemplo, por meio de marcas d’água nos conteúdos gerados.
A segurança cibernética e a proteção dos dados dos usuários também foram abordadas no pacto, com as empresas concordando em investir em medidas de segurança e compartilhar informações com o governo e acadêmicos. Além disso, elas se comprometeram a facilitar auditorias externas para aperfeiçoar seus produtos e identificar possíveis vulnerabilidades.
Transparência também é um elemento-chave no acordo, com as empresas concordando em relatar publicamente falhas e riscos em suas tecnologias, incluindo questões relacionadas à justiça e preconceito.
Algumas das signatárias já haviam assumido compromissos similares antes do acordo da Casa Branca. Por exemplo, a OpenAI submeteu seu sistema GPT-4 a testes por profissionais externos antes de lançá-lo amplamente. O Google também mencionou que está desenvolvendo uma marca d’água para lidar com as preocupações sobre desinformação.
Apesar de serem considerados passos importantes para enfrentar os riscos da IA, os compromissos voluntários representam apenas uma solução imediata. A longo prazo, ainda será necessário que o Congresso dos EUA aprove leis específicas para regulamentar essa tecnologia. Algumas vozes defendem que mais ações devem ser tomadas para responsabilizar as empresas e garantir o desenvolvimento ético da IA. O líder da maioria no Senado, Chuck Schumer, já anunciou sua intenção de apresentar legislação para regulamentar a IA.
Para o presidente de assuntos globais da Meta, Nick Clegg, o acordo é um marco importante para estabelecer limites e servir como exemplo para outros governos seguirem.
Fonte: InfoMoney