Um grupo significativo de líderes do setor de tecnologia está propondo uma diminuição no ritmo de desenvolvimento de modelos de inteligência artificial (IA) em todo o mundo. Executivos e pesquisadores expressam preocupações crescentes sobre o uso indevido dessas tecnologias, que já têm aplicação em áreas como fraudes e desenvolvimento de armas biológicas.
Entre aqueles que defendem a necessidade de uma pausa nas pesquisas estão Dario Amodei, da Anthropic (responsável pelo modelo Claude), Sam Altman, da OpenAI (criadora do ChatGPT), e o bilionário Elon Musk, envolvido em empresas como xAI, Tesla e SpaceX.
Artigo provoca discussão
A discussão sobre a necessidade de frear o avanço da IA ganhou impulso após a publicação de um artigo por Amodei, que foi divulgado na plataforma X, de Musk. O texto foi compartilhado após a Anthropic lançar um relatório detalhando como modelos da família Claude estão sendo utilizados em operações cibernéticas, vigilância e até na criação de armamentos.
Sam Altman comentou na mesma plataforma: “Concordo com Dario”, acrescentando que a OpenAI irá adotar sugestões feitas para aumentar a segurança no desenvolvimento de modelos de IA. Musk também endossou a opinião de Amodei, afirmando: “Dario está certo”.
Proposta de controle em três etapas
No artigo, Amodei não pede a interrupção do treinamento de sistemas de IA, mas sugere que as empresas reservem mais tempo para alinhar e proteger seus novos modelos. Ele enfatiza a importância de avaliações externas para esses processos.
“Minha principal preocupação é que, desde meados deste ano, a IA tem avançado a um ritmo drasticamente mais rápido, impulsionada pela capacidade de desenvolver a próxima geração de IA. Se não for controlada, poderá exceder nossa capacidade de compreensão, exigindo extrema cautela — se é que esse desenvolvimento deve ocorrer”, alertou Amodei.
O CEO da Anthropic propôs uma estrutura de controle em três etapas para regulamentar a velocidade do desenvolvimento de modelos. A primeira fase envolve a criação de grupos de avaliadores externos permanentes, com acesso semelhante ao de funcionários das empresas de IA, para verificar práticas de segurança, investigar incidentes e analisar não apenas os modelos prontos, mas também o processo de treinamento.
A segunda fase requer coordenação entre empresas de IA de países democráticos para estabelecer padrões comuns de segurança e limites para o avanço dos modelos, com a participação de governos nesse processo. A terceira fase abrangeria uma coordenação internacional, especialmente entre Estados Unidos e China, reconhecendo que essa etapa seria a mais desafiadora devido à disputa geopolítica em torno da inteligência artificial.
Amodei também defende a discussão sobre limites para alguns recursos utilizados na construção dos modelos, como capacidade computacional, tipos de treinamento e o uso de IA para desenvolver novas IAs.