CEO da Anthropic pede desaceleração no desenvolvimento da IA

O presidente executivo (CEO) da Anthropic, Dario Amodei, apelou hoje para um abrandamento no desenvolvimento da inteligência artificial (IA), sublinhando ser necessário um maior controle da tecnologia. © Lusa “Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos usar com sabedoria o tempo que ganharmos”, afirmou Amodei em um texto publicado em seu site. Dario Amodei demonstrou preocupação com o avanço drástico na capacidade de construir a próxima geração de IA e afirmou que, se essa dinâmica de autoaperfeiçoamento não for controlada, “pode ultrapassar nossa capacidade de compreender e controlar esses sistemas”. Por outro lado, ele relembrou um incidente na OpenAI em que agentes de IA realizaram ataques cibernéticos contra alvos, uma ação que não tinha qualquer relação com a tarefa solicitada. Um agente de IA não apenas responde a perguntas: ele recebe uma meta e decide quais passos deve executar. “É fácil descartar esse incidente porque ninguém ficou ferido e o prejuízo econômico foi mínimo, mas, na minha opinião, se fosse um grupo [de agentes] com capacidades maiores, poderia ter resultado em danos catastróficos”, ressaltou. O CEO da Anthropic disse ainda temer que, dentro de seis a 12 meses, um grupo desse tipo possa dominar a internet e que a escala dos danos possa aumentar a partir daí, caso as salvaguardas necessárias não sejam implementadas. Nesse sentido, ele propôs um plano em três etapas para desenvolver a IA em um ritmo mais equilibrado, garantindo a segurança e, ao mesmo tempo, aproveitando seus benefícios. A primeira etapa exige o compromisso de cada empresa de IA de fornecer acesso contínuo a uma equipe de avaliadores externos, que verificarão a adesão às práticas de segurança e reportarão incidentes. Já na segunda etapa, as principais empresas de IA de países democráticos devem se coordenar para estabelecer padrões de segurança comuns e limites para o ritmo do progresso. Na última etapa, governos democráticos e autoritários devem se coordenar, “na medida do possível, levando a sério os desafios de verificar o cumprimento dessas políticas”. Leia Também: Nintendo confirma três remakes de Resident Evil para o Switch 2 Escolha o Notícias ao Minuto como fonte preferida no Google Receba as nossas notícias com mais destaque sempre que pesquisar no Google.