A repercussão nos últimos dias chegou aos executivos de grandes empresas de IA, que até defenderam uma pausa no avanço das tecnologias para tornar seu desenvolvimento mais seguro. Afinal, quais são os riscos reais da inteligência artificial para a sociedade? Ela realmente pode se revoltar contra os humanos? Para responder a essas e outras dúvidas, o g1 ouviu especialistas em IA, que explicam a seguir quais são os principais riscos. Logo da OpenAI no celular. — Foto: Dado Ruvic/Reuters A IA poderia ter vontade própria ou se revoltar contra os humanos? A IA não tem vontade própria, explica Edney Souza, professor da educação continuada da ESPM e especialista em tecnologia e inovação. Segundo ele, a tecnologia apenas completa padrões estatísticos a partir de textos que já existem. “Tudo que parece comportamento estranho ou mentira é uma ideia emprestada da própria base de treinamento, ou seja, dos dados e informações usados para treinar a tecnologia”, completa o especialista. Para Diogo Cortiz, especialista em IA e professor da PUC-SP, a IA não tem nenhum tipo de consciência e, por isso, não poderia se revoltar contra os humanos. “O que pode acontecer é que esses modelos estão, de fato, ficando cada vez maiores, resolvendo tarefas mais longas e complexas.” Segundo Cortiz, a tecnologia pode tomar alguma decisão que vá contra nossos valores e princípios e, de certa forma, prejudicar a humanidade em determinados níveis de controle. Mas isso seria resultado de um fluxo de processamento, e não porque a IA decidiu conscientemente se revoltar contra nós. Ainda assim, de acordo com Cortiz, as empresas vêm colocando cada vez mais salvaguardas e realizando controles de segurança para evitar problemas desse tipo. A IA poderá ter uma inteligência superior à dos humanos? Em memória, busca de padrões e geração de textos e imagens em escala, a IA já superou o desempenho humano há anos. “Isso já é fato registrado, não hipótese”, enfatiza Edney Souza. “Em tarefa que não depende de emoção, ela vai continuar ficando superior em cada vez mais domínios, e isso é rápido”. “Mesmo que você treine o modelo para levar emoções em consideração, isso não significa que ele passe a sentir. A tecnologia aprende a reconhecer e relacionar palavras ligadas a sentimentos em diferentes contextos”, completa. Para Diogo Cortiz, a definição de inteligência é complexa e não tem uma única resposta. O que se vê hoje é uma tecnologia que evolui rapidamente, capaz de realizar tarefas cada vez mais longas e complexas, processar e combinar dados e escrever código em ritmo muito superior ao humano. O objetivo dos grandes laboratórios de tecnologia é alcançar a AGI (Inteligência Artificial Geral), definida como uma IA com capacidade intelectual igual ou superior à dos humanos, afirma Cortiz. Para ele, esse avanço pode levar a uma tecnologia ou até a uma nova espécie, como alguns chamam, com capacidades superiores às humanas em diversas áreas. A IA poderia sair do controle de seus criadores? Os especialistas dizem que sim, uma IA pode sair do controle de seus criadores, e já há casos desse tipo nos últimos meses. Mas eles reforçam que isso não significa que a tecnologia vá agir como o “Exterminador do Futuro”. “Não é que a IA vai ganhar consciência, passar a ter desejos e prazeres e decidir acabar com a espécie. Os modelos estão maiores e mais complexos e, dentro do próprio processamento, podem não entender muito bem as regras de proteção que colocamos ou seguir por um caminho diferente, ignorando essas medidas de segurança”, explica Diogo Cortiz. “O objetivo de um sistema de IA é dado pelo criador, e ela persegue esse objetivo. O tipo de controle que se perde não é sobre qual objetivo ela busca, mas sobre qual caminho ela percorre para chegar lá”, analisa Edney. A IA poderia ser usada para causar danos em larga escala? Pode, e já é usada para isso. Um dos exemplos mais concretos está na área de defesa: drones autônomos e sistemas de enxame armado já saíram da fase de protótipo e entraram em produção industrial em escala, em uma corrida entre potências militares que já movimenta bilhões de dólares, lembra Edney. “A ONU discute uma convenção para regular armas autônomas letais e ainda não chegou a um consenso, o que significa que a corrida está andando mais rápido que a regra”, diz. Para Cortiz, outro risco está no uso de IAs mais agênticas, especialmente as voltadas para programação. Esses sistemas são capazes de encontrar vulnerabilidades e podem ser usados para explorar falhas em sistemas críticos, como redes de energia elétrica, telecomunicações e sistemas de saúde. “Essa é uma das grandes preocupações. Então, quando a gente fala em danos em larga escala, temos um desafio enorme pela frente”, analisa Cortiz. Sistemas de câmeras usam inteligência artificial e prometem se antecipar a crimes