Quando, em 2019, a OpenAI terminou de treinar um novo modelo de linguagem de grande escala chamado GPT-2, o laboratório de IA (inteligência artificial) inicialmente declarou que ele era perigoso demais para ser lançado. Dario Amodei, então diretor de pesquisa da empresa, insistiu que o mundo precisava de tempo para se preparar.
No fim das contas, o modelo foi lançado ainda naquele ano. Uma sequência de modelos muito mais poderosos foi desenvolvida desde então sem desencadear o Armagedom. No entanto, sete anos depois, Amodei, agora à frente da Anthropic, rival ferrenha da OpenAI, está preocupado novamente.
Na última terça-feira (7), ele declarou que a mais recente adição à família de modelos Claude, batizada de “Mythos”, é poderosa demais para ser amplamente disponibilizada por enquanto. Desta vez, ele pode estar certo.
Segundo a Anthropic, as capacidades do Mythos são “substancialmente superiores às de qualquer modelo que treinamos anteriormente”. O laboratório afirma estar particularmente preocupado com a capacidade do sistema de encontrar vulnerabilidades em softwares e corrigi-las (se configurado para atuar como defensor) ou explorá-las (se agindo como hacker).
Tais afirmações normalmente seriam recebidas com certa desconfiança. A Anthropic construiu o modelo, conduziu os testes e tem a ganhar com a percepção de que seu sistema é muito mais brilhante do que qualquer outro já criado. O laboratório tem estado em alta ultimamente. Na véspera do anúncio do Mythos, afirmou que sua receita anualizada havia alcançado US$ 30 bilhões, contra apenas US$ 9 bilhões no final do ano passado. A empresa certamente está ansiosa para manter esse ritmo.
Ainda assim, há razões para levar a sério os alertas. A primeira é sua gravidade: a Anthropic afirma que o Mythos já encontrou vulnerabilidades severas em “todos os principais sistemas operacionais e navegadores de internet“, incluindo uma que havia passado despercebida por 27 anos.
A segunda é a resposta de outras empresas. Junto aos alertas, a Anthropic anunciou o Projeto Glasswing, uma iniciativa para ajudar empresas a usar o Mythos para reforçar suas defesas cibernéticas antes de ele ser amplamente lançado. A participação de desenvolvedores de software de ponta —incluindo Apple, Linux Foundation e CrowdStrike, além do Google, que compete diretamente com a Anthropic em IA— sugere que a ameaça é real.
A abordagem de Amodei para mitigar riscos é sensata. Se tiverem uma vantagem inicial, as empresas podem usar o Mythos para testar códigos não publicados em busca de falhas e corrigi-las antes do lançamento. Mesmo assim, a Anthropic sai ganhando com o Projeto Glasswing. O laboratório cobrirá os primeiros US$ 100 milhões em custos decorrentes do uso do modelo na iniciativa. Mas, eventualmente, cobrará dos participantes cinco vezes mais para usar o Mythos do que cobra pelo seu antecessor, o Opus.
Esse pode ser um preço que vale a pena pagar. Os rivais da Anthropic certamente desenvolverão modelos com capacidades de hacking semelhantes mais cedo ou mais tarde. Outros laboratórios de fronteira, como OpenAI e Google, têm suas próprias políticas de lançamento. Mas laboratórios de código aberto, particularmente os sediados na China, tendem a ser menos focados em segurança.
Hackers não são os únicos que podem ficar irritados com o projeto. O governo dos Estados Unidos há muito busca explorar fraquezas nas defesas cibernéticas de adversários. Isso significou acumular vulnerabilidades desconhecidas, inclusive em softwares americanos usados no exterior, para usar as brechas em momentos oportunos ao governo. Se o Projeto Glasswing funcionar, ele poderá desarmar muitas das armas cibernéticas americanas.
Isso certamente enfureceria Pete Hegseth, secretário de Defesa dos EUA, que classificou a Anthropic como um risco à cadeia de suprimentos recentemente, após um desentendimento entre a empresa e o Pentágono sobre limites ao uso militar da IA da Anthropic (a designação foi temporariamente bloqueada pela Justiça). Amodei pode continuar sendo uma pedra no sapato dele.
Texto de The Economist, traduzido por Helena Schuster, publicado sob licença. O artigo original, em inglês, pode ser encontrado em www.economist.com
