Agora lendo: Anthropic apresenta FlashProve para auditar IA com criptografia usada no Ethereum
-
01
Anthropic apresenta FlashProve para auditar IA com criptografia usada no Ethereum
Anthropic apresenta FlashProve para auditar IA com criptografia usada no Ethereum
A Anthropic, criadora do Claude, apresentou na segunda-feira, 2 de novembro, um estudo sobre o FlashProve, sistema de código aberto que permite comprovar se uma resposta de inteligência artificial foi produzida pelo modelo contratado. A ferramenta utiliza provas de conhecimento zero, chamadas zkSNARKs, tecnologia criptográfica também empregada em redes de segunda camada do Ethereum, como Starknet e Mantle.
A proposta é permitir essa conferência sem expor os segredos industriais do modelo. Para quem contrata um serviço de inteligência artificial, o estudo aponta um problema concreto: o usuário comum não consegue saber se o fornecedor substituiu, sem avisar, um modelo caro por outro mais barato para reduzir custos.
A pesquisa foi conduzida pela Frontier Red Team, equipe da Anthropic, com especialistas do Instituto de Tecnologia de Massachusetts (MIT), da Escola Politécnica Federal de Lausanne (EPFL) e das empresas de infraestrutura blockchain StarkWare e Succinct. Os autores são Roy Rinberg, Alex Allain, Alessandro Chiesa, Miranda Christ, Rahul Dalal, Giacomo Fenzi, Ben Mayer e Guy Weissenberg.
Testes mostram provas menores e verificação em 17 segundos
Os testes utilizaram o Llama 4 Maverick, modelo aberto da Meta com 400 bilhões de parâmetros, organizado no formato de mistura de especialistas, ou MoE. Com uma única placa gráfica Nvidia H100, o FlashProve gerou provas à velocidade de 110 tokens por segundo.
A comparação com o sistema anterior VerInf mostra diferenças tanto na geração quanto na conferência das provas. Para comprovar mil tokens do mesmo modelo, o VerInf precisava de 14,3 horas e produzia um arquivo de 93,6 gigabytes, cuja verificação levava quase um dia.
No FlashProve, cada janela de 1.024 tokens gera um certificado de 18,78 megabytes. A conferência desse certificado leva 17 segundos em um processador comum de computador.
Ainda assim, produzir as provas exige processamento adicional. A estrutura demanda de 70 a 95 vezes o tempo necessário para gerar apenas a resposta no motor vLLM. O relatório compara esse desempenho ao de sistemas anteriores: o ZKML de 2023 consumia 159 segundos por token no GPT-2, enquanto a solução da Modulus Labs levava mais de 90 horas para o GPT-2 XL.
Como funciona a comprovação criptográfica
Segundo a Frontier Red Team, o mecanismo central é um zkSNARK do mesmo tipo empregado em sistemas ponto a ponto, incluindo redes de segunda camada, ou L2, como Starknet e Mantle, utilizadas com blockchains como o Ethereum.
A equipe explica que a construção segue uma receita estabelecida: uma estrutura teórica chamada prova de oráculo interativo, ou IOP, é transformada em uma prova criptográfica por meio de funções hash. Os pesquisadores afirmam que essa construção também oferece segurança pós-quântica.
O processamento foi dividido em duas etapas para funcionar em uma única H100 com 80 gigabytes, apoiada por 290 gigabytes de memória comum do servidor:
- Fase desconectada: dura aproximadamente 39 minutos e atende a 16 milhões de consultas. Nela, o provedor publica uma impressão digital criptográfica de 6,5 megabytes referente aos pesos do modelo.
- Fase ativa: o servidor processa lotes de 24 pedidos em 223 segundos. O trabalho é proporcional apenas aos 17 bilhões de parâmetros ativados por token, e não ao conjunto de 400 bilhões de parâmetros do modelo.
O certificado é anexado à resposta depois do processamento, procedimento denominado post-hoc. De acordo com o estudo, essa comprovação matemática bloqueia fraudes envolvendo a identidade do modelo ou alterações no fluxo de palavras para injetar códigos maliciosos. Também enfrenta o risco de uma inteligência artificial avançada se passar por um sistema mais fraco para escapar dos mecanismos de monitoramento.
Claude participou das melhorias e da especificação
O relatório técnico, disponibilizado sob a licença aberta Apache 2.0, informa que o próprio Claude ajudou a desenvolver melhorias matemáticas do protocolo. O trabalho combinou testes de proximidade de código com restrições lineares e argumentos de busca.
Como decisões tomadas pela inteligência artificial em sistemas complexos podem ser difíceis de avaliar, os pesquisadores recorreram à linguagem de verificação formal Lean para tratar esse problema de confiança.
O conjunto disponibilizado ao público reúne o relatório técnico, a especificação escrita pelo Claude, um visualizador interativo de teoremas e o código responsável por produzir as provas. Inclui ainda dois verificadores: uma versão rápida em C++, destinada ao uso cotidiano, e outra comprovada matematicamente em Lean.
Possíveis usos na fiscalização e em contratos empresariais
Na área regulatória, o estudo apresenta a possibilidade de governos exigirem recibos criptográficos para fiscalizar a atividade dos centros de dados. O objetivo seria verificar se a estrutura está atendendo clientes, em vez de treinar clandestinamente novas versões de modelos, e garantir que apenas sistemas aprovados em testes de segurança estejam em operação.
Outro recurso apresentado é a Prova de Falha, ou Proof-of-Failure. Por esse mecanismo, uma desenvolvedora consegue demonstrar a clientes corporativos que utilizou ao menos um milhão de tokens de um modelo de ponta na busca por falhas em um código, sem encontrar nenhuma brecha.
Mais notícias sobre Criptomoedas
Solana perde força: queda na atividade e fuga de traders ameaçam suporte de US$ 78
Datafolha: 29 milhões de brasileiros já investiram em criptomoedasFerramentas úteis para investidores
Use as ferramentas gratuitas do Trader Iniciante para simular investimentos, acompanhar o Tesouro Direto e consultar resultados atualizados.
