Nos últimos dias, uma imagem tem pairado na minha cabeça.

Um robô doméstico, que vem com um travesseiro de fábrica.

Muito gentil, muito atencioso.

Mas de repente eu sinto que o que realmente decide se ele pode ou não entrar na sua vida não é o travesseiro.

É quando ele toma decisões por você que você tem o direito de perguntar: com que base você fez isso?

Então, quando vi novamente aquela frase: À medida que os agentes começam a lidar com dinheiro, logística e infraestrutura, “confie em mim” deixa de funcionar.

Eu pela primeira vez não o considerei como um slogan.

Mas como um aviso muito realista.

Não é que as pessoas se tornem más, mas sim que uma vez que o sistema não possa ser verificado, está destinado a não ser confiável.

1. Eles não estão fazendo uma IA que fala melhor, mas uma IA que pode apresentar recibos.

Eu entendo o Inference Labs, na verdade, resta apenas uma frase:

Não se trata de tornar o modelo mais inteligente, mas de permitir que a conclusão seja mais questionada.

Não somos nós que garantimos que está correto,

Mas você tira essa prova,

Não precisa acreditar em mim, posso verificar por conta própria.

Eles falam repetidamente sobre inferência verificável,

Na minha mente, traduzido em quatro palavras: conclusão com base.

2. A engenharia é a parte mais fácil de ser transformada em slogans, na verdade, é muito sólida, o que eles estão fazendo é mais como dar uma base à IA.

Na linha DSperse, o que eles estão fazendo, em resumo, não é romântico.

Desmontar grandes modelos.

Fatiamento.

Compilando pouco a pouco em circuitos de conhecimento zero.

Parece monótono, até um pouco bobo.

Mas eu estou cada vez mais convencido de que essa é exatamente a aparência que a infraestrutura deve ter.

A interface, por mais suave que seja, é apenas uma camada de experiência; o processo de raciocínio que pode ser auditado e revisado é a verdadeira camada de segurança.

3. O que eu mais gosto no IL: eles reconhecem que o mundo muda, o TruthTensor traz a deriva para a mesa.

A maioria das avaliações assume que o mundo é estático.

Entrada fixa, distribuição estável.

mas a realidade não é assim.

O que realmente me deixou alerta sobre o TruthTensor é que o mesmo modelo, o mesmo prompt, os mesmos dados, parece muito conforme em um curto período, mas, ao longo do tempo, começará a se desviar das restrições originais.

Não é que errou de repente.

Mas sim, está à deriva.

Isso é muito cruel.

É bastante honesto também.

Você não reconhece um mundo dinâmico,

Então não se pode falar em um sistema confiável.

4. Falando sobre resultados, vamos falar sobre o que pode ser verificado, eu prefiro considerar isso como o estado do local.

Eu acabei de olhar novamente o painel no site oficial. Até o estado da página que vejo neste momento:

- Total de provas acumuladas: 272M

- Mineradores participantes: 1402

- Taxa de sucesso da verificação: cerca de 70%

Por que estou disposto a citar esses números?

Não é porque são grandes, mas porque não são slogans, são rastros de operação que você pode verificar a qualquer momento.

Elas parecem mais como sistemas respirando, não como pôsteres.

5. Os limites do IL também devem ser vistos, não escrever sobre riscos é o mais irresponsável.

Se eu tivesse que dizer algo sobre essa direção, eu definitivamente escreveria esses três pontos:

Primeiro, a dependência de caminho é um problema real.

Uma vez que a infraestrutura esteja vinculada a certas ecologias ou estruturas de computação, as mudanças externas serão amplificadas.

Em segundo lugar, o custo e a demora da prova não desaparecerão com slogans.

Este é um projeto de longo prazo, não um milagre de curto prazo.

Terceiro, a IA verificável está em seus primórdios.

Naturalmente desagradável, difícil de falar, difícil de entender, difícil de disseminar.

mas eu respeito mais essa fase, porque a verdadeira base não deveria depender de emoções.

6. Eu só quero deixar uma pergunta para todos que estão prontos para colocar a IA na realidade.

Quando seu agente realmente começa a lidar com dinheiro, fechaduras de portas, logística e infraestrutura, você espera que ele diga: "Confie em mim."

Ainda é "Esta é a prova da decisão que tomei agora, você pode verificar por conta própria."

Qual você escolheria?

@inference_labs

#InferenceLabs #VerifiableAI #zkML