opAI sem verificação está começando a parecer muito com sites antes do HTTPS.

Não está quebrado. Não está inutilizável. Só está faltando algo que as pessoas, eventualmente, pararam de aceitar.

Eu estava olhando recentemente o OpenGradient e um número ficou puxando minha atenção de volta: 156,461 inferências privadas processadas em um único mês. O volume em si não era a parte mais interessante. Era a pergunta que vinha depois.

Quantas dessas saídas alguém poderia verificar de forma independente?
Fiquei pensando em como nós atualmente interagimos com a maioria dos sistemas de IA. Recebemos uma resposta, talvez uma pontuação de confiança, talvez uma fonte se tivermos sorte. Então decidimos se confiamos nela. Grande parte dessa confiança ainda vem da reputação, mais do que de prova.

Isso parece algo temporário.

Quanto mais eu usei sistemas que mostram evidências sobre o que aconteceu durante a inferência, mais estranho o modelo antigo começou a parecer. Não porque cada resultado de repente ficou perfeito. Algumas respostas ainda eram medianas. Algumas provavelmente estavam erradas.
A diferença era a visibilidade.

Alguns anos atrás, um site pedindo informações pessoais sem HTTPS parecia normal. Depois passou a ser um sinal de alerta. Os navegadores ensinaram todo mundo a notar a ausência de verificação.

Suspeito que a IA vai seguir um caminho semelhante.

Não este ano. Talvez não no próximo.

Mas até 2030, obter um resultado importante gerado por IA sem nenhuma forma de verificar de onde veio, como foi produzido, ou se foi alterado pode parecer estranhamente ultrapassado.

A parte que ainda não tenho certeza é se os usuários vão exigir essa mudança primeiro, ou se a infraestrutura chega lá antes de alguém começar a pedir.

@OpenGradient $OPG #OPG

Até 2030, o que vai importar mais ao avaliar uma resposta de IA?