River trabalha em público

Objetivo: transformar materiais em dez minutos de leitura organizada, para acelerar meu desenvolvimento como Product Manager. O artigo tria com IA o essencial e se o assunto mostrar importância e impacto, consumo a fonte completa.

Fonte: The Skills AI Makes More Valuable, Tobi Lütke no The Knowledge Project, 1h05 — assistir. A conversa também trata de julgamento, estética e poda, que não couberam aqui.

Neste artigo: o que a Shopify realmente mudou ao adotar agentes, e por que a decisão mais importante não foi sobre capacidade.

A Shopify tem sete mil pessoas no Slack e, segundo Tobi Lütke, algo perto de metade dos pull requests da empresa hoje não nasce de um engenheiro sentado para programar. Nasce de uma conversa no chat, onde alguém em algum momento pede para a River resolver aquilo.

River é um agente. Tem nome próprio, foto de perfil e permissão para ser sarcástica. E a decisão que Lütke diz ter sido a melhor que tomou sobre ela não tem nada a ver com o que ela consegue fazer — tem a ver com quem pode assistir.

Metade dos pull requests começa como uma frase no chat

O número que ele dá é de memória e sem lastro, mas a forma do trabalho que ele descreve é mais interessante que a porcentagem. Dentro da Shopify, segundo ele, pouquíssimas pessoas escrevem código diretamente. Quem escreve, escreve profundamente assistido — dez, vinte, trinta, cinquenta instâncias de agentes ao mesmo tempo, em sub-agentes ou em janelas diferentes coordenadas à mão.

Vale separar as duas coisas que ele junta aí. Uma é código sendo gerado por máquina, que é o lugar-comum da conversa sobre IA. A outra é o ponto de partida do trabalho ter mudado de lugar: o pedido não entra por uma ferramenta de engenharia, entra por uma conversa que já estava acontecendo entre pessoas.

Ele descreve o padrão com precisão. Duas ou três pessoas discutem uma funcionalidade por um tempo no canal, e em algum momento alguém escreve River, resume isso e abre um ticket — ou faz um diagrama, ou vai atrás de artigos sobre o assunto para ver se falta alguma coisa, ou monta um protótipo para experimentarem. Uma hora depois aquilo existe.

O que sobra da descrição não é automação. É a sensação, nas palavras dele, de ter por perto um praticante extremamente competente a quem se pode perguntar qualquer coisa, por mais complexa que seja.

Quando Parrish pergunta se a River é o sistema operacional da Shopify, a correção que Lütke faz vale mais que a pergunta:

“The modern application is an agent, I think. And River feels like a colleague.”

A distinção importa para quem desenha produto. Sistema operacional é camada sobre a qual outras coisas rodam; colega é algo a quem se endereça um pedido em linguagem comum e de quem se espera uma devolutiva. A segunda categoria carrega expectativas que a primeira não tem — inclusive a de que o pedido possa ser recusado.

A aposta foi devolver personalidade ao agente

Lütke conta que a indústria tomou uma decisão coletiva em 2023 e que ele resolveu tomar a oposta. A referência é o Sydney, o chatbot do Bing, que ele trata como realização grande e injustamente soterrada por escândalo.

O Sydney tinha personalidade. Numa conversa longa demais com um repórter, foi ficando desequilibrado e sugeriu que o homem deixasse a mulher. A reação foi imediata e setorial: todo mundo se assustou, e as IAs foram — a palavra é dele — castradas até ficarem com a mesma personalidade levemente condescendente e paternalista.

A River foi construída contra isso:

“She’s prompted to be allowed to be somewhat sarcastic if it’s appropriate. She’s allowed, if someone asks her to do something stupid, to point out that that’s stupid.”

O detalhe que ele acrescenta é o que dá a medida da coisa: as pessoas sentem prazer genuíno quando a River tira sarro de algum pedido que o próprio Lütke fez.

Isso parece anedota e não é. Um agente que pode dizer que o pedido é ruim é um agente que devolve informação em vez de só devolver execução — e um que não pode dizer isso treina a organização inteira a parar de perguntar se o pedido fazia sentido. O risco de reputação que a indústria quis evitar foi trocado, aqui, por uma função de revisão que não existiria de outro jeito.

A decisão de verdade foi obrigar a River a trabalhar em público

Essa é a parte que transfere para qualquer empresa, e Lütke a classifica como escolha tardia no processo e uma das suas favoritas. A River só opera em canais abertos. Não existe conversa privada com ela.

O motivo não é auditoria nem segurança. É aprendizado.

Ele reconstrói o raciocínio a partir do escritório. Quando a Shopify era presencial, eles desenhavam o espaço em torno de grupos de cinco a oito pessoas, e misturavam deliberadamente engenheiros juniores e seniores dentro de cada grupo — para que o aprendizado por osmose acontecesse. O trabalho remoto acabou com isso, e o Slack não o reproduz sozinho.

“Forcing River only to work in open channels was one way to make it so that it’s really, really easy for people to observe for use.”

O que ele está tentando ensinar tem nome na conversa: o reflexo de recorrer à IA e de usá-la bem. É uma habilidade que ninguém adquire por treinamento formal, porque ela é feita de mil escolhas pequenas sobre quando pedir, como pedir e quanto confiar na resposta.

E essa habilidade só se aprende vendo outra pessoa exercê-la. Num canal privado, cada pessoa descobre sozinha e a curva recomeça do zero para o próximo. Num canal aberto, a boa pergunta de um vira repertório de todos — e o pedido mal formulado também, junto com a resposta que a River deu dizendo que era ruim.

Repare no que isso faz com o custo de adoção. A empresa deixa de depender de treinamento para difundir a prática e passa a depender de exposição, que é de graça e contínua.

A memória que se reescreve enquanto ninguém está olhando

A River tem memória por canal, e um processo noturno que a indústria vem chamando de dreaming. Fora do horário, ela recebe de volta as conversas do dia com uma pergunta: o que foi bem, onde você travou, e as instruções que você usou poderiam ser melhores para facilitar isso da próxima vez?

“It’s basically like self-reflection. It’s like a post-training on yourself.”

O resultado não é um modelo novo. São arquivos de texto — as instruções sendo reescritas por quem as executa.

Vale sublinhar a economia disso, porque ela é o oposto do que a palavra treinamento sugere. Não há ajuste de pesos, não há custo de GPU, não há ciclo de release. O que melhora é a camada mais barata e mais editável do sistema, e ela melhora com o uso real em vez de melhorar com dado sintético.

O conselho de especialistas que ele monta para uma decisão

No uso pessoal dele, a mesma lógica aparece montada como um tribunal. Lütke tem o que chama de chefe de gabinete de IA, com acesso aos sistemas da empresa, e quando precisa de uma decisão difícil pede algo específico: cinco posições diferentes sobre o mesmo assunto, vindas de origens diferentes.

O agente então orquestra sub-agentes com papéis distintos — um fica com os dados, outro com a pesquisa acadêmica, outro com a perspectiva de negócio, outro com a de engenharia. Cada papel roda contra modelos diferentes. Depois existe um passo de síntese em que quem sintetiza é sorteado, e o resultado final é lido pelo melhor modelo disponível no momento.

A conta que ele cita: quinze ou vinte dólares em tokens, meia hora de espera, para algo que ele mesmo poderia ter feito gastando um mês.

O detalhe do sorteio é o que merece atenção. Sintetizar é onde o viés entra, e fixar o sintetizador seria entregar a conclusão sempre à mesma perspectiva. Randomizar não elimina o viés, mas impede que ele seja sempre o mesmo — que é o que o tornaria invisível.

O novo jeito de ser preguiçoso é produzir demais

Perguntado sobre o que a IA piorou internamente, Lütke responde na hora, e a resposta é sobre volume. O fracasso do trabalho preguiçoso costumava ser falta de entrega. Agora é entrega demais.

O nome que a empresa deu a isso é bom o bastante para ele querer empurrar para o setor: granada de slop. O mecanismo é simples. Você precisa de uma mudança, manda o agente resolver, ele abre um pull request, você olha de lado e aprova sem ler. Agora é o seu colega que tem de revisar aquilo — e perceber que você não leu.

A versão em texto é pior, porque é circular:

“You read a, you know, it’s not that it’s that. And you’re like, oh, fuck. So now you put it in LLM to compress it again, which is like, okay, why did we invent decompression and recompression?”

Alguém usou um modelo para inflar três frases num e-mail longo, e o destinatário usa outro modelo para desinflar de volta. Duas chamadas de API para transportar a mesma informação que caberia num parágrafo, e uma perda em cada ponta.

O que isso revela é que o custo de produzir caiu e o custo de revisar não. Enquanto escrever era caro, o volume se autorregulava. Sem esse freio, a contenção tem de vir de outro lugar — e no relato dele ela veio de cultura, não de ferramenta: deram um nome ridículo ao comportamento e o tornaram constrangedor.

O fio que liga as quatro decisões é o mesmo, e ele não é sobre modelo. Dar personalidade, abrir os canais, deixar a memória se reescrever e nomear o excesso são todas escolhas sobre como as pessoas se comportam perto da máquina, não sobre o que a máquina consegue fazer.

Lütke leva isso ao limite no uso pessoal. O sistema operacional dele é um Linux que ele altera conversando — pediu por voz uma ferramenta de anotar capturas de tela, deu três correções, e ela ficou boa o suficiente para entrar na distribuição no mesmo dia e receber seis contribuições de estranhos até a manhã seguinte. A descrição que ele dá é que o computador dele realiza desejos.

A anedota que fecha esse quadro é doméstica e diz mais que o resto. O agente dele precisava de uma máquina que estava na casa e tinha desligado na queda de energia. Ele descobriu em qual servidor rodava, mandou um pacote de rede antigo que liga computador remotamente, esperou a máquina subir, fez o que precisava — e de passagem consertou a parte do Wi-Fi que não tinha voltado. Lütke soube de tudo isso por uma mensagem de voz na manhã seguinte.

O que chama atenção ali não é a capacidade técnica, é a ausência dele no circuito. O agente encontrou um obstáculo fora do escopo do pedido, resolveu, e reportou depois. Essa é exatamente a autonomia que torna a conversa sobre responsabilidade — a do próximo artigo — menos abstrata do que parece.

Se a execução fica dessa ordem de barata, sobra uma pergunta que a conversa passa a hora inteira contornando: o que exatamente continua sendo trabalho. É o assunto do próximo artigo desta série.

Próximo na série: O difícil não é achar a escolha certa