A Tencent publicou nesta sexta-feira, 28 de agosto, o Hy4 preview, novo modelo de linguagem aberto voltado a engenharia de software, pesquisa, análise financeira e tarefas de produtividade. Os pesos estão disponíveis no Hugging Face sob licença Apache 2.0.
A versão é apresentada como uma prévia e exige infraestrutura de grande porte. A empresa reconhece que o sistema ainda pode prolongar o raciocínio além do necessário e verificar excessivamente algumas respostas.
Arquitetura ativa uma parte dos parâmetros
O Hy4 preview usa uma arquitetura de mistura de especialistas com 770 bilhões de parâmetros no núcleo, mas ativa cerca de 49 bilhões por token. O modelo tem 78 camadas, 256 especialistas roteados e um especialista compartilhado.
O contexto chega a 1 milhão de tokens. Uma camada adicional de previsão, com 10 bilhões de parâmetros totais e 700 milhões ativos, é usada para decodificação especulativa e busca acelerar a geração.
Foco está em trabalho técnico
A Tencent afirma ter criado dados de treinamento com participação de engenheiros de software, desenvolvedores de jogos, analistas financeiros e especialistas em segurança da própria companhia. O objetivo é melhorar planejamento, depuração e verificação de tarefas longas.
O modelo também foi ajustado para documentos, apresentações, protótipos de jogos e pesquisa científica. As comparações de desempenho publicadas no cartão do modelo são medições do próprio desenvolvedor e ainda precisam de avaliações independentes mais amplas.
Integração chegará a produtos da Tencent
A companhia planeja incorporar o Hy4 preview a ferramentas como CodeBuddy e WorkBuddy. O repositório fornece instruções para execução com Transformers, vLLM e SGLang, além de uma variante quantizada em FP8.
Apesar da licença permissiva, executar um modelo desse tamanho localmente não é prático para computadores comuns. O carregamento completo depende de múltiplas GPUs e de mais de um terabyte de arquivos no repositório principal.
Prévia mantém limitações declaradas
O cartão oficial alerta para respostas excessivamente longas em problemas complexos e para tendência a revisar a própria solução repetidas vezes. Isso reforça que a publicação é uma etapa inicial, não uma versão final.
Usuários que testarem o modelo devem verificar resultados, especialmente em programação, finanças e pesquisa. Código aberto e acesso aos pesos facilitam auditoria e adaptação, mas não eliminam erros ou riscos de uso.
Fontes consultadas
Esta matéria foi produzida pela redação do Geek News a partir das fontes abaixo:
