O Google anunciou nesta segunda-feira (9) o TPU 8i Max e o TPU 8tx, dois novos chips de inteligência artificial (IA) destinados ao aprimoramento de tarefas realizadas por agentes autônomos em meio à ampla implementação desses sistemas no setor produtivo. As novidades se juntam às outras duas configurações de 8ª geração lançadas este ano.
“Com a computação migrando da escala humana para a escala de agentes, as empresas estão pedindo aceleradores que possam raciocinar sobre as massivas janelas de contexto dos modelos de IA. Além disso, alguns clientes, altamente regulamentados, estão pedindo recursos de criptografia especializados para cargas de trabalho únicas”, afirmou Amin Vahdat, Diretor de Tecnologia e Vice-Presidente Sênior de IA e Infraestrutura do Google, em comunicado.
Maior segurança e poder computacional
Integrando a segurança diretamente na camada de hardware, o TPU 8tx mantém dados sensíveis e pesos de modelos protegidos e isolados mesmo durante o uso ativo, de acordo com a companhia. Além disso, apresenta latência duas vezes menor na comparação com a versão 8t anunciada em abril.
- O novo processador também permite executar e customizar modelos simultaneamente em um único sistema, combinando computação em nível de treinamento e rede de inferência rápida;
- Além disso, possibilita fazer ajuste fino de modelos usando dados privados, contando com hosts CPU AMD personalizados e o mesmo silício do 8t;
- Destilar grande modelos em opções menores e treinar agentes de IA por meio de aprendizado por reforço, sem migrar dados sigilosos entre clusters separados são outras capacidades associadas à tecnologia;
- O TPU 8tx é indicado para empresas e governos que querem treinar modelos avançados ou proprietários e agentes com maior segurança, segundo o Google.
Já o TPU 8i Max foi projetado para lidar com eventuais gargalos de memória que podem surgir ao executar dezenas de agentes de uma só vez. Ele disponibiliza o dobro de poder computacional, de SRAM e da largura de banda de HBM do TPU 8i, trazendo fluidez para grandes cargas de trabalho.
A novidade também acomoda o dobro de silício dentro da mesma estrutura, permitindo que data centers implantem significativamente mais poder de computação por metro quadrado e por watt, como explicou a big tech.
Como o Google usa TPUs?
A Unidade de Processamento Tensorial (TPU) é utilizada de diferentes maneiras pela gigante das buscas. A tecnologia aprimora o treinamento de modelos próprios da companhia para cargas de trabalho de agentes, por exemplo, disponibilizando-os para clientes do Google Cloud.
Usuários da infraestrutura em nuvem também podem implantar os TPUs em seus data centers, diante do aumento da demanda. São quase 100 clientes utilizando a tecnologia, segundo o Google, incluindo laboratórios de ponta, universidades, varejistas e empresas de negociação, entre outros.
Siga no TecMundo e conheça as diferenças entre TPUs e GPUs.