A OpenAI firmou um acordo com valor estimado superior a 10 bilhões de dólares com a Cerebras Systems, uma startup que projeta chips avançados de IA dedicados a uma única coisa: executar modelos de IA o mais rápido possível. Trata-se de uma aliança singular não apenas por essa mudança de foco, mas também porque há um conflito de interesses.
A empresa liderada por Sam Altman se comprometeu a comprar 750 MW de capacidade de computação da Cerebras ao longo dos próximos três anos. Fontes citadas pelo The Wall Street Journal indicam que essa aliança tem um valor estimado acima de 10 bilhões de dólares. Estamos, portanto, diante de uma operação extraordinária em dimensão, mas peculiar tanto pela forma quanto pelo conteúdo.
A Cerebras, com sede em Sunnyvale, Califórnia, foi fundada em 2015 por ex-engenheiros da SeaMicro e adquirida em 2012 pela AMD. A startup projeta chips de inteligência artificial especificamente voltados para a etapa de inferência de modelos de IA, ou seja, para executá-los.
Quando usamos o ChatGPT ou qualquer modelo de IA, o que estamos vendo é um modelo de IA em uso de inferência. Alguns "escrevem" mais rápido que outros, e essa velocidade de exibição do texto nas respostas é medida em tokens por segundo. Normalmente, os chips da NVIDIA são excelentes para a fase de treinamento, mas não tanto para a de inferência. Já os chips de empresas como a Cerebras — ou os da conhecida Groq, que acaba de ser "comprada" pela NVIDIA — são projetados justamente para executar ...
Matérias relacionadas
Bandcamp anuncia que vai banir completamente músicas feitas por IA