A Raspberry Pi anunciou o lançamento de seu novo acessório AI HAT+ 2, uma placa complementar para o Raspberry Pi 5 que promete expandir suas capacidades para usos envolvendo sistemas de inteligência artificial generativa por um preço acessível. A placa incorpora o acelerador neural Hailo-10H e 8 GB de RAM dedicada, recursos que, segundo a empresa, permitirão que grandes modelos de linguagem (LLMs) sejam executados diretamente no dispositivo, sem a necessidade de conexão com a internet.
Raspberry Pi AI HAT+ 2, ficha técnica
Placa para modelos locais
O AI HAT+ 2 representa um grande avanço em relação ao seu antecessor, lançado há pouco mais de um ano. Enquanto o AI HAT+ original focava exclusivamente em tarefas de visão computacional, como detecção de objetos, estimativa de pose ou segmentação de cenas, este novo modelo busca atender ao crescente interesse em executar modelos de linguagem localmente e sem a necessidade de conexão com a internet.
De acordo com a Raspberry Pi, a placa oferece 40 TOPS de desempenho de inferência (em INT4) graças ao chip Hailo-10H. A adição de 8 GB de RAM LPDDR4X na própria placa é a novidade mais notável, pois libera o processador e a RAM do Raspberry Pi 5 para outras tarefas enquanto o acelerador neural cuida do processamento de IA.
Diversos modelos de linguagem, com 1 a 1,5 bilhão de parâmetros, estarão disponíveis no lançamento, incluindo DeepSeek-R1-Distill, Llama 3.2 e diferentes versões do Qwen. A empresa garante que em breve adicionará modelos ...
Matérias relacionadas
O começo do fim para o ChatGPT? 4 motivos para acreditar que a OpenAI vai perder a corrida da IA