Qualcomm AI HUB demonstra todas as possibilidades a modelos de IA generativa para chips snapdragon
Mais inteligência para smartphones
A Qualcomm está agilizando o desenvolvimento de IA para seus chips Snapdragon baseados em Arm com o lançamento do Qualcomm AI Hub. Este hub oferece acesso a mais de 75 modelos de IA e ferramentas essenciais para que os desenvolvedores tirem proveito dos recursos de IA de seus chips no dispositivo.
Os desenvolvedores agora podem utilizar o AI Hub para acessar modelos de linguagem grande (LLMs) no dispositivo, compatíveis com diversos SoCs Snapdragon. A Qualcomm validou e testou todos os modelos disponíveis, abrangendo versões móveis, Windows on Arm e modelos compatíveis com IoT. Alguns dos modelos incluem Stable Diffusion, Whisper, ControlNet, Baichuan 7B, LlaMA 2 e LLaVA.
O LLaVA, por exemplo, é um modelo multimodal com mais de 7 bilhões de parâmetros que aceita entradas de texto e visuais. Ele é compatível com o Snapdragon 8 Gen 3, que suporta modelos com até 10 bilhões de parâmetros. O Snapdragon 8 Gen 2, por sua vez, é capaz de lidar com modelos que possuem até 7 bilhões de parâmetros.
O Qualcomm AI Hub não apenas oferece acesso a modelos de IA, mas também fornece uma variedade de ferramentas para acelerar o desenvolvimento de aplicações de IA. Os desenvolvedores podem aproveitar programas de treinamento, tutoriais e documentação para otimizar aplicativos que dependem de aprendizado de máquina, aprendizado profundo ou visão computacional.
Com o avanço da IA generativa, a Qualcomm está se preparando para apoiar os desenvolvedores na integração eficaz dessa tecnologia em uma ampla gama de aplicações, garantindo que o potencial dos chips Snapdragon seja explorado ao máximo.
Fonte: Qualcomm
Share this content:
