Junto con su último lote de nuevas plataformas móviles para teléfonos inteligentes de gama media, Qualcomm ha hecho un anuncio aún mayor en su Día de la IA en San Francisco. El gigante de los chips móviles está haciendo otra jugada para los servidores, después de abandonar su gama Centriq en 2018. Esta vez, la compañía está aprovechando sus tecnologías en el campo de la IA para entrar en la puerta de la computación en la nube. El primer chip que llamamos plataforma Qualcomm Cloud AI 100.
La plataforma Cloud AI 100 no es un reempaque de chip móvil, es un diseño de 7 nm desde cero para tareas de inferencia de IA, en lugar de capacitación. Eso significa que el chip estará procesando los números que pasan por las redes neuronales en lugar de ser utilizado para entrenarlos. Esto parece poner a Qualcomm en competencia directa con la serie Tesla T4 de Nvidia y los chips de inferencia TPU Google Edge diseñados para servidores y computación en la nube. Al igual que sus competidores, Qualcomm se ha dado cuenta de que el procesamiento de IA más eficiente no se realiza en CPU, GPU y FGPA, sino que requiere un acelerador de IA dedicado.
En términos de rendimiento, Qualcomm estima un aumento de rendimiento de AI máximo de más de 50 veces sobre las capacidades de su Snapdragon 855. El Snapdragon 855 ofrece alrededor de 7 TOPS de rendimiento, lo que sugiere que Cloud AI 100 está en el rango de 350TOPS. Eso ciertamente le dará una oportunidad al T4 de Nvidia por su dinero. Qualcomm cree que también tiene una ventaja en el rendimiento por vatio, con una mejora de 10 veces en comparación con las soluciones de inferencia de inteligencia artificial más avanzadas de la industria implementadas en la actualidad. Cuando está acumulando grandes números, la eficiencia energética puede ahorrarles a las compañías enormes sumas en facturas de electricidad. Además, Qualcomm quiere aprovechar su experiencia en el procesamiento de señales y 5G, por lo que su plataforma en la nube puede funcionar en las redes futuras de muy baja latencia.
Cuando se le preguntó, Qualcomm no quiso comentar si la arquitectura utilizada en la Cloud AI 100 era de propiedad o con licencia de otro lugar. Me pregunto si esta es la primera aparición de la arquitectura Trillium AI de Arm, que también está diseñada específicamente para cargas de trabajo de inferencia con un bajo presupuesto de energía. Pero suficiente especulación, Qualcomm dice que compartirá más información sobre su arquitectura de inteligencia artificial en el futuro.
Finalmente, para apoyar a los desarrolladores, Cloud AI 100 de Qualcomm funciona con la mayoría, si no todas, de las pilas de software líderes de la industria. Hay soporte para los marcos Caffe, Keras, mxnet, TensorFlow, PaddlePaddle y Cognitive Toolkit, junto con los tiempos de ejecución Glow, OnnX y XLA.
Se espera que Qualcomm Cloud AI 100 comience a muestrear a los clientes en
