Integra Network

Plataformas de IA periféricas

Desde el nivel de entrada hasta el alto rendimiento, ¿cómo seleccionar sus dispositivos de IA?

Hoy en día, las aplicaciones de la inteligencia artificial (IA) en el borde son expansivas. Puede ser un sistema de monitoreo de tráfico de IA para predecir el tráfico, prevenir la congestión y posibles accidentes, o un sistema de inspección de obleas de semiconductores ópticos que incorpore IA para aumentar el rendimiento y la calidad. Según Tractica, los envíos de dispositivos de borde de IA aumentarán de 161,4 millones de unidades en 2018 a 2,6 mil millones de unidades anuales en todo el mundo para 2025. Research and Markets también afirma que se espera que el mercado global de IA periférica crezca a una tasa de crecimiento anual compuesta del 19,27% durante el período de pronóstico para alcanzar un tamaño de mercado de USD1,954,244 millones en 2026 desde USD 569,194 millones en 2019.

En este artículo, presentaremos nuestros sistemas de IA periférica, desde la IA periférica ligera hasta la de alto rendimiento.

IA de borde ligero: Con el módulo acelerador, la IA puede ayudar con el trabajo y la vida

En las aplicaciones de IA periféricas ligeras, la configuración con un sistema perimetral y un módulo acelerador es la forma más rentable de desplegar las aplicaciones, manteniendo al mismo tiempo un bajo consumo de energía y una buena potencia informática. El acelerador generalmente viene como un módulo M.2, mini PCIe o MXM. Combinado con el uso de cámaras, protege a los trabajadores con una advertencia cuando no se colocan correctamente el equipo de protección personal o ingresan a la zona de peligro. Sobre la línea de producción, puede evitar que las manos de los trabajadores lleguen a áreas inseguras. En este tipo de aplicaciones, Axiomtek recomienda su serie eBOX de sistemas embebidos sin ventilador.

Con el apoyo del acelerador de IA Hailo-8™, los productos de la serie eBOX ahora fortalecen completamente su competencia en todos los ámbitos, maximizando el poder de la IA periférica y ayudando a los clientes a acelerar el tiempo de comercialización.

eBOX630-528-FL

• Procesador Intel® Core™ i7/i5/i3 o Celeron® ULT de 8ª generación (Whiskey Lake-U)
• DDR4 2400 SO-DIMM de doble canal de hasta 64 GB de memoria del sistema
• Dos ranuras para tarjetas PCIe mini para módulos de aceleración Hailo-8™ AI mini PCIe o módulos inalámbricos
• Dos bahías de unidades de disco duro de 2,5″ intercambiables y una ranura mSATA
• Función PoE compatible con cámaras IP para inspección visual (opcional)
• Un amplio rango de temperatura de funcionamiento de -40 °C a +70 °

eBOX626-311-FL

• Intel® Atom® x5-E3940 l DDR3L-1866 SO-DIMM para hasta 8 GB de memoria del sistema
• Dos ranuras para tarjetas PCIe mini para módulos de aceleración Hailo-8™ AI mini PCIe o módulos inalámbricos
• Una bahía para unidad de disco duro SATA de 2,5″ y una ranura mSATA
• Cuatro USB 3.0 y dos USB2.0 para admitir cámaras para inspección visual
• Un amplio rango de temperatura de funcionamiento de -40 °C a +60 °C

IA periférica avanzada: Con una tarjeta gráfica discreta o FPGA, la computación de IA se lleva a un nivel más versátil

En aplicaciones de IA periférica más avanzadas, un sistema perimetral escalable con una tarjeta gráfica discreta debería ser capaz de manejar situaciones más complicadas, como la detección de daños en la carretera, el análisis del crecimiento de los cultivos o incluso el robot móvil autónomo (AMR). Si el presupuesto es abundante y hay una mayor demanda de aceleración, incluso puede agregar FPGA o VPU adicional al sistema. Para una captura y procesamiento de imágenes más rápidos en el borde, será mejor si el sistema tiene una mayor escalabilidad para un capturador de fotogramas. La serie IPC de Axiomtek son sistemas escalables y de alto rendimiento que son opciones razonables para la IA periférica avanzada. Mientras que la serie IPC960 admite GPU mini (de tamaño medio), la serie IPC970 puede incluso admitir GPU de tamaño completo.

Recientemente, un cliente integró el IPC970 en un vehículo para la aplicación AMR. Con la GPU RTX 3090 y el AX92321 capturador de fotogramas USB 3.0 de múltiples puertos para las cámaras, el IPC970 se ha colocado en un tractor de equipaje autónomo en el aeropuerto. El tractor automatizado puede ir por rutas predefinidas, órdenes del sistema de gestión o bajo demanda a través del controlador. Puede detectar y evitar obstáculos inesperados gracias a un conjunto completo de sensores, Lidar duales, radares, cámaras, un receptor y unidades de medición. El IPC970 y RTX3090 procesar la información sin esfuerzo de todos los dispositivos, lo que garantiza que el equipaje y la carga vayan al avión correcto de forma segura. A medida que funciona día a día, los datos recopilados en el proceso pueden volver a entrenar la operación gradualmente.

IPC970

• Procesador Intel® Xeon® o Intel® Core i7™/i5/i3 de 10ª generación
• Cuatro U-DIMM DDR4-2933 ECC/no ECC, hasta 128 GB de memoria del sistema
• Seis USB 3.2 Gen.2, dos USB 3.2 Gen.1 y un USB 2.0
• Dos PCIe x8, un PCIe x16 para GPU
• Compatible con la tarjeta gráfica NVIDIA® GeForce RTX 3090
• Dos SSD/HDD externos, una bahía de unidad SSD/HDD interna
• Una ranura M.2 Key M 2280 para SSD NVMe

• Una ranura M.2 Key B 3042/3050 para conexiones inalámbricas 5G

• Una ranura para tarjeta PCIe Mini y una toma M.2 Key E 2230 para módulos Wi-Fi/LTE

• Un amplio rango de temperatura de funcionamiento de -10 °C a +60 °C

IPC962-525

• Procesador Intel® Core™ de 9.ª/8.ª generación
• Dos SO-DIMM DDR4-2666/2400 sin búfer, hasta 64 GB de memoria del sistema
• Un PCIe x16, un PCIe x4 para GPU
• Compatible con la tarjeta GPU NVIDIA® y la tarjeta GPU NVIDIA® Tesla T4

•  Una ranura M.2 Key M 2280 para SSD NVMe

• Una ranura M.2 Key B 3050 para conexiones inalámbricas 5G

• Un amplio rango de temperatura de funcionamiento de -10 °C a +60 °C

Computación de IA de alto rendimiento: con múltiples GPU o FPGA, el aprendizaje profundo está al alcance de la mano

Cuando se trata de aplicaciones sofisticadas de IA como el aprendizaje profundo y el análisis de vídeo, será mucho más exigente para la estación de trabajo GPU. Además de un procesador de gama alta, la estación de trabajo de GPU avanzada debe estar equipada con múltiples ranuras PCIe y más múltiples GPU y FPGA para llevar el rendimiento a un nivel superior.

El sistema puede procesar una carga de datos inimaginablemente pesada; desempeña el papel de una estación de trabajo GPU; Mientras recibe datos de los sistemas periféricos, puede volver a entrenarse con datos y seguir aprendiendo de forma rápida y persistente, luego renovar los modelos y enviarlos de vuelta al perímetro para mejorar el procesamiento y la precisión. Tener un sistema más sofisticado significa una mejor capacidad; se utiliza en hospitales para la detección de enfermedades con IA y, aún más complicada, para la inspección de obleas en la industria de los semiconductores. En ambos casos, el modelo de IA debe actualizarse en tiempo real para una mejor inferencia y resultados más precisos.

La estación de trabajo GPU de Axiomtek, iHPC300, se ha utilizado en la inspección de obleas en la industria de los semiconductores. Las obleas de alto valor no solo son frágiles; Lo más difícil de todo es que los defectos son parecidos a pelos, lo que probablemente conduzca a una muerte excesiva o insuficiente. Configurado con microscopios de inspección, el servidor de entrenamiento de modelos ha leído más de 500.000 imágenes antes de completar la construcción de un modelo de aprendizaje profundo. La solución de inspección de obleas con IA dio como resultado la automatización y una mejor calidad.

iHPC300

• Procesador escalable Intel® Xeon® de LGA4189 zócalos, hasta 270 W, 40 núcleos
• Seis memorias DDR4-3200 R-DIMM sin búfer, hasta 384 GB de memoria del sistema
• Tres ranuras PCIe x16 y tres PCIe x8 admiten hasta seis tarjetas aceleradoras
• Seis SATA3 con RAID 0/1/5/10, expuestos a tres bahías de unidades de disco duro de 5,25″ y una de 3,5″
• Tres bahías internas para unidades de disco duro de 3,5″
• Una llave M.2 M2280 para SSD NVMe
• Admite fuente de alimentación de 2000 W / 1200 W