Empresa híbrida de gestión de datos en la nube Cloudian Inc. Hoy anunció la disponibilidad de su nuevo conector Pytorch con soporte remoto de acceso a la memoria directa que ofrece mejoras de información para la inteligencia synthetic y las cargas de trabajo de aprendizaje automático.
Un conector Pytorch es una interfaz de software program que permite la transferencia de datos entre el widespread marco de aprendizaje automático Pytorch y los sistemas de almacenamiento externos o fuentes de datos. Un conector ayuda a optimizar la carga de datos y mejorar el rendimiento durante los flujos de trabajo de capacitación e inferencia del modelo.
El nuevo conector Pytorch de Cloudian se basa en la tecnología de almacenamiento GPudirect de Nvidia Corp. y se optimiza para la infraestructura de redes Nvidia Spectrum-X. El conector ofrece un aumento del 74% en el rendimiento del procesamiento de datos al tiempo que scale back la utilización del procesador en un 43%, lo que representa un avance significativo en la aceleración del flujo de trabajo de IA.
En las pruebas utilizando Torchbench, una herramienta de medición de rendimiento de Pytorch de código abierto, el nuevo conector habilitado para RDMA procesó 52,000 imágenes por segundo en comparación con 30,000 imágenes por segundo utilizando el conector S3 S3 de Amazon Internet Companies predeterminado, una ganancia de rendimiento sustancial que se traduce directamente en un entrenamiento de modelos más rápido y scale back los costos computacionales para los profesionales de la AI.
“Esto representa un avance elementary en cómo la IA carga de trabajo de acceso y procesa datos a través de la aceleración avanzada de redes NVIDIA”, dijo Neil Stobart, director de tecnología de Cloudian. “Al aprovechar la tecnología de almacenamiento de NVIDIA GPUDIRECT para eliminar los cuellos de botella de la crimson tradicionales, estamos permitiendo a los científicos de datos e ingenieros de IA sobrealimentando sus flujos de trabajo al tiempo que scale back los costos de infraestructura a través de la comunicación directa de GPU a almacenamiento”.
El conector también se beneficia de la inclusión de RDMA que le permite pasar por alto los protocolos tradicionales de crimson intensivos en CPU, permitiendo transferencias directas de datos de memoria a memoria entre los sistemas de almacenamiento de Cloudian y los marcos AI acelerados con GPU que se ejecutan en la infraestructura de crimson NVIDIA, incluidos los interruptores NVIDIA Spectrum-X Ethernet Ethernet y NVIDIA Connectx Supernics.
Cloudian cube que el avance será particularmente significativo para los usuarios de Pytorch que aprovechan la computación acelerada de NVIDIA. Representan una parte sustancial de la comunidad de aprendizaje automático, incluidos los investigadores de las principales empresas de tecnología, instituciones académicas y nuevas empresas centradas en AI.
El ecosistema de Pytorch atiende a millones de desarrolladores en todo el mundo, desde investigadores individuales hasta operaciones de IA empresariales a gran escala utilizando infraestructura informática acelerada por NVIDIA. El nuevo conector de Pytorch puede ayudar a las organizaciones a implementar la visión por computadora, el procesamiento del lenguaje pure y las aplicaciones de aprendizaje profundo con tiempos de capacitación reducidos y una sobrecarga computacional más baja entregadas por el conector de almacenamiento NVIDIA GPUDIRECT.
El nuevo conector de Pytorch de Cloudian ahora está disponible para la evaluación, lo que permite a las organizaciones evaluar los beneficios de desempeño dentro de sus entornos de IA acelerados con NVIDIA.
Imagen: Siliconangle/Reve
Apoye nuestro contenido gratuito abierto compartiendo e interactuando con nuestro contenido y comunidad.
Únete a Thecube Alumni Belief Community
Donde los líderes tecnológicos se conectan, comparten inteligencia y crean oportunidades
11.4k+
Crimson de ex alumnos de cubos
Nivel C y técnico
Expertos en dominio
Conéctese con 11,413+ líderes de la industria de nuestra crimson de líderes tecnológicos y empresariales que forman un efecto de crimson confiable único.
Siliconangle Media es un líder reconocido en innovación de medios digitales que sirve al público innovador y marcas, que reúne tecnología de vanguardia, contenido influyente, concepts estratégicas y compromiso de audiencia en tiempo actual. Como la empresa matriz de Silicio, red de thecube, Investigación de THECUBE, Cube365, THECUBE AI y los superstudios de TheCube, como los establecidos en Silicon Valley y la Bolsa de Nueva York (NYSE) – Siliconangle Media opera en la intersección de medios, tecnología e IA. .
Fundada por los visionarios tecnológicos John Furrier y Dave Vellante, Siliconangle Media ha construido un poderoso ecosistema de marcas de medios digitales líderes en la industria, con un alcance de más de 15 millones de profesionales de la tecnología de élite. La nueva nube de video de AI de AI de la compañía, se está basando en la interacción de la audiencia, aprovechando la crimson neuronal de thecubeai.com para ayudar a las empresas tecnológicas a tomar decisiones basadas en datos y mantenerse a la vanguardia de las conversaciones de la industria.
