Más

    Azure y NVIDIA ofrecen aceleración de GPU de última generación para IA

    - Advertisement -

    Los usuarios de Microsoft Azure ahora pueden aprovechar los últimos avances en la tecnología informática acelerada de NVIDIA, revolucionando el entrenamiento y la implementación de sus aplicaciones de IA generativa.

    La integración de Azure ND H100 v5 máquinas virtuales (VM) con NVIDIA H100 Las GPU Tensor Core y la red Quantum-2 InfiniBand prometen una escalabilidad perfecta de la IA generativa y las aplicaciones informáticas de alto rendimiento, todo con solo hacer clic en un botón.

    Esta colaboración de vanguardia llega en un momento crucial en el que los desarrolladores e investigadores están explorando activamente el potencial de los modelos de lenguaje extenso (LLM) y la computación acelerada para desbloquear nuevos casos de uso comercial y de consumidores.

    La GPU H100 de NVIDIA logra un rendimiento de clase de supercomputación a través de una serie de innovaciones arquitectónicas. Estos incluyen Tensor Cores de cuarta generación, un nuevo Transformer Engine para una aceleración LLM mejorada y la tecnología NVLink que impulsa la comunicación entre GPU a velocidades sin precedentes de 900 GB/seg.

    La integración de NVIDIA Quantum-2 CX7 InfiniBand, que cuenta con un ancho de banda de nodo cruzado de 3200 Gbps, garantiza un rendimiento impecable en todas las GPU, incluso a escalas masivas. Esta capacidad posiciona la tecnología a la par con las capacidades computacionales de las supercomputadoras más avanzadas del mundo.

    Las máquinas virtuales ND H100 v5 recientemente presentadas tienen un enorme potencial para entrenar e inferir LLM y modelos de visión por computadora cada vez más complejos. Estas redes neuronales impulsan las aplicaciones de IA generativas más complejas y de uso intensivo de cómputo, que van desde la respuesta a preguntas y la generación de códigos hasta el audio, el video, la síntesis de imágenes y el reconocimiento de voz.

    Una característica destacada de las máquinas virtuales ND H100 v5 es su capacidad para lograr una aceleración de hasta 2x en la inferencia LLM, notablemente demostrada por el modelo BLOOM 175B en comparación con las instancias de la generación anterior. Este aumento del rendimiento subraya su capacidad para optimizar aún más las aplicaciones de IA, impulsando la innovación en todas las industrias.

    La sinergia entre las GPU NVIDIA H100 Tensor Core y Microsoft Azure empodera a las empresas con capacidades de inferencia y capacitación de IA sin igual. Esta asociación también agiliza el desarrollo y la implementación de la IA de producción, reforzada por la integración del paquete de software NVIDIA AI Enterprise y Azure Machine Learning para MLOps.

    Los esfuerzos combinados han llevado a un rendimiento de IA innovador, como lo validan los puntos de referencia de MLPerf estándar de la industria:

    La integración de NVIDIA omniverso La plataforma con Azure amplía aún más el alcance de esta colaboración, brindando a los usuarios todo lo que necesitan para la digitalización industrial y la supercomputación de IA.

    (Credito de imagen: Uwe Hoh de pixabay)

    Ver también: Gcore se asocia con UbiOps y Graphcore para empoderar a los equipos de IA

    📷 Azure y NVIDIA ofrecen aceleracion de GPU de ultima generacion

    ¿Quiere aprender más sobre IA y big data de los líderes de la industria? Verificar Exposición de IA y Big Data teniendo lugar en Ámsterdam, California y Londres. El evento es co-ubicado con Semana de la Transformación Digital.

    Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

    • ryan daws

      Ryan es editor senior en TechForge Media con más de una década de experiencia cubriendo la última tecnología y entrevistando a figuras líderes de la industria. A menudo se lo puede ver en conferencias tecnológicas con un café fuerte en una mano y una computadora portátil en la otra. Si es geek, probablemente le guste. Encuéntralo en Twitter (@Gadget_Ry) o Mastodon (@[email protected])

      Ver todas las publicaciones

    Etiquetas: ai, inteligencia artificial, azur, ai generativo, h100, microsoft azure, mlperf, Nvidia

    Fuente: Azure y NVIDIA ofrecen aceleración de GPU de última generación para IA

    Populares

    Más de esta categoría

    DEJA UNA RESPUESTA

    Por favor ingrese su comentario!
    Por favor ingrese su nombre aquí

    Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.