![\"\"](\"https:\/\/ljdevice.com.tw\/wp-content\/uploads\/2024\/11\/2024-11-06_113037-300x176.jpg\")
<\/p>\n30 oct<\/p>\n
<\/p>\n
NVIDIA acaba de comunicar que el cluster de supercomputaci\u00f3n Colossus de xAI, compuesto por 100.000 GPU Hopper de NVIDIA y ubicado en Memphis (Tennessee), ha alcanzado esta escala masiva utilizando la plataforma de red Ethernet NVIDIA Spectrum-X, dise\u00f1ada para proporcionar un rendimiento superior a las f\u00e1bricas de IA a hiperescala y multiinquilino que utilizan Ethernet basada en est\u00e1ndares, para su red de acceso remoto directo a memoria (RDMA).<\/span><\/p>\n<\/div>\n \n \n \n \n \n La red Ethernet Spectrum-X para IA aporta funciones avanzadas que proporcionan un ancho de banda altamente eficaz y escalable con baja latencia y latencia de cola corta, antes exclusivas de InfiniBand. Estas funciones incluyen enrutamiento adaptativo con la tecnolog\u00eda NVIDIA Direct Data Placement, control de la congesti\u00f3n, as\u00ed como visibilidad mejorada del tejido de IA y aislamiento del rendimiento, todos ellos requisitos clave para las nubes de IA generativas multiinquilino y los entornos de grandes empresas.<\/span><\/p>\n<\/div>\n\n\n![\"\"](\"https:\/\/static.wixstatic.com\/media\/5ddd96_1b39e93a9398437d9b6a45c0c8b234ec~mv2.jpg\/v1\/fill\/w_740,h_416,al_c,q_80,usm_0.66_1.00_0.01,enc_auto\/5ddd96_1b39e93a9398437d9b6a45c0c8b234ec~mv2.jpg\")
<\/div>\n<\/figure>\n<\/div>\n<\/div>\nColossus, el mayor superordenador de IA del mundo, se est\u00e1 utilizando para entrenar la familia Grok de xAI de grandes modelos de lenguaje, con chatbots ofrecidos como una funci\u00f3n para los suscriptores de X Premium. xAI est\u00e1 en proceso de duplicar el tama\u00f1o de Colossus hasta alcanzar un total combinado de 200.000 GPU Hopper de NVIDIA.<\/span><\/h2>\n
Las instalaciones de apoyo y el superordenador de \u00faltima generaci\u00f3n fueron construidos por xAI y NVIDIA en s\u00f3lo 122 d\u00edas, en lugar del plazo habitual para sistemas de este tama\u00f1o que puede llevar de muchos meses a a\u00f1os. Desde que se instal\u00f3 el primer bastidor hasta que comenz\u00f3 el entrenamiento pasaron 19 d\u00edas.<\/span><\/h2>\n
Durante el entrenamiento del ampl\u00edsimo modelo Grok, Colossus consigue un rendimiento de red sin precedentes. En los tres niveles de la estructura de red, el sistema no ha experimentado ninguna degradaci\u00f3n de la latencia de las aplicaciones ni p\u00e9rdida de paquetes por colisiones de flujo. Ha mantenido un rendimiento de datos del 95% gracias al control de congesti\u00f3n Spectrum-X.<\/span><\/h2>\n
Este nivel de rendimiento no puede lograrse a escala con Ethernet est\u00e1ndar, que crea miles de colisiones de flujo y ofrece s\u00f3lo un 60% de rendimiento de datos.<\/span><\/h2>\n
La IA se est\u00e1 convirtiendo en una misi\u00f3n cr\u00edtica y requiere un mayor rendimiento, seguridad, escalabilidad y rentabilidad\u00bb, afirma Gilad Shainer, vicepresidente senior de redes de NVIDIA. \u00abLa plataforma de redes NVIDIA Spectrum-X Ethernet est\u00e1 dise\u00f1ada para proporcionar a innovadores como xAI un procesamiento, an\u00e1lisis y ejecuci\u00f3n m\u00e1s r\u00e1pidos de las cargas de trabajo de IA y, a su vez, acelera el desarrollo, la implantaci\u00f3n y el tiempo de comercializaci\u00f3n de las soluciones de IA.\u00bb<\/h2>\n
\u00abColossus es el sistema de entrenamiento m\u00e1s potente del mundo\u00bb, afirma Elon Musk en X. \u00bbBuen trabajo del equipo de xAI, NVIDIA y nuestros numerosos socios\/proveedores.\u00bb<\/span><\/h2>\n
\u00abxAI ha construido el superordenador m\u00e1s grande y potente del mundo\u00bb, afirma un portavoz de xAI. \u00abLas GPU Hopper de NVIDIA y Spectrum-X nos permiten superar los l\u00edmites del entrenamiento de modelos de IA a escala masiva, creando una f\u00e1brica de IA superacelerada y optimizada basada en el est\u00e1ndar Ethernet.\u00bb<\/span><\/h2>\n
En el coraz\u00f3n de la plataforma Spectrum-X se encuentra el switch Ethernet Spectrum SN5600, que admite velocidades de puerto de hasta 800 Gb\/s y est\u00e1 basado en el ASIC de switch Spectrum-4. xAI opt\u00f3 por emparejar el switch Spectrum-X SN5600 con las SuperNIC NVIDIA BlueField-3 para obtener un rendimiento sin precedentes.<\/span><\/h2>\n
\n