IBM ha construido una supercomputadora de inteligencia artificial en su nube. La respuesta de IBM a la supercomputadora rentable ya ha estado funcionando durante varios meses, pero solo recientemente ha revelado información tangible sobre su llamado proyecto Vela.
Mirando su blog para obtener más información, IBM reveló que la investigación, que fue escrita por cinco empleados corporativos, aborda problemas con las supercomputadoras anteriores y su falta de preparación para las actividades de IA.
La corporación aclara las decisiones que tomó sobre el uso de tecnología poderosa pero de bajo costo para adaptar el paradigma de la supercomputadora para este tipo de carga de trabajo futura.
Vela, la supercomputadora de IA de IBM
El artículo enfatiza cómo «la construcción de una supercomputadora (tradicional) ha significado nodos bare metal, hardware de red de alto rendimiento… sistemas de archivos paralelos y otros elementos generalmente asociados con la computación de alto rendimiento (HPC)».
Si bien está claro que estas supercomputadoras pueden manejar grandes cargas de trabajo de IA, incluida la diseñada para OpenAI, la puesta en marcha detrás del popular software de chat en vivo ChatGPT, la falta de optimización ha significado que las supercomputadoras tradicionales pueden carecer de un poder valioso y tener un exceso en otras áreas, dando lugar a un gasto innecesario.
Si bien es bien sabido que los nodos bare metal son los mejores para la IA, IBM deseaba investigar cómo hacerlos disponibles dentro de una máquina virtual (VM). Big Blue afirma que el resultado son mejoras significativas en el rendimiento.
“Después de una cantidad significativa de investigación y descubrimiento, ideamos una manera de exponer todas las capacidades del nodo (GPU, CPU, redes y almacenamiento) en la VM para que la sobrecarga de virtualización sea inferior al 5 %, que son los gastos generales más bajos de la industria que conocemos”.
Vela tiene cuatro unidades de almacenamiento NVMe de 3,2 TB, 1,5 TB de DRAM y 80 GB de memoria GPU en términos de diseño de nodos.
Según la estimación de The Next Platform, si IBM decidiera incluir la supercomputadora en el ranking Top 500, proporcionaría aproximadamente 27,9 petaflops de rendimiento, colocándola en el puesto 15 a noviembre de 2022.
Aunque las supercomputadoras contemporáneas son capaces de manejar tareas relacionadas con la inteligencia artificial, los rápidos avances en este campo y la necesidad apremiante de rentabilidad subrayan la necesidad de una máquina de este tipo.