La IA está impulsando la demanda de memoria y almacenamiento y la introducción de nuevos productos

Los proveedores de DRAM, memoria flash NAND, discos duros (HDD) e incluso cintas magnéticas se beneficiarán de esta creciente demanda de almacenamiento y memoria. Probablemente, también las nuevas memorias no volátiles se beneficiarán, especialmente para aplicaciones de inferencia de IA en los puntos finales. Como consecuencia de esta creciente demanda, y también debido a los recortes en la fabricación de tecnología de memoria y almacenamiento en el otoño de 2023, los precios de estos productos, especialmente la memoria y el almacenamiento en estado sólido, han estado aumentando. En el lado de la memoria volátil, la DRAM para la memoria de alto ancho de banda (HBM) para aplicaciones de IA es un foco particular. En el Computex 2024 en Taiwán, Dinesh Bahal, GM del Grupo de Consumidores y Componentes de Micron, dijo que Samsung, SK hynix y Micron están poniendo mucho esfuerzo en construir productos HBM para satisfacer la creciente demanda de soporte para IA.

Western Digital (WDC) anunció recientemente nuevos productos para soportar las cargas de trabajo de IA y proporcionó una visualización interesante que muestra el flujo de trabajo de datos para aplicaciones de IA. WDC llamó a esto un marco de Ciclo de Datos de IA de seis etapas que define las infraestructuras de almacenamiento óptimas para maximizar las inversiones en IA y aumentar la eficiencia y reducir el costo de propiedad para los flujos de trabajo de IA. Ese flujo de trabajo resulta en un bucle continuo y reforzado de consumo y generación de datos que involucra el procesamiento de todo tipo de datos, incluyendo texto e imágenes, así como contenido de audio y video. Esto incluye la preparación y curación de los datos de entrenamiento, el entrenamiento y la preparación del motor de inferencia para utilizar el modelo entrenado. Los resultados de este procesamiento son nuevos datos que reflejan el entrenamiento del modelo y que deben almacenarse para soportar la inferencia de la IA.

Procesar y almacenar estos datos de manera efectiva y rentable puede requerir el uso de varios tipos de productos de almacenamiento y memoria, incluyendo HBM para el entrenamiento real de la IA, pero también varios tipos de almacenamiento en estado sólido basados en NAND para soportar los flujos de datos necesarios hacia y desde el HBM. Estos incluyen SSD NAND de alto rendimiento, así como SSD de menor rendimiento pero mayor capacidad. Estos SSD pueden llamarse almacenamiento primario. Además de estos SSD, los discos duros pueden proporcionar un almacenamiento secundario más rentable. Finalmente, los datos que ya no se necesitan para el entrenamiento y algunos resultados del entrenamiento pueden almacenarse en un medio de archivo para una retención a largo plazo. Esto puede ser particularmente apropiado para datos (como datos científicos o de ingeniería) que podrían usarse para entrenamientos y análisis futuros para encontrar nuevos conocimientos y relaciones.

WDC anunció productos de almacenamiento digital que están construidos para soportar muchos de estos elementos de la cadena de suministro de almacenamiento para soportar el entrenamiento y la inferencia de IA. Entre estos anuncios se encontraba un HDD empresarial ePMR de 32TB que la compañía dijo que estaba muestreando a clientes selectos. El Ultrastar DC HC690 UltraSMR (grabación magnética en tejas) HDD es el HDD de mayor capacidad actualmente disponible de WDC. Cabe destacar que Seagate y Toshiba han anunciado HDD HAMR (grabación magnética asistida por calor) de 32TB sin tejas. WDC también es un fabricante de memoria flash NAND y SSD (que se escindirá en una nueva compañía de NAND y SSD en un futuro cercano). La compañía anunció varios tipos de SSD para soportar estos flujos de trabajo, incluyendo SSD PCIe Gen5 de alto rendimiento para entrenamiento e inferencia y un SSD de alta capacidad (hasta 64TB) para lagos de datos de IA rápidos.

Más información

¿Cuál es el futuro del mercado de almacenamiento? ¿Qué tecnologías son las más adecuadas?  Conoce más sobre el software FUJIFILM Object Archive, el almacenamiento sostenible, las tecnologías de soporte de almacenamiento de datos o las cintas LTO de FUJIFILM para estar al día de un sector en crecimiento.