Digits de Nvidia es una pequeña supercomputadora con IA para tu escritorio

Con todos los ojos puestos Las nuevas tarjetas gráficas de Nvidia (y por una buena razón: estas cosas son bastante poderosas), la compañía lanzó algo que puede terminar siendo una noticia aún más importante: una supercomputadora personal con IA llamada Project Digits (a partir de ahora la llamaremos Digits porque es mucho más genial).

Digits es una pequeña computadora personal tipo Mac mini que debería caber en casi todos los escritorios. Lo conectas a un teclado y a un monitor, lo conectas a la corriente y listo.

Pero lo que hay dentro lo hace bastante especial. Digits funciona con el nuevo superchip GB10 Grace Blackwell de Nvidia, que ofrece hasta 1 petaflop de rendimiento de IA, y Nvidia se asoció con MediaTek para hacer que el chip sea más eficiente energéticamente, lo que significa que su funcionamiento requiere el tipo de energía que se obtiene de un estándar. toma de corriente.

El GB10 se combina con 128 GB de RAM y hasta 4 TB de almacenamiento NVMe. Todo esto permitirá a los desarrolladores ejecutar modelos de lenguaje grande (LLM) de hasta 200 mil millones de parámetros. Usando la tecnología Nvidia ConnectX, también podrán emparejar dos computadoras Digits para ejecutar modelos de hasta 405 mil millones de parámetros.

La mayoría de estas cosas probablemente tengan poco sentido para las personas que no están en el negocio del desarrollo de aplicaciones de IA. Pero, por ejemplo, ChatGPT 3.5 tenía 175 mil millones de parámetros (ChatGPT 4 es mucho más grande pero no sabemos los números exactos), mientras que el LLM más poderoso de Meta, Llama 3, tiene 405 mil millones de parámetros). Esto significa que puede ejecutar un LLM muy, muy potente en casa en lugar de depender de la infraestructura de la nube.

“Colocar una supercomputadora de IA en los escritorios de cada científico de datos, investigador de IA y estudiante les permite participar y dar forma a la era de la IA”, dijo Jensen Huang, fundador y director ejecutivo de Nvidia, en una declaración escrita.

Los desarrolladores que utilicen Digits podrán acceder a la biblioteca de software de inteligencia artificial de Nvidia, incluidos kits de desarrollo, herramientas de orquestación, marcos y modelos disponibles en el catálogo de Nvidia NGC y en el portal para desarrolladores de Nviia. También tendrán acceso al marco Nvidia NeMo y a las bibliotecas Nvidia RAPIDS.

La mayor novedad aquí, quizás, sea el precio. Los dígitos estarán disponibles en mayo a partir de $3,000. Esta cantidad de dinero debería ponerlo a disposición de una gran cantidad de empresas e investigadores más pequeños, que lo utilizarán para crear y probar aplicaciones de inteligencia artificial.

Si esto todavía te parece demasiado caro, puedes intentarlo. El supersónico de Nvidia. Es una computadora doméstica con IA de 249 dólares que se lanzó en diciembre pasado y puede manejar hasta 8 mil millones de parámetros.

¡Mashable estará presente en vivo en CES 2025! Estamos cubriendo todos los desarrollos más importantes y alocados esta semana, así que por favor continúen revisando de nuevo con nosotros. ¿Quiere enviar un producto que representa para que nuestros equipos lo consideren mientras identificamos lo mejor de CES? Aquí está más información sobre cómo hacerlo.