OpenAI presentó su primer procesador de inteligencia artificial llamado Jalapeño a finales de junio. Desarrollado junto con Celestica y Broadcom en menos de un año, dicho chip supone un paso importante en la estrategia de la compañía para construir la infraestructura completa que respalda sus modelos y productos. Además, con dicha innovación, OpenAI aspira a aprovechar mejor su infraestructura para ofrecer herramientas útiles a estudiantes, desarrolladores, investigadores, emprendedores y empresas de todos los tamaños, facilitando así el aprendizaje, la innovación y la resolución de desafíos complejos.
Ahora, coincidiendo con un momento en el que la compañía de Altman busca reducir los costes de computación y su dependencia con el resto de empresas tecnológicas, OpenAI asegura que el chip Jalapeño supera a los procesadores de Nvidia en pruebas de eficiencia energética y rendimiento.
Acorde la información compartida en un comunicado oficial, Jalapeño logra superar a los sistemas de Nvidia de referencia tanto en velocidad como en eficiencia energética al ejecutar distintos modelos de código abierto. Además, el chip está concebido específicamente para la inferencia, la fase en la que un sistema utiliza un modelo de IA previamente entrenado para generar respuestas, y no para desarrollar o entrenar nuevos modelos. Por este motivo, OpenAI seguirá recurriendo a los aceleradores de Nvidia y de otros fabricantes para cubrir una parte de sus cada vez mayores necesidades de capacidad de computación.
Qué es Jalapeño y para qué puede usarse
Jalapeño es un procesador diseñado para las cargas de trabajo de los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés), además, se trata del primer acelerador de IA en una plataforma de computación multigeneracional para hacer que la inteligencia artificial avanzada sea más rápida y accesible.
También, optimiza la eficiencia computacional para permitir un mejor entrenamiento y servicio, e incluso se basa en los sistemas que OpenAI ejecuta a diario en ChatGPT, Codex, la API y futuros productos de agentes.
Por otro lado, respecto a sus usos, Jalapeño ha sido desarrollado para ser compatible con todo tipo de modelos de lenguaje de gran tamaño (LLM), tomando como referencia el conocimiento de OpenAI sobre las necesidades de inferencia de los modelos de IA, tanto actuales como de próxima generación. De esta manera, OpenAI busca optimizar el uso de su infraestructura para poner a disposición cualquier tipo de herramientas útiles que impulsen el aprendizaje, la innovación y la resolución de problemas complejos.
Habrá una segunda generación de Jalapeño
OpenAI tiene previsto desplegar de forma limitada los primeros sistemas con Jalapeño antes de que termine el año y ampliar su capacidad a lo largo de 2027. Además, ya está trabajando en una segunda generación del chip y ha iniciado el desarrollo de una tercera.
El diseño de procesadores propios se ha convertido en una estrategia cada vez más habitual entre las grandes empresas de IA, que buscan así reducir costes y garantizar el acceso a la capacidad de computación que necesitan.