Puntos clave
OpenAI ha lanzado GPT-6 Astra Ultrafast, una versión que funciona con GPU NVIDIA Blackwell y ofrece una velocidad de generación de hasta 8 veces mayor.
Según informa Territorio Blockchain, OpenAI ha lanzado GPT-6 Astra Ultrafast, un modelo que se ejecuta en GPU NVIDIA Blackwell y utiliza optimizaciones de inferencia continua. Esta herramienta ya se encuentra disponible a través de la API de OpenAI, así como para usuarios elegibles de ChatGPT Work y Codex.
El nuevo sistema ofrece una generación de tokens hasta ocho veces más rápida que el modo Astra Standard. Esta velocidad mejorada facilita la generación de código, el uso de herramientas y las aplicaciones interactivas, lo que permite acortar los ciclos de edición, prueba y depuración para los desarrolladores.
Philippe Tillet, responsable de inferencia en OpenAI, señaló que la inversión de NVIDIA ha permitido desarrollar modelos eficientes para la programación de GPU Blackwell y Rubin. Por su parte, Uday Ruddarraju, director de tecnología de computación de OpenAI, destacó que la colaboración con NVIDIA ayuda a optimizar la inferencia y acelerar el rendimiento de los modelos.
Nota sobre fuentes y verificación
https://territorioblockchain.com/openai-lanza-gpt-6-astra-ultrafast-hasta-8-veces-mas-rapido/
