Operai acaba de lanzar gt-ossun modelo de idioma grande de IA (LLM) disponible para descarga native y uso fuera de línea con licencia con Apache 2.0, y optimizado para la eficiencia en una variedad de plataformas sin comprometer el rendimiento. Este es su primer lanzamiento “abierto” de este tipo, y es con un modelo cuyas características y capacidades se comparan favorablemente con algunos de sus servicios alojados.
Operai se ha asociado con ollama para el lanzamiento lo que hace que la incorporación sea ridículamente fácil. ollama es un proyecto de código abierto y licenado en el MIT para instalar y ejecutar LLM locales, pero no hay un vínculo actual con esa plataforma. Los modelos están disponibles por separado: GPT-OSS-20B puede ejecutarse dentro de los 16 GB de la memoria, y el más grande y más capaz GPT-OSS-120B Requiere 80 GB. Operai afirma que el modelo más pequeño es comparable a su propio modelo de “razonamiento” O3-Mini alojado, y el modelo más grande lo supera. Ambas características de soporte como el uso de herramientas (como la navegación net) y más.
Los LLM que se pueden descargar y usar fuera de línea no son nada nuevo, pero un par de cosas hacen que este modelo se lance un poco diferente de los demás. Una es que, si bien OpenAi ha lanzado modelos abiertos como Whisper (un modelo de voz a texto altamente capaz), este es en realidad la primera LLM que han lanzado de tal manera.
La otra cosa notable es que este lanzamiento coincide con un Bounty Challenge por encontrar fallas y vulnerabilidades novedosas en GPT-OSS-20B. ¿Ruinar tal modelo te atrae más atractivo que ejecutarlo? Si es así, buenas noticias porque hay un complete de $ 500,000 por desembolsar. Pero no hay tiempo que perder; Las presentaciones deben estar antes del 26 de agosto de 2025.
