Opadai ha lanzado GPT-OSS 12B y 20B, modelos AI de código abierto que permiten la operación local en computadoras personales. Este desarrollo ofrece una mayor privacidad y control.
GPT-OSS 12B y GPT-OSS 20B de OpenAI son modelos de razonamiento. Facilitan las capacidades avanzadas de IA en los sistemas locales, mejorando la privacidad, la velocidad y el control del usuario. GPT-OSS 20B está optimizado para el hardware del consumidor de alta gama, mientras que GPT-OSS 12B es para sistemas de grado profesional con GPU más potentes. Herramientas como Olama, para instalación fácil de usar, y LM Studio, para usuarios avanzados, agilizar el proceso de configuración. La instalación local proporciona un mayor rendimiento, control y confiabilidad sobre soluciones basadas en la web, ajustando aplicaciones exigentes. Los modelos ofrecen transparencia de razonamiento y flexibilidad de código abierto. Actualmente carecen de la carga de archivos y las funciones avanzadas de búsqueda web; Las mejoras futuras están en desarrollo.
Los modelos GPT-OSS 12B y 20B se alinean con el objetivo de OpenAI de acceso generalizado de IA, proporcionando herramientas para tareas de razonamiento. Estos modelos admiten análisis de problemas complejos y muestran pasos de razonamiento, ofreciendo transparencia en sus procesos.
- GPT-OSS 20B: Diseñado para uso local en hardware de alta gamaeste modelo equilibra la accesibilidad con el rendimiento. Se adapta a los usuarios que buscan capacidades avanzadas de IA sin sistemas profesionales.
- GPT-OSS 12B: Este modelo de modelo más intensivo en recursos Estaciones de trabajo de grado profesional con poderosas GPU. Sirve a investigadores y usuarios avanzados que requieren mayores capacidades computacionales.
Ambos modelos son de código abierto, lo que permite a los desarrolladores e investigadores personalizarlos o examinar su arquitectura. Esta flexibilidad los hace valiosos para diversas aplicaciones, desde la investigación académica hasta la resolución práctica de problemas.
Ejecutar estos modelos localmente requiere hardware robusto para un rendimiento óptimo. Las especificaciones de hardware son las siguientes:
- Para GPT-OSS 20B: Un sistema necesita al menos 16 GB de memoria GPU y un procesador moderno. Esta configuración es adecuada para la mayoría de las computadoras de escritorio o computadoras portátiles de consumo de alta gama.
- Para GPT-OSS 12B: Una configuración avanzada requiere 24 GB o más de la memoria GPUtípicamente encontrado en estaciones de trabajo de grado profesional o entornos informáticos especializados.
Los sistemas que cumplen con estos requisitos lograrán tiempos de respuesta más rápidos y una funcionalidad mejorada en comparación con las interacciones basadas en la web. Los usuarios con hardware menos potente pueden enfrentar desafíos, lo que hace que las actualizaciones de hardware sean una consideración para maximizar el rendimiento.
