Neuchips, un proveedor de circuitos integrados específicos de aplicaciones de IA (ASICS), ha anunciado una asociación con Shareguru de Technology Corp. de Vecow y Golden Smart Home (GSH) para desarrollar una solución de IA generativa sin conexión para el procesamiento de datos propietario. La colaboración tiene como objetivo permitir a las empresas extraer información en tiempo real de las bases de datos internas utilizando consultas de lenguaje natural.
La asociación se centra en abordar los desafíos del procesamiento de datos SQL complejo y la necesidad de privacidad de datos. La solución combina la estación de trabajo de inferencia de AI ECX-3100 Rag Edge AI de Vecow, la solución de GSH Shareguru QA 2.0 y la tarjeta AI de la serie Viper de Neuchips.
Los aspectos clave de la solución colaborativa incluyen:
- Procesamiento de datos fuera de línea: La tarjeta Viper Series de Neuchips permite el procesamiento local de la solución ShareGuru, mejorando la privacidad y la seguridad de los datos.
- Consultas del lenguaje natural: El sistema permite a los usuarios generar consultas SQL utilizando el lenguaje humano, simplificando el acceso a los datos y reduciendo la dependencia de la experiencia SQL.
- Eficiencia energética: Neuchips destaca la capacidad de la serie Viper para admitir 12 mil millones de modelos de parámetros a 45 W de consumo de energía.
- Rag-habilitado LLM: La solución aprovecha la generación de recuperación (RAG) de recuperación para proporcionar acceso a datos actualizados sin requerir reentrenamiento de modelos.
- Especificaciones de hardware: La tarjeta NEUCHIPS VIPER Series AI Acelerator presenta 32 GB de capacidad de memoria y soporte de modelo de lenguaje estructurado nativo de BF16.
Agora lanza un motor de IA conversacional para democratizar las interacciones de voz en tiempo real
Neuchips enfatiza que su tarjeta Viper Series descarga una porción significativa del procesamiento generativo de AI de la CPU. Vecow destaca el papel de la solución en satisfacer la creciente demanda de aplicaciones de IA generativas locales y modelos de lenguaje grande (LLM) multimodal. La plataforma ShareGuru de GSH proporciona la solución SLM que interactúa con el hardware Neuchips.
Las compañías mostrarán su solución colaborativa en Incredded World 2025 en Nuremberg, Alemania, en el stand de Vecow. Neuchips también anunció planes futuros para centrarse en los ASIC multimodalidad de baja potencia para 2026.
Crédito de imagen destacado: Google DeepMind/Unsplash
