Goodfire, una compañía de investigación de interpretabilidad de IA con sede en San Francisco, ha obtenido $ 50 millones en fondos de la Serie A dirigido por Menlo Ventures. La inversión, que también incluye la participación de Lightspeed Venture Partners, Anthrope y B Capital, apoyará la expansión de las iniciativas de investigación de Goodfire y el desarrollo de su plataforma de interpretabilidad insignia, Ember.
La financiación se produce menos de un año después de la fundación de Goodfire, con su equipo compuesto por los principales investigadores de interpretabilidad de IA y operadores de inicio experimentados de organizaciones como OpenAI y Google Deepmind. Los investigadores de Goodfire han ayudado a establecer el campo de la interpretabilidad mecanicista, autorizar documentos clave y avances pioneros como autoencoders escasos para el descubrimiento de características.
La plataforma Ember de Goodfire decodifica las neuronas dentro de los modelos de IA, proporcionando acceso directo a sus trabajos internos. Esto permite a los usuarios descubrir el conocimiento oculto, dar forma a los comportamientos del modelo y mejorar el rendimiento. La tecnología de la compañía tiene como objetivo abordar la brecha de conocimiento que rodea las redes neuronales, haciéndolas más fáciles de diseñar y menos propensas a fallas impredecibles.
La inversión refleja la creciente importancia de la interpretabilidad mecanicista en el desarrollo de la IA. «A medida que avanzan las capacidades de IA, nuestra capacidad de comprender estos sistemas debe mantener el ritmo», dijo Dario Amodei, CEO y cofundador de Anthrope. Goodfire planea acelerar su investigación a través de iniciativas específicas con desarrolladores de modelos fronterizos y lanzar vistas previas de investigación adicionales en diversos campos.
Goodfire ya ha colaborado con el Instituto ARC, con Patrick Hsu, cofundador de ARC Institute, afirmando que las herramientas de interpretabilidad de Goodfire han permitido la extracción de nuevos conceptos biológicos de su modelo de base de ADN, EVO 2. Los esfuerzos de la compañía tienen como objetivo revelar nuevas ideas científicas y rehapiar la comprensión de los modelos AI.
