Etched.ai, la startup de chips de inteligencia artificial (IA), ha recaudado 120 millones de dólares en una ronda de financiación Serie A.
La ronda fue dirigida por Primary Venture Partners y contó con la participación del ex director ejecutivo de PayPal, Peter Thiel, y Amjad Masad, director ejecutivo de la plataforma de desarrollo de software de inteligencia artificial Replit.
Fundada en 2022 por Gavin Uberti y Chris Zhu, desertores de la Universidad de Harvard, la empresa con sede en Cupertino ha desarrollado un chip de inteligencia artificial denominado Sohu para entrenar, implementar y optimizar modelos de transformadores, un tipo de arquitectura de red neuronal que sustenta los grandes modelos de lenguaje (LLM) como como ChatGPT.
TSMC producirá los chips utilizando el proceso de 4 nm del fabricante. La compañía ha dicho que también ha asegurado el suministro de memoria y servidores de alto ancho de banda de los "principales proveedores", aunque esas compañías no fueron nombradas.
Según Etched, si bien sus chips ASIC específicos de algoritmos no podrán ejecutar la mayoría de los modelos de IA tradicionales, como los modelos de recomendación de aprendizaje profundo (DLRMS) o las redes neuronales recurrentes (RNN), Sohu será más eficiente que las GPU tradicionales a la hora de ejecutar solo los modelos de transformadores específicos para los que fueron diseñados.
La compañía ha dicho que Sohu es compatible con todos los modelos disponibles actualmente, incluidos Google, Meta, Microsoft, OpenAI y Anthropic, y puede realizar ajustes en modelos futuros.
Etched también afirma que Sohu es un "orden de magnitud más rápido y más barato" que las próximas GPU Blackwell de Nvidia, con un servidor Sohu de ocho chips que sirve más de 500.000 tokens Llama 70B por segundo. La compañía tomó esta determinación extrapolando datos de los puntos de referencia MLperf publicados para servidores Nvidia H100, que mostraron que un servidor de ocho GPU puede procesar 23.000 tokens Llama 70B por segundo.
En una entrevista con TechCrunch, el CEO de Etched, Uberti, dijo que un servidor Sohu reemplazaría 160 GPU H100.
“En 2022, apostamos a que los transformadores se apoderarían del mundo”, dijo al medio de comunicación. "Hemos llegado a un punto en la evolución de la IA en el que los chips especializados que pueden funcionar mejor que las GPU de uso general son inevitables, y quienes toman decisiones técnicas en el mundo lo saben".