Apple está desarrollando múltiples modelos de inteligencia artificial generativa y está gastando millones de dólares por día en computación de entrenamiento de IA generativa.
The Information ha informado que el equipo de IA conversacional, denominado Foundational Models, está formado por solo 16 personas. También hay otros dos equipos relativamente nuevos en la empresa que desarrollan modelos de lenguaje o imagen.
Los esfuerzos de IA están encabezados por John Giannandrea, quien se unió en 2018 como vicepresidente senior de estrategia de aprendizaje automático e inteligencia artificial después de un largo período en Google. Dentro del grupo más amplio de IA, el equipo de Foundational Models está dirigido por Ruoming Pang, quien se unió a la empresa en 2021 después de pasar 15 años en Google.
El grupo ha desarrollado varios modelos avanzados, incluido un chatbot de modelo de lenguaje grande (LLM) que podría interactuar con los clientes que utilizan AppleCare, el servicio posventa de la empresa para garantía y soporte técnico.
Sin embargo, Giannandrea ha expresado a sus colegas sus dudas sobre la utilidad de los chatbots impulsados por modelos de lenguaje de IA, según ha informado The Information. Esta visión ha comenzado a cambiar durante el año pasado.
El equipo de Siri planea utilizar por separado LLM en su asistente de voz y está desarrollando varios modelos. La compañía cree que su Ajax GPT puede hacer más que GPT 3.5 de OpenAI, el LLM que impulsó la versión inicial de ChatGPT. Sin embargo, desde entonces OpenAI ha lanzado modelos más potentes.
Con Giannandrea y Pang viniendo de Google, ayudaron a convencer a Apple de usar Google Cloud, en particular haciendo uso de sus chips de unidad de procesamiento tensorial (TPU) personalizados para la capacitación en aprendizaje automático. AXLearn, un marco de aprendizaje automático desarrollado para entrenar Ajax GPT, se basó en parte en la investigación de Pang y está optimizado para TPU.
Se cree que el contrato de Google Cloud de Apple tiene descuento debido a los acuerdos comerciales más amplios de las dos compañías, incluido Google Search como proveedor de búsqueda predeterminado para el navegador Safari. Se cree que la empresa es uno de los mayores clientes de la nube de Google, pero también es un usuario importante de Amazon Web Services.