Microsoft entrena nueva IA para competir con los grandes LLM

Microsoft está desarrollando un nuevo gran modelo de lenguaje (LLM) con el nombre en clave MAI-1, que tiene el potencial de competir con los LLM de IA desarrollados por Google y OpenAI.

Es la primera vez que Microsoft desarrolla un LLM de tal envergadura desde que invirtió miles de millones de dólares en OpenAI por los derechos para implementar la tecnología de esta última en su suite de software de productividad.

El desarrollo de MAI-1 está siendo supervisado por Google DeepMind y Mustafa Suleyman, cofundador de Inflection, según un artículo de The Information. En marzo de 2024, Microsoft adquirió varios empleados de Inflection en un acuerdo por valor de 650 millones de dólares.

Según el informe publicado el 6 de mayo, MAI-1 tendrá aproximadamente 500.000 millones de parámetros, colocándolo en algún lugar entre el billón de parámetros reportado de GPT-4 de OpenAI y los 70.000 millones de parámetros del modelo Meta Llama 3 AI.

También se espera que sea “mucho más grande” y más caro que cualquiera de las anteriores IA de código abierto más pequeñas de Microsoft (Phi-3 y WizardLM-2), ya que requerirá más potencia de computación y datos de entrenamiento.

Aunque MAI-1 puede aprovechar las técnicas y datos de entrenamiento de Inflection, sigue siendo distinto de cualquier otro modelo o tecnología producido por OpenAI o Inflection. Según los empleados de Microsoft familiarizados con el proyecto, MAI-1 es un LLM completamente nuevo desarrollado internamente por Microsoft.

Microsoft aún no ha anunciado el propósito exacto de MAI-1, y su uso preciso dependerá de su rendimiento. Mientras tanto, la empresa ha asignado un gran clúster de servidores con procesadores GPU Nvidia y está utilizando grandes cantidades de datos de diversas fuentes para mejorar el modelo.

Según los informes, dependiendo de su progreso, la empresa podría presentar MAI-1 en la conferencia de desarrolladores Build este mismo mes, pero aún no está confirmado.