Microsoft anuncia Maia y Cobalt, sus primeros chips de diseño propio para la IA y la infraestruct...

Microsoft ha aprovechado el evento Ignite para hacer buenos los rumores y anunciar que está fabricando chips personalizados y relacionados con la IA en base a diseños propios. Se trata de un paso muy importante de la tecnológica hacia una mayor independencia, pero Nvidia seguirá siendo uno de los grandes socios, como mínimo a corto y medio plazo. La buena relación entre ambas compañías ha quedado demostrada cuando Jen-Hsun Huang y Satya Nadella, consejeros delegados de Nvidia y Microsoft, respectivamente, han compartido escenario.

El primero de los dos chips que ha presentado Microsoft es el Azure Maia 100, un acelerador de IA diseñado para el entrenamiento y la inferencia en la nube, que en román paladino son las cargas de trabajo de IA de los modelos de lenguaje de gran tamaño o LLM (por sus siglas en inglés) como OpenAI, Bing, GitHub Copilot y ChatGPT. OpenAI, una compañía en la que Microsoft ha invertido 10.000 millones de dólares, ha colaborado en las fases de diseño y prueba del chip y será una de las empresas que se beneficiará de sus prestaciones.

Azure Maia se fabrica siguiendo el proceso de 5 nanómetros de TSMC y en su interior se esconden 105.000 millones de transistores, alrededor de un 30 % menos que los 153.000 millones de transistores que atesora MI300X AI de AMD. En este sector el producto estrella es el H100 de Nvidia con 80.000 millones de transistores. Su heredero H200 ya está en camino.

Imagen

En segundo lugar tenemos Azure Cobalt 100, un chip nativo cloud basado en la arquitectura ARM Neoverse CSS y optimizado para proporcionar rendimiento, eficiencia energética y rentabilidad para cargas de trabajo de uso general. Nos encontramos ante un chip de 128 núcleos que ha sido diseñado para potenciar los servicios en la nube de Azure, el servicio estrella de Microsoft y uno de los mayores responsables del crecimiento de la compañía. Azure Cobalt busca ofrecer un alto rendimiento sin descuidar la gestión de energía y tiene la capacidad de controlar el rendimiento y el consumo por núcleo y en cada máquina virtual.

La intención de Microsoft es que Maia y Cobalt inicien su despliegue en 2024. Cuando ambos chips empiecen a impulsar los servidores de Microsoft, la compañía será menos dependiente de Nvidia y AMD, pero la tecnológica insiste en que la asociación con ambas compañías sigue siendo clave para el futuro de la IA de Azure. Las cargas de trabajo de la IA son muy grandes y diversificar nunca está de más, así que Microsoft complementará sus chips personalizados con opciones de infraestructura de Nvidia (H100 y H200) y AMD (MI300X).

Imagen


Fuente: The Verge
Lo importante es que las ias sean multiplataforma, el día que las ias dependan de x chip volveremos a estar jodidos, aunque muchos modelos serán privados y nunca saldrán de la empresa
A ver donde acaba tanta ia, tanta nube y tanta vaina ... :-|
Siguen apostando fuerte ahora que ya son líderes en cloud.
GodOfKratos escribió:Siguen apostando fuerte ahora que ya son líderes en cloud.


Salvo que haya cambiado mucho la cosa ultimamente ese puesto le tenia Amazon y con diferencia.
triki1 escribió:
GodOfKratos escribió:Siguen apostando fuerte ahora que ya son líderes en cloud.


Salvo que haya cambiado mucho la cosa ultimamente ese puesto le tenia Amazon y con diferencia.


Microsoft con Azure es la principal y primera con diferencia de hace mucho tiempo.
triki1 escribió:
GodOfKratos escribió:Siguen apostando fuerte ahora que ya son líderes en cloud.


Salvo que haya cambiado mucho la cosa ultimamente ese puesto le tenia Amazon y con diferencia.

Desde el Q2 de este año Azure lidera en market share
Imagen
GodOfKratos escribió:Desde el Q2 de este año Azure lidera en market share
Imagen

Eso tiene pinta de ser alguna estimación más vieja que el cagar.

Del segundo trimestre de este año: https://www.statista.com/chart/18819/wo ... providers/

AWS lidera por más del 50% respecto a Azure.
triki1 escribió:
GodOfKratos escribió:Siguen apostando fuerte ahora que ya son líderes en cloud.


Salvo que haya cambiado mucho la cosa ultimamente ese puesto le tenia Amazon y con diferencia.



Ahora 37% es mucho más que 42%. [+risas]


@Orestes No, azufre está primera por delante de Amazon, por poco pero lo está
cedefop escribió:Microsoft con Azure es la principal y primera con diferencia de hace mucho tiempo.


GodOfKratos escribió:Desde el Q2 de este año Azure lidera en market share
Imagen



mmmmmmmmmmmmmmmmm...........................mmmmmmmmmmmmmmmmmmmmmmmmm...........................mmmmmmmmmmmmmmmmmmmmm............................


https://www.crn.com/news/cloud/cloud-ma ... e-battle/6
https://www.statista.com/chart/18819/wo ... providers/
https://www.revolgy.com/insights/blog/t ... iders-2023
https://technologymagazine.com/top10/to ... ld-in-2023

Pues alguien falla porque haciendo una busqueda rapida en Google todas las paginas siguen dando a Amazon como lider destacado ein? ein?
triki1 escribió:Pues alguien falla porque haciendo una busqueda rapida en Google todas las paginas siguen dando a Amazon como lider destacado ein? ein?

La realidad falla, obviamente.

Que la realidad no te estropee ese universo paralelo que te montas donde tu empresa favorita es la más guay, en todo, siempre.
Orestes escribió:
triki1 escribió:Pues alguien falla porque haciendo una busqueda rapida en Google todas las paginas siguen dando a Amazon como lider destacado ein? ein?

La realidad falla, obviamente.

Que la realidad no te estropee ese universo paralelo que te montas donde tu empresa favorita es la más guay, en todo, siempre.


Tu universo mola más.

Pd; acciones Activision 94$
Orestes escribió:
GodOfKratos escribió:Desde el Q2 de este año Azure lidera en market share
Imagen

Eso tiene pinta de ser alguna estimación más vieja que el cagar.

Del segundo trimestre de este año: https://www.statista.com/chart/18819/wo ... providers/

AWS lidera por más del 50% respecto a Azure.

Es a partir de los 10Qs que salieron hace dos semanas. El título del gráfico es la clave, new revenue.
GodOfKratos escribió:
Orestes escribió:
GodOfKratos escribió:Desde el Q2 de este año Azure lidera en market share
Imagen

Eso tiene pinta de ser alguna estimación más vieja que el cagar.

Del segundo trimestre de este año: https://www.statista.com/chart/18819/wo ... providers/

AWS lidera por más del 50% respecto a Azure.

Es a partir de los 10Qs que salieron hace dos semanas. El título del gráfico es la clave, new revenue.

De los 10Qs no se puede sacar nada porque no dividen los ingresos de la división por mercados, por eso te pone abajoque son estimaciones.

No hay ni una sola fuente que apoye o corrobore ese gráfico. Todo, absolutamente todo lo que se publica, pone a AWS un 50% por delante de Azure en cuota de mercado. ~20% para Azure y ~30% para AWS.
Ahora vienen los saludadores cloud...

madre mia!
Tengan el mercado que tengan aws-azure, me alegra que uno exista para competir contra el otro. Ya sabemos todos lo que ocurre cuando una empresa sola monopoliza un sector.

Y si, se que tiene huevos que esté diciendo esto precisamente de microsoft...
Que pasaria si... Un meteorito, una estación espacial, o un ovni de grandes dimensiones, chocaran con el planeta.....

Que se acabaria el chollo y la supremacia de Microsoft y demas peña.

Si seria una desgracia para todos...Pero vamos ha algo peor que esa destrucción de la humanidad, vamos al control total de cada ser humano.

Una carcel digital, va a ser nuestra futura vida.

Al tiempo, Matrix sera un chiste, Y terminator, robocop, etc....Seran obsoletos comparado con lo que nos tienen preparado...

Peliculas, videojuegos, libros, musica, cuadros, esculturas, edificios, electrodomesticos, etc

Todo generado y controlado por Maia y Cobalt.

Me bajo, este planeta ya no sera el eden de nuestros sueños, sin libertad, no hay futuro.

P.D.:

El proximo trabajo en auge sera el de un cuerpo especial de la policía, los blade runners
byevoltor escribió:Que pasaria si... Un meteorito, una estación espacial, o un ovni de grandes dimensiones, chocaran con el planeta.....

Que se acabaria el chollo y la supremacia de Microsoft y demas peña.

Si seria una desgracia para todos...Pero vamos ha algo peor que esa destrucción de la humanidad, vamos al control total de cada ser humano.

Una carcel digital, va a ser nuestra futura vida.

Al tiempo, Matrix sera un chiste, Y terminator, robocop, etc....Seran obsoletos comparado con lo que nos tienen preparado...

Peliculas, videojuegos, libros, musica, cuadros, esculturas, edificios, electrodomesticos, etc

Todo generado y controlado por Maia y Cobalt.

Me bajo, este planeta ya no sera el eden de nuestros sueños, sin libertad, no hay futuro.

P.D.:

El proximo trabajo en auge sera el de un cuerpo especial de la policía, los blade runners

tú eres de verdad o eres una creación de una mala IA, espero que sea lo segundo porque cada vez que leo un mensaje tuyo alucino.
korchopan escribió:
byevoltor escribió:Que pasaria si... Un meteorito, una estación espacial, o un ovni de grandes dimensiones, chocaran con el planeta.....

Que se acabaria el chollo y la supremacia de Microsoft y demas peña.

Si seria una desgracia para todos...Pero vamos ha algo peor que esa destrucción de la humanidad, vamos al control total de cada ser humano.

Una carcel digital, va a ser nuestra futura vida.

Al tiempo, Matrix sera un chiste, Y terminator, robocop, etc....Seran obsoletos comparado con lo que nos tienen preparado...

Peliculas, videojuegos, libros, musica, cuadros, esculturas, edificios, electrodomesticos, etc

Todo generado y controlado por Maia y Cobalt.

Me bajo, este planeta ya no sera el eden de nuestros sueños, sin libertad, no hay futuro.

P.D.:

El proximo trabajo en auge sera el de un cuerpo especial de la policía, los blade runners

tú eres de verdad o eres una creación de una mala IA, espero que sea lo segundo porque cada vez que leo un mensaje tuyo alucino.



Jajajaja yo me parto siempre con los que se bajan del tren por todo. Cómo si al resto del mundo le importara, que artura de especialitos buscando atención.

Me bajo del tren dice... [jaja]
byevoltor escribió:Que pasaria si... Un meteorito, una estación espacial, o un ovni de grandes dimensiones, chocaran con el planeta.....

Que se acabaria el chollo y la supremacia de Microsoft y demas peña.

Si seria una desgracia para todos...Pero vamos ha algo peor que esa destrucción de la humanidad, vamos al control total de cada ser humano.

Una carcel digital, va a ser nuestra futura vida.

Al tiempo, Matrix sera un chiste, Y terminator, robocop, etc....Seran obsoletos comparado con lo que nos tienen preparado...

Peliculas, videojuegos, libros, musica, cuadros, esculturas, edificios, electrodomesticos, etc

Todo generado y controlado por Maia y Cobalt.

Me bajo, este planeta ya no sera el eden de nuestros sueños, sin libertad, no hay futuro.

P.D.:

El proximo trabajo en auge sera el de un cuerpo especial de la policía, los blade runners


Como están las cabezas...
Si en hardware ya está jodido el asunto de competir en IA el verdadero problema viene del software.
Nvidia no suelta el pie del acelerador y a este paso Omniverse tiene papeletas de convertirse en un eje central del futuro de la IA.

Os dejo un video muy interesante relacionado.
https://www.youtube.com/watch?v=RvZdwTT2UKM


Es también muy irónico como el lenguaje natural humano es tan importante para "la nueva era la IA en absolutamente cualquier tarea".
katatsumuri escribió:Lo importante es que las ias sean multiplataforma, el día que las ias dependan de x chip volveremos a estar jodidos, aunque muchos modelos serán privados y nunca saldrán de la empresa

Joer que optimista, el hecho de poder correrla tu en local aunque solo funcione en un chip ya me parece la hostia, que muchas sólo estan disponibles en la nube ...
654321 escribió:
katatsumuri escribió:Lo importante es que las ias sean multiplataforma, el día que las ias dependan de x chip volveremos a estar jodidos, aunque muchos modelos serán privados y nunca saldrán de la empresa

Joer que optimista, el hecho de poder correrla tu en local aunque solo funcione en un chip ya me parece la hostia, que muchas sólo estan disponibles en la nube ...

Ahora eso ocurre porque nadie tiene el poder de cómputo desde casa para mover determinados modelos, pero eso cambiará a medida que pasen los años. Si eso ocurre y no liberan los modelos, pongamos el caso de un juego que se mueve con tres modelos, no habría conservación del juego a no ser que salgan modelos open source que puedan funcionar en ese juego y que no metan algún tipo de protección, aunque estoy seguro que la vida se abrirá camino por si sola
katatsumuri escribió:Ahora eso ocurre porque nadie tiene el poder de cómputo desde casa para mover determinados modelos

Algunos sí, pero otros yo creo que no, por ejemplo hay varios para doblar vídeos a otros idiomas que solo están disponibles en la nube, y no me creo que esos no puedas correrlos en local, si Whisper lo pude correr yo en mi 3080 con la máxima calidad posible ... y había versiones del modelo que podían correr un portátil de bajo consumo incluso.
@654321 eso son modelos privados que buscan darles rentabilidad pero tienen los días contados, tarde o temprano el open source se los comerá,

Pasa con los modelos generativos de imagen que solo stable diffusion es open source.
katatsumuri escribió:tarde o temprano el open source se los comerá

OJALA !!!!!
25 respuestas