¿Quien dijo que esto no sucederia con la IA por que necesitan más memoria?

Ya se, la fuente no es buena, es el chapuzas pero......todo tiene un origen en esa web que no es el chapuzas https://elchapuzasinformatico.com/2023/ ... trenarlas/

Al final sucede que las GPUs pueden verse afectadas porque para la IA se usan graficas a ser posible con más memoria y como era de esperar alguien invento juntar varias graficas.

Claro las grandes empresas compraran graficas de IA pero las pequeñas acabaran tirando de lo que puedan. Ver veremos donde llega esto pero si el boom de IA no frena, yo pronostico que la bonanza que vivimos ahora con las graficas, en uno o dos años puede desaparecer si las graficas de IA suben mucho de precio, su stock baja mucho y si cada vez hay más empresas entrenando IAs para diferentes usos.

Ahora vendra alguien y dira que imposible. Bueno, puede ser o puede no ser. Tambien me decian lo mismo de las graficas de 8GB hace apenas un año y ya veis, cada dia esta más claro que son mala compra. Sin embargo ahora se acerca la tormenta perfecta que es necesidad de graficas con más memoria para jugar y posible subida de precios por la venta para IA de modelos con más memoria.
Y el resto terminaremos tirando de subscripciones a servidores hasta para ir al servicio, primero para que te abra la puerta y te deje pasar, segundo que te levante la tapa (no vaya a ser que lo hagas encima de ella), tercero para que te dispense el papel (no quieras automatizaciones que también te tendrás que subscribir), cuarto para que tire de la cadena y quinto para que te abra la puerta y te deje salir, previo pago claro está. Y muy inteligentemente te habrán sangrado la cuenta bancaria ...
Ninguna empresa por pequeña que sea va a comprar una 4090 para IA cuando por menos precio tiene una A5000 que rinde mejor para ese fin.
jnderblue escribió:Ninguna empresa por pequeña que sea va a comprar una 4090 para IA cuando por menos precio tiene una A5000 que rinde mejor para ese fin.

No estoy para nada de acuerdo. Primero, porque para encontrar una A5000 a precios inferiores a una 4090 hay que ir a proveedores "dudosos" (como la que está a 1800€ ahora en amazon, lo que veo en otras tiendas nuevo pasa los 3000), que muchas veces no es una opción para una empresa que tiene que comprar nuevo, con factura, IVA, etc. aunque sea más caro. Y te lo digo porque tengo que sufrir eso mismo con frecuencia, de ver cosas que cuadran muy bien de segunda mano pero no hay forma de justificar el gasto y toca pagar todo nuevo aunque se te quede cara de tonto de los márgenes que tienen.

Y segundo, porque me gustaría saber en base a qué opinas que es mejor una A5000 para IA. Tiene la misma VRAM, la mitad de tensor cores, y mucho menos ancho de banda a memoria. Incluso si tuviera más VRAM, creo que sería discutible, porque una cosa es poder usar batch sizes más grandes para hacer lo mismo en menos épocas y otra cosa es que solo con esa ventaja se pueda suplir la drástica desventaja en "músculo" que hay entre ambos chips.

Precisamente el problema que existe, creo yo, es que las gráficas de juegos son demasiado buenas para IA para el precio que tienen. Eso es bueno, porque hasta cierto punto "democratiza" que un usuario particular pueda entrenar modelos medianamente serios sin tener que hacer una inversión de hardware específico. Y a la vez malo porque hace que en muchos casos sea más rentable comprar 3 o 4 gráficas de juegos de gama media-alta que invertir la misma cantidad de dinero en una TPU para IA (que va a rendir menos, pierde valor muy rápido, y no se puede aprovechar para prácticamente ningún otro uso)

Saludos
Por eso EVGA está a tope con las RTX 4000 [qmparto]

La realidad es que han ajustado la producción para no bajar precios y mantener controlado el mercado.
Kavezacomeback escribió:Por eso EVGA está a tope con las RTX 4000 [qmparto] .

Supongo que es un chiste porque abandonaron Nvidia.....una lastima.
Nomada_Firefox escribió:
Kavezacomeback escribió:Por eso EVGA está a tope con las RTX 4000 [qmparto] .

Supongo que es un chiste porque abandonaron Nvidia.....una lastima.


Una lastima no; que nvidia les hacia competencia con las founder, que les dejaron stock para aburrir tanto como decían de la minería y por eso han pasado de la serie 4000.

Si el mercado que propones fuera lucrativo todos los AIB estarían a tope y no es el caso. Mira AMD la nueva 7900 GRE se las ha dado a los que tiene en exclusiva (XFX, Sapphire y PowerColor).

Vamos que creo la demanda y por consecuencia el mantenimiento de precios por la IA es un cuento.
Kavezacomeback escribió:Una lastima no; que nvidia les hacia competencia con las founder, que les dejaron stock para aburrir tanto como decían de la minería y por eso han pasado de la serie 4000.

Si el mercado que propones fuera lucrativo todos los AIB estarían a tope y no es el caso. Mira AMD la nueva 7900 GRE se las ha dado a los que tiene en exclusiva (XFX, Sapphire y PowerColor).

Vamos que creo la demanda y por consecuencia el mantenimiento de precios por la IA es un cuento.

EVGA está al borde de la quiebra (incluso se rumoreaba que k1ngpin ya no trabajaba para ellos, cosa que han corrido a desmentir pero igualmente ha admitido que no hay más proyectos en placas base tampoco),

Cualquier parecido con la realidad de lo dicho arriba es pura coincidencia.

Saludos
@Pollonidas https://wccftech.com/evga-quits-nvidia- ... b-partner/

Que ahora estén en quiebra vale, pero seguro venía todo de lo mismo.

Si volvemos al supuesto mercado de GPUs para IA ya te digo todo indica no es realista.

Otra cosa es que AMD y nVidia tengan grandes centros de datos para grandes empresas, pero eso de mindundis adiestrando IAs copan el mercado es una fantasía.
Kavezacomeback escribió:Una lastima no; que nvidia les hacia competencia con las founder, que les dejaron stock para aburrir tanto como decían de la minería y por eso han pasado de la serie 4000..

Yo creo que palmaban dinero con las garantias. Eran los que mejor las respetaban y de hecho su afirmación fue que dejaban el negocio porque con los precios de las graficas no cubrian costes. En su momento se dijo, las malas lenguas, que era porque vieron venir el problema con los conectores. [sonrisa]

Y puede ser que tambien ya no eran capaces de hacer modelos tan genericos. Que era lo que hacian y sino cubrieran las garantias del modo que hacian, ya hubieran dejado ese negocio hace más tiempo como le sucedio a XFX.
https://www.techspot.com/news/97462-amd ... r-cpu.html

Que los precios son altos por que ellos quieren, esto ha sido siempre así.
esto ya lo dije yo hace mucho
Uff... Interesado en hacerme con una 4070/4080 pero los precios son aún una locura, más de 800€ en una tarjeta gráfica no voy a volver a pagar.

Una pena lo de Nvidia con evga.... ya que evga no pone pegas en caso de rma por usar un Waterblock, ya que cambiarle la camiseta as una de cobre niquelado no supone ningún riesgo si sabes lo que haces...

A ver qué marca encuentro q haga esto ya que sí o sí la pasaré por agua ya que no puedo alojar una GPU de más 270mm

(Se que están la las versiones ya con bloque pero pagando 400€ de más
12 respuestas