Hinteligencia Hartificial: EJH de las IAs

[Chino]

Ahora estoy viendo la evolución de esto de la IA pero en el entorno empresarial.

En mi empresa, hace unos meses, los jefazos más gordos decidieron que... "AHORA TODO ES IA", porque claro, es el nuevo internet, la nueva disrupción, no podíamos perdernos esa ola porque entonces los competidores se nos iban a comer.

Desde ese momento, empezaron a tirar toneladas de pasta en hacer una aplicación de IA desarrollada por nosotros mismos (aunque por debajo tiraba de los motores de OpenAI, por supuesto). Un equipo de chorrocientas personas desarrollando esa cosa, que funcionaba... regular siendo generosos.

Pero claro, como todo era IA y no nos podíamos quedar atrás, decidieron tirar a la basura ese desarrollo (y los millones que costó) y hacer un contrato con ChatGPT para ponernos una licencia a todos.

Una vez firmado el contrato, nos empezaron a machacar con decenas de cursos obligatorios de IA, charlas, presentaciones, correos... había que usar la IA, chavales. El que se tiraba una semana sin logarse en ChatGPT recibía un correíto de los jefes diciendo que qué pasaba.

Usad la IA.
Usad la IA.
Usad la IA.

¿Qué ha pasado? Pues... que hemos usado la IA. Pero demasiado. Equisdé.

Resulta que el contrato con ChatGPT suponía una bolsa de tokens global de la que todos ibamos consumiendo, con la idea de que si uno consumía 800, otro consumiría 100, y al final pues más o menos todos iban a hacer una media razonable.

Error.

Ha habido cuatro o cinco locos que, en un mes, consumieron el 80% de los tokens DE TODA LA PUTA EMPRESA ellos solos. No me digas lo que hicieron, que no lo sé... pero se oye que desarrollaron Apps completas con Codex y demás historias.

¿Qué pasa ahora? Pues que esos mismos jefes que nos daban por culo a diario con que había que usar la IA, pues ahora te dicen que sí, pero que no la usemos tanto. Y nos la han restringido a unos 125 tokens por semana. Como dato, cada consulta a la versión Pro consume 50. Total, que ahora solo puedo hacer 2 consultas Pro a la semana, y reza porque la respuesta sea buena, que si no, te comes los tokens y te quedas igual.

Así que hemos pasado del "Todo es IA" al "La IA es cara de cojones". Y hablando con otros amiguetes la sensación es que eso está pasando en todas partes.

La premisa inicial de "con la IA puedes conseguir ser mucho más eficiente" está guay, siempre y cuando el precio a pagar por esa eficiencia no sea mayor que el beneficio que has obtenido. Y parece ser que en el momento actual esto no es así, ni de lejos.

Así que me estoy viendo que la euforia empresarial en este sentido se va a ir aflojando hasta que los modelos futuros sean, de verdad, lo suficientemente eficientes como para que no te cueste un riñón cada vez que le pides que te depure un trozo de código de 30 líneas.

[rianxeira]

Chino, es que hay mucho SUCNORMAL, así en mayúsculas.

En mi empresa algo parecido, alguien decidió, por fin tras mucho tiempo, poner una cuenta conjunta Bussiness para que la usaran... pues por lo visto un listo de desarrollo modificó los parámetros y marcó el comprar tokens automáticamente y en dos dias se follo un porrón.

Luego están los que usan el ultimo modelo a tope, que consume otro cojón, un 5.5 con extra high te dura unas 5 consultas. Con un 5.3 Medium te dura todo el rato sin problemas. Yo solo alcancé el límite de las 5 horas el primer dia, dos veces. Te adaptas, cambias la configuración y sigues.

Lo que nos lleva a lo otro, los que usan chatgpt hasta para cagar. Si sabes que hay un error ortográfico y hay que cambiar una n... No lances una puta consulta 5.5 extrahigh para que te lo haga la IA cabrón. Y los proyectos los pasas antes por alguien, no te presentes a una reunión con una aplicación vibecodeada que no hay por donde cogerla cuyo objetivo es hacer lo que ya se hace mediante un script básico, pero dándole 20 desvíos para llegar al mismo camino.

[Benson_Señora]

y no creeis que en el futuro se va a fomentar que los modulos futuros sean cada vez mas (presuntamente) potentes de forma que el consumo de tokens nunca sea "de verdad lo suficientemente eficientes como para que no te cueste un rinyon"?

me estranya pensar un futuro que el modelo de negocio tenga en cuenta la rentabilidad para el consumidor

[Gandalfini]

Pero todo esto es el proceso normal de adopción de nuevas técnicas y tecnologías. Mezclado con la subnormalidad humana habitual y el abuso mental que se hace de todo lo digital, por un lado, y por la costumbre añadida de que todo sea gratis o medio gratis, por el otro. Preguntar a Google es gratis, igual que es pedirle al becario, para el responsable, que haga A o B y se lo dé hecho pues más o menos. Mezclad eso y tiene todo el sentido del mundo que pase lo que pase. Vamos, que pasa lo que pasa siempre.

Llevamos escuchando 10 años que si los costes del cloud o que si fulánez hizo una query monstruosa y no había límites y le salió más cara que todo su coste laboral de un año. No sé qué diferencia hay con eso, que es como lo más reciente con lo que comparar.

Como aquí se paga, lo que pasará es que dentro de 6 meses las empresas estarán usando las versiones de programación y desarrollo de las empresas chinas que tienen un descuento del 75-80% sobre las americanas. Porque si ellos van a 6 meses de "lo Frontera", cuando el nivel que alcancen sea suficiente, pues ya estaría.

[Chino]

Hombre, a nivel empresarial necesitas vender rentabilidad a tus clientes. Si SAP o Salesforce quiere venderle la moto a cualquier otra empresa, les va a dar un business case en el que se van a ahorrar X minolles al año. Que luego es una patraña, pero al final siempre tiene que haber un beneficio para el cliente.

En cuanto a la IA empresarial, la situación actual me temo que no es viable, al menos con los costes que hay. Porque está el tema que dice Rian, que muchas de las tareas que hacemos se pueden realizar con un modelo Instant que no consume créditos, pero cuando de verdad te metes en tareas que sí dan beneficio real, como por ejemplo el vibe coding, hacer data analytics, sacar insights de big data... todas esas historias en las que la IA es realmente eficiente y útil, ahora mismo es carísimo.

Si quieren que la IA sea rentable, necesitan ofrecer a los clientes (no hablo de consumidor particular), un retorno de inversión. Y para hacer eso, ahora mismo, necesitan enfocar los próximos modelos en mejorar la eficiencia y el consumo de tokens más que en aumentar la potencia o la inteligencia, hasta llegar a un balance en el que a mí, como empresa, me salga rentable invertir X millones si voy a conseguir X+Y.

Hay muchas cosas chulas que se pueden hacer. Yo ahora mismo estoy metido en un par de proyectos con IA, en ambos casos usando Databricks.

En el primero la idea es analizar datos de ventas a tiendas y restaurantes de USA, compararlos con otras tiendas o restaurantes con características similares sacando el listado de productos que mejor se vendan en dichas tiendas, y determinar un listado de productos recomendados para el equipo comercial, por cada una de las cuentas. La IA se utiliza para todo el tema de clasificación de cuentas, tendencias de mercado, Scraping de redes sociales... y si lo haces bien, puedes tener un listado de "best products" asignado a cada tienda en concreto y así optimizar ventas.

Otro proyecto consiste en extraer toda la información de compras de mi empresa, por departamento, con datos de proveedores, detalles de los pedidos y facturas, fechas, importes, etc... el llm primero se utiliza para categorizar los gastos, los proveedores y darle un contexto a cada compra. Y después, eso sirve de fuente para otro GPT en el que se pueda extraer información de los gastos de la empresa, del estilo "analízame cuánto dinero han gastado departamentos que no son IT en contratos con proveedores de IT", y saber si hay duplicidades o gastos ocultos o cualquier cosa que permita ahorrar costes.

Pero claro, la puesta en producción de esos proyectos depende del coste de ejecución de la IA... si resulta que voy a ganar un 3% más en ventas, pero me tengo que gastar una millonada en tokens para analizar los datos, pues el proyecto se quedará en el cajón.

[Gandalfini]

A la eficiencia van, pero su carrera es por la puta AGI fake. Al menos tienen que seguir con el cuento y combinarlo con los ingresos hasta las OPVs. En el momento en que cambien de discurso es que los chinos se los comen.

La cuestión, me parece a mí, es que el aumento real de la productividad vía IA vendrá cuando las empresas reinventen procesos. Ahora estamos en esa fase, como la de tus proyectos, que es muy chula, pero que tiene un tope porque es hacer lo mismo de siempre pero mejor. Y para eso la gente se tiene que poner a pensar mucho y la gente, más bien los managers, solamente se pone a pensar un poco cuando ven su culo peligrar, ya sea para retrasar la enculada o para esquivarla. No dudo que haya muchos que estén respirando felices con este paroncito de semanas o meses que vamos a tener con lo que la IA es cara y se les alargue el horizonte del despido.