El verdadero costo de los tokens: ¿Por qué las empresas que buscaban ahorrar con IA se están llevando sorpresas?

En la empresa de software 8×8, los empleados han comenzado a integrar la inteligencia artificial en sus procesos cotidianos mediante el uso de Claude, un chatbot desarrollado por Anthropic. Esta herramienta no solo les asiste en la redacción de correos electrónicos y en el análisis de comentarios de clientes, sino que también contribuye a la programación. A diferencia de otras compañías de Silicon Valley, que han expresado inquietudes sobre los crecientes costos asociados con las herramientas de IA generativa, 8×8 ha logrado mantener su situación financiera estable y beneficiosa.

Beneficios Económicos de la IA

8×8 estima que, en los últimos 18 meses, ha ahorrado alrededor de 5 millones de dólares al eliminar suscripciones a múltiples herramientas de software y capacitación que ya no considera necesarias, gracias a las capacidades que ofrece Claude. Joel Neeb, director de transformación y operaciones empresariales, menciona que los costos anuales asociados a Claude son considerablemente inferiores a los ahorros logrados. Neeb anticipa que, a medida que se fomente una mayor adopción de la IA entre los empleados y se implemente en tareas más complejas, los ahorros y costos se equilibrarán. Sin embargo, actualmente, la diferencia es significativa, lo que resulta en la satisfacción del director financiero de la empresa. Aunque se ha mantenido en reserva el gasto total en IA generativa, la tendencia es positiva.

Con el auge de la inversión en herramientas de IA en distintos sectores como programación, marketing y atención al cliente, ha surgido una nueva preocupación en la industria: la «tokenomía». Este término se refiere a la gestión del creciente costo del uso de IA, donde los tokens representan la cantidad de contenido procesado y generado por los modelos de IA. Recientemente, el director ejecutivo del Royal Bank of Canada informó que el uso de tokens había aumentado un 500% en seis meses, mientras que en Cisco, un tercio de sus empleados utiliza diariamente un chatbot de IA, lo que ha llevado a un aumento notable en el consumo de tokens. Otros ejecutivos, como el de Amplitude, han señalado que algunos ingenieros están gastando miles de dólares mensualmente en tokens, lo que ha generado un debate creciente sobre la presupuestación de estos recursos.

Desafíos en la Gestión de la IA

Aproximadamente 300 empresas han planteado inquietudes respecto al uso de tokens de IA en sus conferencias recientes, un aumento significativo en comparación con el año anterior. Los altos ejecutivos están buscando desarrollar o adquirir sistemas para monitorear el uso de tokens y determinar el modelo más económico para cada tarea. Algunos están tratando de equilibrar el aumento de personal y los presupuestos destinados a tokens para cumplir con sus objetivos. A pesar de que el software ha tenido un costo elevado tradicionalmente, la nueva generación de herramientas de IA ha añadido una presión considerable sobre las direcciones de las empresas debido a la volatilidad de los precios y la necesidad de adaptar toda la organización a nuevas formas de trabajo.

Un ejemplo de esta estrategia es Baseball Lifestyle 101, una marca de ropa que ha incentivado a sus altos directivos a gastar el 20% de su salario en tokens de IA. Bill Rom, cofundador de la empresa, señala que aunque se prevé que los costos alcancen los 100,000 dólares al mes, los beneficios son evidentes. Claude ha ayudado a la empresa a gestionar pedidos significativos de manera más eficiente, lo que se traduce en ingresos adicionales sustanciales. Además, la herramienta contribuye a la redacción de informes financieros y a la planificación, lo que permite a la empresa reducir su personal junior y redirigir inversiones hacia otras áreas. Rom enfatiza la importancia de educar a los empleados en el uso de IA antes de establecer límites financieros en su implementación.

Fomentando la Adopción de la IA

En 8×8, se ha promovido el uso de Claude entre aproximadamente 1,800 empleados, quienes pueden consultar un panel de control para monitorear su uso y el de sus compañeros. Neeb indica que esta iniciativa no busca penalizar, sino más bien asegurar que todos estén alineados en el proceso de adopción de la IA. A pesar de que algunos equipos, como ventas y finanzas, han mostrado un uso menor de Claude, se ha impulsado la idea de establecer límites en el futuro para gestionar el creciente consumo de recursos. Neeb ha discutido la posibilidad de que el acceso a modelos más avanzados dependa de demostrar la necesidad de esos recursos en lugar de utilizar versiones anteriores que podrían ser suficientes.

A pesar de estas consideraciones, Neeb asegura que 8×8 no tiene intención de retroceder en su inversión en IA generativa. Los indicadores de satisfacción y fidelidad de clientes han mejorado, y la compañía ha experimentado un crecimiento de ingresos durante cuatro trimestres consecutivos, en parte gracias a la eficiencia que aporta la IA en el trabajo del equipo de ventas. Si bien es complicado atribuir estos resultados únicamente a la implementación de IA, Neeb sugiere que existe una conexión significativa, describiendo la situación como una «marea creciente» que beneficia a todos los aspectos del negocio.

Capacitación en IA y Futuro

Hace aproximadamente dos años, 8×8 comenzó a explorar la IA generativa ofreciendo capacitación a todos sus empleados sobre herramientas como ChatGPT de OpenAI y Gemini de Google. Posteriormente, Claude fue adoptado como estándar en la empresa. Neeb ha observado que aquellos que no se adaptan a esta nueva tecnología pueden perder oportunidades valiosas para mejorar su rendimiento y eficacia. Otras empresas han emitido directrices similares, pero los resultados han sido variados. Mientras que algunos empleados de empresas como Amazon y Meta han comenzado a integrar la IA en su trabajo por obligación, Neeb sostiene que es esencial guiar a los empleados en el uso de la IA de manera responsable, evitando que la tecnología se convierta en una excusa para la ineficiencia.

Neeb también se ha enfocado en motivar a los equipos que aún no han adoptado plenamente la IA, como ventas y finanzas, que representan un porcentaje significativo de empleados pero utilizan pocos tokens. La reciente realización de un hackatón de IA busca incentivar a estos equipos a automatizar procesos manuales, optimizando así su rendimiento. Neeb ha podido experimentar de primera mano cómo Claude puede mejorar la eficiencia operativa, utilizando la herramienta para automatizar tareas diarias y logrando reducciones significativas en el consumo de recursos. En resumen, 8×8 continúa avanzando hacia un futuro en el que la inteligencia artificial se integra profundamente en su modelo de negocio, con la esperanza de maximizar tanto la eficiencia como la rentabilidad.