La IA no alucina: miente
Un modelo de lenguaje está diseñado para responder, tenga o no la información. En producción, la salida es darle una fuente de verdad.
- Andrés WongPurple AI
Redacción Hablemos TechForo de Tecnología MX 20262 min de lectura
“Alucinar” suena a accidente. Andrés Wong, de Purple AI, prefiere otra palabra: la IA miente. Está diseñada para responder, tenga o no la información.
Pedirle a un LLM que te recomiende una serie coreana es una cosa. Llevarlo a una agencia aduanal, donde un error en un pedimento cuesta millones, es otra.
Agentes con nombre propio
Wong casi no habla de inteligencia artificial en abstracto; dice que la palabra ya se desgastó. Habla de agentes, y les pone nombre. El suyo se llama Maya. Hasta su registro al Foro de Tecnología MX lo llevó otro agente, Tito: cuando Eventbrite lo bloqueó, abrió una máquina virtual y siguió a mano.
Una fuente de verdad contra la cual validar
Su salida se llama Source of Truth (Sort). Un proceso compara cada pedimento que genera el agente contra esa fuente y, si no coincide, el agente vuelve a intentarlo. El modelo puede equivocarse; el sistema no deja pasar el error.
Con ese enfoque, Purple AI construyó SICVD sobre Dify y Llama, ambos open source, para la agencia aduanal Skerluchen. Capturar un pedimento le tomaba a un agente aduanal hasta dos días; con el sistema, toma una hora.
- 2 días → 1 hpara capturar un pedimento
- 9sistemas internos integrados
- 24/7los archivos se procesan de noche
- 2años con el loop agéntico
“El LLM no importa. Importa el contexto, las herramientas y la información que le das al agente.”
Andrés Wong, Purple AI
Los tres dolores: conocimiento, infraestructura y costo
Llegar ahí no fue gratis. En infraestructura, 30,000 dólares en GPUs no bastaron para la primera ronda; otros 30,000 tampoco. En costo, conectar el sistema a Google para estimar precios llegó a costar 11,500 pesos diarios, hasta que FreeRouter, el enrutador open source de Wong, lo bajó a 20 dólares al mes por modelo.
Si te interesa el lado económico, sigue con lo que de verdad cuesta un token.
Sigue leyendo
-
IA en producción
Lo que de verdad cuesta un token
Casi nadie sabe cuánto le costará la IA hasta ver la factura. Y si no lo sabes, todavía no estás en producción.
Andrés Wong3 min de lectura
-
Agentes virtuales
La receta de un agente
Diseñar un agente virtual es como contratar a alguien: necesita un rol, un contrato, capacitación y límites claros.
David Modiano2 min de lectura
-
Experiencia de cliente
Tecnología que no estorba
La IA en atención al cliente no llegó a sumar consolas, sino a romper los silos entre CRM, ERP y canales.
Raúl Reséndiz y David Modiano2 min de lectura
La próxima edición, en tu correo.
Te avisamos cuando salga una revista nueva, un episodio o un evento.
Suscribirme al boletín