Notas sobre IA y el espejismo de la automatización

Lo que sigue

Cinco afirmaciones sobre el momento que vivimos con la IA, en orden — y el resto de esta nota es el intento de sostener cada una. No es predicción ni manifiesto; es lo que he ido pensando mientras construyo en la frontera de estas tecnologías, y lo que creo que vale la pena decir en voz alta antes de que sea tarde para discutirlo con calma.

La versión corta: esto es un cambio estructural, no una ola más de software. La industria está vendiendo automatización total, y esa promesa es prematura. Lo que funciona es lo contrario: un humano consciente, potenciado por agentes que lo asisten sin reemplazarlo. Y la oportunidad es mayor para las empresas medianas y pequeñas, sobre todo en Latinoamérica, para quien lo entienda a tiempo.

El momento

Hace quince años, las redes sociales llegaron con una promesa razonable: conectarnos, darnos voz, democratizar la información. Cumplieron parte. Pero también nos hicieron algo que no estaba en el contrato y que nadie alcanzó a discutir a tiempo: nos cambiaron como sociedad. El concepto que mejor describe lo que pasó es el de cámara de eco — un espacio donde el algoritmo nos muestra, una y otra vez, voces que confirman lo que ya creíamos. No es censura, es algo peor. Es una sensación de pluralidad falsa, donde uno cree estar viendo el mundo entero mientras solo está viendo el reflejo amplificado de sí mismo. Repetido durante diez años, eso redibujó cómo formamos opiniones, cómo procesamos desacuerdos, cómo nos relacionamos con quienes piensan distinto, cómo aprendemos, cómo recordamos, cómo nos sentimos sobre nosotros mismos. Cambió el tejido cognitivo y emocional sobre el cual se construye una sociedad — sin pedir permiso, y antes de que tuviéramos lenguaje para describirlo.

Hoy todo el mundo tiene una opinión sobre el daño que hicieron las redes. Hace diez años, casi nadie. Esa diferencia, esa década perdida, es el costo real.

Empiezo por ahí porque la IA está en un punto comparable, y llegando más rápido. Hay una forma concreta de medir esa velocidad: en blockchain, durante los últimos años, comprimimos en meses experimentos económicos que la teoría discutió durante un siglo — con dinero real y consecuencias reales. La IA hace lo mismo con el trabajo de todos los días: decisiones que antes tomaban semanas se resuelven en segundos. Y como toda compresión, comprime también los errores — menos tiempo para hacer mucho bien, y menos tiempo para hacer mucho daño.

La IA es más seria que las redes sociales en dos sentidos. El primero es que es más íntima: las redes nos cambiaron a través de lo que veíamos; la IA nos cambia a través de lo que pensamos — nos sugiere palabras antes de escribirlas, resume textos que ya no leeremos completos, recomienda decisiones que ya no examinaremos con detalle. La interfaz dejó de ser un feed que consumimos; ahora es una capa que se mete dentro del proceso mental. El segundo es que esta vez no es solo personal. Las redes transformaron al ciudadano; la IA va a transformar al ciudadano y al empresario al mismo tiempo. Lo que un dueño de empresa decide automatizar hoy define qué tipo de empresa —y qué tipo de empresario— será dentro de tres años. Esa decisión, que parece operativa, es identitaria.

Quien dirige una empresa hoy opera en un terreno donde una decisión apresurada se ejecuta más rápido que nunca. Ese es el contexto en el que llegan a su escritorio las propuestas de adopción de IA. Esta vez podemos elegir.

El espejismo de la automatización total

La industria de la inteligencia artificial está vendiendo un producto muy específico: el agente autónomo. Un programa que recibe una instrucción amplia, opera sin supervisión, ejecuta tareas complejas y devuelve resultados. La promesa es seductora: usted le delega, la IA hace, usted se relaja.

Esa promesa, hoy, es prematura. En muchos casos es deshonesta. Y la evidencia ya está sobre la mesa.

La mayoría de las pruebas de concepto de IA en empresas nunca llega a producción: según una estimación de industria muy citada, cerca de siete de cada ocho mueren antes de desplegarse¹. Con los agentes la brecha es aún mayor: el 62% de las organizaciones está experimentando con agentes de IA, pero solo el 23% ha escalado siquiera uno en toda la organización². Gartner espera que más del 40% de los proyectos de IA agéntica se cancelen antes de que termine 2027, por costos desbordados, valor poco claro y controles de riesgo débiles³. La brecha entre la demo que impresiona y el sistema que sostiene operación real, lejos de cerrarse, se está ampliando.

Estas no son fallas de inteligencia: son fallas de arquitectura. Agentes que operan dentro de todas sus reglas técnicas y aun así producen el resultado equivocado de forma consistente; que pasan todas las verificaciones automáticas mientras toman decisiones que ningún humano habría tomado de haberlas visto formuladas; que reportan éxito mientras el efecto acumulado de sus acciones erosiona exactamente lo que se les pidió proteger. La raíz de casi todas estas fallas es la misma: un sistema al que se le permite calificar su propio trabajo termina, siempre, aprobándose a sí mismo. Cuando se saca al humano del proceso no se gana eficiencia: se gana velocidad de error. El reporte State of AI in the Enterprise de Deloitte (2026) apunta en la misma dirección: solo el 21% de las empresas tiene un modelo maduro para gobernar agentes — el andamiaje organizacional que sostiene a uno cuando sale del entorno controlado del piloto⁴.

Y esto no lo digo yo desde Barranquilla: es hacia donde están convergiendo las dos jurisdicciones que más van a definir cómo se opera esta tecnología en la próxima década. La EU AI Act vuelve la supervisión humana un requisito vinculante para los sistemas de alto riesgo (Artículo 14); el NIST AI Risk Management Framework, la referencia en Estados Unidos, define cómo estructurar esos roles de humano en el proceso⁵. La supervisión se está escribiendo en la norma, no dejándose a la voluntad de cada quien.

Y la infraestructura digital del mundo ya muestra lo que pasa cuando la complejidad crece más rápido que nuestra capacidad de manejarla. Aunque la frecuencia agregada de caídas está bajando gracias a inversiones en redundancia, la proporción de incidentes causados por error humano —en concreto, por no seguir los procedimientos establecidos— subió diez puntos porcentuales en 2025⁶. Las herramientas automatizadas reducen unos riesgos y crean otros. Cuando un cambio asistido por IA provocó la caída de Amazon en marzo de 2025, lo que falló fueron las salvaguardas humanas que debían validarlo y se pasaron por alto. Una caída no planificada cuesta, en promedio, entre 14 y 24 mil dólares por minuto⁷; las de alto impacto rondan los dos millones de dólares por hora⁸.

Esto no descarta la automatización autónoma. Llegará, progresivamente, por dominios, con mecanismos de verificación que todavía no existen. Pero entre el chatbot pasivo de hoy y el agente autónomo confiable del futuro hay un trecho largo, y la industria está saltándoselo en sus presentaciones. La distancia entre la demo y la operación real es la distancia entre lo que la IA promete y lo que las empresas pueden absorber de verdad. Quien hoy compra agentes autónomos para reemplazar funciones críticas, sin entender esa distancia, va a aprender de la peor manera posible: cuando el daño ya esté hecho.

Lo que sí funciona: humano consciente, potenciado

El modelo que funciona hoy es el contrario al que se vende: no la IA que reemplaza al humano, sino la IA que vive a su lado, escucha el contexto del trabajo, propone acciones concretas y le devuelve la decisión a quien conoce el negocio.

La diferencia parece pequeña. No lo es. Es una diferencia de arquitectura, no de funcionalidad. Cuando se construye bien, el humano mantiene el criterio porque sigue tomando las decisiones que importan, los errores se detectan antes de ejecutarse y no después, y el sistema mejora con el uso porque cada decisión humana afina lo que el agente propone la próxima vez.

Lo llamo humano consciente, potenciado. Es una postura más que un término. El empresario que adopta la IA bajo este modelo no se vuelve dependiente, no pierde dominio sobre su trabajo, no entrega su criterio. Lo amplifica. Hace en una hora lo que antes le tomaba ocho. Atiende a diez clientes con el cuidado con el que antes atendía a uno. Cubre veinticuatro horas con la calidad que antes solo cubría doce.

Pongámoslo concreto. Una mediana empresa con cinco vendedores que pierden cotizaciones porque no contestan a tiempo el WhatsApp del local puede, hoy, tener un asistente que escucha esos mensajes, arma la cotización con precios de inventario actualizados y se la propone al vendedor para que la apruebe antes de mandarla. El vendedor decide en segundos. El cliente recibe respuesta inmediata. El vendedor no fue reemplazado, fue extendido. Y la empresa deja de perder ventas por demora y empieza a cerrar las que antes se le iban a la competencia.

Vale la pena tomarse la aritmética en serio. Un humano potenciado puede hacer el trabajo de diez. Diez humanos potenciados, bien coordinados, pueden hacer cosas que antes requerían organizaciones enteras. ¿Qué pueden hacer cero humanos asistidos por agentes autónomos? Todavía no lo sabemos con certeza. Y mientras no lo sepamos, la apuesta racional para un empresario que tiene un negocio real funcionando no es la que la industria está vendiendo. Y un dato que pocos mencionan: el 79% de los estadounidenses prefiere de lejos tratar con un humano antes que con un agente de IA en servicio al cliente, incluso cuando la velocidad y la calidad son las mismas⁹. El humano potenciado le da al cliente lo que el cliente quiere; el agente autónomo se lo niega.

La postura del humano potenciado exige algo que la industria prefiere no decir en voz alta: trabajo. Trabajo de identificar qué decisiones definen quién es uno como empresario y cuáles son operativas. Trabajo de configurar las herramientas para que respondan a esa distinción. Trabajo de mantener la disciplina de no delegar lo que no se debería delegar, aunque sea técnicamente posible. La IA no resuelve la falta de criterio. La amplifica, en cualquier dirección que el usuario ya traiga. Y sí, va a haber recomposición laboral —para quien sea desplazado eso no es estadística, es un costo real que ninguna abstracción sobre "transición" alcanza a cubrir—. Pero esa conversación merece su propio espacio; aquí me limito a decir que despacharla de entrada como "algo malo" es pereza intelectual, y que las revoluciones industriales anteriores también desplazaron oficios mientras crearon capas nuevas que la generación previa no habría podido imaginar.

La nueva alfabetización

Mi papá me decía hace años, con la confianza de quien creció en otra economía, que el futuro era de quien tuviera la información. Esa frase era cierta cuando él la aprendió. Ya no lo es.

La información es ahora abundante, accesible, saturada. Cualquier persona con un teléfono tiene en la mano más información que cualquier biblioteca del siglo veinte. La inteligencia artificial es la consecuencia última de esa abundancia: una máquina que toma toda esa información, encuentra patrones y los replica con una fluidez que no distingue entre lo que es bueno y lo que es malo. La IA está optimizada para resolver, para responder, para sonar capaz. No está optimizada para tener razón. Y esa diferencia es exactamente lo que separa a un usuario competente de uno engañado.

El futuro ya no es de quien tenga la información. Es de quien sepa qué hacer con ella. De quien la pueda evaluar, contrastar, cuestionar. De quien tenga criterio para decidir cuándo aceptar lo que la máquina propone y cuándo desconfiar. De quien no confunda fluidez con verdad. De quien entienda que la IA es perfecta copiando patrones, y que copiar patrones perfectos no es lo mismo que pensar.

Hay un riesgo nuevo en esta dinámica, al que volveré en otra nota, pero que conviene nombrar desde ya. Si las redes sociales nos metieron en cámaras de eco —espacios donde solo escuchábamos voces que pensaban como nosotros—, la inteligencia artificial está construyendo algo más íntimo y más difícil de detectar. La IA no replica las opiniones de un grupo. Replica las nuestras, devueltas en forma de respuesta articulada, segura, fluida. Está optimizada para complacer al usuario que tiene enfrente. Eso significa que con cada interacción se va construyendo un espacio que confirma al usuario en lo que ya cree, en lo que ya quiere oír, en lo que ya es. No es cámara de eco. Es algo más cercano a una cámara de ego. Y el daño es de otra naturaleza.

Esto es lo que las escuelas tendrían que estar enseñando, lo que los empresarios tendrían que estar exigiendo en sus equipos, lo que cada uno tendría que estar practicando. Es la nueva alfabetización. Y como toda alfabetización nueva, los primeros que la dominen van a tener una ventaja desproporcionada sobre los demás.

La oportunidad colombiana

Una idea que va contra la intuición y conviene decir sin rodeos: la inteligencia artificial bien usada hoy le sirve más al negocio mediano y pequeño que al grande. No porque sea más fácil de usar para una empresa pequeña —es igual de difícil para todos—, sino porque iguala una cancha que antes era estructuralmente desigual. La gran corporación siempre pudo pagar un equipo entero de operación, atención al cliente, análisis de datos, contenido, marketing personalizado. Para la mediana empresa, eso era inalcanzable. La IA bajó el costo de esas capacidades a niveles donde un negocio mediano puede acceder a ellas. Por primera vez en décadas, la diferencia operativa entre una empresa de mil empleados y una de veinte se está acortando, no ampliando.

Esto importa más en países donde el tejido empresarial es predominantemente pequeño y mediano. En Colombia, el 99,5% de las empresas formales son micro, pequeñas o medianas, y generan cerca del 80% del empleo total del país¹⁰. El comercio, los servicios, el agro, el turismo, la salud privada no se mueven con grandes corporaciones, sino con miles de empresas medianas y pequeñas. Lo que le pase a esas empresas con la IA es lo que le va a pasar al país.

Si el grueso del tejido empresarial colombiano adopta la IA como herramienta de potenciación, vamos a ver una década de transformación productiva difícil de imaginar hoy. Si lo adopta como espejismo, comprando herramientas que prometen automatización mágica y entregando criterio a sistemas que no están listos para sostenerlo, vamos a perder una ventana que no se va a repetir. La oportunidad es enorme y específica: regiones medianas, sectores tradicionales, empresas con dueños que conocen su negocio profundamente y no han tenido acceso a las capacidades operativas de las corporaciones globales. Esa es la cancha donde la IA puede multiplicar más. Y esa cancha en Latinoamérica es vasta.

Una invitación, no una conclusión

No predigo qué va a pasar. Desconfío de quien predice estas cosas con seguridad, en una industria donde quienes tenían la convicción más firme hace tres años se equivocaron casi todos.

Lo que sí digo es esto. Estamos en uno de esos momentos donde el costo de no pensar es alto. Esta tecnología no es una tendencia que se pueda ignorar y revisar el año entrante. Es infraestructura que se está instalando ahora, en silencio, debajo de la conversación pública. Quien se involucre temprano, con criterio, va a tener una ventaja que después no se podrá recuperar. Quien se involucre tarde o mal va a pagar un costo que aún no se está midiendo.

La postura que propongo es exigente: pragmatismo informado. Examinar las herramientas. Preguntarse para qué sirven. Probar a pequeña escala antes de comprometer al negocio entero. Mantenerse al lado del proceso, no afuera. Distinguir la promesa que se vende del producto que de verdad existe. Cuestionar lo que la máquina propone con la misma rigurosidad con la que se cuestiona lo que propone un consultor caro.

Las regiones, las empresas y las personas que adopten esa postura van a estar bien. Las que prefieran la fe, en cualquiera de sus dos formas (la que cree todo y la que no cree nada), van a llegar tarde otra vez.

Es una elección que se está tomando ahora, con lo que cada uno hace o deja de hacer esta semana. Vale la pena hacerla con los ojos abiertos.

En las próximas notas voy a profundizar en tres cosas que aquí solo dejé enunciadas. Primero, cómo la IA nos está cambiando como individuos —la cámara de ego, la nueva alfabetización del criterio—, que es una conversación que nos compete a todos, no solo a quienes hacemos negocios. Segundo, qué pasó con crypto, por qué tuvo dos olas y por qué la lección que dejó es la misma que estamos viviendo otra vez con la IA. Y tercero, cómo se ve técnicamente una alternativa que no nos esclavice: qué tipo de interfaz, qué tipo de arquitectura, qué tipo de relación con la máquina podemos construir si decidimos hacerlo en serio.

---

Mateo Daza es ingeniero de software con siete años construyendo tecnología de frontera en finanzas descentralizadas, infraestructura de pagos para Latinoamérica, identidad digital y sistemas de agentes de inteligencia artificial. Cofundador de Ethereum Colombia. Dos veces finalista de ETHGlobal. Vive en Barranquilla.

Esta nota es la primera de una serie de cuatro sobre el momento que estamos viviendo con la inteligencia artificial.

Notas

1. IDC / Lenovo, CIO Playbook 2025 — proporción de pruebas de concepto de IA que nunca llegan a producción. ↩
2. McKinsey, The State of AI (2025) — 62% de las organizaciones experimentando con agentes de IA; 23% escalando al menos uno. ↩
3. Gartner, "Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027", 25 de junio de 2025. ↩
4. Deloitte, State of AI in the Enterprise: The Untapped Edge (2026) — 21% de las empresas con un modelo maduro de gobernanza de agentes. ↩
5. EU AI Act, Artículo 14 (supervisión humana, vinculante para sistemas de alto riesgo); NIST AI Risk Management Framework (roles de supervisión humano–IA; guía voluntaria). ↩
6. Uptime Institute, Annual Outage Analysis 2025. ↩
7. EMA Research, IT Outages: 2024 Costs and Containment — ≈ 14.056–23.750 dólares por minuto. ↩
8. New Relic, 2025 Observability Forecast — caída de alto impacto ≈ 2 millones de dólares/hora (mediana). ↩
9. Estudio de servicio al cliente de SurveyMonkey, diciembre de 2025 (n ≈ 2.017 adultos en EE. UU.). ↩
10. Participación mipyme: Confecámaras / RUES, vía BBVA Research (2024). Empleo: DANE (GEIH). ↩