AI works best with human approvalLa IA funciona mejor con permiso humano · V8.2 Master Engine

La IA puede elevar el desempeño, pero la memoria compartida poco fiable y las estimaciones publicitarias infladas sin aleatorización hacen necesarias la aprobación humana y las pruebas causales antes de ejecutar decisiones sobre clientes.

6 términos técnicos sostienen buena parte del argumento.

La primera prueba no es si un agente puede responder una vez. Es si mantiene el rumbo cuando la conversación exige varios turnos. En CRMArena-Pro, el éxito pasa de 58% a 35%, una caída que vuelve peligrosa la sustitución del equipo responsable.

Aquí aparece la frontera que importa para aprobar decisiones. Dentro de ella, la IA hizo que los consultores completaran 12,2% más tareas y trabajaran 25,1% más rápido. Fuera de ella, la ayuda cambió de signo: la probabilidad de acertar cayó 19 puntos porcentuales.

La pregunta no es si una persona puede trabajar sola. Es si la IA puede ampliar su alcance sin borrar la colaboración. En Procter & Gamble, individuos con IA igualaron el desempeño de equipos humanos sin IA, y la herramienta acercó las soluciones a otras especialidades.

La supervisión humana puede convertirse en obediencia automática. En esta revisión, el consejo automatizado erróneo se asoció con un 26% más de riesgo de una decisión incorrecta.

Una explicación no equivale a un checkpoint protector. En 35 estudios, las explicaciones podían aumentar la aceptación sin mejorar de forma fiable la precisión.

Un checkpoint no funciona si la persona deja de mirar críticamente. En 936 experiencias descritas por 319 trabajadores, confiar más en la IA se asoció con menos pensamiento crítico. La confianza propia tuvo la relación opuesta, con más revisión, una señal clara para diseñar autoridad y controles reales.

La supervisión no solo protege a la organización. También hace que las personas acepten mejor la delegación. La preferencia base fue de 66%, y permitir que los participantes vigilaran y ajustaran la recomendación añadió 7 puntos porcentuales. El control es parte de la confianza, no un obstáculo posterior.

La integración técnica sigue muy por detrás de la ambición. Solo 6% había incorporado plenamente la IA en sus flujos. Al mismo tiempo, 52% dijo que equipos externos definían la estrategia y medición de datos.

LongMemEval probó cinco capacidades de memoria en 500 preguntas. Durante interacciones prolongadas, la exactitud cayó un 30%.

La investigación sobre memoria interactiva a largo plazo pone rostro humano al desafío de construir una memoria compartida confiable.

La memoria compartida necesita algo más que guardar conversaciones. En GroupMemBench, el mejor sistema alcanzó 46% de exactitud. Cuando el conocimiento cambiaba, la precisión cayó a 27,1%, el punto que más amenaza una decisión basada en contexto viejo.

La memoria también puede mejorar la eficiencia operativa. Mem0 reportó 26% más calidad y 91% menos latencia p95, además de más de 90% menos tokens. La cifra es prometedora, pero debe leerse como un resultado de sus propios autores.

Mem0 reporta una mejora de calidad del 26% junto con 91% menos latencia p95 y 90% menos costo de tokens que los sistemas comparadores. Esa combinación presenta una fuerte historia de eficiencia, pero su procedencia, reportada por los autores, exige validación antes de adoptarla.

La adopción puede crecer sin cambiar la experiencia del cliente. Tres de cada cuatro profesionales dijeron usar IA, pero 84% todavía ejecutaba campañas genéricas. El cuello de botella no parece ser solo la herramienta, sino la capacidad de convertir datos en decisiones rápidas.

El 81% de las empresas retrasó, redujo o abandonó alguna iniciativa de IA. Marketing y segmentación encabezaron las áreas estancadas con 41%. El problema aparece justo donde datos, permisos y decisiones de cliente deben coordinarse.

El agente no resuelve por sí solo una base de datos fragmentada. Los equipos satisfechos con la unificación respondían regularmente 42% más y eran 60% más propensos a usar agentes. La relación es observacional, pero apunta a una condición previa clara: ordenar la memoria del cliente.

La promesa de agentes se apoya en una base que muchas organizaciones no controlan bien. Solo 26% confía en la conectividad de sus datos y otro 26% confía en que puedan sostener ingresos generados por IA. Además, la responsabilidad de estrategia y medición suele quedar fuera del equipo de marketing.

La organización promedio gestiona datos en siete fuentes, pero solo 26% declara satisfacción con la conectividad. Una memoria compartida debe resolver esa fragmentación antes de alimentar decisiones autónomas.

La señal más fuerte es el fallo de ejecución en la IA orientada al cliente. El 81% de las empresas estancó al menos una iniciativa de IA, incluida personalización con 30%, marketing y segmentación con 41%, y monetización de datos con 38%. Por separado, el 98% de los marketers reportó barreras para personalizar. En conjunto, las encuestas hacen visible la restricción operativa sin afirmar que una causó la otra.

La personalización es el caso donde la promesa y la operación chocan. El 98% reporta al menos una barrera. Los agentes no pueden reparar por sí solos permisos, calidad de datos y procesos incompletos.

Este es el límite de la atribución basada solo en observación. El conjunto incluía 15 experimentos, 500 millones de observaciones y 1.600 millones de impresiones. La cantidad de datos no eliminó el sesgo: los métodos observacionales siguieron fallando frente a los resultados aleatorizados. Para saber qué causó una venta, el sistema necesita experimentos.

El primer estudio comparó 15 experimentos. La extensión llevó la prueba a 663 campañas. Los datos no experimentales siguieron sin reproducir de forma confiable el efecto causal conocido.

La sobreestimación aumenta a medida que el resultado medido se acerca a la compra y alcanza 4,8 veces el efecto aleatorizado en la parte baja del embudo.

La sobreestimación no se concentra en una sola parte del recorrido. En el embudo alto, DML estimó 83% frente a 29% en RCT; en el bajo, 24% frente a 5%. La misma dirección se repite en las tres etapas. Si el sistema aprende de esa atribución, puede escalar una ilusión.

eBay separó crédito observado de efecto causal. En búsquedas de marca, 99,5% del tráfico atribuido habría llegado de todos modos. En búsquedas no asociadas a la marca, el cambio estimado en compras fue apenas 0,66% y no resultó significativo.

La escala de compra era enorme: más de 100 millones de palabras clave. Sin embargo, gran parte del gasto alcanzaba a compradores frecuentes que no modificaban su conducta. Escalar atribución sin medir incrementalidad puede escalar desperdicio.

Un sistema de marketing no puede tratar toda conversión atribuida como una venta causada. En la mitad de 15 estudios, las estimaciones del aumento de compras se desviaron por un factor de 3. La línea de 1x marca la exactitud, y el valor observado queda tres veces más lejos. Por eso la incrementalidad debe arbitrar las decisiones de inversión.

La última barrera es económica: incluso medir bien puede costar demasiado. En 25 experimentos que gastaron US$2,8 millones, el intervalo mediano de retorno superó 100 puntos porcentuales. El intervalo más estrecho todavía superó 50%, mientras que la variación común de ventas llegó a 1.000%. La respuesta no es un estudio ocasional, sino una cartera continua de pruebas.

La primera señal es incómoda. Más del 80% de las 288 marcas tuvo ROI marginal negativo, aunque el ROI total fue positivo para un tercio. No son porcentajes que se complementen: responden preguntas distintas. Para decidir cuánto invertir, hace falta medir qué ventas produjo el gasto adicional.

Solo un tercio de las marcas tuvo ROI total positivo. Además, más de 80% tuvo ROI marginal negativo. La diferencia obliga a medir el efecto de aumentar gasto, no solo el promedio histórico de toda la inversión.

La publicidad no se entiende mirando solo atribuciones. En un experimento, las ventas subieron 3,6% frente al control. Al retirar ventas que no habían sido afectadas, la precisión aumentó 31%. Otro experimento estimó un retorno total superior a 7 veces el gasto, pero cada cifra responde una pregunta distinta.

Más datos no siempre significan mejor medición. Al retirar ventas que los anuncios no podían afectar, la precisión aumentó 31%. El resultado equivalió a ampliar la muestra de 3 millones a 5,3 millones de usuarios.

La respuesta laboral más común no es despedir, sino capacitar. El 85% de los empleadores planea formar a su fuerza laboral, frente a 41% que prevé reducir puestos por IA. La escala importa: la encuesta representa 14 millones de trabajadores en 55 economías. Pero 63% identifica las brechas de habilidades como la principal barrera.

Casi una quinta parte de quienes requieren formación queda en la brecha: 11 de los 59 que la necesitan.

Los empleadores esperan que 39% de las habilidades cambie hacia 2030. También calculan que 59 de cada 100 trabajadores necesitarán formación. Once no la recibirían, una brecha que convierte la educación en infraestructura operativa.

El escenario laboral no proyecta una simple destrucción de empleo. Espera 170 millones de nuevos puestos y 92 millones desplazados. El saldo de 78 millones vuelve la formación y la movilidad internas tan importantes como la automatización.

El 86% espera que la IA transforme su negocio. Sin embargo, 63% identifica las habilidades como la principal barrera y solo 29% espera mayor disponibilidad de talento. La respuesta es formar capacidad interna, no esperar que el mercado la entregue.

La ganancia no se repartió por igual. Entre 5.179 agentes de soporte, la productividad media subió 14%, pero la de trabajadores nuevos o menos calificados aumentó 34%. En los experimentados, el efecto fue mínimo. La lección para la formación es concreta: la IA puede acelerar la curva de aprendizaje.

Los trabajadores nuevos o menos calificados ganaron 34%, frente a 14% en promedio y casi 0% entre los experimentados. El patrón muestra que los beneficios de la IA se concentraron entre los trabajadores nuevos.

La IA no sustituye el criterio en cualquier tarea. Los consultores que empezaban bajo el promedio mejoraron 43%, y los que estaban sobre el promedio mejoraron 17%. Pero cuando la tarea quedó fuera de la frontera de la herramienta, el desempeño empeoró. La cifra exacta varía entre publicaciones, de menos 19% a menos 23%, pero la dirección es la misma.

La cifra exacta cambia entre publicaciones. Una reporta 19% menos probabilidad de acertar y otra 23% peor desempeño. La dirección no cambia: fuera de la frontera, aceptar la respuesta de GPT-4 destruyó valor.

La adopción de IA generativa pasó de 7% a 22,4% en cuatro mediciones. La productividad comercial atribuida a IA también subió, de 5,1% a 14,1%. El patrón es consistente, pero sigue siendo una asociación basada en respuestas de líderes, no una prueba causal.

El uso de IA superó tres veces el nivel base del índice, mientras la productividad de ventas declarada llegó a 276 y el ahorro declarado de gastos generales a 209.

Productividad y ahorro reportados avanzaron juntos en cuatro mediciones. En 2026 llegaron a 14,1% y 14,6%. La cercanía fortalece la hipótesis de valor, pero no demuestra qué parte fue causada por la IA.

Los líderes atribuyeron a la IA una reducción creciente de costos generales. La cifra pasó de 7% en 2024 a 14,6% en 2026. Como el resultado es autodeclarado, debe convertirse en una hipótesis para experimentos, no en prueba causal.

Los líderes reportaron avances en tres resultados entre 2024 y 2025. La reducción de costos llegó a 10,8%, mientras productividad y satisfacción rondaron 8,5%. El patrón merece atención, pero todavía depende de respuestas autodeclaradas.

El Reglamento Europeo de IA fija aplicación general desde agosto de 2026 y aplaza obligaciones de alto riesgo hasta 2027 y 2028. El perfil de NIST convierte la gobernanza en una lista operativa: 13 riesgos y más de 400 acciones, desarrolladas con 2.500 participantes. La supervisión humana necesita fechas, tareas y responsables, no solo una política.

NIST organiza 13 riesgos de IA generativa. El perfil propone más de 400 acciones y se desarrolló con un grupo público de 2.500 participantes. La escala muestra que gobernar IA exige trabajo continuo, responsables y registros.