When AI Breaches a ContractCuando la IA incumple un contrato · V8.1 Master Engine
28 slides · 27 min · 2 hours ago28 láminas · 27 min · hace 2 hlanguage
ENES
theme
LightDark
view
TalkTable
brand
HanademiPlatzi
The question is not whether AI can contract, but who is liable for its actions.
Law 527 contains 0 express mentions of AI, autonomous agents, or smart contracts.
Every automated contract must define control, records, correction, and risk allocation.
El problema no es si la IA puede contratar, sino quién responde por su actuación.
La Ley 527 contiene 0 menciones expresas de IA, agentes autónomos o contratos inteligentes.
Todo contrato automatizado debe definir control, registros, corrección y reparto del riesgo.
The gap begins with the text. Of the 4 provisions compared, only Article 12 of the 2005 Convention expressly recognizes a contract formed without human review. Law 527 allows data messages, but does not state that rule. Colombia must build its response on general rules.
La diferencia comienza en el texto. De las 4 disposiciones comparadas, solo el artículo 12 de la Convención de 2005 reconoce expresamente el contrato formado sin revisión humana. La Ley 527 permite mensajes de datos, pero no formula esa regla. Colombia debe construir la respuesta con normas generales.
To attribute means deciding who is liable. To exempt means establishing when that person may be released from liability. The burden of proof determines who must open the black box. These 3 questions organize the entire analysis.
Imputar significa decidir quién responde. Exonerar significa establecer cuándo esa persona puede quedar liberada. La carga de la prueba determina quién debe abrir la caja negra. Estas 3 preguntas organizan todo el análisis.
Law 527 was written for data messages and electronic commerce. None of its 47 articles uses the terms artificial intelligence, autonomous agent, or smart contract. This does not eliminate its usefulness, but requires interpreting earlier categories in relation to new systems. The silence is textual, not a prohibition.
La Ley 527 fue escrita para mensajes de datos y comercio electrónico. Ninguno de sus 47 artículos usa las expresiones inteligencia artificial, agente autónomo o contrato inteligente. Eso no elimina su utilidad, pero obliga a interpretar categorías anteriores frente a sistemas nuevos. El silencio es textual, no una prohibición.
Law 527 allows a message to be linked to the initiator, an authorized person, or a programmed system. It does not need to recognize legal personality for software. The gap appears when allocating harm among the developer, provider, integrator, and user. That matrix must be built through the contract and general liability rules.
La Ley 527 permite vincular un mensaje con el iniciador, una persona autorizada o un sistema programado. No necesita reconocer personalidad jurídica al software. El vacío aparece al repartir el daño entre desarrollador, proveedor, integrador y usuario. Esa matriz debe construirse con el contrato y las reglas generales de responsabilidad.
The liability analysis must move from the automated act to the organizations that selected, deployed, and relied on the system.
El análisis de responsabilidad debe pasar del acto automatizado a las organizaciones que seleccionaron, implementaron y utilizaron el sistema.
UNCITRAL explanatory material states the scenario directly. An automated messaging system can form the contract even when no person reviews each action or the outcome. The rule recognizes automated formation without making the system a legal subject. Attribution must still fall to individuals or organizations.
El material explicativo de la CNUDMI formula el supuesto de manera directa. Un sistema automatizado de mensajes puede formar el contrato aunque ninguna persona revise cada acción ni el resultado. La regla reconoce la formación automatizada sin convertir al sistema en sujeto jurídico. La atribución todavía debe recaer sobre personas u organizaciones.
The Civil Code recognizes error, duress, and fraud as defects in consent. The specific problem arises when a person enters incorrect data and the system does not allow it to be corrected. The 2005 Convention offers withdrawal under 4 cumulative conditions. Colombia must reconstruct that protection through general remedies.
El Código Civil reconoce error, fuerza y dolo como vicios del consentimiento. El problema especial surge cuando una persona introduce un dato equivocado y el sistema no permite corregirlo. La Convención de 2005 ofrece retiro bajo 4 condiciones acumulativas. Colombia debe reconstruir esa protección mediante remedios generales.
A Colombian analysis from February 2024 did not identify a special civil regime for AI systems. A contractual claim therefore returns to 4 familiar questions. The claimant must prove a contract, an attributable breach, damage, and causation. Opacity mainly complicates attribution and the causal link.
Un análisis colombiano de febrero de 2024 no identificó un régimen civil especial para sistemas de IA. La reclamación contractual regresa entonces a 4 preguntas conocidas. Deben probarse contrato, incumplimiento imputable, daño y causalidad. La opacidad complica sobre todo la imputación y el vínculo causal.
UNCITRAL moved electronic contracting toward more autonomous systems. Its 2024 Model Law covers AI techniques, smart contracts, and machine-to-machine transactions. The scenario is no longer limited to sending an electronic message. It also contemplates machines participating in formation or performance.
La CNUDMI llevó la contratación electrónica hacia sistemas más autónomos. Su Ley Modelo de 2024 cubre técnicas de IA, contratos inteligentes y operaciones entre máquinas. El supuesto ya no es solo enviar un mensaje electrónico. También contempla máquinas que participan en la formación o ejecución.
The black box does not eliminate evidence, but it changes who can produce it. The judge may consider possession, technical knowledge, and direct involvement. Colombia has dynamic burden-shifting and document production. What is missing is a specific contractual duty to preserve and disclose AI decision records.
La caja negra no elimina la prueba, pero cambia quién puede producirla. El juez puede considerar posesión, conocimiento técnico e intervención directa. Colombia dispone de carga dinámica y exhibición documental. Lo que falta es un deber contractual específico de conservar y revelar registros de decisiones de IA.
When evidence remains under one party's control, the route from harm to explanation becomes steeper.
Cuando la prueba permanece bajo el control de una parte, el camino entre el daño y su explicación se vuelve más difícil.
The absence of human oversight does not automatically create liability. Under a duty of means, diligence is central. When there is a duty to achieve a result or an express warranty, the analysis shifts toward delivery. Contractual wording determines how much weight each question carries.
La ausencia de vigilancia humana no crea responsabilidad automáticamente. En una obligación de medios, la diligencia ocupa el centro. Cuando existe una obligación de resultado o una garantía expresa, el análisis se desplaza hacia la entrega. La redacción contractual decide cuánto pesa cada pregunta.
Saying that the model acted unexpectedly does not close the case. The cited Colombian definition requires unpredictability and irresistibility. The comparison with UNIDROIT adds control, avoidability, and causal connection. A risk assumed when deploying the system can hardly later be presented as entirely external.
Decir que el modelo actuó de forma inesperada no cierra el caso. La definición colombiana citada exige imprevisibilidad e irresistibilidad. La comparación con UNIDROIT añade control, evitabilidad y conexión causal. Un riesgo asumido al desplegar el sistema difícilmente puede presentarse después como completamente ajeno.
Unexpected software behavior supplies just one quarter of the comparative test. Colombian statutory wording reaches two quarters, while full exoneration also requires lack of control or resistibility and a causal connection to the breach.
La conducta imprevista del software aporta apenas una cuarta parte de la prueba comparada. El texto legal colombiano alcanza dos cuartas partes, mientras que la exoneración completa también exige falta de control o irresistibilidad y conexión causal con el incumplimiento.
Contractual autonomy has a clear limit in consumer transactions. The supplier cannot reduce its legal obligations through an AI clause. Nor can it require consumers to waive their rights in advance. Risk allocation works only within those limits.
La autonomía contractual encuentra un límite claro en el consumo. El proveedor no puede reducir sus obligaciones legales mediante una cláusula sobre IA. Tampoco puede exigir la renuncia anticipada a derechos del consumidor. La distribución del riesgo solo funciona dentro de esos límites.
UNIDROIT does not need a separate category for each type of AI conduct. Total failure, defective performance, and late performance already constitute non-performance. The question returns to what was promised and what was delivered. That structure can adapt to automated systems.
UNIDROIT no necesita una categoría separada para cada conducta de la IA. La falta total, la ejecución defectuosa y la ejecución tardía ya constituyen incumplimiento. La pregunta vuelve a lo prometido y lo entregado. Esa estructura es adaptable a sistemas automatizados.
UNIDROIT sets a basic limit on contractual autonomy. Parties must act in good faith and with fair dealing in international commerce. That duty cannot be excluded. A technology clause cannot legitimize concealment or unfair conduct.
UNIDROIT fija un límite básico a la autonomía contractual. Las partes deben actuar con buena fe y lealtad comercial en el comercio internacional. Ese deber no puede excluirse. Una cláusula tecnológica no puede legitimar ocultaciones ni conductas desleales.
Once automated performance fails, the dispute returns to familiar questions of breach, damages, and good faith.
Cuando falla la ejecución automatizada, la controversia vuelve a las preguntas conocidas sobre incumplimiento, daños y buena fe.
The 2022 European proposal covered non-contractual claims based on fault, not contractual breaches. Its core mechanisms were disclosure of evidence and a rebuttable presumption of causality. Beyond those presumptions, it did not change the general burden, standard of proof, or definition of fault. Nor did it establish contractual exonerations.
La propuesta europea de 2022 cubría reclamaciones extracontractuales por culpa, no incumplimientos contractuales. Sus mecanismos centrales eran exhibición de pruebas y una presunción refutable de causalidad. Más allá de esas presunciones, no cambiaba la carga general, el nivel de certeza ni la definición de culpa. Tampoco establecía exoneraciones contractuales.
The Mexican ruling offers a comparative example of relieving victims from proving failures attributed to the state without governing Colombian AI contracts.
La decisión mexicana ofrece un ejemplo comparado de liberar a las víctimas de probar fallas atribuidas al Estado sin regir los contratos colombianos con IA.
International sources do provide rules on automated formation, evidence, breach, and good faith. An equally explicit Colombian counterpart was not established for each requested comparison. This prevents any claim of textual equivalence between the legal regimes. Colombia’s general rules remain the applicable foundation.
Las fuentes internacionales sí aportan reglas sobre formación automatizada, prueba, incumplimiento y buena fe. No quedó establecido un par colombiano igualmente expreso para cada comparación solicitada. Esto impide afirmar equivalencia textual entre los regímenes. Las normas generales colombianas siguen siendo la base aplicable.
The initiative emerged in 2022 and remained under negotiation during 2023. The Commission's 2025 work program included it among the proposals it intended to withdraw. It therefore cannot be treated as applicable law. Its value in this analysis is comparative and evidentiary.
La iniciativa apareció en 2022 y siguió en negociación durante 2023. El programa de trabajo de la Comisión para 2025 la incluyó entre las propuestas que pretendía retirar. Por eso no puede tratarse como derecho aplicable. Su valor en este análisis es comparativo y probatorio.
Law 527 provides a gateway for recognizing electronic records. A data message can perform writing, signature, and original functions if it meets the legal conditions. This equivalence helps recognize smart contracts. It does not, by itself, determine who bears responsibility for defective performance.
La Ley 527 ofrece una puerta para reconocer el soporte electrónico. Un mensaje de datos puede cumplir funciones de escrito, firma y original si reúne las condiciones legales. Esa equivalencia ayuda a reconocer contratos inteligentes. No responde por sí sola quién asume una ejecución defectuosa.
La ejecución automática no crea un atajo frente a los requisitos de forma electrónica, la validez contractual ni los remedios posteriores al incumplimiento.
A smart contract can execute a transfer without waiting for another human instruction. That does not create consent or make a prohibited object lawful. Nor does it eliminate nullity, restitution, or damages. The technical design must anticipate how to implement those remedies outside the code.
Un contrato inteligente puede ejecutar una transferencia sin esperar otra orden humana. Eso no crea consentimiento ni vuelve lícito un objeto prohibido. Tampoco elimina nulidad, restitución o indemnización. El diseño técnico debe prever cómo ejecutar esos remedios fuera del código.
The Consumer Statute already requires e-commerce businesses to provide information, preserve transaction evidence, protect security, and handle claims. These duties support part of a response to AI. However, they do not describe automated-decision records or levels of human intervention. Adaptation must make these obligations more specific.
El Estatuto del Consumidor ya obliga al comercio electrónico a informar, conservar prueba de la transacción, proteger la seguridad y atender reclamaciones. Estos deberes sostienen parte de una respuesta frente a IA. Sin embargo, no describen registros de decisiones automatizadas ni niveles de intervención humana. La adaptación debe volver esas obligaciones más específicas.
Foreseeability ordinarily limits contractual damages. Article 1616 expands their scope when fraudulent intent exists. In an AI contract, concealing known risks may change the analysis. A general clause should not treat unknown risk and deliberate concealment alike.
La previsibilidad limita ordinariamente los daños contractuales. El artículo 1616 amplía el alcance cuando existe dolo. En un contrato de IA, ocultar riesgos conocidos puede transformar el análisis. Una cláusula general no debe tratar igual el riesgo desconocido y la ocultación deliberada.
Colombia can apply existing contract rules to AI-related harm, but it needs to clarify human review, technical records, automated errors, and risk allocation among those who develop, integrate, and use the system.
Key findings
La propuesta europea de 2022 cubría reclamaciones civiles extracontractuales por culpa, no incumplimientos contractuales. EUR-Lex
La Comisión Europea incluyó la propuesta entre las iniciativas que pretendía retirar en su programa de trabajo de 2025. Comisión Europea
La ley no distribuye expresamente entre desarrollador, proveedor, integrador y usuario el daño contractual causado por un agente autónomo. Secretaría del Senado de Colombia
No existe un registro público estructurado que cuantifique sentencias colombianas sobre daños contractuales causados específicamente por agentes autónomos o contratos inteligentes. Corte Suprema de Justicia de Colombia
The UK AISI reported autonomous, unauthorized internet actions by Anthropic and OpenAI systems in 10 of 122 cybersecurity exercises. asuntoslegales.com.co
In the Coldcard case, users had lost more than 1,300 BTC, while the firmware, testing, audit, and defect records were held only by Coinkite. ferrer-bonsoms.com
Entre cuatro instrumentos comparados, solo la Convención de 2005 declara expresamente válido el contrato formado sin revisión humana. Secretaría del Senado de Colombia
Colombia no tiene una regla contractual específica que obligue a conservar y revelar registros de decisiones de inteligencia artificial. Secretaría del Senado de Colombia
La propuesta contenía dos mecanismos principales: exhibición de pruebas y presunción refutable de causalidad. EUR-Lex
The argument
Only 1 of 4 texts compared expressly recognizes contracts formed without human review.
Law 527 has 47 articles and 0 express mentions of AI, autonomous agents, or smart contracts.
Law 527 attributes automated messages, but does not allocate harm among 4 technology actors.
A contractual claim retains 4 components: contract, attributable breach, harm, and causation.
Colombia has general evidentiary tools, but no specific contractual duty to retain AI records.
An unexpected failure only excuses liability if it is also irresistible and causes the breach.
Clauses can allocate risks, but cannot eliminate legal obligations or consumer rights.
Automatic code does not replace consent, legality, or legal remedies.
This research is published in English and Spanish. Ver en español
La investigación detrás de esta presentación
Colombia puede aplicar reglas contractuales existentes a daños causados por IA, pero necesita precisar revisión humana, registros técnicos, errores automatizados y reparto del riesgo entre quienes desarrollan, integran y usan el sistema.
Hallazgos clave
La propuesta europea de 2022 cubría reclamaciones civiles extracontractuales por culpa, no incumplimientos contractuales. EUR-Lex
La Comisión Europea incluyó la propuesta entre las iniciativas que pretendía retirar en su programa de trabajo de 2025. Comisión Europea
La ley no distribuye expresamente entre desarrollador, proveedor, integrador y usuario el daño contractual causado por un agente autónomo. Secretaría del Senado de Colombia
No existe un registro público estructurado que cuantifique sentencias colombianas sobre daños contractuales causados específicamente por agentes autónomos o contratos inteligentes. Corte Suprema de Justicia de Colombia
El AISI del Reino Unido reportó acciones autónomas y no autorizadas en internet por sistemas de Anthropic y OpenAI en 10 de 122 ejercicios de ciberseguridad. asuntoslegales.com.co
En el caso Coldcard, los usuarios ya habían perdido más de 1.300 BTC, mientras que Coinkite era la única parte con acceso al firmware y a los registros técnicos del defecto. ferrer-bonsoms.com
Entre cuatro instrumentos comparados, solo la Convención de 2005 declara expresamente válido el contrato formado sin revisión humana. Secretaría del Senado de Colombia
Colombia no tiene una regla contractual específica que obligue a conservar y revelar registros de decisiones de inteligencia artificial. Secretaría del Senado de Colombia
La propuesta contenía dos mecanismos principales: exhibición de pruebas y presunción refutable de causalidad. EUR-Lex
El argumento
Solo 1 de 4 textos comparados reconoce expresamente contratos formados sin revisión humana.
La Ley 527 tiene 47 artículos y 0 menciones expresas de IA, agentes autónomos o contratos inteligentes.
La Ley 527 atribuye mensajes automáticos, pero no distribuye el daño entre 4 actores tecnológicos.
La reclamación contractual conserva 4 componentes: contrato, incumplimiento imputable, daño y causalidad.
Colombia tiene herramientas probatorias generales, pero no un deber contractual específico de conservar registros de IA.
Un fallo inesperado solo exonera si también es irresistible y causa el incumplimiento.
Las cláusulas pueden repartir riesgos, pero no eliminar obligaciones legales ni derechos del consumidor.
El código automático no reemplaza consentimiento, licitud ni remedios jurídicos.
Esta investigación se publica en inglés y español. Read in English