La responsabilidad tampoco desaparece cuando usamos IA (parte 2)

Un caso canadiense resuelto en 2024 ilustra bien el problema: un usuario consultó el chatbot de Air Canada para saber cómo solicitar un descuento por duelo tras la muerte de su abuela. El chatbot le informó que podía comprar el tiquete a tarifa completa y solicitar posteriormente el reembolso. Confiando en esa información, lo hizo, pero Air Canada se negó después a reconocer el descuento porque esa posibilidad no existía. 

Dijeron que el chatbot era una entidad separada y que, por tanto, la empresa no era responsable de lo que había dicho. El tribunal rechazó el argumento: el chatbot formaba parte de la página de Air Canada, por tanto la compañía respondía por la información. La IA no podía convertirse en una especie de empleado autónomo al que se le atribuyen los errores para exonerar a quien decidió ponerlo a disposición de sus clientes. 

El caso es sencillo, pero plantea una pregunta que será cada vez más frecuente: ¿qué responsabilidad tiene quien decide integrar una herramienta de IA en un proceso que afecta a otras personas? 

En Colombia ya tenemos casos. Hay una base de datos que registra decisiones judiciales relacionadas con alucinaciones de IA que lista tres casos colombianos recientes, todos sobre abogados: en febrero de 2026, la Corte Suprema de Justicia, en el proceso AC739-2026, declaró la temeridad de un abogado que presentó jurisprudencia y normas inventadas por una IA. Le impuso una multa y remitió el caso al Tribunal Disciplinario. En noviembre de 2025, en la decisión STC17832-2025, la Corte Suprema dejó sin efecto una decisión judicial que contenía citas falsas. Y en diciembre de ese mismo año, en un proceso penal, el Tribunal Superior de Bogotá también anuló una decisión con referencias jurídicas inexistentes generadas o asistidas por IA y remitió copias a las autoridades disciplinarias. 

En ninguno de estos casos la IA fue declarada responsable. El problema estaba en el uso que hicieron de ella quienes tenían la obligación profesional de verificar las fuentes y fundamentar sus decisiones. La herramienta puede producir una respuesta falsa; quien la utiliza decide si esa respuesta se verifica, se corrige o se incorpora como si fuera cierta. 

Por eso tampoco sorprende que existan propuestas regulatorias. En California, por ejemplo, el legislativo aprobó en 2026 un proyecto de ley sobre el uso de IA generativa por abogados, que quedó pendiente de la firma del gobernador. Se proponen obligaciones de verificar la información y las citas generadas por IA, no divulgar la información confidencial y prohibir delegar en la herramienta la práctica del derecho o determinadas decisiones profesionales. No es extraño, es una consecuencia lógica de utilizar una herramienta nueva en actividades en las que ya existen deberes profesionales. 

La persona que usa la IA como la empresa que la incorpora en su flujo de trabajo tiene que tener protocolos y mecanismos de control y supervisión. Si la IA se usa para seleccionar candidatos, evaluar solicitudes de crédito, atender clientes o detectar posibles fraudes, esa persona —natural o jurídica— no puede simplemente atribuírsele «al algoritmo» una decisión que en realidad fue producto de una cadena de decisiones humanas y empresariales. Habrá que determinar qué hizo cada actor: quién diseñó el modelo, quién lo entrenó, quién lo adquirió, quién lo integró al proceso, quién definió los criterios y quién tenía capacidad para supervisar o detenerlo. También habrá que ver qué les prometieron que la IA haría y en realidad qué hizo. 

Es decir, si todos los actores de la cadena se excusan entre sí, el daño queda sin responsable. Por eso hay que preguntar menos qué «quiso hacer» la IA y más por las decisiones de diseño y uso: ¿qué dijo el fabricante que el sistema hace o no hace? ¿Quién decidió usarla? ¿Para qué? ¿Qué podía prever? ¿Qué controles tenía? Y, sobre todo, ¿quién tenía capacidad para prevenir el daño? También habrá que determinar el tipo de responsabilidad y el sujeto afectado. La IA puede ser una herramienta útil, pero usarla no delega la responsabilidad.