Imagina este escenario: planeas el viaje de tus sueños a un paraíso tropical, compras tu billete de avión, reservas tu hotel y consultas ChatGPT sobre itinerarios turísticos y requisitos de visado. La IA te dice que no necesitas visado y te proporciona una lista de atracciones imperdibles. Convencido de que podrías viajar sin trámites burocráticos, llegas al aeropuerto para embarcar y descubres que te falta un detalle esencial: la ESTA ( Autorización Electrónica de Viaje ), necesaria para entrar en Estados Unidos y sus territorios. El resultado: embarque denegado y un sueño frustrado. Esto le ocurrió a una pareja española, pero podría pasarle a cualquiera que no preste atención.
El incidente se viralizó en las redes sociales y puso de relieve un dilema fundamental de nuestro tiempo: cuando la inteligencia artificial falla, ¿quién debe ser considerado responsable ? ¿Es culpa únicamente de los viajeros, que no verificaron la información con fuentes oficiales? ¿O existe algún tipo de responsabilidad que deba atribuirse al sistema que proporcionó la respuesta incorrecta?
Este ejemplo, aparentemente trivial, plantea profundas cuestiones legales. Al fin y al cabo, ¿nos enfrentamos a una interpretación errónea individual o a un riesgo inherente a la tecnología? Y, en el caso de daños más graves —un diagnóstico médico incorrecto, una transacción financiera mal gestionada o un sistema autónomo involucrado en un accidente—, ¿cómo puede la legislación brasileña regular la responsabilidad civil por los daños causados por la inteligencia artificial?
Contexto global y brasileño
La Unión Europea lideró el debate sobre la responsabilidad por los errores en los sistemas de inteligencia artificial al aprobar la Ley de IA , que establece normas para su desarrollo y uso, clasifica los riesgos e incluso prevé escenarios de responsabilidad. El bloque europeo busca equilibrar la innovación y la protección de los derechos fundamentales, adoptando el principio de precaución: cuanto mayor sea el riesgo potencial de la tecnología, mayor será la exigencia de seguridad y transparencia por parte del proveedor.
En Estados Unidos, el camino ha sido más fragmentado. No existe una ley federal única sobre IA, pero diferentes estados y agencias ya están debatiendo directrices para asignar responsabilidades en caso de fallos. En general, la lógica estadounidense tiende a valorar la autorregulación del mercado y la rendición de cuentas caso por caso, a través de precedentes judiciales. Las demandas relacionadas con accidentes con vehículos autónomos , por ejemplo, han servido como laboratorio para determinar si la culpa recae en el fabricante, el desarrollador del software o el propio usuario.
¿Y qué pasa con Brasil? Aquí todavía no tenemos una legislación específica sobre responsabilidad civil por daños causados por la IA. Lo que tenemos son herramientas legales tradicionales y, ante la falta de regulación, el poder judicial brasileño ha recurrido al Código de Protección al Consumidor (CDC) para condenar a las empresas que gestionan sistemas de inteligencia artificial por los daños causados a las personas.
Los tribunales ya han comenzado a recibir casos en los que la inteligencia artificial no es meramente un telón de fondo, sino parte activa del conflicto legal. El problema radica en que aún no existe una respuesta uniforme: cada tribunal interpreta de manera diferente el alcance de la responsabilidad civil cuando el daño es consecuencia de sistemas de IA.
En el Tribunal Federal de Distrito y Territorios (TJDFT), un caso histórico de cobro indebido de deudas llevó al tribunal a reflexionar sobre el papel de la IA en los sistemas bancarios. El tribunal reconoció que las instituciones financieras operan con algoritmos y robots para gestionar la deuda, pero hizo una distinción crucial: «la mala fe es un atributo humano, no de una máquina». Por lo tanto, desestimó la doble restitución del pago indebido, entendiendo que las inconsistencias generadas por «sistemas automatizados no pueden considerarse fraude deliberado». En este caso, el mensaje es claro: los errores de la IA no son lo mismo que la malicia humana.
Recientemente, el Tribunal de Justicia de Paraná (TJ-PR) examinó una situación similar y emitió un fallo distinto. Un banco alegó no ser responsable de las operaciones fraudulentas realizadas mediante su solución de protección tecnológica basada en inteligencia artificial, pero el Tribunal concluyó que la institución no logró demostrar la ausencia de una falla del sistema y reconoció su responsabilidad. En este caso, la inteligencia artificial no sirvió de escudo; por el contrario, la vulnerabilidad tecnológica reforzó la obligación de indemnizar.
El Tribunal de Justicia de Santa Catarina (TJ-SC) dictaminó sobre un caso que involucraba a un conductor de una plataforma de transporte compartido cuyo contrato fue suspendido debido a que el sistema de reconocimiento facial de la plataforma no logró validar su identidad. El tribunal determinó que la falla del modelo de aprendizaje automático constituía una violación de la buena fe y ordenó una indemnización. En su decisión, la IA dejó de ser una mera herramienta neutral: la plataforma fue responsabilizada por el mal funcionamiento del algoritmo que controlaba la relación laboral.
En el Tribunal de Justicia de Minas Gerais (TJ-MG), el debate giró en torno al bloqueo automático (generado por un algoritmo de IA) de una cuenta de WhatsApp. Meta argumentó a favor de la legitimidad del bloqueo y la ausencia de injerencia, pero el tribunal reconoció que sí hubo injerencia en la aplicación y exigió un protocolo conforme a la ley brasileña: notificación previa, justificación y oportunidad de defensa. La decisión refuerza la efectividad horizontal de los derechos fundamentales en el entorno digital y reafirma la responsabilidad de la empresa por las decisiones y consecuencias derivadas de las máquinas, los algoritmos y la IA.
También existen decisiones en las que la IA aparece vinculada a deepfakes y fraudes digitales. En 2025, el Tribunal de Justicia de Paraná (TJ-PR) abordó la responsabilidad civil de las plataformas de redes sociales que alojaban contenido generado por IA bajo dos consideraciones clave: la urgencia de contener el daño y el deber de trazabilidad para identificar a los autores. Reconoció la probabilidad del derecho y el peligro de daño (artículo 300 del CPC) frente al uso fraudulento de la imagen del autor en un video "probablemente hecho por IA", con una estafa a nivel nacional. Aplicó el Marco Civil de Internet (Marco Civil da Internet) para orientar la responsabilidad del proveedor de la aplicación: (i) eliminación del contenido por orden judicial, con base en el artículo 19, §4; y (ii) suministro de registros de conexión (IP, fecha y hora) según el artículo 22, en línea con los períodos de retención de los artículos 13 (proveedor de conexión, 1 año) y 15 (proveedor de la aplicación, 6 meses). Resultado: determinación de la eliminación en 48 horas, multa diaria y entrega de las direcciones IP. En este caso, la IA no solo fue el instrumento del fraude, sino también la razón por la que el daño alcanzó proporciones más graves, ya que el realismo de los videos intensificó el impacto en la reputación de las víctimas.
La jurisprudencia brasileña aún está explorando los marcos normativos para comprender la responsabilidad civil de los sistemas de inteligencia artificial. Este panorama revela una tendencia en formación: cuando el sistema incrementa el riesgo de daño y existe una falla verificable, aumenta la probabilidad de condena con base en el Código de Protección al Consumidor (CDC) y los artículos 186, 187 y 927 del Código Civil. En ausencia de pruebas de causalidad o ilícito, la respuesta es más moderada. En general, los tribunales han exigido documentación técnica y mecanismos de identificación para atribuir cierto grado de responsabilidad.
Posibilidades de responsabilidad civil en materia de IA en el panorama jurídico actual
El análisis de los precedentes judiciales mencionados pone de manifiesto un problema práctico: demostrar el error humano en un sistema complejo. ¿Quién falló? ¿El equipo que entrenó el modelo? ¿Quién operó el sistema en el caso específico? En entornos algorítmicos, el incumplimiento del deber de diligencia (negligencia, imprudencia o incompetencia) existe, pero es difuso. Por lo tanto, quizás la clave para una solución sea reconstruir el proceso de toma de decisiones: políticas de uso, registros, auditorías, validación de datos, alertas ignoradas. Sin un rastro técnico, la responsabilidad se convierte en un objetivo cambiante.
En Brasil, la responsabilidad civil en IA se rige por un modelo híbrido: cuando existe un error humano demostrable, se habla de responsabilidad subjetiva. Esta es la falta clásica contemplada en el Código Civil. Se aplica a situaciones en las que es posible señalar una violación del deber de diligencia: el equipo que entrenó el modelo sin la validación mínima, el integrador que lo implementó fuera de las especificaciones, el operador que ignoró las advertencias. En este caso, la evidencia técnica —registros, políticas internas, registros de pruebas— es fundamental para el debate.
Cuando el problema radica en la seguridad del servicio o producto, el marco jurídico se centra en la responsabilidad objetiva. No se discute la culpa: basta con el daño y el nexo causal. Se trata de la lógica del riesgo inherente a la actividad (Código Civil, art. 927, párrafo único) combinada con el Código de Protección al Consumidor (arts. 12 y 14). Esto se aplica cuando la IA, una vez comercializada, no ofrece la seguridad razonablemente esperada, como en los casos de reconocimiento facial sesgado, sistemas de puntuación automatizados que deniegan servicios esenciales y sistemas de toma de decisiones opacos que generan pérdidas. Si el sistema falla, el proveedor es responsable, salvo las exclusiones debidamente justificadas.
También existe la responsabilidad solidaria. Es importante recordar que las soluciones de IA suelen funcionar como ecosistemas: el fabricante del modelo, el integrador, el proveedor de la aplicación y el operador profesional se benefician de la misma cadena y, en términos de consumo, tienden a ser solidarios (Código de Protección al Consumidor, artículos 7 y 25). Fuera del ámbito del Código de Protección al Consumidor, la responsabilidad solidaria puede surgir cuando las acciones contribuyen al daño. Sin explicabilidad, registros de auditoría, pruebas y gobernanza de riesgos, la evidencia se debilita y aumenta la probabilidad de responsabilidad por los daños causados por la inteligencia artificial.
El reto regulatorio consiste en organizar este panorama, razón por la cual el proyecto de ley 2338/2023 pretende consolidar un régimen basado en el riesgo, con deberes de transparencia, gobernanza y supervisión humana para los sistemas de alto impacto.
El proyecto de ley 2338/23 y la responsabilidad civil derivada de la inteligencia artificial.
El proyecto de ley 2338/23, ya aprobado en el Senado, está siendo analizado por la Cámara de Diputados y representa el intento más contundente del Congreso brasileño por establecer un marco regulatorio para la inteligencia artificial. Entre los puntos centrales se encuentra el tratamiento de la responsabilidad civil por los daños causados por sistemas de IA, un aspecto crucial para garantizar la seguridad de las víctimas, la previsibilidad para los operadores y los incentivos para la innovación.
Como señala Laura Schertel, ponente del proyecto de ley PL 2338/23, la regulación de la IA se basa en derechos, clasificación de riesgos, rendición de cuentas y supervisión sectorial . Además, Laura es profesora del programa de posgrado en línea de IDP sobre Derecho Digital, Datos e Inteligencia Artificial, que ofrece estudios aplicados, análisis de casos y preparación para la implementación regulatoria y litigios relacionados con la IA, con clases 100% en línea y en directo, grabaciones, metodología basada en problemas y acceso a bibliotecas virtuales.
El proyecto de ley 2338/23 adopta un modelo de doble responsabilidad, basado en el grado de riesgo que presenta cada sistema, una elección que refleja el reconocimiento de que no toda la IA opera con el mismo potencial para causar daño: un chatbot de atención al cliente no plantea los mismos riesgos que un vehículo autónomo o un algoritmo de calificación crediticia.
En sistemas de alto riesgo o excesivamente riesgosos, el proyecto de ley propone aplicar el régimen de responsabilidad objetiva. Es decir, el proveedor u operador es responsable independientemente de la culpa, y solo necesita demostrar el daño y el nexo causal. La lista incluye actividades como la selección automatizada de personal, los vehículos autónomos y los sistemas de calificación crediticia.
En materia de relaciones con el consumidor, prevalecen las normas del Código de Protección al Consumidor, siempre bajo un régimen de responsabilidad objetiva y solidaria entre los proveedores. En otros sistemas, se presume la culpa, invirtiéndose la carga de la prueba a favor de la víctima. Esto significa que, en caso de litigio, corresponderá al agente del sistema demostrar que actuó conforme a las normas legales y reglamentarias (transparencia, auditabilidad, explicabilidad, prevención de riesgos, no discriminación, entre otras).
La propuesta también describe situaciones en las que el agente puede quedar exento de responsabilidad, como cuando demuestra que no puso el sistema en circulación o que el daño fue consecuencia exclusiva de las acciones de la víctima, de un tercero o de un suceso fortuito externo. El texto también utiliza la expresión «aprovecharse del sistema», lo que ha generado debate al sugerir la adopción de la teoría riesgo-beneficio, que ofrece menor protección que la teoría del riesgo creado.
El reto consistirá en transformar este marco regulatorio en una práctica efectiva: garantizar que las víctimas tengan acceso a mecanismos reales de reparación, que los operadores y desarrolladores cuenten con parámetros claros y que se siga fomentando la innovación. Al fin y al cabo, la inteligencia artificial no elimina la responsabilidad humana, sino que la transforma en un ámbito más complejo que exige transparencia, gobernanza y mayor atención.
