Un automóvil auto tripulado se detuvo en una autopista, de madrugada, sin estacionar en la banquina, sin que se sepa por qué. Otro vehículo lo embistió y hay víctimas fatales. El fabricante tendría registros del funcionamiento del sistema y reportes desde la unidad que se detuvo a otros nodos (siguiendo un protocolo de la empresa fabricante), pero parte de esa información no habría llegado a las investigaciones en curso. ¿Quién puede saber qué ocurrió? Y, sobre todo, ¿quién responde cuando la respuesta está dentro de un software?
El hecho relatado efectivamente ocurrió (31/10/2025, Mesa, Arizona) y es la puerta de entrada que propone Andrea Margiovanni en su interesante ensayo publicado días atrás. Su punto de partida es la Directiva de la UE N° 2024/2853, sobre responsabilidad por productos defectuosos, que comenzará a aplicarse a los productos puestos en el mercado o en servicio desde diciembre de 2026. La norma amplía significativamente esta categoría (producto), combinando de un modo novedoso dimensiones materiales e inmateriales.
Un automóvil es un producto. También lo es, a estos efectos, el software que lo hace funcionar. La legislación europea contempla, entre otros supuestos, las actualizaciones y modificaciones que permanecen bajo control del fabricante. No estamos ya frente a un objeto relativamente estable que sale de una fábrica y queda terminado. Un producto informático, integrado inescindiblemente al vehículo, puede cambiar después de haber sido puesto en circulación, interactuar con otros sistemas y modificar el comportamiento integral del automóvil. El viejo concepto muta.
La cuestión trasciende el campo tecnológico, con profundo impacto cultural, proyección en el derecho y en la convivencia social que éste debe intermediar. Tradicionalmente el sistema de responsabilidad por daños se construyó alrededor de una premisa: detrás del producto había una persona que lo utilizaba. Pero esa premisa empieza a cambiar. En el caso de los vehículos (de diversa especie), se incorporan cada vez más sistemas capaces de asistir, decidir y ejecutar funciones de conducción. El paso siguiente, además de que el vehículo se auto tripule, implica que muchas decisiones, sino todas, se ejecutan directamente por sus sistemas operativos. Entonces, además de la atribución al propietario o usuario de un vehículo, necesitamos profundizar (porque este tópico ya ha ido ganando terreno en el rubro) sobre la arquitectura que pudo haber sostenido la conducta: diseño del sistema, fabricación, provisión, operación, mantenimiento y actualización, recepción de reportes, respuestas ante eventos, etc.
Según Margiovanni, la nueva directiva europea no se limita a ampliar el concepto de producto. También aborda la asimetría informativa que subyace entre la víctima del evento dañoso y las unidades de diseño o control del sistema. En determinadas circunstancias, establece mecanismos de acceso a las pruebas y presunciones cuando la complejidad técnica o la falta de colaboración hacen excesivamente difícil para el damnificado demostrar el defecto o la relación causal.
Lo que está en juego, entonces, más allá de los mecanismos compensatorios “ex post”, es garantizar a todas las personas, la plena trazabilidad de los sistemas, de sus cadenas de decisión, en la circunstancia concreta y bajo los parámetros que corresponda según el caso. Que los particulares, el tribunal, los organismos de contralor, puedan leer jurídicamente esa secuencia sin trabas, para reconstruir el caso. Esta exigencia se plasma en procedimientos, documentación, expedientes, actos procesales. El camino digital que se relaciona con la ocurrencia de un evento adverso debe incorporarse en esa secuencia.
Por eso quizá necesitemos afianzar la “reserva de humanidad” que reciente jurisprudencia sugiere (en diversos países) para numerosos procesos, productos o servicios: instancias que garanticen la actuación humana en ciertos tramos. No necesariamente significa, en el caso que nos ocupa, que deba existir una persona conduciendo un automóvil o tomando cada decisión que pueda ejecutar un sistema automatizado. Sino que donde una decisión pueda afectar la integridad, los derechos o el patrimonio de una persona debe existir una instancia jurídicamente identificable de control, revisión y responsabilidad jurídica que conecte con responsabilidades atribuidas a personas humanas.
Y este problema puede aparecer en innumerables órdenes. Puede aparecer en plataformas que asignan recursos, dispositivos médicos capaces de modificar tratamientos o realizar prácticas, unidades de gestión administrativa o judicial, sistemas logísticos o cualquier otro instrumento capaz de pasar de ejecutar una instrucción a adoptar decisiones dentro de un determinado margen de autonomía.
La pregunta será entonces qué ocurre cuando un producto comienza a comportarse, funcionalmente, como una unidad de decisión (y esto quizá nos induzca a retomar el debate sobre dotar a ciertos sistemas de personalidad, tanto en el derecho público con en el privado). Aquí es interesante la respuesta europea, porque no sólo regula el funcionamiento de su mercado interior, sino que produce efectos normativos allende sus fronteras, lo que la doctrina llama “Brussels Effect”. Puede resultar más sencillo a las grandes empresas (en este caso norteamericanas, chinas, japonesas o coreanas), modificar el producto para todo el mundo que fabricar una versión especial para Europa.
Por eso, en Argentina y especialmente en Córdoba, que todavía fabrica automóviles, que cuenta con capacidad acreditada en producción de software y aspira a interactuar globalmente, el ensayo de Margiovanni quizá abra una discusión más amplia.
Todavía tenemos mucho por pensar y decidir sobre la naturaleza jurídica del software inteligente, sobre la actualización de los mecanismos de responsabilidad civil, sobre el margen que los Estados deben reservarse en la revolución tecnológica que vivimos para regular y controlar y sobre la posibilidad de organizar unidades de decisión públicas y privadas.
Pero debe quedar fuera de toda discusión que cuanta más autonomía logren los sistemas, mayor deberá ser la trazabilidad de sus decisiones y más clara la responsabilidad de quienes los producen y los controla.