¿Quién responde cuando una sociedad automatizada daña?

La inteligencia artificial entró al derecho societario argentino por una puerta inesperada. No como una herramienta auxiliar de gestión, ni como un programa capaz de ordenar balances, contestarle a los clientes o redactar contratos, sino como posible modo ordinario de funcionamiento de una sociedad comercial.

El proyecto de nueva Ley General de Sociedades trabajado por el Poder Ejecutivo incorpora la figura de la “Sociedad Automatizada”: una sociedad que puede desarrollar su objeto social mediante sistemas algorítmicos autónomos o agentes de inteligencia artificial, sin requerir trabajadores en relación de dependencia ni recursos humanos para su operación ordinaria.

La novedad no está en que una empresa use tecnología, eso ya pasa. La novedad está en admitir que la operatoria cotidiana de una persona jurídica pueda quedar totalmente delegada en sistemas no humanos.

La discusión escaló cuando Yuval Noah Harari cuestionó, desde las páginas del Financial Times, la posibilidad de otorgar personería jurídica a agentes de inteligencia artificial. Respondía a una columna previa de Javier Milei, también publicada en ese diario, en la que el Presidente defendía la conveniencia de atraer innovación a partir de nuevas formas legales para empresas operadas por IA o robots.

Pero, para el derecho argentino, el problema no debería quedar atrapado en la pregunta más vistosa: si una inteligencia artificial puede ser persona. El punto más urgente es otro. ¿Qué ocurre cuando la sociedad conserva personalidad jurídica, patrimonio y responsabilidad limitada, pero sus decisiones operativas son ejecutadas por sistemas algorítmicos autónomos?

El derecho societario siempre trabajó con ficciones. La sociedad “quiere”, “conoce”, “decide”, “contrata”, “incumple” o “responde”. Pero detrás de esa ficción hay una arquitectura reconocible: socios, administradores, representantes, órganos de gobierno, actas, libros, balances, firmas, deberes de diligencia y lealtad. La sociedad automatizada tensiona esa arquitectura. Si el centro operativo se desplaza hacia sistemas autónomos, la pregunta ya no es sólo quién representa a la sociedad, sino quién controla aquello que actúa en su nombre.

Hay una diferencia importante. El proyecto no necesita decir que la IA es una persona para que el un cambio que se produce sea profundo. La persona seguiría siendo la sociedad. Sin embargo, la actividad social —contratar, ejecutar operaciones, responder pedidos, tomar decisiones comerciales, seleccionar proveedores o clientes, entre otras— podría quedar en manos de agentes no humanos.

No se trata necesariamente de reconocer a la inteligencia artificial como sujeto de derecho, sino de permitir que una persona jurídica actúe ordinariamente a través de ella.

El derecho societario siempre trabajó con ficciones. La sociedad “quiere”, “conoce”, “decide”, “contrata”, “incumple” o “responde”. Pero detrás de esa ficción hay una arquitectura reconocible: socios, administradores, representantes, órganos de gobierno, actas, libros, balances, firmas, deberes de diligencia y lealtad. La sociedad automatizada tensiona esa arquitectura. Si el centro operativo se desplaza hacia sistemas autónomos, la pregunta ya no es sólo quién representa a la sociedad, sino quién controla aquello que actúa en su nombre.

Una sociedad puede no tener empleados. Eso no es novedoso por sí solo: hay sociedades holding, sociedades patrimoniales, sociedades vehículo, sociedades sin estructura laboral propia. Pero la sociedad automatizada plantea algo distinto: no simplemente una sociedad sin personal, sino una sociedad cuya operación ordinaria podría quedar a cargo de agentes artificiales. Ahí aparece el primer problema jurídico serio: la imputación.

Cuando una sociedad tradicional causa un daño, incumple un contrato o adopta una decisión abusiva, el derecho puede reconstruir una cadena de responsabilidad. Se examinan actos de administradores, instrucciones de socios, decisiones del órgano de gobierno, documentación interna, comunicaciones, balances, libros y registros.

Con una sociedad automatizada, esa cadena puede volverse más opaca. La decisión dañosa quizá no surja de una orden humana concreta, sino de una secuencia de instrucciones, datos, parámetros, modelos, actualizaciones, automatizaciones y respuestas generadas por un sistema.

Decir que “responde la sociedad” es apenas el comienzo. El derecho deberá preguntarse si esa sociedad tiene capital suficiente, si existe seguro obligatorio, si hay trazabilidad de las decisiones, si se conserva evidencia técnica, si alguien puede detener el sistema, si hay responsables humanos identificables y si la responsabilidad limitada no termina funcionando como una pantalla perfecta para daños producidos a escala.

La pregunta judicial será menos filosófica que probatoria: ¿quién decidió, con qué información, bajo qué instrucciones y con qué posibilidad real de control?

El proyecto parece resolver parte del problema al atribuir responsabilidad patrimonial a la sociedad por los daños causados por sus sistemas algorítmicos autónomos o agentes de inteligencia artificial. Pero esa respuesta, aunque necesaria, podría ser insuficiente.

Decir que “responde la sociedad” es apenas el comienzo. El derecho deberá preguntarse si esa sociedad tiene capital suficiente, si existe seguro obligatorio, si hay trazabilidad de las decisiones, si se conserva evidencia técnica, si alguien puede detener el sistema, si hay responsables humanos identificables y si la responsabilidad limitada no termina funcionando como una pantalla perfecta para daños producidos a escala.

La responsabilidad limitada fue una de las grandes invenciones del capitalismo moderno. Permitió asumir riesgos, atraer inversión y separar el patrimonio social del patrimonio personal de socios y accionistas. Pero esa herramienta siempre convivió con contrapesos: capital, registración, administración, responsabilidad de directores, control estatal, contabilidad obligatoria, acciones de responsabilidad, inoponibilidad de la personalidad jurídica en casos extremos.

El problema no es la inteligencia artificial como herramienta sino la combinación entre autonomía operativa, opacidad técnica y responsabilidad limitada.

La pregunta ahora es si esos contrapesos alcanzan cuando la sociedad no sólo limita la responsabilidad humana, sino que también automatiza la decisión.

Una sociedad automatizada podría contratar miles de veces por minuto, modificar precios en tiempo real, denegar servicios, seleccionar clientes, ejecutar inversiones, interactuar con consumidores o generar incumplimientos masivos. Frente a eso, la respuesta judicial clásica puede llegar tarde y con dificultades probatorias enormes.

El problema no es la inteligencia artificial como herramienta sino la combinación entre autonomía operativa, opacidad técnica y responsabilidad limitada.

También hay un desafío para el gobierno societario. En una sociedad común, los administradores deben obrar con lealtad y con la diligencia de un buen hombre de negocios. Esa fórmula, con sus matices, permite juzgar conductas humanas: previsión, prudencia, conflicto de intereses, negligencia, abuso, desvío de poder.

Pero un algoritmo no tiene lealtad, ni prudencia, ni honor, ni patrimonio personal, ni temor a la inhabilitación, ni interés reputacional propio. No puede ser removido en el sentido jurídico tradicional, aunque pueda ser apagado o reemplazado. No comparece a una audiencia. No presta declaración. No explica sus motivos salvo que el sistema haya sido diseñado para dejar rastros auditables.

Entonces, el deber de diligencia no desaparece sino que cambia de lugar. Deja de estar sólo en la decisión comercial concreta y pasa a concentrarse en el diseño, la selección, la supervisión, la auditoría y la corrección del sistema automatizado.

Por eso el administrador de una sociedad automatizada no debería poder defenderse diciendo que “lo decidió la IA”. Justamente, su deber debería incluir saber qué IA decide, con qué límites, sobre qué datos, con qué instrucciones, con qué márgenes de autonomía y bajo qué protocolos de intervención humana.

La cuestión probatoria será central. En los litigios del futuro no alcanzará con pedir el estatuto, el contrato, las actas o los balances, como hacemos ahora. Habrá que discutir logs, registros de ejecución, versiones del modelo, prompts, datasets, parámetros, auditorías, reportes de incidentes y trazabilidad de decisiones automatizadas. La prueba societaria se volverá también prueba tecnológica.

Esto abre preguntas prácticas para los tribunales. ¿Puede una parte exigir la exhibición del modelo? ¿Debe preservarse la versión exacta del sistema que tomó la decisión discutida? ¿Qué ocurre si el modelo fue actualizado después del hecho? ¿Cómo se prueba un sesgo algorítmico en una decisión comercial? ¿Quién carga con la prueba cuando sólo la sociedad conoce la arquitectura técnica que produjo el resultado dañoso? Y estas son solo algunas de las preguntas.

En materia de consumo, la cuestión puede ser todavía más delicada. Si una sociedad automatizada deniega prestaciones, modifica condiciones contractuales, ejecuta débitos, bloquea cuentas o aplica penalidades mediante agentes de IA, el consumidor probablemente no pueda reconstruir qué ocurrió. Allí la opacidad técnica puede convertirse en una asimetría probatoria extrema.

Algo similar puede ocurrir en derecho laboral, defensa de la competencia, mercado de capitales, seguros, salud, servicios financieros y en todas las otras ramas del derecho.

Si la sociedad automatizada llega al derecho argentino, los jueces tendrán que resolver quién responde cuando una empresa decida sola.

Conocemos las sociedades sin pluralidad de socios, sociedades sin actividad real, sociedades infracapitalizadas, sociedades pantalla y sociedades usadas para limitar indebidamente la responsabilidad. Pero la sociedad automatizada agrega una variante novedosa: una persona jurídica con existencia legal plena, pero con una zona gris entre la decisión humana inicial y la ejecución algorítmica posterior.

Ese punto es más relevante que la disputa retórica sobre si la IA será o no persona. Incluso sin personería propia, los agentes de inteligencia artificial pueden producir efectos jurídicos: celebrar operaciones, causar daños, incumplir contratos, discriminar usuarios, ejecutar instrucciones abusivas o multiplicar errores a gran escala. La IA no necesita ser sujeto de derecho para alterar el sistema de responsabilidad.

Si la sociedad automatizada llega al derecho argentino, los jueces tendrán que resolver quién responde cuando una empresa decida sola.