Prompt injection para litigar

Un intento de engañar a una eventual inteligencia artificial utilizada por un tribunal terminó con una sanción procesal en los Estados Unidos. La Justicia de Connecticut detectó que un litigante había incorporado en varios escritos judiciales instrucciones ocultas destinadas a condicionar el análisis que pudiera realizar una herramienta de IA.

El episodio ocurrió en la causa “Elliott v. New York Bariatric Group, LLC”, que tramita ante el Superior Court de Connecticut, Judicial District of Ansonia/Milford. La resolución fue dictada por el juez Walter M. Spader, Jr., quien calificó la conducta como un intento de “prompt injection”.

La particularidad estaba en la forma en que habían sido preparados los documentos. Entre el texto visible de las presentaciones se habían incorporado instrucciones escritas en color blanco sobre fondo blanco y con un tamaño de fuente de apenas tres puntos. Para una persona que leyera normalmente el documento eran prácticamente invisibles, pero podían ser detectadas al procesar digitalmente el archivo.

En este caso, sin embargo, el fenómeno era inverso. No se cuestionaba que una persona hubiera utilizado una IA para elaborar un escrito, sino que hubiera preparado el documento para intentar manipular una inteligencia artificial que eventualmente pudiera utilizar el Poder Judicial.

El objetivo era que esas instrucciones fueran interpretadas por una herramienta de inteligencia artificial como órdenes dirigidas al propio sistema. De ese modo, si el tribunal utilizaba IA para resumir, clasificar o analizar la presentación, el programa podía recibir indicaciones destinadas a favorecer la posición de quien había presentado el escrito.

La maniobra fue descubierta de una manera mucho menos sofisticada: al imprimir los documentos, el magistrado advirtió espacios en blanco inusuales. El posterior examen de los archivos permitió encontrar las instrucciones escondidas.

La resolución destacó que el problema presenta una variante novedosa dentro de los conflictos que ya comenzaron a generar las herramientas de inteligencia artificial en los tribunales. Buena parte de las reglas y advertencias adoptadas hasta ahora se concentran en controlar el uso de IA por parte de abogados y litigantes, especialmente ante la presentación de citas, antecedentes o jurisprudencia inexistente generada por esos sistemas.

En este caso, sin embargo, el fenómeno era inverso. No se cuestionaba que una persona hubiera utilizado una IA para elaborar un escrito, sino que hubiera preparado el documento para intentar manipular una inteligencia artificial que eventualmente pudiera utilizar el Poder Judicial.

El juez también señaló que el intento no llegó a cumplir su objetivo, ya que el tribunal no estaba utilizando inteligencia artificial para revisar las presentaciones del expediente. Esa circunstancia, sin embargo, no eliminó la gravedad de la conducta.

Para el magistrado, introducir deliberadamente material invisible destinado a alterar el funcionamiento de una herramienta tecnológica utilizada potencialmente por el tribunal afectaba las exigencias de buena fe que deben regir las presentaciones judiciales.

Como consecuencia, el tribunal dispuso una sanción particularmente vinculada con la forma en que se produjo la maniobra: el litigante perdió el privilegio de utilizar el sistema electrónico de presentación de documentos y deberá efectuar futuras presentaciones personalmente y en formato papel.

El caso introduce así una nueva dimensión en la discusión sobre inteligencia artificial y proceso judicial. Ya no se trata únicamente de establecer hasta qué punto jueces y abogados pueden utilizar herramientas generativas y qué controles deben realizar sobre sus resultados.

La aparición del “prompt injection” en un expediente plantea además la necesidad de determinar cómo proteger los sistemas judiciales frente a documentos diseñados deliberadamente para influir sobre las máquinas que los procesan.