Que el algoritmo no te mande en cana

El 30 de agosto de 2024, un hombre que se presentó como "Ernesto Ramirez" intentó cobrar un cheque presuntamente fraudulento en una sucursal del Heritage Bank de Florence, Kentucky, exhibiendo una licencia de conducir de Texas. A la cajera la licencia le pareció falsa y rechazó la operación, y el hombre se retiró sin el dinero. Las cámaras de seguridad registraron su rostro sin ninguna obstrucción.

A las pocas semanas, el detective Ryan Kilmer, de la Policía de Florence, confirmó que la licencia era apócrifa y se concentró en la filmación. Tomó una captura del rostro del sospechoso y la procesó con un sistema de reconocimiento facial basado en inteligencia artificial, que la vinculó con una foto de prontuario y con la imagen de un perfil de Facebook a nombre de "Yony Smith Npoles Charon".

Kilmer dio por buena la coincidencia y, por razones que no constan, concluyó que ese perfil correspondía a Alain Vizcay Osorio, el hombre de la foto de prontuario. Según las imágenes agregadas a la causa, Osorio sólo compartía con el sospechoso ser un hombre negro con vello facial: tenía otra forma de cabeza, otro corte de pelo, otros rasgos y otra tez.

En la denuncia penal que firmó, el detective afirmó que había encontrado la foto de prontuario "utilizando herramientas de investigación", que la había comparado con el video y que los sujetos coincidían. Ese documento fundó una orden de arresto que se ejecutó en Florida el 9 de enero de 2025. Osorio, residente en Nebraska, fue extraditado al condado de Boone, en Kentucky, acusado de posesión criminal de instrumento falsificado en primer y segundo grado, y permaneció detenido hasta el 24 de enero, cuando obtuvo la libertad bajo fianza.

En marzo un gran jurado lo acusó formalmente por ambos cargos, pero el 7 de mayo la fiscalía desistió de la acusación con carácter definitivo, porque Osorio acreditó que estaba trabajando en Nebraska cuando se presentó el cheque. La propia política del Departamento de Policía de Florence establecía que el reconocimiento facial por IA es "orientativo" y que no permite "establecer causa probable sin investigación adicional".

Osorio demandó a Kilmer ante la justicia federal por arresto y detención ilegales y por persecución maliciosa (malicious prosecution), en violación de la Cuarta Enmienda, a través de la vía del 42 U.S.C. § 1983, que habilita a reclamar daños a quien vulnera derechos constitucionales actuando bajo autoridad estatal.

Sumó además reclamos por derecho de Kentucky. El detective pidió que el caso se resolviera sobre la base de los escritos, sin producción de prueba (judgment on the pleadings), con dos argumentos: que la demanda no configuraba un reclamo viable y que lo amparaba la inmunidad calificada, una defensa de creación jurisprudencial que exime a los funcionarios de responder personalmente por daños salvo que hayan violado un derecho "claramente establecido" al momento del hecho. Osorio, a su turno, pidió autorización para presentar una segunda demanda ampliada en la que agregó que las afirmaciones de la denuncia penal eran falsas u omisivas en forma intencional o temeraria.

El juez S. Chad Meredith, del Distrito Este de Kentucky, abrió su resolución recordando que, en el año en que se celebra el 250° aniversario de la independencia, la protección frente a detenciones arbitrarias sigue siendo uno de los principios que animaron la creación de la república.

 Enseguida fijó el eje del caso: "La Cuarta Enmienda a la Constitución de los Estados Unidos no le permite a un detective delegar en la IA la tarea de evaluar la causa probable". En otras palabras, precisó, no permite arrestar a una persona sobre la base de nada más que una conclusión no corroborada de la IA de que cometió un delito.

"La Cuarta Enmienda a la Constitución de los Estados Unidos no le permite a un detective delegar en la IA la tarea de evaluar la causa probable."

El magistrado admitió la ampliación de la demanda y analizó el caso a la luz de esos hechos, que en esta etapa debe tener por ciertos. Partió de que una orden de arresto válida en apariencia es una defensa completa frente al reclamo por arresto ilegal, salvo que se haya obtenido con declaraciones falsas o engañosas formuladas a sabiendas o con temerario desprecio por la verdad, y que resulten materiales, es decir, que sin ellas el resto de la declaración no alcance para fundar causa probable.

Según Meredith, la única conexión entre el sospechoso del banco y Osorio era la mención a las "herramientas de investigación" y a la coincidencia de las fotos; el resto del documento describía el delito, no a su presunto autor. La política policial, añadió, ponía al detective sobre aviso de que no podía apoyarse sólo en la IA, y aun así lo hizo y omitió decírselo al tribunal que libró la orden.

Kilmer había invocado Snyder v. United States, un precedente del Sexto Circuito según el cual no hay arresto ilegal por la mera omisión de verificar información. El juez lo distinguió por dos razones: en aquel caso no se alegaba que el policía hubiera engañado al magistrado, y la información provenía de un archivo del FBI. Para Meredith, "no verificar el trabajo del FBI es materialmente distinto de no verificar -o de no hacer absolutamente nada para corroborar- la información obtenida de la IA".

"No verificar el trabajo del FBI es materialmente distinto de no verificar -o de no hacer absolutamente nada para corroborar- la información obtenida de la IA."

Con el mismo razonamiento dio por bien planteado el reclamo por persecución maliciosa, que en la jurisprudencia del Sexto Circuito protege el derecho a no sufrir una detención prolongada sin causa probable. Un policía participa en la decisión de acusar, explicó, cuando aporta los elementos que la fundan y esos elementos contienen falsedades u omisiones deliberadas o temerarias.

El núcleo del fallo está en la inmunidad. Kilmer sostuvo que Osorio no había citado ningún caso que declarara inconstitucional apoyarse exclusivamente en reconocimiento facial para fundar causa probable. Meredith respondió que no hace falta un precedente directamente aplicable cuando la ilegalidad está "fuera de discusión", y encontró los principios en Rieves v. Town of Smyrna, que veda determinar causa probable con evidencia poco confiable, y en Tlapanco v. Elges, que protege frente a arrestos obtenidos con declaraciones temerariamente falsas. Según los hechos alegados, el detective delegó esa tarea por completo en la tecnología de reconocimiento facial "sin ejercer ningún juicio independiente", y después ocultó en su declaración la naturaleza de la investigación, "o la falta de ella".

Aun sin esos precedentes, el juez aplicó la excepción del "caso obvio", reservada para supuestos en que cualquier funcionario razonable advertiría la ilegalidad sin necesidad de un antecedente análogo. Para ilustrarla planteó una hipótesis: un detective que investiga un robo en un banco recorre la calle con una Magic 8 Ball, el juguete de adivinación que devuelve frases al azar, y le consulta por cada transeúnte.

Ante el primero, la bola responde "mis fuentes dicen que no"; ante el segundo, "puedes confiar en ello". Con ese resultado, el detective pide una orden de arresto y declara que usó "herramientas de investigación". Cualquier policía razonable, razonó Meredith, sabría que hace falta más trabajo.

 "Si bien la tecnología de reconocimiento facial por IA se ha desarrollado rápidamente en los últimos años y probablemente sea más confiable que una Magic 8 Ball, depositar una confianza incuestionable en esa tecnología no es, en principio, muy distinto de depositarla en una Magic 8 Ball", escribió, y agregó que la diferencia física entre Osorio y el sospechoso volvía la conducta todavía más evidente.

"Depositar una confianza incuestionable en esa tecnología no es, en principio, muy distinto de depositarla en una Magic 8 Ball."

El magistrado aclaró que el caso transita la etapa de los escritos y que la producción de prueba podría mostrar que la historia tiene más de lo que alega el demandante, en cuyo caso el detective podría obtener la inmunidad más adelante. Con los hechos tal como están planteados, en cambio, no le corresponde.

En consecuencia, el juez hizo lugar al pedido de Osorio para presentar la segunda demanda ampliada, que pasa a ser la demanda operativa, y rechazó el pedido de sentencia sobre los escritos formulado por Kilmer. Le otorgó al detective 14 días para contestarla y convocó a las partes a una audiencia el 19 de noviembre de 2026 en Covington, para evaluar si corresponde modificar el cronograma del proceso.