Salud / Internet / Noticias por tema / Reportajes
Carlos Romeo Casabona. Abogado, Médico experto en Bioética y Nuevas Tecnologías

"Los sistemas inteligentes no pueden responder penalmente"


Por: Matías Werner @matiaswerner mwerner@diariojudicial.com

Carlos Romeo Casabona es abogado médico y catedrático especializado en Bioética, Derecho Penal y hasta análisis forense de ADN y la responsabilidad criminal en sistemas de Inteligencia Artificial. Con Diario Judicial dialogó sobre los dilemas a los que se enfrenta el Derecho y, especialmente, la investigación penal, a la luz del avance tecnológico. 


Luego de brindar una conferencia sobre identificadores de ADN para uso forense, ciberdelitos e inteligencia artificial y responsabilidad penal en el Instituto Superior de la Magistratura, en el marco del convenio de colaboración entre el Ministerio de Ciencia y Tecnología y la Asociación de Magistrados, Romeo Casabona dio su visión sobre cómo los avances tecnológicos influye en el mundo jurídico.

 

Dju.- ¿Cual es la relación entre Derecho y Bioética?

Se habla más que nada de Bioderecho. Se trata de dos sistemas normativos, valorativos, que se enfocan en las ciencias de la vida. No sólo la vida humana, sino también los econsistemas.La relación es que ambos se encargan de establecer principios regulativos formales, que obliguen a los miembros de una sociedad, mientras que los otros son exortativos para indicar qué pautas deben regir en una sociedad. De hecho, hay una relación muy estrecha entre el Bioderecho y la Bioética, porque muchas de las reflexiones que toma la Bioética terminan adaptándose al derecho por la vía normativa, como las leyes que aprueban los parlamentos, o incluso sentencias que dictan los tribunales.

 

Dju.- ¿ Y qué rol tiene el avance de las neurociencias en este contexto?

El cerebro ha sido el gran desconocido de las ciencias naturales, y en las últimas décadas se dejó de analizar su funcionamiento sólo en términos de salud para analizar también los aspectos que tienen que ver con el "comportamiento" del cerebro y demás células nerviosas. Hay varias disciplinas que tienen como foco el estudio del cerebro y el sistema nervioso. No podemos olvidar que el cerebro es el que dirige la mayor parte de los mecanismos conscientes de los seres vivos. De hecho, con los avances en la materia se ha comenzado a emular los mecanismos del cerebro en Tecnologías de la Información y Comunicación.

 

Dju.- Siendo Ud. También especialista en Derecho Penal ¿ Puede percibir algún riesgo de que, con este "boom de las neurociencias" aplicadas a casos criminales, se pueda volver a la doctrina positivista de (Cesare) Lombroso?

Han existido esas ideas de que el comportamiento humano se podría vincular a nuestros genes, pero esto ha sido defendido por genetistas. Pero al día de hoy, estas proclamaciones, afortunadamente, no han tenido ningún éxito, y menos en los juristas, que no han aceptado conclusiones deterministas del ser humano. No hay que hacer conclusiones precipitadas, tenemos que aprender de experiencias pasadas.

 

Dju..- ¿Y en qué escenario se encuentra la dogmática penal?

La dogmática penal sobrevive. Estamos en una fase, quizás porque ha habido un agotamiento del desarrollo de la dogmática, que ha tenido su momento más fructífero a mediados del siglo XX, en dónde no hay creatividad y parece que ahora se encarga de destruir conceptos. En este momento se está comenzando a estudiar las TIC's, más en concreto la inteligencia artificial. Por ejemplo los sistemas denominados autónomos, que permiten "auto reprogramarse", y por tanto no responder al programa que fue diseñado para que funcione y de esa forma adoptar decisiones distintas. ¿En esos casos, los robots podrán ser penalmente responsables? Porque va a haber algo que va a fallar, que es la culpabilidad. De esto se deriva que, al no poder aplicar el concepto de culpabilidad a un robot o a los sistemas inteligentes, porque la culpa es un concepto inherente al ser humano y no a las máquinas, por mas desarrolladas que estén, surjan nuevas discusiones. Entonces, en este contexto, al haber pocos penalistas que nos estemos encargando de discutir esto, qué escenarios son posibles, ¿el de eliminar el concepto de culpabilidad? Creo que es algo muy peligroso, porque no sólo nos ayuda a delimitar el contenido del delito, sino que también constituye una garantía.

 

Dju.- O conceptos como autoría o participación.

También. Sería "romper con todo". Debemos llegar a otras soluciones, que no pasan, por el momento, en hacer penalmente responsables a los sistemas inteligentes autónomos. Hay medidas que se pueden tomar antes. Creo que es el ser humano el que debe seguir siendo responsable penalmente, en la medida que lo pueda hacer. Pero tenemos construcciones de la dogmática que nos pueden ayudar a resolver la cuestión, como la posición de garante, los deberes especiales de supervisión , en los casos de las personas jurídicas. Tampoco se pueden equiparar a las personas jurídicas con los sistemas inteligentes. Por tanto, podemos si, establecer con los criterios tradicionales, la responsabilidad del ser humano y en caso las respuestas pueden ser de otro tipo, como bloquear al sistema inteligente para que no vaya por su cuenta haciendo daño. Entiendo que la prevención en materia de Derecho Administrativo es muy importante. Pongamos como ejemplo el de los vehículos de motor, han significado un progreso para toda la humanidad, pero también generan una gran cantidad de muertos en accidentes; ello no provocó la prohibición de los autos, sino que generó una mayor cantidad de controles. En caso de los robots, mutatis mutandi, se podría hacer algo similar.

 

Dju.- ¿Y respecto del rol del abogado, se podría decir que con estos avances habrá menos trabajo?

No. Algunas cosas se podrán automatizar, cuestiones que no necesitan una mayor interpretación de la norma. Y ello no importa que se haga con un sistema inteligente. Pero si se está frente a un proceso penal, una máquina no va a poder analizar la culpabilidad, para ello es necesario contar con abogados y jueces. Lo importante es que el ser humano siga manteniendo el control sobre los sistemas inteligentes, que no sea dominado por la Inteligencia Artificial.

 

Dju.- ¿Estos avances ayudan en el rastreo y recolección de evidencia digital?

Podrían ayudar bastante. La característica que tienen todos los sistemas digitales y las TIC es que dejan rastros, huellas, a lo mejor esa huela no nos permite identificar a una persona, pero sí nos dicen desde dónde o en qué situaciones cómo se ha hecho, lo que nos permite ir hasta ese extremo y poder investigar mejor. Aunque otra cosa es el aspecto puramente jurídico, porque allí las TICs no conocen las fronteras políticas ni jurídicas. En cuanto la parte biológica ayudan también los avances en las técnicas forenses, que opera sobre todo con los perfiles de ADN. Si en el ámbito penal se encuentra algún vestigio biológico en el cuerpo de la víctima.

 

Dju.-¿ Los robots van a poder hacer ese trabajo?

El análisis se va a automatizar. De hecho algunos laboratorios ya lo están. No existe más la idea del médico que saca un análisis con una pipeta y mira el material en un microscopio.Hoy hay maquinas sofisticadas que pueden analizar todos los componentes de la sangre y ver, por ejemplo, si está dentro de los límites normales. No son robots, sino máquinas robotizadas.

 

Dju.- Pero detrás de estas máquinas existirá un perito forense encargado de interpretar esos resultados...

Claro, la máquina lo que va a decir es que la sangre, el potasio, la glucosa, el sodio, esta en un nivel alto bajo o "normal", pero será el médico el que haga el diagnóstico, lo que hace la máquina es dar un "apunte" de la información. En el futuro quizás haya sistemas más inteligentes que hagan un diagnóstico más completo e incluso indicarle al médico cuáles serían los tratamientos alternativos, pero siempre será el médico el que decida si sigue la pauta del robot, o salirse de esas "propuestas" que les da el sistema inteligente, ya que el médico podría tener más información que el robot, por decir un ejemplo, que el paciente sea irascible. No hay por el momento sistemas que interpreten la "irascibilidad" de un paciente.

 

Dju.- ¿Y cómo ayuda el "Big Data" en este escenario?

Esto conduce a que los sistemas de "anonimización" de datos estén condenados al fracaso. Hasta ahora, la manera de manejar datos de carácter personal era que no sean de carácter personal, porque los datos en particular se "disgregaban". Los sistemas de Big Data, al poder acumular mucha información sobre una misma persona o conjunto de ellas, puede inferir por otros mecanismos a quién pertenece esa información.

Comentarios

Más notas de Contencioso Administrativo


Medicamento por cautelar


El asistente domiciliario y su cobertura


Millonaria mala praxis


Bioética y bioderecho


No se olviden las gasas


La cobertura de profesionales ajenos a la cartilla