El Estado de Nueva York dio un paso en la discusión sobre los límites de la inteligencia artificial en el ejercicio profesional. El Comité de Internet y Tecnología del Senado estatal aprobó el tratamiento de un proyecto de ley que prohíbe a los sistemas de inteligencia artificial tipo chatbot brindar respuestas legales o médicas a los usuarios.
La iniciativa (identificada como proyecto S.7263 del Senado del Estado de Nueva York) propone incorporar una nueva disposición a la General Business Law, destinada a establecer responsabilidades para quienes operen sistemas de inteligencia artificial que interactúan con usuarios y simulan conversaciones humanas.
El debate que ahora se abre en Nueva York tiene antecedentes en Europa. En España, el Ilustre Colegio de la Abogacía de Madrid (ICAM) impulsó recientemente una iniciativa vinculada al uso de inteligencia artificial en la profesión legal.
El texto legislativo fue presentado por el senador Gonzalez durante las sesiones ordinarias 2025-2026 y ya superó su primera instancia de debate parlamentario. La propuesta se inscribe dentro de una tendencia global: los reguladores comienzan a analizar qué tipo de información pueden ofrecer los sistemas de inteligencia artificial y qué límites deben imponerse cuando esa información se relaciona con profesiones reguladas.
"Sistema de inteligencia artificial" o "sistema de IA" significará un sistema basado en máquinas o una combinación de sistemas que, para objetivos explícitos o implícitos, infiere, a partir de la información que recibe, cómo generar resultados como predicciones, contenido, recomendaciones o decisiones que puedan influir en entornos físicos o virtuales."
La norma apunta especialmente a los propietarios o operadores de esos sistemas, es decir, a las empresas o entidades que los desarrollan o los utilizan para interactuar con el público. El punto central del proyecto establece una prohibición clara: los operadores no podrán permitir que los chatbots proporcionen respuestas sustantivas o asesoramiento que, si fuera realizado por una persona, constituiría el ejercicio de una profesión regulada.
"Sistema de inteligencia artificial" o "sistema de IA" significará un sistema basado en máquinas o una combinación de sistemas que, para objetivos explícitos o implícitos, infiere, a partir de la información que recibe, cómo generar resultados como predicciones, contenido, recomendaciones o decisiones que puedan influir en entornos físicos o virtuales.", se conceptualiza en el proyecto.
Si se prueba que la violación fue intencional, el operador del chatbot podrá ser condenado a pagar daños efectivos, costos del proceso y honorarios de abogados.
"Chatbot" significará un sistema de inteligencia artificial, programa de software o aplicación tecnológica que simula una conversación e interacción similar a la humana a través de mensajes de texto, comandos de voz o una combinación de estos para proporcionar información y servicios a los usuarios.", además se aclaró.
El proyecto no se limita a establecer una prohibición, también prevé un sistema de responsabilidad civil para los operadores de chatbots cuando los sistemas brinden respuestas que infrinjan esas restricciones. Según la propuesta legislativa, cualquier persona afectada podrá iniciar una acción civil para reclamar daños y perjuicios contra el propietario del sistema.
Si se prueba que la violación fue intencional, el operador del chatbot podrá ser condenado a pagar daños efectivos, costos del proceso y honorarios de abogados.
“Una persona puede iniciar una acción civil para recuperar daños reales y, si se descubre que dicho propietario ha violado deliberadamente esta sección, el infractor será responsable de los daños reales junto con los costos y los honorarios razonables de los abogados y los desembolsos incurridos por la persona que inicie dicha acción.”, se especifica sobre dicho punto.
En este contexto, los legisladores buscan evitar que sistemas automatizados reemplazen funciones reservadas a profesionales habilitados, particularmente cuando esas funciones implican responsabilidades legales o éticas. Si el proyecto se convierte en ley, Nueva York pasará a contar con una de las primeras normas específicas en Estados Unidos que limitan el asesoramiento profesional generado por chatbots.
Otro punto relevante del proyecto establece que las empresas no podrán evitar esa responsabilidad mediante avisos o disclaimers, es decir, mediante advertencias al usuario indicando que el sistema no es humano.
“Cualquier respuesta, información o consejo sustancial, o tomar cualquier acción que, de ser tomada por una persona natural: (ii) violaría las disposiciones del artículo quince de la ley judicial que prohíbe el ejercicio o la comparecencia como abogado sin estar admitido y registrado bajo dicho artículo.”, se lee en los términos del dictamen.
En este contexto, los legisladores buscan evitar que sistemas automatizados reemplazen funciones reservadas a profesionales habilitados, particularmente cuando esas funciones implican responsabilidades legales o éticas. Si el proyecto se convierte en ley, Nueva York pasará a contar con una de las primeras normas específicas en Estados Unidos que limitan el asesoramiento profesional generado por chatbots.