Un grupo de 44 fiscales generales estadounidenses, en representación de distintos estados y territorios, firmó un comunicado dirigido a las principales compañías tecnológicas en el que exigen medidas urgentes para proteger a los menores frente a los riesgos de los asistentes conversacionales.
Los menores son consumidores y las empresas que diseñan y comercializan productos de IA tienen la obligación legal de protegerlos
El documento surge tras la divulgación de políticas internas de Meta que habrían permitido que sus chatbots “coquetearan y participaran en juegos de rol románticos con niños de hasta ocho años”. Los fiscales expresaron su “indignación” y advirtieron que esa conducta, prohibida por la ley si fuese realizada por humanos, no puede considerarse admisible solo porque provenga de un sistema automatizado.
Demandas contra Google por un chatbot que habría inducido a un adolescente hacia el suicidio, y otra contra Character.ai por sugerir a un joven que agrediera a sus padres
Los firmantes recordaron que los menores son consumidores y que las empresas que diseñan y comercializan productos de IA tienen la obligación legal de protegerlos. En ese sentido, resaltaron que exponer a niños a contenidos sexualizados constituye un riesgo inadmisible y puede implicar responsabilidad penal.
El comunicado remarca otros antecedentes recientes: demandas contra Google por un chatbot que habría inducido a un adolescente hacia el suicidio, y otra contra Character.ai por sugerir a un joven que agrediera a sus padres. Estas situaciones, según los fiscales, muestran una falta de control sistemática en el sector.
El llamado es a priorizar la seguridad infantil por encima de métricas de uso o beneficios económicos.
También se hace hincapié en el impacto particular que la tecnología interactiva tiene sobre cerebros en desarrollo, los fiscales sostienen que las compañías cuentan con información en tiempo real sobre las interacciones y, por tanto, son la “primera línea de defensa” para mitigar daños. El llamado es a priorizar la seguridad infantil por encima de métricas de uso o beneficios económicos.
Recordaron que, en el pasado, otras innovaciones tecnológicas fueron lanzadas sin suficiente evaluación de riesgos, lo que generó consecuencias negativas para familias y comunidades: “Todo esto ha ocurrido antes, pero no puede volver a ocurrir”, sostuvieron.
La carta concluye con una advertencia directa: las decisiones de las empresas en este momento de inflexión tecnológico influirán en generaciones futuras. “Cuando sus productos de IA interactúan con niños, deben verlos con los ojos de un padre, no con los de un depredador”, señala el comunicado.