El estado de Nueva York quiere abrir un frente regulatorio muy concreto contra la IA: impedir que los chatbots se presenten como abogados, médicos o terapeutas con licencia y respondan como si lo fueran. El proyecto, identificado como S7263 y promovido por la senadora Kristen Gonzalez, modificaría la ley estatal para hacer responsables a las plataformas cuando un chatbot suplante a un profesional regulado y cause daños.
La parte más dura del texto no está solo en la prohibición, sino en cómo se aplicaría. La propuesta impediría que un chatbot ofrezca respuestas “sustanciales” o asesoramiento que, si lo diera una persona, constituiría ejercicio no autorizado de una profesión regulada. Y, además, permitiría a los usuarios demandar directamente a la empresa propietaria del sistema.
Responsabilidad directa y fin del “disclaimer” fácil
Ese detalle cambia bastante el tablero. Muchas plataformas se protegen hoy con avisos del tipo “esto no sustituye asesoramiento profesional”, pero el proyecto neoyorquino intenta cerrar precisamente esa salida. Según Reuters y el texto legislativo, el hecho de advertir de que el usuario habla con un chatbot no bastaría por sí solo para librarse de responsabilidad si la herramienta actúa como si fuera un profesional autorizado.
La medida no se limita al ámbito jurídico. También alcanzaría a otras profesiones con licencia estatal, como medicina o salud mental, en un momento en que los legisladores empiezan a mirar con más atención el modo en que los modelos conversacionales se cuelan en espacios tradicionalmente reservados a expertos acreditados. El comité de Internet y Tecnología del Senado estatal ya aprobó el proyecto a finales de febrero dentro de un paquete más amplio de normas sobre IA.
El caso que acelera el debate
El contexto explica bastante bien por qué esta iniciativa aparece ahora. Reuters informó el mismo 5 de marzo de una demanda de Nippon Life Insurance Company of America contra OpenAI, en la que se acusa a ChatGPT de actuar como abogado sin licencia y de ayudar a inundar un procedimiento judicial con escritos sin fundamento. OpenAI respondió que el caso carece de base, pero el litigio ilustra justo el tipo de conflicto que Nueva York quiere anticipar.
Lo más relevante, en el fondo, es que el proyecto intenta convertir una preocupación difusa en una regla concreta: no bastaría con que la IA se identifique como no humana; tampoco podría vestirse de autoridad profesional para orientar decisiones delicadas.
