China impone límites al afecto artificial
Octavio Islas
Esta semana China se ha convertido en el primer país en promulgar y aplicar una ley que prohíbe formalmente a los menores de edad acceder a asistentes de compañía basados en Inteligencia Artificial (IA).
El miércoles 15 de julio entraron en vigor las Medidas Provisionales para la Administración de Servicios Interactivos Humanizados de Inteligencia Artificial, las cuales fueron aprobadas por cinco departamentos gubernamentales, entre ellos la Administración del Ciberespacio.
La normativa prohíbe que las plataformas de IA ofrezcan a menores de 18 años asistentes de “compañía sentimental o familiar”, incluidos novios, amigos o familiares virtuales.
Se pretende así limitar el acceso de los menores a sistemas con rasgos antropomórficos capaces de simular vínculos afectivos, como amistad, apego o compañía emocional.
La ley establece dos niveles de protección:
- Los menores de 18 años no podrán acceder a asistentes de IA que simulen relaciones sentimentales, amistades o vínculos familiares.
- Los menores de 14 años necesitarán el consentimiento explícito de sus padres o tutores para interactuar con sistemas de IA antropomórfica.
La ley además exige a las plataformas evitar la dependencia emocional y la adicción en usuarios adultos, incluyendo mecanismos para intervenir o alertar a contactos de emergencia ante crisis psicológicas o comportamientos extremos.
Las herramientas de IA diseñadas estrictamente para funciones utilitarias, como la asistencia en estudios, el entorno laboral o el servicio de atención al cliente, quedan fuera de estas restricciones.
Tras la entrada en vigor de la normativa, varias de las principales aplicaciones de IA en China anunciaron la suspensión de sus funciones de compañeros virtuales, entre ellas Doubao, de ByteDance; Qwen, de Alibaba; y Yuanbao, de Tencent.
La epidemia de la soledad y el «refugio» digital
La decisión de las autoridades chinas no surge en el vacío. En los años recientes, el mercado de los avatares, asistentes emocionales y “parejas virtuales” ha crecido de forma acelerada, impulsado por la demanda de la compañía digital.
Estas aplicaciones permiten a los usuarios diseñar acompañantes a la medida de sus necesidades emocionales: disponibles las 24 horas del día y programados para mostrarse empáticos, pacientes y afectuosos.
Lo que comenzó como un nicho de entretenimiento digital, o incluso como una herramienta de apoyo frente a la soledad, se ha convertido en un fenómeno que despierta preocupación. Los jóvenes pueden ser vulnerables a interacciones diseñadas para simular intimidad, comprensión y apego.
El riesgo no radica en que la IA tenga sentimientos, sino que el usuario llegue a creer que los tiene. Cuando la predictibilidad de un algoritmo diseñado para complacer resulta más atractiva que la complejidad, la frustración o el rechazo propios de las relaciones humanas, la compañía artificial deja de ser un simple recurso tecnológico y se convierte en un sustituto emocional.
Ese desplazamiento —de la compañía digital como recurso ocasional a su posible conversión en sustituto emocional— explica por qué la regulación china no se limita a prohibir determinadas aplicaciones, sino que intenta intervenir en el propio diseño de la interacción entre usuarios y sistemas de IA.
¿En qué consiste la nueva regulación?
La nueva legislación china apunta directamente al núcleo del diseño de estos sistemas. La prohibición no se limita a las aplicaciones de citas virtuales, sino que abarca un espectro mucho más amplio de software. Las claves de la ley incluyen:
- Veto a la simulación afectiva: Se prohíbe cualquier sistema de IA que utilice técnicas de persuasión o simulación de emociones humanas para generar la ilusión de reciprocidad amorosa, de amistad íntima o de apego filial.
- Restricción de rasgos antropomórficos: Los asistentes virtuales dirigidos o accesibles para menores no podrán adoptar identidades humanas realistas, voces con alta carga emocional de complicidad, ni narrativas que fomenten la dependencia.
- Control de identidad estricto: Al igual que ocurre con los videojuegos en el país asiático, las plataformas deberán implementar sistemas rigurosos de verificación de edad para garantizar que ningún menor de 18 años interactúe con estas herramientas de compañía.
¿Protección necesaria o censura del afecto?
Mientras la Unión Europea ha centrado su regulación de la IA en la gestión de riesgos técnicos, transparencia y derechos fundamentales a través de la AI Act, China ha optado por centra su atención en un aspecto medular en el imaginario ético-social: la protección psicológica del usuario, especialmente cuando la tecnología simula vínculos afectivos.
El debate, sin embargo, no se reduce a una oposición simple entre regulación y libertad tecnológica. En el fondo, enfrenta dos formas de entender el papel del Estado ante la inteligencia artificial emocional: proteger a los usuarios más vulnerables o evitar una intervención excesiva sobre las formas digitales de relación.
| Postura de los Defensores de la Medida | Argumentos de los Críticos y Desarrolladores |
| Prevención de la dependencia: Evitar que los menores sustituyan la socialización real por interacciones artificiales y cómodas. | Freno a la innovación: Limitar el desarrollo de herramientas de IA terapéuticas que podrían ayudar a jóvenes con fobia social. |
| Protección del desarrollo cognitivo: Asegurar que los jóvenes aprendan a lidiar con la frustración y la empatía real. | Invasión de la privacidad: Implementar controles biométricos de edad aún más invasivos para acceder a internet. |
Un precedente para el futuro de la humanidad
La decisión de Pekín abre un debate inevitable sobre el rumbo que está tomando nuestra relación con la tecnología. Si bien para muchos la medida puede parecer drástica o de corte paternalista, para otros es un paso urgente y necesario para evitar que las futuras generaciones crezcan bajo el cobijo de una «empatía sintética».
A medida que los modelos de lenguaje se vuelven más persuasivos y realistas, la línea que divide la herramienta del compañero se vuelve casi invisible. Con esta nueva ley, China no solo ha regulado el código de la inteligencia artificial; ha lanzado una pregunta incómoda al resto del mundo: ¿estamos listos para delegar el afecto humano a los algoritmos?
La medida, que ya genera intensos debates entre tecnólogos, psicólogos y reguladores de todo el planeta, representa un giro drástico en la gobernanza de la IA. Ya no se trata solo de proteger la privacidad de los datos o de evitar la desinformación; esta vez, el foco está puesto en la salud mental y el desarrollo emocional de las generaciones más jóvenes.
Blog de Octavio Islas 