Desde muy jóvenes, muchas mujeres aprendemos a movernos por el mundo con una lista de precauciones: qué calles evitar, cuándo compartir la ubicación, a quién llamar y cómo reducir riesgos antes de que algo ocurra. Durante décadas, prevenir la violencia de género ha implicado enseñarnos, sobre todo, cómo protegernos frente a posibles agresiones.
Ahora trasladamos esa misma lógica a internet. A las niñas y adolescentes les decimos que no envíen fotos, que mantengan sus cuentas privadas y que cuiden lo que publican. Son recomendaciones útiles, pero es problemático responder a cada nueva forma de violencia entregándole a la potencial víctima una lista más larga de instrucciones.
La inteligencia artificial evidencia lo insuficiente de ese modelo. Hoy ni siquiera hace falta que una imagen íntima exista: fotos de redes sociales pueden usarse para generar contenido sexual falso de una mujer o una niña. Entonces, ¿cuál será el siguiente consejo? ¿No subir fotos? ¿No aparecer? Llegado cierto punto, la seguridad empieza a parecerse a la desaparición.
Resulta paradójico que tecnologías con ese potencial de daño puedan desarrollarse y ponerse al alcance del público, incluidos niños, niñas y adolescentes, con menos exigencias que las que asumimos para abrir un restaurante. Para operar un negocio aceptamos licencias, estándares sanitarios, inspecciones y requisitos de seguridad. Nadie considera esas reglas una amenaza al emprendimiento. Si una actividad puede causar perjuicios graves, nos parece normal establecer obligaciones mínimas. ¿Por qué no aplicamos la misma lógica al entorno digital?
En Estados Unidos los procesos contra Meta por los riesgos de sus plataformas para niños y adolescentes han reabierto una pregunta: ¿hasta dónde puede una empresa atribuir el daño a sus usuarios, cuando ella misma diseña el entorno en el que ocurren? Colombia debe tomarse esta conversación en serio.
Es momento de regular, no para censurar internet, sino para prevenir la violencia digital, reducir los riesgos que la facilitan, garantizar respuestas efectivas para las víctimas y exigir transparencia a las empresas tecnológicas. El país necesita una regulación desde los derechos humanos: que proteja la libertad de expresión y la privacidad, pero también la dignidad, la igualdad, la seguridad de las mujeres y el interés superior de niños, niñas y adolescentes.
La pregunta no puede ser solo qué debe hacer una víctima después del daño. También debemos preguntarnos quién podía prevenirlo, quién diseñó el sistema y qué responsabilidad le corresponde. Quizás la verdadera innovación no sea enseñar a las personas más vulnerables nuevas formas de cuidarse, sino exigir que quienes construyen los espacios digitales también aprendan a cuidar.