Parte del desafío radica en la dificultad inherente de enseñar a los algoritmos a tomar decisiones matizadas sobre el contenido.
Thomas Trutschel/Photothek via Getty Images
Una versión de este artículo apareció originalmente en el boletín de fin de semana exclusivo para miembros de Quartz. Los miembros de Quartz obtienen acceso a boletines exclusivos y más. Regístrate aquí.
Cuando los legisladores británicos prometieron que las leyes de verificación de edad crearían un “internet más seguro” al mantener a los niños alejados de contenido dañino o para adultos, probablemente no imaginaron que los adultos necesitarían una identificación gubernamental para ver debates parlamentarios sobre abuso sexual o imágenes de drones destruidos en Ucrania.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
Pero eso es exactamente lo que está sucediendo a medida que los países de todo el mundo se apresuran a implementar controles de edad en la web. La brecha entre las intenciones políticas y la realidad desordenada revela el desafío fundamental de crear tecnología lo suficientemente sofisticada como para distinguir entre contenido que es realmente dañino para los niños e información legítima a la que los adultos tienen todo el derecho a acceder.
Las consecuencias ya se están extendiendo por internet. En el Reino Unido, donde la Ley de Seguridad en Línea entró en vigor a finales de julio, las plataformas de redes sociales están bloqueando contenido indiscriminadamente en su prisa por cumplir con las nuevas regulaciones. Un video de un hombre en Gaza buscando los cuerpos de su familia entre los escombros fue restringido en X $TWTR, a pesar de que no mostraba ninguna imagen gráfica, hasta que la BBC preguntó al respecto.
Un discurso parlamentario sobre una agresión sexual disponible sin restricciones en el sitio oficial de streaming del gobierno está bloqueado en las redes sociales. Los algoritmos incluso han considerado que una obra maestra de 200 años que representa la mitología griega ("Saturno devorando a su hijo") es demasiado picante para internet. Mientras tanto, las descargas de aplicaciones VPN han aumentado ya que los usuarios buscan soluciones alternativas, una señal clara de que el público no está aceptando esta nueva realidad.
Parte del problema radica en la dificultad inherente de enseñar a los algoritmos a tomar decisiones matizadas sobre el contenido. La Ley de Seguridad en Línea del Reino Unido requiere que las plataformas evalúen si el contenido representa "un riesgo material de daño significativo para un número apreciable de niños", una determinación subjetiva con la que incluso los humanos tienen dificultades de manera consistente.
El desafío se complica cuando las plataformas intentan determinar quién debería estar bloqueado para ver ese contenido en primer lugar. Las empresas están subcontratando estas decisiones a proveedores de verificación de edad de terceros como Yoti, Incode y Persona, pero la tecnología sigue siendo imperfecta. Facial age estimation systems typically offer accuracy within roughly 18 months, and can be fooled by everything from poor lighting to, in one case, a dog held in front of someone's face.
Los métodos de verificación en sí crean nuevos problemas. Requerir identificaciones gubernamentales plantea preocupaciones de privacidad y excluye a las personas sin documentación. Las verificaciones de tarjetas de crédito suponen acceso financiero. Incluso enfoques aparentemente amigables con la privacidad, como la estimación de edad por IA basada en patrones de navegación, tienen dificultades para tener en cuenta dispositivos compartidos o comportamientos en línea variados.
Pero quizás lo más preocupante es lo que sucede cuando los usuarios simplemente optan por no participar. Los datos sugieren que las leyes pueden estar empujando a los usuarios hacia sitios menos regulados. When age verification requirements take effect, researchers have found that traffic often shifts to overseas, unregulated sites that don't follow any content policies.
A pesar de estos desafíos, el experimento de verificación de edad se está expandiendo rápidamente. La Corte Suprema de EE. UU. recientemente allanó el camino para que los estados exijan a los sitios web de pornografía que verifiquen la edad de los visitantes, con al menos 24 estados habiendo promulgado alguna forma de ley de verificación. Australia planea prohibir las redes sociales para niños menores de 16 años a partir de diciembre. Los tribunales de Francia han dictaminado que los sitios de pornografía pueden verificar la edad de los usuarios, mientras que Irlanda leyes de verificación de edad implementadas para sitios web de videos a principios de este año.
Cada jurisdicción está adoptando un enfoque ligeramente diferente, creando marcos regulatorios inconsistentes de requisitos de cumplimiento que las plataformas deben navegar. Texas multa a los sitios no conformes con hasta $10,000 por día, mientras que el Reino Unido puede multar a las plataformas con hasta el 10% de los ingresos globales o bloquear los servicios por completo.
Las asociaciones comerciales tecnológicas están repelando en los tribunales, con NetChoice, cuyos miembros incluyen Meta $META, Google $GOOGL y Reddit $RDDT, argumentando que las leyes son contraproducentes ya que los usuarios jóvenes determinados simplemente encontrarán formas de eludir las restricciones.
Los investigadores están preocupados por las implicaciones más amplias para el acceso a la información. Para los adultos, los requisitos de verificación de edad eliminan la navegación anónima. Esta preocupación se extiende más allá de la pornografía para incluir temas políticamente sensibles, recursos de salud mental o cualquier contenido que alguien pueda querer acceder de forma privada legítimamente.
Para los jóvenes, las leyes pueden restringir inadvertidamente el acceso a materiales educativos que más necesitan, incluida información sobre salud sexual, derechos reproductivos y problemas LGBTQ que podrían ser vitales en jurisdicciones conservadoras donde tales temas enfrentan oposición política.
A medida que más países implementan estas leyes, Internet se está convirtiendo en un espacio más fragmentado y vigilado. La tensión fundamental podría resultar irreconciliable: los legisladores han creado un sistema que bloquea los debates parlamentarios mientras no logra mantener alejados a los adolescentes decididos del contenido que fue diseñado para restringir.
Si esto representa un progreso en la seguridad infantil o una lección costosa sobre los límites de las soluciones tecnológicas queda por verse.
