Un inquietante video en el que un hombre sostenía lo que afirmaba ser la cabeza decapitada de su padre circuló en YouTube, siendo visto más de 5.000 veces antes de ser retirado. Este incidente es solo un ejemplo de la creciente problemática de contenidos atroces que circulan sin filtro en las redes sociales.
La semana pasada, millones de personas fueron testigos de imágenes pornográficas generadas por inteligencia artificial de Taylor Swift, mientras que videos que muestran situaciones comprometedoras con menores de edad también se han vuelto más frecuentes. Incluso se han transmitido en vivo asesinatos a través de Facebook.
YouTube emitió un comunicado afirmando que el video fue eliminado por violar sus políticas, pero las plataformas en línea enfrentan dificultades para mantenerse al tanto de estos contenidos perturbadores. Aunque YouTube sostiene tener políticas estrictas, su dependencia de algoritmos y equipos subcontratados para la moderación ha generado críticas.
En 2022, varias empresas tecnológicas recortaron equipos enfocados en seguridad y ética, lo que ha llevado a una falta de inversión en la moderación de contenidos. Los algoritmos, diseñados para destacar videos populares, contribuyen al problema al enfocarse en la atención en lugar de la seguridad.
Josh Golin, director ejecutivo de Fair Play for Kids, destaca la falta de inversión en equipos de confianza y seguridad, afirmando que los videos perturbadores persisten demasiado tiempo en línea. James Steyer, fundador de Common Sense Media, advierte sobre el impacto duradero en la salud mental de los niños expuestos a tales contenidos.
A pesar de las promesas de legisladores y reguladores, las grandes tecnológicas han actuado de manera independiente, enfrentándose ahora a un proceso en el Congreso. Aunque se espera que presenten herramientas y políticas para proteger a los niños, los críticos argumentan que las plataformas no pueden seguir autorregulándose eficazmente. Padres y defensores sostienen que se necesita una intervención más fuerte para garantizar la seguridad en línea de los jóvenes.
