¿Te has preguntado alguna vez cómo funciona la plataforma Youtube? ¿Cómo es que reproduce tu música favorita sin ponerla?

Numerosos sistemas que utilizan Inteligencia Artificial (IA) controlan la mayoría de la información que circula por la web. Las diferentes plataformas observan el comportamiento de los usuarios y poseen algoritmos que diseñados para  proponerles cosas que les podrían interesar.

La plataforma YouTube hace una primera lista de recomendaciones con cientos de vídeos relacionados con el que está viendo el usuario para luego mejorar esta lista teniendo en cuenta sus clics, gustos y otras interacciones, con el objetivo de mantener por más tiempo a los usuarios frente a la pantalla.

En el  estudio Proceedings of the 13th ACM Conference on Recommender Systems (Actas de la 13ª Conferencia ACM sobre sistemas de recomendación) los investigadores dieron más importancia a los vídeos que se encuentran en la parte baja del listado, -ya que se entiende que si el usuario ha hecho clic en esos vídeos es porque ha dedicado cierto tiempo a buscarlo-. Gracias a esta modificación del algoritmo, lograron mejoras sustanciales en la plataforma tanto en las métricas de compromiso como de satisfacción.

Cámaras de Eco: el agujero negro de YouTube

Este tipo de sistema cae en uno de los grandes problemas que generan los algoritmos como el descrito: dado que el sistema está optimizado para que los usuarios sigan viendo vídeos constantemente, tiende a ofrecer recomendaciones que refuerzan los gustos del usuario, lo que crea una experiencia que excluye otras opiniones y estimula la generación de lo que se llama cámaras de eco; esto podría  reducir la exposición de un usuario al contenido y, en última instancia, cambiar su visión del mundo.

Pablo Castells, profesor titular de la Escuela Politécnica Superior de la Universidad Autónoma de Madrid  plantea con respecto a esta dificultad que los objetivos del usuario y de las empresas no están siempre alineados, ya que la empresa necesita que el usuario esté contento, pero de una manera que sea rentable. Eso sucede si el usuario está más tiempo conectado, pero  según Castells, el algoritmo no distingue cuándo el usuario está contento y cuándo ha entrado en un modo compulsivo.

Además, el algoritmo ha sido cuestionado a la hora de hablar de contenidos infantiles. Según un estudio de arXiv, “hay un 45% de probabilidad de que un niño pequeño que sigue las recomendaciones de YouTube encuentre un vídeo inapropiado en menos de 10 clics”, según este estudio, el problema estaría en que algunos vídeos para adultos utilizan contenidos de vídeos infantiles y el algoritmo no los diferencia.

Castells plantea que esta dificultad se solucionaría identificando los tipos de contenido y etiquetando algunos contenidos como inapropiados, lo que nos sumerge en un debate ético en el que se envuelven las plataformas en la actualidad.