#MILGlobalUnderstanding

#RethinkingHumanHorizon

Actualidad

¿Cómo enfrentó TikTok las acusaciones de espionaje y desinformación en este 2020? Revelando y ajustando el algoritmo

Imagen de Kon Karampelas en Pixabay
Imagen de Kon Karampelas en Pixabay

Para la plataforma de videos cortos TikTok el 2020 fue el año más retador desde que inició su camino. Y es que esta red social se ha enfrentado a serias acusaciones de espionaje y amenazas de cierre de mercado, además de un vertiginoso crecimiento exponencial de contenidos tóxicos, que la han empujado a ejecutar acciones clave con miras a generar confianza.

TikTok, un algoritmo y un derrotero gris

Perteneciente a la compañía china ByteDance, la popular red social que reina entre el público adolescente y joven parte de un concepto de entretenimiento en el que los usuarios pueden crear y compartir contenidos audiovisuales de 3 a 15 segundos o de 30 a 60 segundos, de una forma sencilla y divertida gracias a los variados filtros que facilitan y agilizan la edición de los videos.

A esto se suma el perfil musical de esta app, en donde fluyen los contenidos con coreografías de baile; imitación de canto de los usuarios de las canciones o artistas más populares; el humor; y en especial, los famosos desafíos, cuando una marca o participante de esta red propone un reto a la audiencia, como un nuevo paso de baile, a quienes deseen replicarlo o mejorarlo.

Reportaje de DW sobre la red social TikTok

Siendo que la particularidad de TikTok y tal vez la clave de su éxito, más allá de su practicidad, es el propio algoritmo de la compañía, que permite visualizar los contenidos sin necesidad de generarse una cuenta, como táctica de captación; y le da las mismas posibilidades de atención y viralización a un contenido de creadores populares o desconocidos en la sección “For You”, siempre que estos tengan un alto potencial de atracción. Esto último es lo que la diferencia de sus competidoras.

De otro lado, la plataforma audiovisual de ByteDance se distingue también por el uso de inteligencia artificial en su algoritmo. Así, por medio de las interacciones de sus usuarios con los contenidos desplegados en esta red, se identifican y analizan sus gustos y preferencias, hasta personalizar el consumo del contenido de cada participante en esta red.

Tales características han generado que hasta agosto del 2020, TikTok aglutine más de 800 millones de usuarios en todo el mundo y se espera que ese explosivo crecimiento se mantenga en los próximos años, en base a información del portal de estadísticas en línea Statista.

De igual forma, se vaticina un creciente nivel de influencia en la ciudadanía, lo que ya empieza a notarse. Por ejemplo, en Estados Unidos esta aplicación ha sido la que más interacción generó entre sus usuarios en el período 2017 al 2019 (+1,533%), colocándose por encima de las estadounidenses Twitter (+13%) y Facebook (-26%), que fue la última en la cola.

El cambio demográfico de seguidores de las redes sociales, sumado al secretismo respecto al funcionamiento de su algoritmo y la gestión de datos de sus usuarios ha despertado los recelos en diversos países, como India y Estados Unidos, que acusaron a la plataforma de compartir los datos de sus ciudadanos afiliados a la plataforma con el régimen chino. En especial, esto se ampara en episodios de censura ejercidos por TikTok hacia videos críticos contra el gobierno de su país, conforme reveló un informe periodístico.

TikTok fue acusada de espionaje en EEUU e India

El 2020 ha sido el año en el que todas las redes sociales se han enfrentado a campañas y críticas de organizaciones y ciudadanos por su escasa acción para frenar el desenfrenado crecimiento de contenidos tóxicos y alimentar una polarización en el debate.

Con la esperanza de disipar recelos y deslindar de la imagen negativa respecto a las firmas de social media, Tik Tok ha estado muy activa en comunicar sus nuevas acciones para combatir la desinformación, el discurso del odio y las teorías conspiratorias, centrándose en tres pilares de actuación: la transparencia, regulaciones contra la desinformación y el discurso del odio y políticas para evitar la interferencia desde su entorno en el contexto electoral estadounidense.

Un giro de tuerca hacia la transparencia

La política de la transparenciafue una premisa que la red social explotó a lo largo de este año. Desde el lanzamiento de su Centro de Transparencia a la revelación de sus algoritmos y los respectivos informes, Tik Tok ha estado muy activa en este sector.

Partiendo en marzo de este año con el Centro de Transparencia para la moderación de contenidos y práctica de datos fue el lanzamiento anunciado por TikTok en marzo de este año, a fin de presentar ante la opinión pública su política de monitoreo y seguridad en la gestión de datos, permitiendo a los expertos conocer y evaluar los guías de actuación, el tipo de tecnología usada y el entrenamiento a sus moderadores.

Mas, debido al Covid-19, la apertura del Centro de Transparencia se pospuso hasta nuevo aviso; hasta que en julio, ByteDance ofreció tours virtuales para compartir la misma información. El objetivo era ostentar un perfil transparente de cara a la opinión pública.

Para esto, valía la pena subir más peldaños como ubicar servidores fuera de China (2019) o más concretamente en Estados Unidos, en donde concentran los datos sus usuarios estadounidenses; y de contratar al ex ejecutivo de WaltDisney Kevin Mayer como CEO de la compañía, entre otros profesionales procedentes de los países en donde se centran sus principales operaciones.

En esa línea de apertura, fue así como TikTok empezó a correr el velo de misterio en torno a su enigmático algoritmo. El primer paso lo dio en junio, cuando reveló algunos de los principales secretos sobre el mismo, como los factores que influyen en su sistema de recomendación (interacciones de usuarios, vídeos que les gustan o comparten, cuentas seguidas, contenidos creados o comentarios publicados, configuración del país, del dispositivo y la cuenta e idioma).

No obstante, es hasta septiembre cuando esta red social presentó el funcionamiento de su algoritmo y prácticas de datos, explicando como usa el aprendizaje automático para personalizar los contenidos de los usuarios, en base a sus gustos, localización, procedencia configuración de la cuenta y del dispositivo, idioma y otros detalles de los videos como sonidos, subtítulos, hashtags.

TikTok precisó que si bien su algoritmo muestra los videos a sus usuarios considerando estos datos, ellos evitan caer en efectos redundantes como, ver varios videos de la misma música o autor, con el fin de presentarle contenidos personalizados pero evitando las cámaras de eco o burbujas de filtro.

En sí, los voceros de esta red social indicaron que manejan una evaluación constante del desenvolvimiento de las burbujas para actuar cuando sea necesario. Por ejemplo, en el caso de las teorías conspirativas, analizan las cuentas, temas, hashtags, etc., relativos a estos temas cuando son detectados, siendo estos contenidos revisados antes de ser difundidos.

A nivel de seguridad y privacidad de datos, la plataforma hizo actualizaciones para identificar y evitar incidentes antes de que sucedan o se propaguen. Para reforzar este capítulo, TikTok anunció que contrataría expertos en datos, seguridad y privacidad en Estados Unidos para fines de 2020.

A fines de septiembre, la plataforma presentó su último informe de transparencia; en donde reveló que retiró más de 104,5 millones de videos por violar las políticas de publicación de la comunidad, de los cuales 96.4% fueron retirados antes de ser reportados por los usuarios.

TikTok anunció en agosto que revelaría como funciona su algoritmo

La desinformación y el discurso del odio en la era del coronavirus

Si bien la difusión de contenidos tóxicos en todas las redes sociales, incluyendo TikTok. Para la plataforma de videos cortos de ByteDance, el coronavirus fue un punto de inflexión. Tanto es así que se comprometieron con nuevas políticas, adhirieron a pactos mundiales y se apoyaron en su algoritmo de inteligencia artificial (IA) para detectar y frenar estos contenidos mientras incrementaban la contratación de mano de obra para moderarlos.

Además, la plataforma tomó otras acciones para frenar el avance de la desinformación, teorías conspiratorias y el discurso del odio. Por ejemplo, en junio, firmó el Código de conducta de la Unión Europea contra la desinformación, lo que la comprometió a un mayor escrutinio de la publicidad comercial y política, integridad de servicios, empoderamiento de consumidores y de la comunidad investigadora.

Un mes después, TikTok lanzó la simbólica campaña de alfabetización mediática “estar informados” para enseñar a los usuarios a reconocer los contenidos falsos o engañosos y anunció que las publicaciones relativas a la teoría conspiratoria QAnon ya no aparecerán en los resultados de búsqueda, al ser considerados como publicaciones que generan desinformación.

En agosto, se transparentó la política contra el discurso del odio, detallando las acciones realizadas para evitar su circulación, como son: eliminar este tipo de contenidos, la prohibición de cuentas que lo promueven o niegan tragedias como el Holocausto, los perfiles de líderes de grupos de odio, dificultar el acceso o remover de las búsquedas a este tipo de contenido, transparentar la política de la plataforma para moderar estos contenidos e invertir en expertos y el entrenamiento de su equipo para detectar en forma eficiente estos contenidos.

A la par, en septiembre, TikTok firmó el código de conducta de la Unión Europea contra el discurso del odio online, comprometiéndose a la prohibición de este tipo de contenidos y a tener una revisión constante para evitar su circulación.

Del lado de sus herramientas tecnológicas, la IA fue el pilar pragmático para detectar la circulación de publicaciones tóxicas. Con esta arma, se removió automáticamente contenido violento en países como India, Brasil, Pakistán. Asimismo, entre enero a junio, los cinco países en donde más se eliminaron videos que iban contra las políticas de publicación de la plataforma fueron, en orden numérico: India, Estados Unidos, Pakistán, Brasil y Reino Unido.

La propaganda electoral tampoco es bienvenida

La campaña electoral estadounidense también ha sido para esta red social otro punto de inflexión para plantearse ajustes algorítmicos. Al punto que a inicios de agosto, la popular plataforma ha hecho algunos cambios para combatir la desinformación y la interferencia electoral desde su entorno, bajo tres medidas:  

  1. Se actualizaron las políticas sobre contenido engañoso para clarificar que está y no permitido:

Por ejemplo, se prohibió la desinformación con potencial de causar daño a la comunidad, ya sean contenidos sobre las elecciones u otros procesos cívicos o las campañas de desinformación sobre temas sanitarios. A su vez, que se especificó que los anuncios políticos estaban vetados en esta red social, por no encajar con la experiencia de consumo de sus usuarios.

El contenido sintético o manipulado con el fin de distorsionar la realidad y engañar a los usuarios de forma que genere eventos negativos o dañinos fue actualizada por la plataforma. De igual manera, sacaron de la zona gris a las campañas de desinformación, que se valían del comportamiento inauténtico coordinado, como la creación de cuentas para ejercer influencia en la opinión pública o confundir y/o engañar a los usuarios respecto a la identidad, ubicación u objetivo de estas cuentas.

2. Ampliación de la alianza con organizaciones de verificación de contenidos para corroborar la información errónea y se añadió la opción de información para clarificar este contenido:

TikTok señala contar con un Consejo Asesor de Contenidos, que reúne a expertos de diversas áreas, pero enfocados en detectar las falsificaciones profundas, libertad de expresión, IA inclusiva, etcétera; pero, adicionalmente a esto, amplió sus alianzas con organizaciones de verificación de contenidos falsos, como PolitiFact y Lead Stories enfocados en el contexto electoral estadounidense.

Imagen de la aplicación de TikTok para el contexto electoral de EEUU

A findes de septiembre, la última acción de esta plataforma para combatir la desinformación fue el lanzamiento de la aplicación guía sobre las elecciones en Estados Unidos. Desde aquí, se compartían datos e información sobre la contienda electoral de fuentes autorizadas como la Asociación Nacional de Secretarios de Estado, BallotReady, SignVote, entre otras.

3. Trabajo con expertos del gobierno estadounidense para eludir la influencia extranjero en el proceso electoral:

Con acciones como compartir información sobre posibles campañas de origen extranjero para entorpecer o influir en eventos políticos, como la campaña electoral estadounidense, TikTok desarrolló una alianza de trabajo a favor de la Fuerza de Tareas de Lucha contra la Influencia Extranjera, dependiente del del Centro Nacional de Gestión de Riesgos dentro de la Agencia de Seguridad Cibernética y de Infraestructura y perteneciente al Departamento de Seguridad Nacional de los Estados Unidos.

Además de esto, la red social anunció que está trabajando con varias plataformas líderes en la evaluación de amenazas de interferencia extranjera, con el objetivo de detectar campañas de comportamiento inauténtico y desarrollar mejores estrategias para confrontarlas.