Twitter se enfrenta al boicot de los anunciantes debido a las fallas en la vigilancia del material de abuso infantil

El año no bueno, muy malo de Twitter continúa, y la compañía se vio obligada esta semana a informar a algunos anunciantes que sus anuncios se habían mostrado en la aplicación junto con tweets que solicitaban pornografía infantil y otro material de abuso.

Según lo informado por Reuters:

“ Marcas que van desde Walt Disney, NBCUniversal y Coca-Cola, hasta un hospital infantil, se encuentran entre unos 30 anunciantes que han aparecido en las páginas de perfil de las cuentas de Twitter que venden enlaces al material explotador”.

El descubrimiento fue realizado por el grupo de seguridad cibernética Ghost Data, que trabajó con Reuters para descubrir las preocupaciones sobre la colocación de anuncios, lo que asestó otro gran golpe a las perspectivas comerciales en curso de la aplicación.

Ya en un estado de desorden en medio de la saga de adquisición en curso de Elon Musk, y luego de las recientes revelaciones de su exjefe de seguridad de que es poco estricto con la seguridad de los datos y otras medidas, Twitter ahora también enfrenta un éxodo de anunciantes, con grandes marcas como Dyson, Mazda y Ecolab. suspendiendo sus campañas de Twitter en respuesta.

Lo cual, en realidad, es el elemento menos preocupante sobre el descubrimiento, ya que el informe Ghost Data también identifica más de 500 cuentas que compartieron o solicitaron abiertamente material de abuso sexual infantil durante un período de 20 días.

Ghost Data dice que Twitter no pudo eliminar más del 70% de las cuentas durante el tiempo del estudio.

Los hallazgos plantean más preguntas sobre la incapacidad o voluntad de Twitter para abordar material potencialmente dañino, y The Verge informó a fines del mes pasado que Twitter "no puede detectar con precisión la explotación sexual infantil y la desnudez no consensuada a escala".

Ese hallazgo provino de una investigación sobre el plan propuesto por Twitter para dar a los creadores de contenido para adultos la capacidad de comenzar a vender suscripciones pagas al estilo de OnlyFans en la aplicación.

En lugar de trabajar para abordar la abundancia de material pornográfico en la plataforma, Twitter consideró apoyarse en él, lo que sin duda aumentaría el factor de riesgo para los anunciantes que no quieren que sus promociones aparezcan junto con tuits potencialmente ofensivos.

Lo que probablemente esté sucediendo, a una escala aún mayor de lo que sugiere este nuevo informe, porque la propia investigación interna de Twitter sobre su propuesta OnlyFans-esque encontró que:

“ Twitter no podía permitir que los creadores adultos vendieran suscripciones de manera segura porque la empresa no estaba, y todavía no está, controlando de manera efectiva el contenido sexual dañino en la plataforma”.

En otras palabras, Twitter no podía correr el riesgo de facilitar la monetización de material explotador en la aplicación, y debido a que no tiene forma de abordarlo, tuvo que descartar la propuesta antes de que realmente ganara terreno.

Con eso en mente, estos nuevos hallazgos no son una sorpresa, pero nuevamente, es probable que la reacción negativa de los anunciantes sea significativa, lo que podría obligar a Twitter a lanzar una nueva ofensiva de cualquier manera.

Por su parte, Twitter dice que está invirtiendo más recursos dedicados a la seguridad infantil, "incluida la contratación de nuevos puestos para redactar políticas e implementar soluciones".

Entonces, genial, Twitter está tomando medidas ahora. Pero estos informes, basados ​​en la investigación de los propios exámenes de Twitter, muestran que Twitter ha estado al tanto de este problema potencial durante algún tiempo, no específicamente de explotación infantil, sino de contenido para adultos que no tiene forma de controlar.

De hecho, Twitter asiste abiertamente en la promoción de contenido para adultos, aunque sin darse cuenta. Por ejemplo, en la sección 'Para ti' de mi pestaña 'Explorar' (es decir, la página principal de Explorar en la aplicación), Twitter recomienda continuamente que siga 'Facebook' como tema, según mis tweets y las personas a las que sigo. en la aplicación

Aquí están los tweets que se destacaron como algunos de los tweets de mayor actualidad para 'Facebook' ayer:

No es material pornográfico como tal, pero les aconsejo que si accedo a cualquiera de estos perfiles, lo encontraré bastante rápido. Y nuevamente, estos tweets se resaltan según el propio algoritmo de tweets temáticos de Twitter, que se basa en la interacción con los tweets que mencionan el término del tema. Estos tweets completamente ajenos y fuera de tema están siendo enviados por Twitter a los usuarios que no han expresado ningún interés en el contenido para adultos.

Está claro, según toda la evidencia disponible, que Twitter tiene un problema con la pornografía y está haciendo poco para solucionarlo.

Los distribuidores de contenido para adultos ven a Twitter como la mejor red social para publicidad, porque es menos restrictiva que Facebook y tiene un alcance mucho más amplio que los sitios especializados para adultos, mientras que Twitter obtiene los beneficios de uso y participación de alojar material que otras plataformas sociales simplemente no permitirían. .

Lo cual es probablemente la razón por la que ha estado dispuesto a hacer la vista gorda durante tanto tiempo, hasta el punto de que ahora se destaca como un problema mucho mayor.

Aunque es importante tener en cuenta que el contenido para adultos, en sí mismo, no es inherentemente problemático, al menos entre los usuarios adultos que lo consienten. El enfoque de Twitter hacia el abuso infantil y el contenido explotador es el verdadero problema en cuestión.

Y se informa que los sistemas de Twitter son 'lamentablemente inadecuados' a este respecto.

Según lo informado por The Verge:

Un informe de 2021 encontró que los procesos que usa Twitter para identificar y eliminar material de explotación sexual infantil son lamentablemente inadecuados, en gran parte manuales en un momento en que las empresas más grandes recurren cada vez más a sistemas automatizados que pueden capturar material que no está marcado por PhotoDNA. El principal software de cumplimiento de Twitter es "una herramienta heredada sin soporte" llamada RedPanda, según el informe. “RedPanda es, con mucho, una de las herramientas más frágiles, ineficientes y con menos soporte que ofrecemos”, dijo un ingeniero citado en el informe.

De hecho, un análisis adicional de los sistemas de detección de CSE de Twitter encontró que del millón de informes enviados cada mes, el 84% contiene material recién descubierto, "ninguno de los cuales sería marcado", por los sistemas de Twitter.

Entonces, si bien son los anunciantes los que vuelven a presionar a la empresa en este caso, está claro que los problemas de Twitter van mucho más allá de las preocupaciones sobre la colocación de anuncios.

Sin embargo, alcanzar el resultado final de Twitter puede ser la única forma de obligar a la plataforma a tomar medidas, aunque será interesante ver cuán dispuesto y capaz es Twitter para promulgar un plan más amplio para abordar esto en medio de su batalla por la propiedad en curso.

Dentro de su acuerdo de adquisición con Elon Musk, hay una disposición que establece que Twitter debe:

“Usar sus esfuerzos comercialmente razonables para preservar sustancialmente intactos los componentes materiales de su organización comercial actual”.

En otras palabras, Twitter no puede realizar ningún cambio significativo en su estructura operativa mientras se encuentra en la fase de transición, que actualmente se encuentra en debate mientras se dirige a una batalla judicial con Musk.

¿Iniciar una actualización significativa de sus modelos de detección de CSE calificaría como un cambio sustancial, lo suficientemente sustancial como para alterar la estructura operativa de la empresa en el momento del acuerdo inicial?

En esencia, es probable que Twitter no quiera hacer cambios importantes. Pero podría ser necesario, especialmente si más anunciantes se unen a este nuevo boicot y presionan a la empresa para que tome medidas inmediatas.

Es probable que sea un desastre de cualquier manera, pero esta es una gran preocupación para Twitter, que debería rendir cuentas por sus fallas sistémicas a este respecto.