Para disuadir a los adolescentes de la extorsión sexual, Meta creó una función que difumina los desnudos

Una nueva función diseñada para difuminar las fotos de desnudos enviadas a adolescentes en mensajes privados de Instagram está siendo atacada incluso antes de su puesta en marcha.

La función, que Meta Platforms Inc. tiene previsto empezar a probar el mes que viene, pretende disuadir de los delitos de sextorsión en línea, que han provocado más de dos docenas de suicidios de adolescentes en los dos últimos años. Pero los usuarios pueden anularla: Un toque en la imagen borrosa y todo queda al descubierto.

“Esto es demasiado poco y demasiado tarde y, francamente, no hace nada por proteger a los niños”, afirma Lina Nealon, vicepresidenta y directora de iniciativas estratégicas corporativas del National Center on Sexual Exploitation, una organización contra la pornografía. Esa imagen desnuda sigue estando “a un simple clic de distancia”, afirmó.

Arturo Bejar, que pasó seis años trabajando en herramientas de seguridad infantil en Meta, calificó la nueva función de “lamentablemente insuficiente.” Bejar renunció en 2021 tras advertir a los ejecutivos de que los adolescentes, incluida su propia hija, estaban recibiendo demasiadas insinuaciones sexuales no deseadas en la plataforma. En una comparecencia ante el Senado en noviembre, declaró que la empresa no estaba haciendo lo suficiente para evitar daños a sus usuarios más jóvenes.

“¿Qué adolescente no va a desenfocar una foto desnuda enviada por una chica?”. dijo Bejar en una entrevista. “¿Cuántos niños tienen que morir para que haya medidas que prevengan eficazmente la sextorsión? Lo que está en juego es la vida de los adolescentes”.

La iniciativa de Meta para luchar contra la sextorsión se anunció a principios de este mes, después de que Bloomberg News indagara sobre los esfuerzos de la plataforma para combatir este delito, en el que estafadores que se hacen pasar por chicas adolescentes en Instagram o Snapchat consiguen que sus víctimas envíen imágenes de desnudos. A continuación, los estafadores las chantajean. El anuncio se produjo pocos días antes de que Bloomberg publicara un reportaje sobre el tema, centrado en la muerte de Jordan DeMay, una estrella de fútbol y baloncesto de 17 años de Marquette, Michigan.

La empresa declaró que empezaría a probar funciones de protección contra la desnudez para adolescentes, como animarles a pensárselo dos veces antes de enviar o reenviar imágenes explícitas y advertirles de que examinen los perfiles porque las personas podrían no ser quienes dicen ser. Meta también anunció que utilizaría tecnología de aprendizaje automático para difuminar cualquier imagen de desnudos recibida inicialmente por un usuario menor de 18 años.

Gail Kent, directora de políticas para Messenger e Instagram Direct Message en Meta, defendió la postura de la empresa de permitir a los adolescentes ver las imágenes de desnudos si así lo desean. Dijo en una entrevista que los usuarios tienen una expectativa de privacidad cuando envían mensajes, y que la tecnología no es lo suficientemente buena como para detectar el contexto en el que se ha compartido una imagen o para determinar la edad de la persona en una foto.

Las políticas de Meta prohíben a los usuarios de cualquier edad compartir imágenes de desnudos en espacios públicos, como Facebook o Instagram, pero los mensajes privados son más difíciles de vigilar, según Kent. “Al enviar un SMS o una llamada telefónica, la gente espera que la empresa que los facilita no esté leyendo o escuchando proactivamente esas conversaciones ni juzgando lo que se dice y lo que no”, afirma Kent, que pasó dos décadas trabajando en las fuerzas del orden antes de incorporarse a Meta hace cinco años.

Las nuevas funciones están diseñadas para añadir un nivel de fricción a la hora de enviar o recibir imágenes explícitas, explicó Kent. “Se trata de hacer que la gente se pare a pensar”, dijo. “No hay soluciones milagrosas. Tendremos que seguir evolucionando”. La compañía planea desplegar la nueva función a nivel mundial para todos los usuarios de Instagram menores de 18 años en los próximos meses y explorar opciones similares para Facebook Messenger.

El Fiscal General de Nuevo México, Raúl Torrez, que ha presentado una demanda acusando a Meta de facilitar el abuso sexual infantil, dijo que las nuevas medidas “se quedan significativamente cortas de lo que se necesita.” Dijo que las fuerzas del orden han suplicado a Meta durante años que haga frente a los esquemas de extorsión sexual en sus plataformas.

“Es profundamente preocupante que la compañía solo mueva un dedo una vez que sus ejecutivos se preocupan por la mala publicidad”, dijo Torrez. “Los esfuerzos superficiales de Meta son indicativos de una renuencia más amplia a implementar las salvaguardias necesarias para proteger verdaderamente a los jóvenes en Instagram, Facebook y WhatsApp”.

Meta es la primera plataforma de redes sociales que ofrece una función de difuminado de desnudos para menores. Snap Inc. se negó a dar detalles sobre si está trabajando en una función similar, y TikTok no respondió a las solicitudes de comentarios.

©2024 Bloomberg