Los menores pueden usar la nueva herramienta "Take It Down" del NCMEC para marcar material explícito de ellos mismos que se ha compartido en línea, o que creen que se compartirá.
Getty Images
Meta está financiando un esfuerzo nacional para ayudar a niños y adolescentes a eliminar sus imágenes de desnudos o sexualmente explícitas de las redes sociales. ¿Podría el movimiento del gigante hacia el cifrado de extremo a extremo interponerse en el camino?
Tl Centro Nacional para Niños Desaparecidos y Explotados ha lanzado una plataforma, financiada por Meta, para ayudar a niños y adolescentes a eliminar fotos y videos desnudos o sexuales de ellos mismos de las redes sociales.
El nuevo servicio para menores, denominado Llevarlo hacia abajo, se dio a conocer un año después del lanzamiento de una herramienta similar para adultos conocida como DetenerNCII (abreviatura de imágenes íntimas no consensuales). Hoy, Take It Down funcionará solo en cinco plataformas que aceptaron participar: Facebook e Instagram, propiedad de Meta, así como Yubo, OnlyFans y Pornhub.
“Creamos este sistema porque muchos niños enfrentan estas situaciones desesperadas”, dijo la presidenta y directora ejecutiva de NCMEC, Michelle DeLaune. “Nuestra esperanza es que los niños se den cuenta de este servicio y se sientan aliviados de que existan herramientas para ayudar a eliminar las imágenes”.
La forma en que las empresas de redes sociales están protegiendo a los niños y adolescentes, y dónde se están quedando cortas, ha surgido como un tema de política tecnológica bipartidista en el nuevo Congreso, y uno en el que los legisladores tienen la mejor oportunidad de aprobar legislación. Aún así, queda un largo camino por recorrer para cualquier propuesta para crear o fortalecer las salvaguardas, y sin leyes inminentes, el NCMEC continúa actuando como un puente entre las empresas en línea y las fuerzas del orden en temas de seguridad infantil. En 2021, la organización sin fines de lucro recibió casi 30 millones de sugerencias de toda la industria sobre aparente sextorsión y material de abuso sexual infantil en sus plataformas. La mayoría fueron reportadas por plataformas propiedad de Meta.
Los menores y los padres pueden usar Herramienta gratuita y anónima del NCMEC para marcar material explícito de una persona menor de edad que ha sido, o que cree que será, difundido en línea. Una vez que han seleccionado las fotos o videos confidenciales en su dispositivo, la plataforma genera el equivalente a una huella digital de esa foto (llamada "hash") que el NCMEC luego comparte con los sitios de redes sociales participantes para que puedan intentar encontrar, restrinja o elimine, y siga monitoreando ese contenido.
Las fotos o videos en cuestión no salen del dispositivo y nadie los ve, según el NCMEC. (El hash también hace que las víctimas no sean identificables tanto para el NCMEC como para la aplicación de redes sociales, lo que solo indica que una imagen es dañina y debe eliminarse). .
Pero uno de los mayores obstáculos para este esfuerzo es el aumento del cifrado de extremo a extremo. “Cuando las empresas de tecnología implementan el cifrado de extremo a extremo, sin medidas preventivas integradas para detectar material conocido de abuso sexual infantil, el impacto en la seguridad infantil es devastador”, dijo DeLaune, presidente de NCMEC, al Comité Judicial del Senado en una audiencia este mes. . El elefante en la habitación es que el patrocinador financiero y la empresa más destacada involucrada en Take It Down, Meta, es avanzando a pasos agigantados hacia el cifrado de extremo a extremo tanto en Instagram como en Messenger.
Cómo las dos organizaciones pueden conciliar esto es "la pregunta del millón de dólares", dijo el vicepresidente del NCMEC, Gavin Portnoy. Forbes, señalando que el NCMEC todavía no sabe exactamente cuáles son los planes de Meta para el cifrado y qué salvaguardas pueden existir. (Meta dijo que son un trabajo en progreso y que se están probando varias funciones de cifrado en Instagram y Messenger).
“Estamos construyendo Take It Down para la forma en que Internet y el [proveedor de servicios electrónicos] están situados hoy”, dijo Portnoy. “Ese es realmente un puente que tendremos que cruzar cuando tengamos una mejor comprensión de cómo se ve el entorno de cifrado de extremo a extremo [de Meta], y si hay un mundo en el que Take It Down pueda funcionar”.
La directora global de seguridad de Meta, Antigone Davis, dijo Forbes que “el cifrado dará como resultado que ciertas imágenes no sean identificadas por nosotros”, pero que se está convirtiendo en un estándar de la industria en la mensajería que es vital para la privacidad y seguridad del usuario. El uso de tecnología hash y el apoyo al NCMEC en proyectos como este son algunas de las formas en que Meta está tratando de "realmente estar al frente del problema", dijo. (Ambas partes se negaron a decir cuánto dinero le ha dado Meta al NCMEC para construir Take It Down).
“No existe una panacea para abordar estos problemas”, dijo Davis en una entrevista, describiendo el enfoque de Meta como “multifacético”. Además de colaborar en este nuevo sistema destinado a frustrar la sextorsión y la difusión no consentida de imágenes íntimas, Meta no permite que extraños adultos se conecten con menores a través de sus funciones de mensajería, dijo. También está utilizando clasificadores para evitar que las cuentas y el contenido de menores se envíen a usuarios adultos de Meta que han exhibido un comportamiento sospechoso en línea, agregó.
“Espero que las personas que hayan tenido imágenes compartidas de esa manera cuando eran jóvenes por alguien, por un padre que los estaba explotando, por otro adulto que los estaba explotando, por un exnovio o novia, se sientan interesados en usa esta herramienta”, dijo Davis.
NCMEC dijo que ha lanzado algunos 200 otros proveedores de servicios electrónicos que han enviado información a su "CyberTipline" para unirse al programa Take It Down. Queda por ver quién más, además del pequeño puñado de jugadores de redes sociales que lo defienden hoy, se sumará. Yubo, por su parte, dijo que espera que estos primeros usuarios impulsen a otros a unirse.
“Se necesita algo más que la intervención del gobierno para mitigar el riesgo y resolver problemas en línea”, dijo el director ejecutivo de Yubo, Sacha Lazimi, por correo electrónico. “Todos los actores necesitan hacer su parte. … La colaboración es clave para identificar soluciones a grandes desafíos, por lo que esperamos ver más plataformas unirse a la iniciativa Take It Down”.
Fuente: https://www.forbes.com/sites/alexandralevine/2023/02/27/meta-ncmec-minors-take-it-down-ncii/