El contenido sugerido de Instagram y Pinterest provocó la muerte

Algorithm Death: A medida que nos dirigimos hacia una vida inmersiva en el Metaverso, las alarmas suenan a todo volumen. Las empresas tecnológicas necesitan poner sus algoritmos en orden, o este podría ser un futuro arriesgado para algunos.

Si bien aún no estamos en Web3, los problemas con Web2 siguen siendo increíblemente preocupantes. Si bien los algoritmos creados por las grandes tecnológicas pueden ser buenos para la sociedad, como los que predecir el crimen por adelantado, hay otros que son un desastre total.

El forense Andrew Walker identificó la causa de la muerte de Molly Rose Russell, de 14 años, como un acto de autolesión. Dijo que esto fue causado por la depresión y el impacto negativo del contenido en línea.

Andador dijo que “no sería seguro para nosotros reconocer el suicidio como la causa de la muerte”.

Algoritmo de muerte: Instagram y Pinterest

El experto dijo que Instagram y Pinterest usaban algoritmos que seleccionaban y compartían contenido inapropiado con la estudiante sin que ella solicitara la información. Walker informa: "Algunos contenidos idealizaron los actos de autolesión de los jóvenes, mientras que otros promovieron el aislamiento e hicieron imposible discutir el problema con personas que podrían ayudar".

De acuerdo con la GuardianRussell guardó, dio me gusta o publicó más de 2,000 publicaciones de Instagram en 2017 en la víspera de su muerte. Todos estaban asociados con el suicidio, la depresión o las autolesiones. La niña también vio 138 películas de naturaleza similar. Entre ellos se encontraban episodios de la serie. 13 Razones por las que para personas mayores de 15 y mayores de 18 años.

Un psiquiatra infantil dijo durante la audiencia que después de analizar lo que Russell había visto poco antes de su muerte, no pudo dormir profundamente durante semanas.

"10 pines de depresión que te pueden gustar"

Los investigadores encontraron cientos de fotos de autolesiones y suicidios en la cuenta de Pinterest de la niña. También resultó que la plataforma envió a los estudiantes correos electrónicos recomendando contenido inapropiado. Algunos de ellos tenían encabezados que decían: "10 Pines de depresión que te pueden gustar".

Es probable que el material visto por Molly, que ya sufría un trastorno depresivo y era vulnerable a las lesiones relacionadas con la edad, tuvo un efecto negativo en ella. También es probable que haya contribuido más que mínimamente a la muerte del niño.

Los funcionarios de Meta y Pinterest se disculparon y admitieron que Russell encontró contenido en las plataformas que no debería estar allí. Un portavoz de Meta dijo: “Queremos que Instagram brinde una experiencia positiva para todos, especialmente para los adolescentes. Examinaremos de cerca el informe completo del forense cuando lo entregue.

Pinterest ha declarado que mejora constantemente la plataforma y se compromete a garantizar EN LINEA para todos.

Otros casos

TikTok fue demandado en mayo por supuestas "recomendaciones letales" de sus algoritmos. En diciembre de 2021, la asistente virtual de Amazon Alexa propuso un desafío fatale a un niño de 10 años.

Es un nuevo mundo valiente, pero también aterrador. Las grandes tecnológicas no pueden ser complacientes con el papel futuro que tienen en este tema.

¿Tienes algo que decir sobre la muerte del algoritmo o algo más? Escríbanos o únase a la discusión en nuestro Canal de telegramas. También puedes atraparnos Tik Tok, Facebooko Twitter.

Observación

Toda la información contenida en nuestro sitio web se publica de buena fe y solo con fines de información general. Cualquier acción que el lector realice sobre la información que se encuentra en nuestro sitio web es estrictamente bajo su propio riesgo.