Oasis Labs anunció la asociación con Meta y el lanzamiento de una plataforma para evaluar la equidad en los productos de Meta y proteger la privacidad de las personas.
Como la tecnología de Meta Socio, Oasis Labs creó la plataforma que utiliza Computación multipartita segura (SMPC) para proteger la información, ya que Meta les pide a los usuarios de Instagram que realicen una encuesta en la que pueden compartir voluntariamente su raza o etnia.
El proyecto promoverá la medición de la equidad en los modelos de IA, lo que tendrá un impacto positivo en la vida de las personas en todo el mundo y beneficiará a la sociedad en su conjunto.
Esta plataforma, primera en su tipo, desempeñará un papel importante en una iniciativa que es un paso importante para identificar si un modelo de IA es justo y permite la mitigación adecuada.
Cómo evaluará la plataforma la equidad en los modelos de IA
Los equipos de IA responsable, equidad de Instagram y derechos civiles de Meta presentan una encuesta fuera de la plataforma para las personas que usan Instagram. Se les pedirá a los usuarios que compartan su raza y/o etnia de forma voluntaria.
Los datos, recopilados por un proveedor de encuestas externo, se compartirán en secreto con facilitadores externos de tal manera que ni los facilitadores ni Meta puedan conocer las respuestas de la encuesta del usuario.
Luego, los facilitadores calculan la medición utilizando datos de predicción encriptados de modelos de IA, que Meta comparte criptográficamente, con los resultados combinados y anonimizados de cada facilitador reconstituidos en resultados de medición de equidad agregados por Meta.
Las técnicas criptográficas utilizadas por la plataforma permiten a Meta medir el sesgo y la equidad al tiempo que proporciona a las personas que aportan datos de medición demográficos sensibles altos niveles de protección de la privacidad.
Para leer más sobre la plataforma, sus objetivos y el lanzamiento, visite esta página.
Sigamos Conectados
Si desea mantenerse actualizado sobre los desarrollos con Oasis Labs, únase a:
Discord | Twitter | Suscríbase al boletín
Observación
Toda la información contenida en nuestro sitio web se publica de buena fe y solo con fines de información general. Cualquier acción que el lector realice sobre la información que se encuentra en nuestro sitio web es estrictamente bajo su propio riesgo.
Fuente: https://beincrypto.com/oasis-labs-partners-with-meta-to-assess-fairness-for-its-ai-models/