Docenas de expertos en inteligencia artificial (IA), incluidos los directores ejecutivos de OpenAI, Google DeepMind y Anthropic, firmaron recientemente una declaración abierta publicada por el Centro para la Seguridad de la IA (CAIS).
Acabamos de publicar un comunicado:
“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.
Los signatarios incluyen Hinton, Bengio, Altman, Hassabis, Song, etc.https://t.co/N9f6hs4bpa
(1 / 6)
—Dan Hendrycks (@DanHendrycks) 30 de mayo de 2023
La declaración contiene una sola oración:
“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.
Entre los firmantes del documento hay un verdadero "quién es quién" de las luminarias de AI, incluido el "Padrino" de AI, Geoffrey Hinton; Stuart Russell de la Universidad de California, Berkeley; y Lex Fridman del Instituto Tecnológico de Massachusetts. El músico Grimes también es signatario, incluido en la categoría "otras figuras notables".
Relacionado: Músico Grimes dispuesto a 'dividir el 50% de regalías' con música generada por IA
Si bien la declaración puede parecer inocua en la superficie, el mensaje subyacente es algo controvertido en la comunidad de IA.
Un número aparentemente creciente de expertos cree que las tecnologías actuales pueden o conducirán inevitablemente al surgimiento o desarrollo de un sistema de IA capaz de representar una amenaza existencial para la especie humana.
Sus puntos de vista, sin embargo, son contrarrestados por un contingente de expertos con opiniones diametralmente opuestas. El científico jefe de IA de Meta, Yann LeCun, por ejemplo, ha señalado en numerosas ocasiones que no cree necesariamente que la IA se vuelva incontrolable.
La IA sobrehumana no está ni cerca de la parte superior de la lista de riesgos existenciales.
En gran parte porque aún no existe.Hasta que tengamos un diseño básico incluso para la IA a nivel de perro (y mucho menos a nivel humano), discutir cómo hacerla segura es prematuro. https://t.co/ClkZxfofV9
- Yann LeCun (@ylecun) 30 de mayo de 2023
Para él y otros que no están de acuerdo con la retórica de la "extinción", como Andrew Ng, cofundador de Google Brain y exjefe científico de Baidu, la IA no es el problema, es la respuesta.
En el otro lado del argumento, expertos como Hinton y el CEO de Conjecture, Connor Leahy, creen que la IA a nivel humano es inevitable y, como tal, el momento de actuar es ahora.
Los jefes de todos los principales laboratorios de IA firmaron esta carta reconociendo explícitamente el riesgo de extinción de AGI.
¡Un increíble paso adelante, felicitaciones a Dan por su increíble trabajo al armar esto y gracias a todos los signatarios por hacer su parte para un futuro mejor! https://t.co/KDkqWvdJcH
—Connor Leahy (@NPCollapse) 30 de mayo de 2023
Sin embargo, no está claro qué acciones piden los firmantes de la declaración. Los directores ejecutivos y/o jefes de IA de casi todas las principales empresas de IA, así como científicos de renombre de todo el mundo académico, se encuentran entre los que firmaron, lo que deja en claro que la intención no es detener el desarrollo de estos sistemas potencialmente peligrosos.
A principios de este mes, el CEO de OpenAI, Sam Altman, uno de los firmantes de la declaración mencionada anteriormente, hizo su primera aparición ante el Congreso durante una audiencia en el Senado para discutir la regulación de la IA. Su testimonio llegó a los titulares después de que pasó la mayor parte instando a los legisladores a regular su industria.
Worldcoin de Altman, un proyecto que combina criptomonedas y prueba de personalidad, también ha aparecido recientemente en los medios de comunicación después de recaudar $ 115 millones en fondos de la Serie C, lo que eleva su financiación total después de tres rondas a $ 240 millones.
Fuente: https://cointelegraph.com/news/ai-experts-sign-doc-comparing-risk-of-extinction-from-ai-to-pandemics-nuclear-war