Por qué la inteligencia artificial (IA) plantea un riesgo de extinción humana

En la frontera tecnológica, la evolución de la inteligencia artificial (IA) continúa impulsando innovaciones extraordinarias. Sin embargo, simultáneamente desarrolla una narrativa infundida con aprensiones sobre la extinción de la humanidad. Visionarios de la IA como Sam Altman, la punta de lanza de OpenAI, y Geoffrey Hinton, universalmente reconocido como el “padrino” de la IA, han articulado explícitamente este miedo.

Revelando la catástrofe potencial, una carta abierta del Centro para la Seguridad de la IA, respaldada por más de 300 signatarios estimados, ha sacado a la luz la amenaza existencial que presenta la IA. Sin embargo, cómo esta maravilla creada por el hombre podría convertirse en la perdición de la humanidad sigue siendo algo enigmático.

La IA plantea un riesgo de extinción humana

La inteligencia artificial podría abrir una multitud de caminos hacia los riesgos a escala social, según Dan Hendrycks, director del Centro para la Seguridad de la IA. El mal uso de la IA por parte de entidades malignas presenta uno de esos escenarios. 

“Hay una idea errónea muy común, incluso en la comunidad de IA, de que solo hay un puñado de doomers. Pero, de hecho, muchas personas en privado expresarían su preocupación por estas cosas”, dijo Hendrycks.

Imagine fuerzas malévolas aprovechando la IA para construir armas biológicas con una letalidad superior a las pandemias naturales. Otro ejemplo es el lanzamiento de una IA deshonesta con intenciones de causar un daño generalizado.

Si un sistema de IA está dotado de suficiente inteligencia o capacidad, podría causar estragos en la sociedad.

“Los actores maliciosos podrían liberar intencionalmente una IA deshonesta que intenta dañar activamente a la humanidad”, agregó Hendrycks.

Aún así, esta no es solo una amenaza a corto plazo que preocupa a los expertos. A medida que la IA impregna varios aspectos de la economía, ceder el control a la tecnología podría generar problemas a largo plazo. 

Esta dependencia de la IA podría hacer que "cerrarlos" sea disruptivo y posiblemente inalcanzable. En consecuencia, arriesgando el dominio de la humanidad sobre su futuro.

El mal uso y sus implicaciones de largo alcance

Como advirtió Sam Altman, la capacidad de la IA para crear texto, imágenes y videos convincentes puede generar problemas importantes. De hecho, cree que “si esta tecnología sale mal, puede salir bastante mal”.

Tomemos, por ejemplo, una imagen falsificada que representa falsamente una explosión masiva cerca del Pentágono que circuló en las redes sociales. Condujo a una caída temporal en el mercado de valores ya que muchas cuentas de redes sociales, incluidas varias verificadas, difundieron la foto engañosa en solo minutos, lo que aumentó el desorden. 

Tal mal uso de la IA apunta al potencial de la tecnología para difundir información errónea y alterar la armonía social. La investigadora asociada senior del Instituto de Ética en IA de Oxford, Elizabeth Renieris, afirmó que la IA puede "impulsar un aumento exponencial en el volumen y la difusión de información errónea, fracturando así la realidad y erosionando la confianza del público".

Otra tendencia preocupante es la aparición de la IA “alucinatoria”. Este es un fenómeno inquietante en el que la IA arroja información errónea pero aparentemente plausible. 

Esta falla, mostrada en un incidente reciente relacionado con ChatGPT, podría desafiar la credibilidad de las empresas que utilizan IA y perpetuar aún más la difusión de información errónea.

Erosión del empleo y explosión de la desigualdad

La rápida adopción de la IA en varias industrias arroja una sombra larga y preocupante sobre el mercado laboral. A medida que evoluciona la tecnología, la posible eliminación de millones de puestos de trabajo se ha convertido en una preocupación apremiante.

Un  encuesta reveló que seis de cada diez estadounidenses creen que el uso de IA en el lugar de trabajo afectará significativamente a los trabajadores en los próximos 20 años. Alrededor del 28 % de los encuestados piensa que usar la tecnología los afectará personalmente, y otro 15 % cree que “la IA dañaría más que ayudaría”.

Un aumento en la toma de decisiones automatizada puede contribuir a aumentar el sesgo, la discriminación y la exclusión. También puede fomentar un entorno de desigualdad, que afecta especialmente a quienes se encuentran en el lado equivocado de la brecha digital.

Además, un cambio hacia la dependencia de la IA podría resultar en un "debilitamiento" de la humanidad. Esto podría ser similar al escenario distópico en películas como Wall-E. 

El Centro para la Seguridad de la IA señaló que el dominio de la IA podría caer progresivamente bajo el control de un número limitado de entidades. Puede permitir que "regímenes hagan cumplir valores limitados a través de una vigilancia generalizada y una censura opresiva".

Esta sombría visión del futuro destaca los riesgos potenciales asociados con la IA y subraya la necesidad de una regulación y un control estrictos.

El llamado a la regulación de la IA

La gravedad de estas preocupaciones ha llevado a los líderes de la industria a abogar por regulaciones de IA más estrictas. Este llamado a la intervención del gobierno se hace eco del creciente consenso de que el desarrollo y la implementación de la IA deben gestionarse con cuidado para evitar el uso indebido y la interrupción social no deseada.

La IA tiene el potencial de ser una bendición o una ruina, dependiendo de cómo se maneje. Es crucial fomentar una conversación global sobre la mitigación de los riesgos mientras se aprovechan los beneficios de esta poderosa tecnología. 

El primer ministro del Reino Unido, Rishi Sunak, sostiene que la IA ha sido fundamental para ayudar a las personas con parálisis a caminar y descubrir nuevos antibióticos. No obstante, es imperativo que nos aseguremos de que estos procesos se lleven a cabo de forma segura.

“La gente estará preocupada por los informes de que la IA plantea riesgos existenciales, como pandemias o guerras nucleares. Quiero que se aseguren de que el gobierno está analizando esto con mucho cuidado”, dijo Sunak.

La gestión de la IA debe convertirse en una prioridad mundial para evitar que se convierta en una amenaza para la existencia humana. Para aprovechar los beneficios de la IA y mitigar los riesgos de extinción humana, es importante actuar con cautela y vigilancia. Los gobiernos también deben adoptar regulaciones, fomentar la cooperación global e invertir en investigación rigurosa.