Las razones para regular los algoritmos de IA son más simples de lo que piensas

¿Te preocupa que la inteligencia artificial se apodere del mundo? Muchos hacen. De Elon Musk preocupándose por DeepMind venciendo a los humanos en el avanzado juego de Go en 2017, a miembros del Congreso, responsables políticos europeos (ver Un enfoque europeo de la inteligencia artificial), y académicos, existe la sensación de que esta es la década para tomarse en serio la IA, y se está afianzando. Sin embargo, no por las razones que podría pensar y no debido a ninguna amenaza presente.

Aquí es donde entran los algoritmos. ¿Qué es un algoritmo, puede preguntarse? La forma más sencilla de pensar en ello es como un conjunto de instrucciones que las máquinas pueden entender y aprender. Ya podemos instruir a una máquina para que calcule, procese datos y razone de forma estructurada y automatizada. Sin embargo, el problema es que, una vez dadas dichas instrucciones, la máquina las seguirá. Por ahora, ese es el punto. A diferencia de los seres humanos, las máquinas siguen instrucciones. No aprenden tan bien. Pero una vez que lo hacen, podrían causar problemas.

No quiero hacer un argumento sensacionalista sobre la idea de que las computadoras algún día superen la inteligencia humana, mejor conocido como el argumento de la singularidad (ver el filósofo de la Universidad de Nueva York, David Chalmers). reflexiones sobre el tema.) Más bien, la fabricación podría ser el mejor ejemplo de por qué los algoritmos de IA comienzan a ser más importantes para el público en general. Uno teme que las máquinas aceleren enormemente su destreza a nuestra costa. No necesariamente por un razonamiento avanzado, sino por la optimización dentro de los límites de lo que dice un algoritmo.

La fabricación se trata de hacer cosas. Pero cuando las máquinas hacen cosas, debemos prestar atención. Incluso si lo que hacen las máquinas es simple. Voy a explicar por qué.

De botas de lluvia a teléfonos celulares y viceversa

Digamos, una fábrica ha estado haciendo botas de lluvia. Me encantan las botas de lluvia porque crecí en una zona de Noruega donde llueve mucho; Me encanta estar al aire libre, sujeto a los muchos elementos de la naturaleza. Nokia hizo las botas de lluvia con las que crecí. Sí, el Nokia que conocemos hoy como la empresa de electrónica que solía fabricar botas de goma. ¿Por qué es esta clave? Porque una vez que haces algo, estás destinado a querer hacer mejoras. Eso tiene sentido. Se podría decir que es la naturaleza humana.

Lo que le sucedió a Nokia es bien conocido y es un poco así: inicialmente una fábrica de papel, cuando yo era niño, la fabricación de botas de goma (y llantas) fue particularmente exitosa para la empresa. Sin embargo, vieron más oportunidades. Por lo tanto, en algún momento de la década de 1980, cambiaron a la electrónica y cambiaron rápidamente las fábricas, creando una gran estructura de proveedores locales cuando comenzaron a fabricar teléfonos celulares. Esto marcó el comienzo de la revolución de las comunicaciones móviles, que comenzó en Escandinavia y se extendió al resto del mundo. Comprensiblemente, muchos han escrito la historia de Nokia en la década de 1990 (ver Secretos detrás del milagro finlandés: el auge de Nokia).

Mi ejemplo es sencillo. Quizás, demasiado simple. Pero piensa de esta manera. Si una gran empresa puede pasar rápidamente de fabricar papel para escribir a botas que facilitan estar bajo la lluvia y, finalmente, a teléfonos celulares que alteran la forma en que los humanos se comunican: ¿qué tan fácil será el siguiente paso? Supongamos que una empresa que fabrica teléfonos celulares decide hacer nanobots y tal vez esos despeguen en una década, alterando a la humanidad con máquinas minúsculas que funcionan de manera autónoma en todas partes, capaces de volver a ensamblar y alterar la experiencia humana. ¿Qué pasa si eso sucede sin considerar cómo queremos que ocurra, quién queremos que esté a cargo y los objetivos finales?

Sugerir que los robots ayudaron conscientemente a Nokia a decidir fabricar teléfonos móviles sería una exageración. Pero reconocer que la tecnología jugó un papel en permitir que un área rural finlandesa en su costa norte pensara que podría obtener la dominación mundial en una nueva industria juega un papel importante.

La historia de Nokia no ha sido tan halagüeña en la última década dado que no tuvieron en cuenta la aparición de los sistemas operativos iOS y Android basados ​​en software. Ahora, como resultado, Nokia ya no fabrica teléfonos. En una pequeña historia de regreso, ahora hacen infraestructura de redes y telecomunicaciones, soluciones de seguridad de red, enrutadores Wi-Fi, iluminación inteligente y televisores inteligentes (ver La historia del regreso de Nokia). Nokia todavía hace cosas, eso es cierto. La única observación para hacer es que Nokia siempre parece disfrutar mezclando las cosas que hacen. Incluso las decisiones de fabricación de los seres humanos son, a veces, difíciles de entender.

Manufacturar significa hacer cosas y las cosas evolucionan. En términos generales, lo que hacemos hoy ha cambiado desde hace solo una década. Las impresoras 3D han descentralizado la producción de muchos productos avanzados, tanto en la industria como en el hogar. Las consecuencias de la impresión 3D que alteran la vida aún no se han producido. No sabemos si esto durará, pero sabemos que el enfoque de la FDA es regular la fabricación de productos (ver esta página) como las píldoras impresas o los dispositivos médicos resultantes, los problemas obvios de propiedad intelectual y responsabilidad, o los problemas relacionados con la posibilidad de imprimir armas de fuego. En última instancia, la discusión política sobre qué consecuencias negativas podría tener la impresión 3D más allá de esto es inexistente, y pocos de nosotros nos hemos molestado en pensar en ello.

No estoy sugiriendo que la impresión 3D sea peligrosa en sí misma. Tal vez, este es un mal ejemplo. Sin embargo, las cosas que inicialmente parecen mundanas pueden alterar el mundo. Hay muchos ejemplos: la punta de flecha del cazador/recolector hecha de metal que inicia las guerras, las máscaras rituales que nos protegen del COVID-19, los clavos que construyen rascacielos, las imprentas de tipos móviles que (todavía) llenan nuestras fábricas con papel impreso y alimentan el negocio editorial, bombillas que te permiten ver y trabajar en el interior por la noche, podría continuar. Nadie que yo conozca se sentó a fines del siglo XIX y predijo que Nokia trasladaría su producción del papel al caucho y luego a la electrónica, y luego dejaría de lado los teléfonos celulares. Tal vez deberían haberlo hecho.

Los humanos son malos predictores del cambio gradual, el proceso en el que un cambio lleva a más cambios y, de repente, las cosas son radicalmente diferentes. Todavía no entendemos este proceso porque tenemos poco conocimiento práctico del cambio exponencial; no podemos imaginarlo, calcularlo o sondearlo. Sin embargo, una y otra vez, nos golpea. Las pandemias, el crecimiento de la población, la innovación tecnológica desde la impresión de libros hasta la robótica, por lo general nos golpean sin previo aviso.

El truco con el futurismo no es si, sino cuándo. En realidad, uno podría predecir el cambio simplemente eligiendo algunos métodos de producción nuevos y afirmando que serán más frecuentes en el futuro. Eso es bastante simple. La parte difícil es averiguar exactamente cuándo y especialmente cómo.

Los clips de papel no son el problema

Considere mi ejemplo de fábrica nuevamente, pero esta vez, imagine que las máquinas están a cargo de numerosas decisiones, no todas las decisiones, sino decisiones de producción como la optimización. en su libro Superinteligencia, el humanista distópico de la Universidad de Oxford, Nick Bostrom, imaginó un algoritmo de optimización de IA que ejecutaba una fábrica de clips. En algún momento, dice, imagina que la máquina razona que aprender a desviar cada vez más recursos a la tarea es racional, terminando gradualmente convirtiendo nuestro mundo en sujetapapeles y resistiendo nuestros intentos de apagarlo.

A pesar de ser un tipo inteligente, el ejemplo de Bostrom es bastante tonto y engañoso (sin embargo, memorable). Por un lado, no tiene en cuenta el hecho de que los humanos y los robots ya no son entidades separadas. Interactuamos. La mayoría de los robots inteligentes se están convirtiendo en cobots o robots colaborativos. Los humanos tendrán muchas oportunidades de corregir la máquina. Aun así, su punto básico permanece. Puede haber un cambio radical en algún momento, y si ese cambio ocurre lo suficientemente rápido y sin suficiente supervisión, se puede perder el control. Pero ese resultado extremo parece un poco exagerado. De cualquier manera, estoy de acuerdo, necesitamos regular a los humanos que operan estas máquinas y exigir que los trabajadores estén siempre informados al capacitarlos adecuadamente. Ese tipo de entrenamiento no va bien. Actualmente toma demasiado tiempo y requiere habilidades especializadas tanto para entrenar como para ser entrenado. Sé una cosa. En el futuro, todo tipo de personas operarán robots. Aquellos que no lo hagan, serán bastante impotentes.

Mejorar a los humanos es mejor que la automatización sin sentido, sin importar si nunca nos fusionamos completamente con las máquinas. Los dos conceptos son lógicamente distintos. Es posible que tanto las personas como los robots se queden atrapados en la automatización por el bien de la automatización. Eso haría un gran daño a la fabricación en el futuro. Incluso si no produce robots asesinos. Creo que una fusión está a cientos de años de distancia, pero ese no es el punto. Incluso si solo faltan treinta años para que las máquinas autopropulsadas funcionen con algoritmos simplistas que pierden el control, ese escenario ya ocurre en el taller. Algunas de esas máquinas tienen treinta años y funcionan con sistemas de control propietarios antiguos. Su principal reto no es que sean avanzados sino todo lo contrario. Son demasiado simplistas para poder comunicarse. Esto no es un problema para mañana. Es un problema preexistente. Debemos abrir los ojos a ello. Piense en esto la próxima vez que se ponga sus botas de goma.

Todavía tengo mis botas Nokia de la década de 1980. Tienen un agujero, pero los guardo para recordarme de dónde soy y cuánto he caminado. La lluvia también sigue cayendo, y mientras esté lo suficientemente limpia, no quiero una mejor solución que esas botas. Por otra parte, soy humano. Presumiblemente, un robot ya se habría mudado. ¿Cuál es la versión AI de rainboots?, me pregunto. No es un celular. No es un sensor de lluvia. Aturde la mente.

Las botas digitales de hoy significan que puedes personalizarlas porque tienen diseños impresos en 3D. Hay zapatos virtuales que existen solo como NFT (tokens no fungibles) que se pueden vender e intercambiar. Las mejores zapatillas virtuales valen $ 10,000 en estos días (ver ¿Qué es una zapatilla NFT y por qué vale $ 10,000?). No tengo miedo de esos, pero ¿debería tenerlo? Si el mundo virtual se valora más que el mundo físico, tal vez lo haga. ¿O debo esperar a estar preocupado hasta que el propio avatar de una IA compre su propia bota NFT para hacer frente a la "lluvia"? Si construimos algoritmos a nuestra propia imagen, es más probable que una IA sea buena en cosas en las que nos gustaría ser buenos pero que normalmente no lo somos, como comprar acciones, construir amistades leales (quizás con máquinas y humanos) y recordar cosas. El metaverso industrial puede ser sorprendentemente sofisticado, lleno de gemelos digitales que imitan nuestro mundo y lo superan de manera fructífera, o puede ser sorprendentemente simple. Tal vez ambos. Simplemente no lo sabemos todavía.

Necesitamos regular los algoritmos de IA porque no sabemos lo que está a la vuelta de la esquina. Esa es razón suficiente, pero en cuanto a cómo lo hacemos, esa es una historia más larga. Permítanme una observación rápida más, tal vez todos los algoritmos fundamentales deberían estar disponibles públicamente. La razón es que, si no, no hay forma de saber a qué pueden conducir. Los mejores son bastante conocidos (ver Los 10 mejores algoritmos de aprendizaje automático), pero no hay una descripción general mundial de dónde y cómo se usarán. Son especialmente los algoritmos no supervisados ​​los que deben observarse cuidadosamente (ver Seis poderosos casos de uso para el aprendizaje automático en la fabricación), ya sea que se utilicen para predecir el mantenimiento o la calidad, para simular entornos de producción (por ejemplo, gemelos digitales) o para generar nuevos diseños que a un ser humano nunca se le ocurrirían. En el panorama actual, estos algoritmos no supervisados ​​suelen ser las llamadas redes neuronales artificiales, que intentan imitar el cerebro humano.

Empecé a preocuparme por las redes neuronales, solo porque encuentro su lógica difícil de entender. El problema es que la mayoría de los expertos, incluso aquellos que los implementan, no entienden cómo estos algoritmos se mueven de un paso a otro o de una capa a otra. No creo que la metáfora de las “capas ocultas”, que se usa a menudo, sea muy adecuada o muy divertida. No debería haber capas ocultas en la fabricación, en la recaudación de impuestos automatizada, en las decisiones de contratación o en las admisiones universitarias, para empezar. ¿Quizás deberías considerar preocuparte también? Una cosa es segura, los humanos y las máquinas que hacen cosas juntas cambiarán el mundo. Ya lo ha hecho, muchas veces. Desde el papel hasta las botas de lluvia y las capas de los cerebros artificiales actuales, nada debe quedar sin explorar. No deberíamos escondernos del simple hecho de que a partir de muchos pequeños cambios, de repente puede aparecer un cambio mayor.