Reorganización de la IA a medida que el destacado gurú de la IA propone "computadoras mortales" alucinantes que también profundizan en la ética y la ley de la IA

Aquí hay algo que probablemente aún no habías estado reflexionando: Computadoras mortales.

Pero tal vez deberías estarlo.

El tema embriagador surgió en la reciente y bastante destacada conferencia anual sobre IA que se centra especialmente en el advenimiento de las redes neuronales y el aprendizaje automático, a saber, la Conferencia sobre sistemas de procesamiento de información neuronal (conocida por los expertos como NeurIPS). El orador principal invitado y considerado gurú de la IA desde hace mucho tiempo, Geoffrey Hinton, hizo la afirmación intrigante y quizás controvertida de que deberíamos pensar en las computadoras en un contexto mortal e inmortal.

Me referiré a la afirmación notable y lo haré de dos maneras que al principio no parecerán necesariamente conectadas, aunque después de un poco de aclaración adicional, se relacionarán más claramente entre sí en cuanto a las contiendas entre mortales e inmortales.

Los dos temas son:

1) Unir integralmente tanto el hardware como el software para las mecanizaciones de IA en lugar de tenerlos como aliados distintos y separados.

2) Transferencia o destilación de formulaciones de aprendizaje automático de un modelo de IA a otro que lo hace sin requerir ni desear necesariamente (o incluso factiblemente posible) una copia pura pura y directa

Todo esto tiene importantes consideraciones para la IA y la dirección futura del desarrollo de la IA.

Además, también surgen una serie de preocupaciones muy espinosas sobre la ética y la ley de la IA. Estos tipos de avances tecnológicos previstos por la IA generalmente se manejan sobre una base puramente tecnológica mucho antes de que se dé cuenta de que también podría tener repercusiones notables en la IA ética y la ley de la IA. En cierto sentido, por lo general, el gato ya está fuera de la bolsa, o el caballo está fuera del establo, antes de darse cuenta de que la Ética y la Ley de AI deben participar con la debida diligencia.

Bueno, rompamos ese ciclo tardío de ideas tardías y entremos en la planta baja en este caso.

Para aquellos de ustedes interesados ​​en general en las últimas ideas subyacentes a la ética de la IA y la ley de la IA, pueden encontrar información e inspiración en mi cobertura continua y extensa en el enlace aquí y el enlace aquí, Sólo para nombrar unos pocos.

Primero voy a cubrir aquí el punto anterior sobre la unión de hardware y software. La discusión y el análisis del tema ocurrirán de la mano. A continuación, tocaré el tema de la copia o algunos dicen destilación los elementos cruciales de un sistema de IA de aprendizaje automático de una IA a una IA recién diseñada como objetivo.

Empecemos.

Unión de hardware y software para IA

Probablemente sepa que, en general, el diseño de las computadoras es tal que existe el lado del hardware y, por separado, está el lado del software. Cuando compra una computadora portátil o de escritorio todos los días, se interpreta como un dispositivo informático de propósito general. Hay microprocesadores dentro de la computadora que se utilizan para ejecutar y ejecutar software que puede comprar o escribir por su cuenta.

Sin ningún software para su computadora, es un trozo de metal y plástico que básicamente no le servirá de mucho, aparte de actuar como un pisapapeles. Algunos dirían que el software es el rey y gobierna el mundo. Por supuesto, si no tiene hardware sobre el cual ejecutar el software, el software no servirá de mucho. Puede escribir tantas líneas de código como su corazón desee, sin embargo, hasta que el software se usa a través de una computadora, el código fuente formulado es tan endeble y sin vuelo como una hermosa obra de poesía o una novela de detectives emocionante por minuto.

Permítanme cambiar momentáneamente a otra vía que podría parecer muy lejana (no lo será).

A menudo tratamos de establecer analogías entre cómo funcionan las computadoras y cómo funciona el cerebro humano. Este intento de hacer paralelos conceptuales es útil. Dicho esto, debe tener cuidado de no exagerar con esas analogías, ya que las comparaciones tienden a romperse cuando se acerca a los detalles sustanciosos.

De todos modos, por el bien de la discusión, aquí hay una analogía que se usa a menudo.

El cerebro en sí mismo se denomina informalmente a veces como mojado. Esa es una forma pegadiza de expresar las cosas. Sabemos que las computadoras consisten en hardware y software, por lo que es inteligente usar la parte "ware" de la acuñación para describir a qué equivale un cerebro. Ubicado en nuestras cabezas, el cerebro poderoso y misterioso se encuentra flotando, calculando mentalmente todas nuestras acciones (algunas buenas, mientras que algunos de nuestros pensamientos definitivamente no están llenos de bondad).

Con un peso promedio de alrededor de apenas tres libras, el cerebro es un órgano notable. De alguna manera, y aún no sabemos cómo, el cerebro es capaz de usar del orden de 100 mil millones de neuronas y tal vez entre 100 y 1,000 billones de interconexiones o sinapsis para pensar por nosotros. ¿Cómo las propiedades biológicas y químicas del cerebro dan origen a la inteligencia? Nadie puede decirlo con certeza. Esta es una búsqueda de las edades.

Le pregunto esto, ¿el cerebro es ostensiblemente solo de hardware, o es una combinación de hardware y software?

Fideos en ese rompecabezas.

Puede sentirse tentado a afirmar que el cerebro es simplemente hardware (en un sentido general). Es un órgano del cuerpo. De manera similar, podría decir que el corazón es hardware, la vejiga es hardware, etc. Todas son mecanizaciones similares a cuando hablamos de artefactos que tienen una forma física y realizan acciones relacionadas físicamente.

¿Dónde está entonces el software que ejecutan los humanos?

Me atrevería a sugerir que todos estamos bastante de acuerdo en que el "software" de la humanidad reside de algún modo en el cerebro. Los pasos necesarios para cocinar un huevo o reparar una rueda pinchada son instrucciones que están incorporadas en nuestro cerebro. Usando esa analogía informática de hardware y software mencionada anteriormente, nuestro cerebro es una pieza de hardware por así decirlo, por lo que aprendemos sobre el mundo y las instrucciones de qué hacer están "ejecutando" y "almacenadas" dentro de nuestros cerebros.

En una computadora, podemos señalar fácilmente el hardware y decir que esto es hardware. Podemos tener una lista de código fuente y señalar la lista como software. Hoy en día, descargamos software electrónicamente en línea y lo instalamos en nuestras computadoras portátiles y teléfonos inteligentes. En los días de antaño, usábamos disquetes y tarjetas perforadas para almacenar nuestro software para cargarlo en el hardware de la computadora.

Te estoy metiendo en un enigma importante.

Una vez que has aprendido algo y el conocimiento está presente en tu cerebro, ¿aún puedes distinguir entre el "hardware" de tu cerebro y el presunto "software" de tu cerebro?

Una posición argumentada es que el conocimiento en su cerebro no es particularmente separable de las concepciones de hardware y software. La analogía con la naturaleza de las computadoras se desmorona, afirman algunos fervientemente. El conocimiento en el cerebro está entrelazado y es inseparable del hardware de su cerebro. Las propiedades biológicas y químicas están entretejiendo el conocimiento que posees mentalmente.

Guise en eso para un poco de reflexión mental.

Si algún día esperamos diseñar computadoras que estén a la par con la inteligencia humana, o incluso superen la inteligencia humana, tal vez podamos usar las estructuras del cerebro y su funcionamiento interno como una guía de lo que debemos hacer para alcanzar una meta tan elevada. Para algunos en el campo de la IA, existe la creencia de que cuanto más sepamos sobre cómo funciona el cerebro, mayores serán nuestras posibilidades de diseñar una verdadera IA, a veces denominada Inteligencia General Artificial (IAG).

Otros en AI están menos enamorados de tener que saber cómo funciona el cerebro. Enfatizan que podemos avanzar rápidamente para crear IA, independientemente de si somos capaces de desbloquear el funcionamiento interno secreto del cerebro. No permita que los misterios del cerebro obstaculicen nuestros esfuerzos de IA. Claro, sigan tratando de decodificar y descifrar el cerebro humano, pero no podemos sentarnos y esperar a que se haga ingeniería inversa al cerebro. Si eso algún día es factible, maravillosas noticias, aunque tal vez sea imposible o ocurra dentro de eones.

Ahora estoy listo para compartir con ustedes la contienda de la computadora mortal e inmortal. Asegúrate de estar sentado y listo para la gran revelación.

Una computadora que tiene una separación clara entre el hardware y el software podría considerarse "inmortal" en el sentido de que el hardware puede persistir para siempre (dentro de los límites, por supuesto), mientras que el software podría escribirse y reescribirse una y otra vez. Puede mantener una computadora convencional en funcionamiento durante el tiempo que pueda reparar el hardware y mantener el artilugio en condiciones de encenderse. Todavía se pueden hacer uso de las toscas computadoras domésticas de la década de 1970 que solían venir en kits para ensamblar, a pesar de que tienen casi cincuenta años más o menos (mucho tiempo en años de computadora).

Sin embargo, supongamos que optamos por hacer computadoras que tuvieran el hardware y el software funcionando inseparablemente (hablaré más sobre esto en breve). Considere esto sobre la misma base que antes mencioné que el cerebro quizás tenga una composición integral de hardware y software. Si ese fuera el caso, se podría sugerir que la computadora de este tipo ya no sería inmortal. En cambio, se interpretaría como "mortal".

Según los comentarios realizados en la conferencia NeurIPS por el orador principal invitado y el notable gurú de la IA Geoffrey Hinton, y como se indica en el trabajo de investigación que lo acompaña:

• “Las computadoras digitales de uso general se diseñaron para seguir fielmente las instrucciones porque se suponía que la única forma de hacer que una computadora de uso general realizara una tarea específica era escribir un programa que especificara exactamente qué hacer con detalles insoportables. Esto ya no es cierto, pero la comunidad de investigación ha tardado en comprender las implicaciones a largo plazo del aprendizaje profundo para la forma en que se construyen las computadoras. Más específicamente, la comunidad se ha aferrado a la idea de que el software debe ser separable del hardware para que el mismo programa o el mismo conjunto de pesos se pueda ejecutar en una copia física diferente del hardware. Esto hace que el conocimiento contenido en el programa muera o que los pesos sean inmortales: el conocimiento no muere cuando el hardware muere” (tal como figura y se cita en su artículo de investigación “The Forward-Forward Algorithm: Some Preliminary Investigations”, preimpresión disponible en línea) .

Tenga en cuenta que el tipo particular de computación que se analiza en este tipo de IA utiliza redes neuronales artificiales (ANN).

Aclaremos las cosas sobre esto.

Hay neuronas biológicas del mundo real en nuestros cerebros. Los usas todo el tiempo. Están biológica y químicamente interconectados en una red en tu cabeza. Por lo tanto, podemos referirnos a esto como un red neural.

En otros lugares, hay, digamos, "neuronas" falsas que representamos computacionalmente en computadoras con el fin de diseñar IA. Muchas personas en IA también se refieren a ellas como redes neuronales. Creo que esto es algo confuso. Verás, prefiero referirme a ellos como artificial Redes neuronales. Esto ayuda a distinguir de inmediato entre una referencia a en-tu-cabeza redes neuronales (lo real, por así decirlo), y los basados ​​​​en computadora (artificial Redes neuronales).

No todos adoptan esa postura. Mucha gente en AI simplemente asume que todos los demás en AI "saben" que cuando se refieren a redes neuronales, casi siempre están hablando de ANN, a menos que surja una situación en la que, por alguna razón, quieran hablar sobre neuronas reales y redes neuronales reales en el cerebro.

Confío en que me entiendes. La mayoría de las veces, la gente de IA dirá "redes neuronales", lo cual es potencialmente ambiguo porque no sabes si se refieren a las reales en nuestras cabezas o a las computacionales que programamos en las computadoras. Pero dado que la gente de IA se ocupa en general de instancias basadas en computadoras, asumen de manera predeterminada que se está refiriendo a redes neuronales artificiales. Me gusta agregar la palabra "artificial" al principio de la redacción para que quede más claro acerca de las intenciones.

Continuando, puede considerar de alguna manera estas neuronas artificiales computacionales como una simulación matemática o computacional de lo que creemos que hacen las neuronas físicas bioquímicas reales, como el uso de valores numéricos como factores de ponderación que, de otro modo, ocurren bioquímicamente en el cerebro. Hoy en día, estas simulaciones no son tan complejas como lo son las neuronas reales. Las ANN actuales son una representación matemática y computacional extremadamente cruda.

En general, las ANN suelen ser el elemento central para el aprendizaje automático (ML) y el aprendizaje profundo (DL). Tenga en cuenta que hay muchos más detalles en esto, y lo insto a que eche un vistazo a mi amplia cobertura de ML/DL. a el enlace aquí y el enlace aquí, por ejemplo.

Volviendo a los tipos de computadoras inmortales versus mortales, aquí hay más para reflexionar según el investigador:

• “La separación del software del hardware es una de las bases de las Ciencias de la Computación y tiene muchos beneficios. Permite estudiar las propiedades de los programas sin preocuparse por la ingeniería eléctrica. Hace posible escribir un programa una vez y copiarlo en millones de computadoras. Sin embargo, si estamos dispuestos a abandonar la inmortalidad, debería ser posible lograr grandes ahorros en la energía requerida para realizar un cálculo y en el costo de fabricar el hardware que ejecuta el cálculo. Podemos permitir variaciones grandes y desconocidas en la conectividad y no linealidades de diferentes instancias de hardware que están destinadas a realizar la misma tarea y depender de un procedimiento de aprendizaje para descubrir valores de parámetros que hagan un uso efectivo de las propiedades desconocidas de cada instancia particular de el hardware Estos valores de parámetros solo son útiles para esa instancia de hardware específica, por lo que el cálculo que realizan es mortal: muere con el hardware” (ibíd.).

Ahora se le ha presentado cómo inmortal y mortal se utilizan en este contexto.

Déjame elaborar.

La proposición es que se podría diseñar una computadora diseñada específicamente en base a ANN de tal manera que el hardware y el software se consideren inseparables. Una vez que el hardware algún día ya no funcione (lo que, por supuesto, decimos que enreda integralmente el software), este tipo de computadora aparentemente ya no es útil y no funcionará más. Se dice que es mortal. También podría enterrar la computadora basada en ANN, ya que no le servirá de mucho en el futuro después de que el hardware y el software inseparables ya no funcionen de manera viable como un equipo.

Si quisieras tratar de relacionar esto con la analogía de un cerebro humano, podrías imaginar la adusta situación de un cerebro humano que se deteriora por completo o que de alguna manera sufre un daño irreparable. Aceptamos la noción de que una persona es mortal y su cerebro finalmente e inevitablemente dejará de funcionar. El conocimiento que contenían en su cerebro ya no está disponible. A menos que intentaran decirle a otros o escribieran lo que sabían, su conocimiento se ha ido al mundo en general.

Sin duda, ha escuchado o visto informes de intentos de preservar cerebros, como ponerlos en un estado congelado, bajo la teoría de que tal vez los humanos algún día podrían ser inmortales o al menos extenderse más allá de sus vidas habituales. Tu cerebro podría vivir, incluso si no está en tu cuerpo. Muchas películas e historias de ciencia ficción han especulado sobre tales ideas.

Ahora estamos listos para una mirada detallada a la computadora mortal y la computadora inmortal como concepto y lo que predice.

Discusión consciente y análisis considerado

Antes de sumergirse en las entrañas de este análisis del enfoque postulado, vale la pena mencionar algunas advertencias importantes y puntos adicionales.

El investigador enfatizó que el acuñado computadoras mortales particularmente no reemplazaría o empujaría fuera de existencia el computadoras inmortales a las que hoy nos referimos como computadoras digitales convencionales. Existiría una coexistencia de ambos tipos de ordenadores. Digo esto porque la reacción de algunos ha sido que la llamada al orden fue una afirmación general de que todos las computadoras necesariamente se dirigen o se dirigirán hacia el tipo mortal.

Eso no fue un reclamo que se hizo.

Durante su charla, mencionó que estos especializados de orientación neuromórfica las computadoras llevarían a cabo un trabajo computacional conocido como cálculos mortales: “Vamos a hacer lo que llamo computación mortal, donde el conocimiento que ha aprendido el sistema y el hardware son inseparables” (citado en un artículo de ZDNET por Tiernan Ray el 1 de diciembre de 2022).

Y en particular: “No reemplazará a las computadoras digitales” (ibíd.).

Además, estos nuevos tipos de computadoras definitivamente no estarán pronto en su tienda local de computadoras ni estarán disponibles para su compra en línea de inmediato, como dijo durante su presentación: "Lo que creo es que vamos a ver un tipo completamente diferente de computadora, no por algunos años, pero hay muchas razones para investigar este tipo de computadora completamente diferente”. Los usos también serían diferentes: “No será la computadora la que esté a cargo de tu cuenta bancaria y sepa exactamente cuánto dinero tienes”.

Un giro adicional es que las computadoras mortales aparentemente crecerían en lugar de fabricarse como lo hacemos hoy para la fabricación de procesadores de computadora y chips de computación.

Durante el proceso de crecimiento, la computadora mortal aumentaría su capacidad en un estilo de maduración computacional. Por lo tanto, una computadora mortal dada podría comenzar sin apenas ninguna capacidad y madurar hasta convertirse en lo que pretendía convertirse. Por ejemplo, supongamos que quisiéramos crear teléfonos celulares mediante el uso de computadoras mortales. Comenzarías con una variante simple de una computadora mortal que inicialmente ha sido moldeada o sembrada para este propósito. Luego maduraría a la versión más avanzada que estaba buscando. En resumen: "Reemplazarías eso con cada uno de esos teléfonos celulares, tendría que comenzar como un teléfono celular para bebés y tendría que aprender a ser un teléfono celular".

En una de sus diapositivas fundamentales sobre computación mortal, los beneficios se describieron de esta manera: “Si abandonamos la inmortalidad y aceptamos que el conocimiento es inseparable de los detalles físicos precisos de una pieza específica de hardware, obtenemos dos grandes beneficios: (1) Podemos usar computación analógica de muy baja potencia, (2) podemos hacer crecer hardware cuya conectividad precisa y comportamiento analógico son desconocidos”.

Parte de la misma charla y también contenida en su trabajo de investigación preliminar es una técnica propuesta sobre cómo se pueden diseñar mejor las ANN, a la que se refiere como el uso de un adelante adelante enfoque de redes. Algunos de ustedes que están versados ​​en ANN, sin duda, ya son bastante conscientes del uso de backpropagation o back-prop. Es posible que desee echar un vistazo a su propuesta de técnica de avance hacia adelante. Cubriré ese enfoque fascinante en una publicación futura de la columna, así que esté atento a mi próxima cobertura al respecto.

Cambiando de tema, consideremos lo que se dice en los pasillos y caminos de la comunidad de IA sobre este descaro. computadora mortal maquinación.

Comenzaremos con lo que algunos dirían que no es un comienzo en el tema en total.

¿Listo para iniciar?

Deja de llamar a esto una mortal ordenador.

Asimismo, deja de proclamar que las computadoras convencionales de hoy son inmortal.

Ambos usos son simplemente erróneos y muy engañosos, exhortan los escépticos.

Una definición cotidiana de diccionario de lo que es inmortal consiste en algo que no puede morir. Vive para siempre. Para no morir, presumiblemente tienes que decir que la cosa en sí está viva. Está pisando el camino equivocado al afirmar que las computadoras de hoy están vivas. Ninguna persona razonable atribuiría propiedades "vivas" de buena fe a las computadoras modernas. son maquinas son cosas No son personas ni animales o de una condición viva.

Si desea estirar la definición de inmortal para permitir que también nos estemos refiriendo a entidades no vivas, en ese caso, la entidad no viva aparentemente nunca tendrá que decaer y no podrá desintegrarse inevitablemente en polvo. ¿Puedes hacer tal afirmación sobre las computadoras de hoy? Esto parece exagerado (nota al margen: por supuesto, podríamos entrar en una gran discusión filosófica sobre la naturaleza de la materia y la existencia, pero no entremos allí en este caso).

La esencia es que el uso o algunos dirían mal uso de las palabras "mortal" e "inmortal" es extravagante e innecesario. Tomar una lengua vernácula de uso común y reutilizarla para otros fines es confuso y genera aguas turbias. Tienes que estar dispuesto a reconceptualizar aparentemente lo que significan mortal e inmortal en este contexto específico. Esto se vuelve problemático.

Aún más desconcertante es que estas elecciones de palabras tienden a antropomorfizar los aspectos informáticos.

Ya hay problemas más que suficientes asociados con la antropomorfización de la IA, ciertamente no necesitamos inventar más posibilidades de este tipo. Como he discutido extensamente en mi cobertura de Ética de IA y IA ética, hay todo tipo de formas salvajes en las que las personas atribuyen capacidades sensibles a las computadoras. A su vez, esto induce a error a las personas a creer falsamente que las computadoras basadas en IA pueden pensar y actuar como lo hacen los humanos. Es una pendiente resbaladiza de peligro cuando la sociedad se deja llevar por la creencia de que la inteligencia artificial y la computación de hoy en día están a la par con el intelecto y el sentido común de la humanidad, consulte, por ejemplo, mi análisis en el enlace aquí y el enlace aquí.

De acuerdo, podemos rechazar o despreciar las opciones de redacción incómodas, pero ¿eso sugiere que deberíamos tirar al bebé con el agua del baño (una expresión antigua, probablemente a punto de jubilarse)?

Algunos argumentan que tal vez podamos encontrar una mejor redacción para este enfoque o concepción general. Descartar el uso de “mortal” e “inmortal” para que el resto de ideas no se vean viciadas por un uso inapropiado o impropio. Mientras tanto, hay argumentos en contra de que es perfectamente aceptable usar esas opciones de palabras, ya sea porque son adecuadas o porque no deberíamos ser inflexibles sobre cómo optamos por reutilizar las palabras. Una rosa es una rosa con cualquier otro nombre, declaran.

Para evitar más debates enconados en este documento, de ahora en adelante evitaré usar las palabras "mortal" e "inmortal" y simplemente diré que tenemos dos tipos principales de computadoras en circulación, una que es una computadora digital convencional de hoy y la otra. otra es una propuesta neuromórfico ordenador.

Parece que no hay necesidad de arrastrar el enigma de la mortalidad a esto. Mantenga el cielo despejado para ver qué más podemos hacer con el asunto en cuestión.

En ese caso, algunos argumentarían que la idea propuesta de una computadora neuromórfica no es nada nuevo.

Puede remontarse a los primeros días de la IA, especialmente cuando se exploraron inicialmente las ANN, y ver que se hablaba de diseñar computadoras especializadas para hacer el trabajo de las redes neuronales artificiales. Se propusieron todo tipo de hardware nuevo. Esto todavía ocurre hasta el día de hoy. Por supuesto, podría argumentar que la mayor parte de la exploración actual de hardware especializado para ANN y aprendizaje automático todavía se basa en el enfoque convencional de la informática. En ese sentido, esta inseparabilidad analógica del hardware y el software empuja un poco los límites, y la propuesta de "hacer crecer" la computadora también lo hace, al menos con respecto a salirse de la corriente principal considerada.

En resumen, hay algunos que están completamente inmersos en estos asuntos que se sorprenden de que alguien más se sorprenda con las proposiciones que se hacen flotar. Estas nociones son las mismas que antes o se hacen eco de lo que ya se está examinando en varios laboratorios de investigación.

No te arruines el pelo, dicen.

Esto sí nos lleva a otra faceta que a muchos les molesta.

En una palabra: Previsibilidad

Las computadoras de hoy en día generalmente se consideran predecibles. Puede echar un vistazo al hardware y al software para averiguar qué va a hacer la computadora. Del mismo modo, puede rastrear lo que una computadora ya ha hecho para descubrir por qué hizo lo que hizo. Por supuesto, hay límites para hacer esto, por lo tanto, no quiero exagerar la previsibilidad, pero creo que entiendes la idea en general.

Es posible que sepa que uno de los problemas espinosos que enfrenta la IA hoy en día es que algunas IA están diseñadas para ser autoajustables. La IA que los desarrolladores implementaron podría cambiar mientras se usa. En el ámbito de la ética de la IA, hay numerosos ejemplos de IA que se pusieron en uso y que al principio no tenían sesgos indebidos ni tendencias discriminatorias, que luego fueron automutados computacionalmente gradualmente durante el tiempo que la IA estuvo en producción, ver mi evaluaciones detalladas en el enlace aquí.

La preocupación es que ya estamos entrando en un entorno que implica IA que no es necesariamente predecible.

Supongamos que la IA para los sistemas de armas se autoajusta y el resultado es que la IA arma y lanza armamento letal en objetivos y momentos inesperados. Es posible que los humanos no estén al tanto para detener la IA. Es posible que los humanos que están en el circuito no puedan responder lo suficientemente rápido como para adelantar las acciones de la IA. Para ejemplos escalofriantes adicionales, vea mi análisis en el enlace aquí.

Para las computadoras neuromórficas, la preocupación es que estamos poniendo la imprevisibilidad en los esteroides. Desde el principio, la esencia de una computadora neuromórfica podría ser que funcione de una manera que desafía la predicción. Estamos haciendo alarde de imprevisibilidad. Se convierte en una insignia de honor.

Existen dos campos.

Un campo dice que podemos vivir con las desagradables preocupaciones de imprevisibilidad, y hacerlo colocando barandillas para evitar que la IA vaya demasiado lejos. El otro bando argumenta que estás llevando al mundo por un camino peligroso. Llegará el día en que las barandillas reclamadas fallen, o no sean lo suficientemente estrictas, o que por accidente o malas intenciones, las barandillas sean removidas o manipuladas.

¿Deberíamos dejar de lado las dudas sobre las computadoras neuromórficas y la previsibilidad?

Según los comentarios del investigador: "Entre las personas interesadas en la computación analógica, todavía hay muy pocas que estén dispuestas a renunciar a la inmortalidad". Además: "Si quieres que tu hardware analógico haga lo mismo cada vez... Tienes un problema real con todas estas cosas eléctricas perdidas y esas cosas".

Mejoraré esto.

Una perspectiva inminente y algo sombría es que la llamada previsibilidad asociada con las computadoras digitales de hoy en día va en la dirección de la imprevisibilidad de todos modos. Como se mencionó, esto puede suceder particularmente con la IA que se autoajusta en las plataformas informáticas convencionales. El hecho de que las computadoras neuromórficas puedan parecer impredecibles no es, ergo, una señal de que las computadoras digitales convencionales sean, de hecho, predecibles.

La aplanadora de la imprevisibilidad se nos viene encima, a todo vapor, independientemente de la plataforma informática que desee elegir. Para ver mi evaluación de los últimos esfuerzos para tratar de lograr la seguridad de la IA desde este punto de vista, consulte el enlace aquí.

Este giro sobre la previsibilidad debería hacer que tu mente divague sobre algo de naturaleza descubierta, más o menos. Aquellos de ustedes que están involucrados en la ética de la IA y la ley de la IA pueden no han estado considerando las ramificaciones de computadoras neuromórficas.

Probablemente haya estado apuntando a computadoras digitales convencionales que ejecutan IA. Bueno, adivine qué, tiene un segmento completamente adicional y emergente de la informática de IA por el que ahora puede preocuparse por la noche. Sí, computadoras neuromórficas. Pon eso en tu lista de cosas por hacer.

Lo siento, más noches de insomnio para ti.

Consideremos brevemente lo que la Ética y la Ley de IA han estado haciendo con respecto a la computación digital convencional y la IA.

En columnas anteriores, he cubierto los diversos esfuerzos nacionales e internacionales para elaborar y promulgar leyes que regulen la IA, ver el enlace aquí, por ejemplo. También he cubierto los diversos principios y pautas de ética de la IA que varias naciones han identificado y adoptado, incluido, por ejemplo, el esfuerzo de las Naciones Unidas, como el conjunto de ética de la IA de la UNESCO que adoptaron casi 200 países, ver el enlace aquí.

Aquí hay una lista clave útil de criterios o características de IA ética con respecto a los sistemas de IA que he explorado de cerca anteriormente:

• Transparencia
• Justicia y Equidad
• No maleficencia
• Corporativa
• Privacidad
• Beneficencia
• Libertad y Autonomía
• Confía en
• Sostenibilidad
• Dignidad
• Solidaridad

Se supone seriamente que esos principios de ética de la IA deben ser utilizados por los desarrolladores de IA, junto con aquellos que gestionan los esfuerzos de desarrollo de IA, e incluso aquellos que finalmente implementan y realizan el mantenimiento de los sistemas de IA.

Todas las partes interesadas a lo largo de todo el ciclo de vida de desarrollo y uso de la IA se consideran dentro del alcance de cumplir con las normas establecidas de IA ética. Este es un punto destacado importante ya que la suposición habitual es que "solo los codificadores" o aquellos que programan la IA están sujetos a adherirse a las nociones de ética de la IA. Como se enfatizó anteriormente en este documento, se necesita una aldea para diseñar y poner en práctica la IA, y para lo cual toda la aldea debe estar versada y cumplir con los preceptos de ética de la IA.

La parte de esto en la que quizás no hayas pensado mucho anteriormente es cómo esos mismos preceptos de ética de IA y la creciente lista de nuevas leyes de IA se aplicarán a las computadoras neuromórficas. Para aclarar, la ética de la IA y la ley de la IA deben tener eso en cuenta explícitamente. Estoy señalando que pocos lo están haciendo, y tenga en cuenta que existe una gran posibilidad de que el advenimiento de las computadoras neuromórficas arroje a muchos en un bucle en términos de una nueva dimensión para tratar de reinar en la IA.

Necesitamos considerar la IA ética y las leyes de IA de una manera lo suficientemente amplia como para abarcar cualquier IA que se diseñe recientemente, incluidas las computadoras neuromórficas.

La alternativa del sube y baja es una táctica clásica del gato y el ratón. Así es como funciona. Se conciben y construyen nuevas formas de crear IA. La ética y las leyes de IA existentes se toman por sorpresa y no abarcan completamente las últimas travesuras de IA. Se hace un esfuerzo apresurado para actualizar los preceptos Éticos de IA y modificar las Leyes de IA recién acuñadas.

Enjabonar, enjuagar, repetir.

Sería mejor para todos nosotros mantenernos al frente del juego, en lugar de quedar atrapados detrás de la bola ocho.

Conclusión

Te he llevado a un pequeño viaje.

Al principio, propuse que habría dos temas principales para ser examinados:

1) Unir integralmente tanto el hardware como el software para las mecanizaciones de IA en lugar de tenerlos como aliados distintos y separados.

2) Transferencia o destilación de formulaciones de aprendizaje automático de un modelo de IA a otro que lo hace sin requerir ni desear necesariamente (o incluso factiblemente posible) una copia pura pura y directa

El primer tema sobre la unión de hardware y software ha sido la mayor parte del viaje aquí. Esto nos llevó al pantano informático mortal versus inmortal. De lo cual hubo algunas consideraciones cruciales sobre ética y leyes de IA que, de otro modo, no se mencionarían, ya que algunos consideran que este tipo de tema relacionado con la computadora es puramente tecnológico en lugar de implicar una preocupación por los impactos sociales.

Yo digo que es más inteligente ser más temprano y más seguro, en lugar de más tarde y peor cuando se trata de mencionar la IA Ética y la Ley de IA.

El segundo tema, que todavía no he articulado aquí, se relaciona materialmente con el primer tema.

Aquí está el trato.

Supongamos que tenemos una "computadora mortal" y queremos preservar las capacidades para que podamos tener una copia de seguridad o aparentemente copias de lo que contiene la IA. Podríamos estar preocupados de que una computadora mortal en particular esté llegando a su fin. Vaya, dependemos de ello. Qué vamos a hacer? Una respuesta es que debemos copiar la maldita cosa.

Pero copiar una computadora neuromórfica del tipo que se está esbozando será más difícil de lo que parece a primera vista. Las cosas pueden ponerse complicadas.

Tal vez deberíamos idear una estratagema de copia que sea generalizable y aplicable a circunstancias que involucren el aprendizaje automático y las redes neuronales artificiales. Queremos que esto funcione en instancias de gran y extremadamente gran escala. También estaríamos dispuestos a que la copia no sea un duplicado exacto y, en cambio, podría ser esencialmente equivalente o incluso mejor diseñada como resultado de la acción de copiar.

Una técnica conocida como destilación ha sido propuesto.

Me quedé sin espacio para la columna de hoy, así que abordaré este segundo tema en una próxima columna. Supuse que querría saber de inmediato sobre la relación entre ese segundo tema y el primer tema que se trató ampliamente en este documento. Piense en esto como una nota adicional que sirve como avance o tráiler de lo que viene a continuación.

Permanezca al borde de su asiento, ya que el tema de la destilación se destaca bastante.

Como solía decir Batman, mantén tus alas de murciélago cruzadas y prepárate para el mismo tiempo de murciélago y canal de murciélago para desentrañar la inquietante pregunta de cómo copiar un ANN o un modelo de aprendizaje automático o una computadora neuromórfica a otra.

Una observación final por ahora. Hay una frase famosa en la película. The Dark Knight Returns en el que nuestro cruzado con capa dice esto: “El mundo solo tiene sentido si lo obligas a hacerlo”. Trataré de aferrarme a ese ideal cuando cubra el segundo tema sobre la destilación relacionada con la IA.

Estén atentos a la Parte 2 de este emocionante y apasionante doble título.