ChatGPT de IA generativa versus esos monos de escritura infinitos, no hay competencia dice ética de IA y ley de IA

Esos monos revoltosos.

Hay un experimento mental bastante famoso del que quizás hayas oído hablar que involucra a los monos. El artilugio completamente intrigante a menudo es utilizado por aquellos que quieren hacer un punto particularmente perfeccionado.

Así es como va la trama.

Imagina que un mono está escribiendo en una máquina de escribir. Si el mono sigue escribiendo durante una cantidad infinita de tiempo, y suponiendo que el mono está escribiendo teclas puramente al azar, lo más probable es que las obras completas de Shakespeare se escriban inevitablemente.

Aparentemente, la esencia es que solo por casualidad es factible obtener a veces una respuesta inteligible. Todos tendemos a estar de acuerdo en que las obras de Shakespeare son una tremenda exhibición de escritura y razonamiento inteligibles. Por lo tanto, cualquier cosa o cualquier medio de producir las preciadas palabras de Shakespeare parecería asombrosamente impresionante, aunque, al mismo tiempo, nos decepcionaría estridentemente que no fue por inteligencia per se sino simplemente por suerte aleatoria.

Hoy en día, algunos están tratando de comparar esta metáfora cargada de monos con lo último en Inteligencia Artificial (IA).

Probablemente sepa que la forma más popular de IA en estos días es IA generativa, que se ejemplifica a través de una aplicación de IA muy popular conocida como ChatGPT creada por OpenAI. Explicaré más sobre la IA generativa y ChatGPT en un momento. Por ahora, solo sepa que esta es una aplicación de inteligencia artificial de texto a texto o de texto a ensayo que puede producir un ensayo para usted en función de un mensaje ingresado de su elección.

La supuesta conexión relacionada con el legendario mono tipeador es que supuestamente los impresionantes ensayos producidos por la IA generativa que parecen ser completamente fluidos no son más asombrosos que los logros del primate tipeador. Si acepta la premisa de que un mono escribiendo al azar puede generar las obras de Shakespeare, y si está dispuesto a admitir que ChatGPT y otras IA generativas son aparentemente lo mismo, debe concluir ergo que la IA generativa no es especialmente notable. Es solo la aleatoriedad engañándonos.

Bueno, esto puede parecer un caso convincente, pero tenemos que desempaquetarlo. Un desempaque consciente mostrará que la comparación entre los dos es engañoso y claramente equivocado.

Deja de hacer la comparación. Para aquellos que insisten en continuar haciendo una comparación, al menos háganlo de manera prudente y honesta.

Aquellos que simplemente tiran por la borda la comparación no le hacen ningún favor a la IA generativa. Y, la preocupación más vital es que esto es engañoso para el público en general y la sociedad en general. Supongo que también podríamos agregar que también están haciendo un flaco favor a los monos que trabajan duro, o tal vez socavando el valor del teorema de los monos de tipificación infinita. Sé justo. Sé amable. Sé sincero.

Antes de profundizar en esto, hay una broma interna que aprovecha la noción del mono que escribe. Quizás te guste.

La pizca de humor cínico a menudo se remonta a la correspondencia personal durante el apogeo inicial de Internet. Esto es cuando Internet estaba dejando de ser un reino en línea sombrío y serio y se adentraba en el territorio desquiciado de ser ruidoso, bullicioso e ingobernable a medida que la cantidad de personas que usaban Internet aumentaba de manera demostrable.

La anécdota humorística dice que si los monos escribiendo en máquinas de escribir finalmente producirían, o deberíamos decir, reproducirían todo el cuerpo de la obra de Shakespeare, ahora tenemos pruebas de que gracias al advenimiento de Internet esto definitivamente debe no ser cierto.

¿Te estas riendo?

Algunos interpretan que esto es un comentario escandalosamente divertido.

El chiste es un desprecio de cómo Internet, con todas sus publicaciones burlonas y burlonas, no está llegando al nivel de producir a Shakespeare. Es un comentario cortante que destaca que Internet presumiblemente no ha elevado el discurso, sino que lo ha denigrado. Muchos asumieron que Internet sería una gran ayuda para la interacción inteligente, lo que permitiría debates estimulantes en todo el mundo. Parece que no hemos sido testigos de esto necesariamente en una base tan grande como se esperaba.

Por supuesto, seríamos negligentes si tomáramos la broma como un verdadero presagio de lo que Internet ha provocado. Hay un montón de grandes revelaciones y valores notables asociados con Internet. El chiste es un adorno o una exageración. No obstante, el punto está bien entendido de que debemos estar atentos al contenido insidioso y canalla, mientras apuntamos a encontrar y mejorar obras inspiradoras para la sociedad a través del uso de Internet. Por mi cobertura sobre cómo la IA puede ayudar y, sin embargo, en un De doble uso la moda socava el discurso social a través de publicaciones adversas en Internet, vea mi discusión en el enlace aquí.

En la columna de hoy, abordaré las diferencias significativas entre la IA generativa y el cuento clásico de los monos tipeadores. Explicaré dónde se queda corta la comparación. Sin duda, terminará sabiendo más sobre el teorema de los monos que escriben, además de comprender más concretamente cómo funciona la IA generativa. Ocasionalmente me referiré a ChatGPT ya que es el gorila de 600 libras de IA generativa (juego de palabras intencionado), aunque tenga en cuenta que hay muchas otras aplicaciones de IA generativa y generalmente se basan en los mismos principios generales.

Mientras tanto, es posible que se pregunte qué es la IA generativa.

Primero cubramos los fundamentos de la IA generativa y luego podemos echar un vistazo de cerca a las comparaciones del teorema de los monos de tipeo.

En todo esto viene una gran cantidad de consideraciones sobre la ética y la ley de la IA.

Tenga en cuenta que se están realizando esfuerzos para imbuir los principios éticos de IA en el desarrollo y la implementación de aplicaciones de IA. Un creciente contingente de éticos de IA preocupados y antiguos están tratando de garantizar que los esfuerzos para diseñar y adoptar IA tengan en cuenta una visión de hacer AI para siempre y evitando AI para mal. Del mismo modo, se han propuesto nuevas leyes de IA que se están promocionando como posibles soluciones para evitar que los esfuerzos de IA se vuelvan locos en materia de derechos humanos y similares. Para mi cobertura continua y extensa de la ética de la IA y la ley de la IA, consulte el enlace aquí y el enlace aquí, Sólo para nombrar unos pocos.

Se persigue el desarrollo y la promulgación de preceptos éticos de IA para evitar que la sociedad caiga en una miríada de trampas que inducen a la IA. Para ver mi cobertura de los principios de ética de AI de la ONU, tal como fueron ideados y respaldados por casi 200 países a través de los esfuerzos de la UNESCO, consulte el enlace aquí. De manera similar, se están explorando nuevas leyes de IA para tratar de mantener la IA en equilibrio. Una de las últimas tomas consiste en un conjunto de propuestas Declaración de derechos de IA que la Casa Blanca de EE. UU. publicó recientemente para identificar los derechos humanos en una era de IA, véase el enlace aquí. Se necesita un pueblo para mantener la IA y los desarrolladores de IA en el camino correcto y disuadir los esfuerzos encubiertos intencionales o accidentales que podrían socavar a la sociedad.

Entrelazaré consideraciones relacionadas con la ética de la IA y la ley de la IA en esta discusión.

Fundamentos de la IA generativa

La instancia más conocida de IA generativa está representada por una aplicación de IA llamada ChatGPT. ChatGPT surgió en la conciencia pública en noviembre cuando fue lanzado por la firma de investigación de IA OpenAI. Desde entonces, ChatGPT ha obtenido titulares descomunales y ha superado asombrosamente los quince minutos de fama asignados.

Supongo que probablemente hayas oído hablar de ChatGPT o tal vez incluso conozcas a alguien que lo haya usado.

ChatGPT se considera una aplicación de IA generativa porque toma como entrada un texto de un usuario y luego genera o produce una salida que consiste en un ensayo. La IA es un generador de texto a texto, aunque describo la IA como un generador de texto a ensayo, ya que eso aclara más fácilmente para qué se usa comúnmente. Puede usar la IA generativa para componer composiciones largas o puede hacer que emita comentarios breves y concisos. Todo está a tu disposición.

Todo lo que necesita hacer es ingresar un aviso y la aplicación AI generará para usted un ensayo que intenta responder a su aviso. El texto compuesto parecerá como si el ensayo hubiera sido escrito por la mano y la mente humana. Si ingresara un mensaje que dijera "Cuénteme sobre Abraham Lincoln", la IA generativa le proporcionará un ensayo sobre Lincoln. Hay otros modos de IA generativa, como texto a arte y texto a video. Me centraré aquí en la variación de texto a texto.

Su primer pensamiento podría ser que esta capacidad generativa no parece tan importante en términos de producción de ensayos. Puede realizar fácilmente una búsqueda en línea en Internet y encontrar toneladas y toneladas de ensayos sobre el presidente Lincoln. El truco en el caso de la IA generativa es que el ensayo generado es relativamente único y proporciona una composición original en lugar de una copia. Si intentara encontrar el ensayo producido por IA en línea en algún lugar, es poco probable que lo descubra.

La IA generativa está preentrenada y utiliza una formulación matemática y computacional compleja que se ha configurado mediante el examen de patrones en palabras e historias escritas en la web. Como resultado de examinar miles y millones de pasajes escritos, la IA puede arrojar nuevos ensayos e historias que son una mezcla de lo que se encontró. Al agregar varias funciones probabilísticas, el texto resultante es bastante único en comparación con lo que se ha utilizado en el conjunto de entrenamiento.

Existen numerosas preocupaciones sobre la IA generativa.

Una desventaja crucial es que los ensayos producidos por una aplicación de IA basada en generativos pueden tener incrustadas varias falsedades, incluidos hechos manifiestamente falsos, hechos que se describen de manera engañosa y hechos aparentes que son completamente inventados. Esos aspectos fabricados se refieren a menudo como una forma de alucinaciones de IA, un eslogan que no me gusta pero que lamentablemente parece estar ganando popularidad de todos modos (para una explicación detallada de por qué esta es una terminología pésima e inadecuada, consulte mi cobertura en el enlace aquí).

Otra preocupación es que los humanos pueden atribuirse fácilmente el mérito de un ensayo generado por IA generativa, a pesar de no haberlo escrito ellos mismos. Es posible que haya escuchado que los maestros y las escuelas están bastante preocupados por la aparición de aplicaciones de inteligencia artificial generativa. Los estudiantes pueden potencialmente usar IA generativa para escribir sus ensayos asignados. Si un estudiante afirma que un ensayo fue escrito por su propia mano, hay pocas posibilidades de que el maestro pueda discernir si fue falsificado por IA generativa. Para mi análisis de esta faceta de confusión de estudiante y maestro, vea mi cobertura en el enlace aquí y el enlace aquí.

Ha habido algunas afirmaciones descabelladas y descomunales en las redes sociales sobre IA generativa afirmando que esta última versión de AI es de hecho IA consciente (¡no, están equivocados!). Los de Ética y Derecho de IA están especialmente preocupados por esta tendencia creciente de reclamos extendidos. Se podría decir cortésmente que algunas personas están exagerando lo que la IA de hoy en día realmente puede hacer. Asumen que la IA tiene capacidades que aún no hemos podido lograr. Eso es lamentable. Peor aún, pueden permitirse a sí mismos y a otros meterse en situaciones difíciles debido a la suposición de que la IA será sensible o parecida a un humano para poder tomar medidas.

No antropomorfizar la IA.

Si lo hace, quedará atrapado en una trampa de dependencia pegajosa y severa de esperar que la IA haga cosas que no puede realizar. Dicho esto, lo último en IA generativa es relativamente impresionante por lo que puede hacer. Sin embargo, tenga en cuenta que existen limitaciones significativas que debe tener en cuenta continuamente al usar cualquier aplicación de IA generativa.

Una advertencia final por ahora.

Todo lo que vea o lea en una respuesta generativa de IA que parece para transmitirse como puramente fáctico (fechas, lugares, personas, etc.), asegúrese de permanecer escéptico y esté dispuesto a verificar dos veces lo que ve.

Sí, las fechas se pueden inventar, los lugares se pueden inventar y los elementos que normalmente esperamos que sean irreprochables son todos sujeto a sospechas. No crea lo que lee y mantenga una mirada escéptica cuando examine cualquier ensayo o resultado de IA generativa. Si una aplicación de IA generativa te dice que Abraham Lincoln voló por todo el país en su jet privado, sin duda sabrás que esto es una tontería. Desafortunadamente, algunas personas pueden no darse cuenta de que los aviones a reacción no existían en su época, o pueden saber pero no darse cuenta de que el ensayo hace esta afirmación descarada y escandalosamente falsa.

Una fuerte dosis de escepticismo saludable y una mentalidad persistente de incredulidad serán su mejor activo cuando use IA generativa.

Estamos listos para pasar a la siguiente etapa de esta elucidación.

¿Qué está pasando con esos monos que escriben?

Ahora que tiene una idea de lo que es la IA generativa, podemos explorar la comparación con los monos de tipeo. En cierto sentido, paso a paso iré desmontando gradualmente el teorema de tipificación del mono. Lo hago para iluminar los fundamentos. Luego podemos usar los elementos revelados para hacer una comparación con la IA generativa.

El teorema o hipótesis de los monos tipeadores contiene un conjunto básico de elementos:

• a) Quién o qué. La criatura o actor identificado que escribe
• b) Número y longevidad. Cuántos de ellos hay y su estado de longevidad
• c) Símbolos emitidos. Producción de letras y símbolos conocidos a través de un dispositivo rudimentario
• d) Tiempo. Tiempo de realización de la tarea
• e) Inteligencia. ¿Qué inteligencia aportan al desempeño de la tarea?
• f) Producto objetivo. El resultado específico de lo que queremos que produzcan

Examinemos primero los monos tipeadores.

Tal vez recuerde que mencioné al comienzo de esta discusión que debíamos imaginar que un mono estaba escribiendo en una máquina de escribir. Me referí a los conceptos básicos como que implican que solo un mono lo hace. Podemos ajustar esa faceta.

Aquí hay formas en que la situación a menudo se retrata:

• Un mono solitario de una existencia mortal cotidiana
• Mil monos así
• Un millón de esos monos
• Un número infinito de tales monos.
• Un mono solitario que es inmortal
• Cierto número de monos inmortales
• Etc.

Tenga en cuenta que en lugar de tener un solo mono, podríamos reformular el experimento mental y tener una multitud de monos que presumiblemente trabajan simultáneamente. Además, otro aspecto ajustable es si los monos son mortales o inmortales. Profundizaré más en esto momentáneamente.

También necesitamos incluir el factor tiempo como un ingrediente crucial.

Por lo general, el factor tiempo es una de estas dos consideraciones:

• Período finito de tiempo
• Tiempo infinito

Otro elemento subyacente algo tácito es que los monos se utilizan en este caso porque los consideramos relativamente irreflexivos. No saben leer ni escribir. No pueden exhibir inteligencia de la misma manera que asociamos la inteligencia con las capacidades humanas.

Esto es algo insultante cuando lo piensas un poco. Creo que todos podemos razonablemente estar de acuerdo en que los monos son increíblemente inteligentes, al menos por lo que pueden lograr dentro de sus límites de pensamiento. Me atrevería a decir que atribuimos mayor capacidad de pensamiento a los monos que a muchos otros animales. Hay un montón de estudiosos experimentos de investigación que se han realizado para mostrar lo mentalmente agudos que pueden ser los monos.

En cualquier caso, para los propósitos de la metáfora, la suposición es que los monos no son capaces de pensar en la medida en que podrían por sí mismos concebir las obras de Shakespeare. Mientras que la película clásica Planeta de los simios trató de advertirnos que esto podría ser una suposición defectuosa, en cualquier caso vamos con él en el mundo de hoy.

Si sustituimos el uso de hormigas por los monos, la metáfora se disipa un poco. No concebimos que las hormigas puedan escribir en máquinas de escribir. Podríamos intentar sustituir el uso de perros o gatos, ya que casi podrían escribir en una máquina de escribir, pero al final, el uso de monos es mejor, ya que pueden escribir de una manera que recuerda a los humanos. Tienen las extremidades y la estructura corporal apropiadas para realizar la tarea en cuestión. También se les considera mentalmente capaces de teclear, aunque asumimos que no saben lo que están tecleando.

Aparte, ha habido muchos experimentos de investigación que involucran monos y su reconocimiento de símbolos. En estos diversos estudios se han incluido configuraciones que tenían a los monos escribiendo en máquinas de escribir o dispositivos similares. Si se hace correctamente, esto puede ser significativo en la búsqueda de conocimientos útiles sobre la inteligencia y el surgimiento de comportamientos inteligentes.

Lamentablemente, la investigación que implica escribir en máquinas de escribir a veces no se realiza de manera particularmente seria. A veces, el enfoque utilizado no ha sido más que un débil guiño al famoso o infame teorema de escritura de los monos, en lugar de actividades de investigación fundacionales de buena fe. No encuentro tales travesuras divertidas o apropiadas. La noción ha sido que a los monos se les dieron máquinas de escribir físicamente y se les animó a escribir según su capricho o, a veces, por golosinas como comida. A menos que esto se haga de una manera experimental robusta de buena fe, no es más que una fachada.

Un pequeño giro que es más agradable consiste en establecer simulaciones basadas en computadora que pretenden realizar lo que los monos harían en estas circunstancias. La computadora se utiliza para simular estos aspectos. No hay monos reales involucrados. Algunos incluso han ido tan lejos como para hacer un poco de los llamados ciencia ciudadana repartiendo la simulación a cualquiera que esté dispuesto a permitir que su computadora portátil o computadora se use para estos esfuerzos. No se deje engañar por estafas falsas que afirman insidiosamente que están haciendo esto por la ciencia cuando la realidad es que están intentando infectar su computadora con un virus informático. Sé cauteloso.

De vuelta al asunto.

Un aspecto que también es fundamental para la circunstancia es que las máquinas de escribir se están utilizando en este mono tipeador hipotético.

¿Por qué máquinas de escribir?

Porque así es como podemos obtener la producción de letras, que luego se pueden formar en palabras, que luego se pueden formar en historias. La misma o similar noción de producir muchas letras no requiere necesariamente que las escribamos a máquina. De hecho, hay variantes de esta metáfora que se remontan a los días de Aristóteles y, ergo, no había máquinas de escribir en ese entonces.

Podríamos cambiar la metáfora y referirnos a los teclados y computadoras actuales. Podríamos decir que los monos están golpeando una computadora portátil o incluso un teléfono inteligente. La belleza de referirse a las máquinas de escribir es que asociamos las máquinas de escribir como no computarizadas y, por lo tanto, no ayudan en el proceso de mecanografía en sí. Esto es crucial para la invención involucrada.

Por último, generalmente se nos presenta el aspecto de que se van a producir las obras de Shakespeare. Fácilmente podríamos sustituir a Shakespeare por cualquier otro autor conocido. Puede ser que queramos saber si los monos pueden producir las obras completas de Charles Dickens, Jane Austen, Ernest Hemingway, etc. No importa especialmente. La esencia es que la escritura tiene que ser algo que todos conozcamos y que reconozcamos como escritura sobresaliente.

Podemos sustituir fácilmente cualquier escritura que queramos establecer como objetivo.

La conveniencia de referirse a Shakespeare es que sus obras se interpretan como lo más alto o pináculo de la escritura humana. En su lugar, podríamos encontrar un ensayo escrito por un alumno de primer grado y usarlo como objetivo. Lo creas o no, se siguen aplicando los mismos preceptos. La gente probablemente no encontraría inspirador que los monos pudieran reproducir la escritura de un niño. Para mantener las cosas atractivas, la escritura debe ser del más alto calibre.

Una variante del resultado objetivo sería hacer referencia a una obra específica de Shakespeare en lugar de a todo su cuerpo de trabajo. Como pronto verá, hace poca diferencia en la esencia central del asunto. Me imagino que muchas personas tienden a mencionar Hamlet como parte del teorema de tipeo del mono, quizás porque esta es su obra más larga, con un tamaño de 29,551 palabras (compuestas por alrededor de 130,000 letras).

Cualquiera de sus obras sería suficiente.

Todo el artificio depende de las diversas leyes de probabilidad. Es posible que hayas aprendido los matices de las probabilidades en esas extenuantes clases de estadística y matemáticas que tomaste en la escuela.

Usemos la palabra "Hamlet" para ver qué se necesita para producir aleatoriamente esas seis letras en esa secuencia específica de Hamlet.

La forma más sencilla de calcularlo aritméticamente consiste en suponer que tenemos un número redondo fácil del recuento de teclas disponibles en una máquina de escribir. Supongamos que tenemos una máquina de escribir que tiene 50 teclas distintas e igualmente utilizables. Cada tecla representa un símbolo particular, como los símbolos del alfabeto inglés habitual. Suponga que las teclas están dispuestas en orden aleatorio y que no hemos manipulado la situación colocando las teclas separadas de Hamlet en un arreglo particular para inducir a escribir esas teclas específicas más que cualquier otra tecla.

Cada tecla se presiona de forma completamente independiente de cualquier tecla que se haya presionado antes. Por lo tanto, de las 50 teclas, las posibilidades de que se presione cualquier tecla se consideran 1 de 50 posibilidades. Lo mismo es válido para todas las teclas y durante todo el esfuerzo de escritura. El cálculo de una sola tecla que se presiona es una probabilidad de 1 entre 50, o eso es 1/50.

Entonces, las posibilidades de escribir la letra "H" son 1/50, y las posibilidades de escribir la letra "a" son 1/50, y las posibilidades de escribir la letra "m" son 1/50, y así sucesivamente.

Esto es:

• La probabilidad de que se escriba "H" es 1/50.
• La probabilidad de que se escriba "a" es 1/50.
• La probabilidad de que se escriba "m" es 1/50.
• La probabilidad de que se escriba "l" es 1/50.
• La probabilidad de que se escriba "e" es 1/50.
• La probabilidad de que se escriba "t" es 1/50.

Una regla estándar o ley de probabilidad establece que si dos o más eventos son completamente independientes entre sí desde el punto de vista estadístico, podemos calcular las posibilidades de que ambos ocurran simplemente multiplicando sus probabilidades entre sí, respectivamente. Podemos hacerlo con respecto a estas seis letras.

Tenemos este cálculo: “H” (1/50) x “a” (1/50) x “m” (1/50) x “l” (1/50) x “e” (1/50) x “t” (1/50)

Es decir: (1/50) x (1/50) x (1/50) x (1/50) x (1/50) x (1/50)

El número minúsculo llega a 1/15,625,000,000.

Entonces, las posibilidades de escribir la palabra de seis letras "Hamlet" son aproximadamente una en 15 mil millones, todo lo demás es igual.

Esas son probabilidades desalentadoras. Y esto es simplemente para escribir una palabra particular de seis letras. Intenta aplicar este mismo cálculo a las 29,551 palabras de toda la obra de Hamlet. Si decide calcular esto, tenga en cuenta también que es necesario tener en cuenta los espacios entre las palabras.

Cuanto más larga sea la salida específica, mayores serán las posibilidades de que no podamos generar esos conjuntos precisos de letras y palabras. Las probabilidades son cada vez más pequeñas. Las posibilidades son tan pequeñas que casi tiraríamos la toalla y diríamos que parece que “nunca” sucedería (tenga cuidado al usar la palabra “nunca” ya que es una afirmación formidable).

Tomemos por ejemplo un mono mortal.

De acuerdo con varias indicaciones en línea acreditadas, la vida útil habitual de un mono en la naturaleza es de alrededor de 40 años más o menos. Si quiere debatir esa vida útil, podemos usar el número 100 y proceder con un límite superior bastante improbable. Un mono tecleando en una máquina de escribir sin parar durante, digamos, cien años, sin incluir el tiempo para descansar, el tiempo para comer o similares, y suponiendo que esto es todo lo que el mono hizo desde el momento del nacimiento hasta su último aliento, todavía ganó 't ayudar a igualar las probabilidades de escribir de Hamlet en total (el mono, si pulsa una tecla cada segundo sin parar durante los 100 años, pulsaría unas 3,155,673,600 teclas).

Podemos decir razonablemente que es enormemente improbable que un mono mortal termine escribiendo por casualidad la obra Hamlet.

Puede aumentar la cantidad de monos mortales, pero esto hace poco para cambiar las abrumadoras probabilidades en contra de escribir Hamlet. Algunos postulan que hay mil monos. Otro enfoque dice que hay un millón de monos. Asumiendo que todos vivieron hasta los 100 años de edad, y cada uno escribió una tecla al azar en su propia máquina de escribir respectiva a un ritmo continuo de una tecla por segundo, esto aún no hace una mella estadísticamente notable al escribir la obra. Hamlet.

Medita todo esto.

Algo irónico, ¿dónde exactamente albergarías a un millón de monos para esta tarea? Imagine también que las máquinas de escribir tienen que durar cien años de uso continuo (¿puede encontrar un millón de máquinas de escribir que funcionen y que nadie quiera y esté dispuesto a donar a este antiguo proyecto?). Parece que necesitaría tener muchas máquinas de escribir de repuesto listas en este momento. Etcétera. La logística es asombrosa.

Todo esto parece sombrío que los monos mortales probablemente no se reproduzcan. Hamlet.

Pero supongamos que los hacemos inmortales. Sí, les damos una poción mágica que les permite vivir para siempre. Ni siquiera necesitamos más de un mono inmortal. Sólo uno servirá. Podría hacer que la metáfora sea más emocionante afirmar que tenemos mil o un millón de monos inmortales.

Si tenemos un mono que puede vivir para siempre, podríamos sugerir que este es un mono infinito. Puede estar golpeando las teclas de la máquina de escribir durante un tiempo infinito. Ese mono seguirá y seguirá. En consecuencia, aunque las posibilidades de escribir la obra Hamlet eran extremadamente pequeños, el aspecto de que el mono seguirá intentándolo sin cesar sugiere que en algún momento el juego Hamlet casi seguramente habrá sido escrito.

La regla empírica, por así decirlo, es que una secuencia de eventos que tiene una probabilidad distinta de cero de ocurrir, aunque extraordinariamente baja en posibilidades, estaríamos razonablemente de acuerdo en que casi ocurrirá si tenemos un tiempo infinito para jugar. en igualdad de condiciones. Los que están en los campos de las matemáticas y las estadísticas son propensos a describir la misma consideración mediante el uso de cadenas o incluso números binarios de 0 y 1. Si tiene un conjunto finito de símbolos, y hay una cadena infinita de ellos, por lo que cada símbolo tiene elegido uniformemente al azar, hay una cadena finita allí que casi seguramente podría anticipar que ocurrirá.

Hay una gran trampa en todo esto.

Vivimos en un mundo finito. Ninguno de nosotros parecería tener un tiempo infinito disponible. Para aquellos de ustedes que dicen que sí, felicitaciones. Me quito el sombrero ante usted.

Si impones el mundo finito a los monos que escriben, te encontrarás chocando contra una pared bastante dura. Los análisis del teorema del mono tipeador proferirán que la probabilidad de lograr el juego Hamlet está lo suficientemente cerca de cero en un tiempo finito que, por cualquier base operativa razonada, simplemente no es probable que suceda. La descripción habitual es que si usaste tantos monos como átomos hay en el universo conocido, y siguieron escribiendo durante millones de veces del lapso de tiempo del universo, todavía estás viendo probabilidades inconcebiblemente diminutas e insondables de ver el jugar Hamlet.

El teorema del mono que escribe es bastante divertido y, a menudo, se clasifica entre los siete mejores experimentos mentales de nuestro tiempo. Le invitamos a hacer un escrutinio adicional sobre el teorema, ya que hay muchos análisis disponibles en línea. Es una forma vívida y agradable de comprender la probabilidad y las estadísticas. En lugar de lidiar exclusivamente con números secos, puedes imaginar esos monos juguetones y amantes de la diversión y todas esas máquinas de escribir anticuadas.

Ahora estamos listos para llevar la IA generativa al enigma de los monos y las máquinas de escribir.

La IA generativa se irrita con los monos que escriben

La premisa que vamos a examinar de cerca es la polémica afirmación de que la IA generativa como ChatGPT no es diferente de los monos de tipeo. Se dice que si ChatGPT o cualquier IA generativa puede producir Hamlet u obras conocidas similares, este es un resultado completamente aleatorio que, por probabilidad, ha surgido de la misma manera que los monos podrían llegar a escribir esta obra de Shakespeare tan apreciada y profundamente reverenciada.

Lo siento, eso es un pensamiento erróneo sobre este tema de peso.

Veamos por qué.

Primero, repasemos y ampliemos en qué consiste la IA generativa.

Recuerde que anteriormente indiqué que la IA generativa es un software que implica el uso de algoritmos para entrenar datos en el texto que existe en Internet y a través de otras fuentes similares. Una amplia gama de coincidencias de patrones ha identificado patrones matemática y computacionalmente entre los millones y millones de narraciones y ensayos que los humanos hemos compuesto.

Las palabras no tienen un significado particular en sí mismas. Piense en ellos como objetos. Dentro de la computadora, se representan como números que denotamos como fichas. Se utilizan como un medio conveniente para asociar otras palabras o tokens entre sí, haciéndolo en una estructura similar a una red estadística profunda e intrincada.

Algunos en el campo de la IA están preocupados de que esto no sea más que lo que se conoce como un loro estocástico.

Verá, en lugar de tratar de conectar alguna apariencia de "significado" a las palabras, en cambio, esto es solo una indexación extensa de palabras que parecen usarse alrededor o junto a otras palabras. Por el contrario, asumimos que los humanos pueden “comprender” la naturaleza y el significado de las palabras.

Considere su acceso diario a la presencia de correspondencias palabra a palabra. De manera similar a cuando utiliza una función común de autocompletar en su software de procesamiento de texto, la computadora calcula matemáticamente que una palabra en particular generalmente es seguida por otra palabra en particular, que a su vez es seguida por otra palabra en particular, y así sucesivamente. Por lo tanto, a menudo puede comenzar a escribir una oración y el paquete de procesamiento de texto le mostrará una estimación de cuáles serán las palabras adicionales de la oración.

Es una conjetura porque, estadísticamente, estas pueden ser las palabras habituales de la oración, pero es posible que tenga algo más en mente para decir, por lo que la predicción está fuera de lo que quería escribir. Presumiblemente, existen suficientes otros ejemplos de oraciones que usan esas palabras para que el algoritmo pueda estimar que es probable que desee terminar la oración con las palabras predichas. Esto no es férreo. Además, no hay un "significado" asociado con esta conjetura computacional.

Algunos investigadores de IA argumentan que para lograr una verdadera IA, a menudo acuñada como Inteligencia Artificial General (AGI), tendremos que codificar de alguna manera en las computadoras una forma de "comprensión" aún descubierta o inventada (consulte mi columna para ver numerosas publicaciones sobre AGI y la búsqueda de AGI). Les preocupa que la manía por la IA generativa no sea más que un callejón sin salida. Seguiremos intentando impulsar más y más la IA generativa aumentando el tamaño de las redes computacionales y lanzando más y más poder de procesamiento informático al asunto. Todo eso será en vano cuando se trata de llegar a AGI, sostienen.

Un escrúpulo adicional es que tal vez esta búsqueda de un supuesto callejón sin salida nos distraiga del curso de acción correcto o apropiado. Gastaremos una energía y un esfuerzo inmensos hacia un estado final equivocado. Claro, la IA generativa puede ser sorprendente en el engaño de la imitación, pero podría ser que esto tenga poco o nada que ver con AGI. Podríamos engañarnos a nosotros mismos y desperdiciar un enfoque precioso. Podríamos retrasarnos o tal vez incluso no llegar a AGI debido a esta atractiva distracción.

De todos modos, para los propósitos de los monos de tipeo, volvamos a la pelea general.

Necesitamos considerar estos factores notables:

• 1) Consciente versus no sintiente
• 2) Pensar versus no “pensar”
• 3) Procesos de pensamiento limitados frente a algoritmos informáticos y coincidencia de patrones
• 4) No capacitado o incapaz de entrenar versus datos computacionales entrenados

Abordemos cada uno de esos factores.

Sensible versus no sensible

Creo que podemos conceder que los monos son seres sintientes. Independientemente de cuán inteligentes o faltos de inteligencia desee argumentar que son; innegablemente son conscientes. Es un hecho. Nadie puede afirmar razonablemente lo contrario.

La Inteligencia Artificial de hoy no es sensible. Punto, punto final.

Además, sostengo que no estamos ni cerca de la sensibilidad de la IA. Otros, por supuesto, podrían estar en desacuerdo. Pero cualquiera con una compostura razonable estaría de acuerdo en que la IA actual no es inteligente. Para mi análisis del etiquetado abismalmente erróneo de inteligencia de IA por parte de ese ingeniero de Google el año pasado, vea mi discusión en el enlace aquí.

Entonces, una diferencia crucial entre esos monos que escriben con entusiasmo y la IA generativa de hoy es que los monos son seres sintientes mientras que la IA no lo es. Además de esto, a menudo es una pendiente resbaladiza comenzar a comparar la IA de hoy con cualquier cosa sensible. Hay una tendencia a antropomorfizar la IA. Insto estridentemente a que para tratar de evitar que nos caiga esta trampa mental fácil, evitemos cualquier comparación entre la IA y los seres sintientes a menos que seamos sinceros e identifiquemos y demarquemos claramente y explícitamente esa diferencia.

Pocos, si es que hay alguno, hacen esa demarcación al comparar los monos tipificadores y la IA generativa. Suponen que ya te darás cuenta de que existe esta diferencia, o que no les importa que haya una diferencia, o que no han pensado en ello, etc.

Pensar versus no “pensar”

Diría que los monos pueden pensar. Son seres pensantes. Fácilmente podemos debatir cuánto pensamiento pueden hacer. Sin embargo, es casi seguro que debes estar de acuerdo en que los monos pueden pensar.

La IA actual de todo tipo, incluida la IA generativa, no está a la altura de lo que considero la capacidad humana de pensando.

Repetiré mi estribillo recién mencionado relacionado con la sensibilidad. Es engañoso y sostengo que es un error andar diciendo que la IA de hoy puede pensar. Lamentablemente, la gente hace esto todo el tiempo, incluidos los investigadores y desarrolladores de IA. Creo que esto es una vez más un antropomorfismo desafortunado y desacertado. Le estás dando una apariencia de capacidad o capacidades a la IA que no existen y que desinformarán a la sociedad en general sobre el asunto. Deja de hacer esto.

La IA generativa es una estructura compleja similar a una red de propiedades matemáticas y computacionales. es admirable Es una burla de lo que esto logra. No creo que ninguna interpretación razonable del "pensamiento" tal como lo concebimos, en todo su esplendor, corresponda a esta IA.

Procesos de pensamiento limitados frente a algoritmos informáticos y coincidencia de patrones

Los monos están limitados en sus procesos de pensamiento.

Puede que le resulte interesante que hay muchas comparaciones en la literatura científica de los cerebros de los monos frente a los cerebros de los humanos. Por ejemplo, considere este estudio de investigación: “El cerebro humano es aproximadamente tres veces más grande que el cerebro de nuestro pariente vivo más cercano, el chimpancé. Además, una parte del cerebro llamada corteza cerebral, que desempeña un papel clave en la memoria, la atención, la conciencia y el pensamiento, contiene el doble de células en los humanos que la misma región en los chimpancés. Las redes de células cerebrales en la corteza cerebral también se comportan de manera diferente en las dos especies” (en un artículo publicado en ELIFE, septiembre de 2016, titulado “Diferencias y similitudes entre progenitores neuronales humanos y chimpancés durante el desarrollo de la corteza cerebral”).

Todos nos damos cuenta de que los monos no están a la par con el pensamiento humano. Esas maravillosas criaturas pueden ser entrañables y hacer una cantidad sorprendente de pensamiento, sin duda. Simplemente no se elevan a los niveles del pensamiento humano. Me arrepentiré de decir esto, una vez que los simios se apoderen de la humanidad.

Ya expresé hace un momento que la IA de hoy no piensa. Hice hincapié en que lo que está haciendo la IA no debe etiquetarse como "pensar", ya que hacerlo es engañoso y confuso.

Aquí es donde la IA generativa eclipsa a los monos, en términos del uso de procesamiento informático basado en algoritmos ideados por humanos y basado en escritos producidos por humanos. Hay poca o ninguna posibilidad de que el mono pensante pueda absorber y hacer coincidir el patrón con el amplio uso de símbolos escritos que los humanos han ideado. Los monos no tienen ese tipo de capacidad de pensamiento.

Dudo en sugerir tal comparación, dados mis otros escrúpulos expresados. Pero, estoy afirmando claramente cuáles son los supuestos y cómo realizar este análisis de manera adecuada y adecuada.

Sin entrenamiento o incapaz de entrenar versus entrenamiento computacional de datos

De manera similar a lo que acabo de decir, no podrá entrenar a un mono pensante sobre el vasto uso de los símbolos escritos de la humanidad. Puede hacer esto de forma extremadamente limitada, y los estudios han demostrado que los monos aparentemente pueden pensar en símbolos escritos. Esto es mucho menos que poder memorizar y repetir extensos patrones de palabras, oraciones y narraciones completas.

La IA generativa es un mimetismo estadístico basado en computadora que puede ser entrenado computacionalmente con datos. Si seguimos alimentando más datos, como textos adicionales que recopilamos o encontramos, la suposición y la esperanza son que los patrones encontrados se vuelvan más y más profundos. Además, el uso de chips de computadora y procesamiento cada vez más rápidos también impulsará esta capacidad de respuesta y coincidencia de patrones.

Mirando el resultado final

Si la IA generativa produjera la obra Hamlet, ¿qué significaría eso?

Primero, tenemos que considerar si la historia o el juego se introdujeron o no en la IA generativa en el momento del entrenamiento de datos. Si es así, no hay nada especialmente notable o notable acerca de la IA generativa que más tarde emite las mismas palabras que había escaneado previamente.

Un investigador de IA podría estar un poco consternado porque la coincidencia de patrones presumiblemente se pasó de la raya, esencialmente habiendo memorizado las palabras. Usualmente nos referimos a esto en el ámbito del aprendizaje automático como sobreajuste a los datos que se utilizaron durante el entrenamiento. Por lo general, no desea que las palabras exactas sigan un patrón, sino que desea que se forme un patrón generalizado.

He discutido en mis columnas la preocupación de que a veces podamos ver intrusiones en la privacidad y la revelación de datos confidenciales en casos en los que la IA generativa hizo una coincidencia precisa en lugar de una coincidencia generalizada de datos alimentados, consulte mi cobertura en el enlace aquí.

En segundo lugar, supongamos que la obra Hamlet no se introdujo en la IA generativa. La próxima consideración entonces sería si alguna de las obras de Shakespeare había sido escaneada durante el entrenamiento de datos.

Si es así, es concebible que el juego Hamlet se podría producir en base a los patrones asociados con otras obras de Shakespeare, especialmente si hay otras referencias o menciones de Hamlet en otra parte del conjunto de entrenamiento de datos. Todos ellos podrían ser potencialmente utilizados por la combinación de patrones para formar un estilo de Hamlet. Es cierto que ser capaz de generar Hamlet palabra por palabra sería un alcance extendido, un resultado considerablemente revelador y sorprendente.

En tercer lugar, si la IA generativa produjera la totalidad de Hamlet y nunca antes me habían dicho nada sobre Shakespeare, bueno, eso sería asombroso. Sin embargo, no sería necesariamente lo mismo que la naturaleza puramente aleatoria de picotear las teclas de una máquina de escribir. Tenemos que darnos cuenta de que las palabras de Shakespeare son palabras, por lo tanto, son parte de la totalidad de las expresiones que se encuentran en la amplia gama de historias y narraciones de texto alimentadas en la IA generativa. Estás mejorando las probabilidades al comenzar con la piedra angular de las palabras y las asociaciones entre palabras. Aún así, las posibilidades son bastante escasas de que algo así suceda.

Conclusión

Cuando se trata de producir palabras y ensayos, la IA generativa se está convirtiendo en un gran éxito ya que se basa en palabras y ensayos ideados por humanos (por supuesto, debemos tratar directamente con los errores, las falsedades y las alucinaciones de la IA). La IA no “entiende” las palabras emitidas. No hay ninguna allí, allí.

No tiene que esperar un período de tiempo infinito para ver ensayos fluidos y resultados totalmente legibles. Suceden a diario y con solo tocar un botón. No están revueltos, al menos no la mayor parte del tiempo, debido a que son patrones producidos en base a lo que los humanos han escrito. La coincidencia de patrones debe ajustarse aún más y, finalmente, ser lo suficientemente buena como para reducir gran parte de las redacciones extrañas, vea mi explicación de cómo podría funcionar esto, que se muestra en el enlace aquí. Esta afinación se refinará continuamente, y todos estaremos cada vez más enamorados de lo que produce la IA generativa.

Las palabras no se eligen puramente al azar. Las palabras no se escriben puramente al azar. Hay algunos aspectos probabilísticos, como cuando se genera el ensayo de salida en cuanto a qué palabras seleccionar. Pero esto todavía se basa en escritos humanos y, por lo tanto, presumiblemente no es puramente aleatorio. Se basa en una elección aleatoria entre un puñado o un cierto número de opciones de redacción que, de lo contrario, podrían ser todas estadísticamente factibles como la siguiente palabra o conjunto de palabras elegido.

¿Dónde encajan los monos en esto?

Esos monos tipeadores seguramente son atractivos como base para la comparación con la IA generativa. producción de monos Hamlet frente a la producción de IA generativa Hamlet. Es un concurso apasionante. Se podría decir que en realidad no hay un concurso involucrado en absoluto. La IA que fue ideada por la humanidad y se basa en los escritos de la humanidad tiene una ventaja injusta en ese sentido.

Hablando de escribir monos, en un episodio de Los Simpsons, el Sr. Burns decide contratar monos para seguir adelante y escribir en máquinas de escribir como parte del equipo de mecanografía de la oficina. Él es el tipo de jefe cascarrabias que alegremente gravitaría hacia el uso de monos en su necesario trabajo de oficina sobre el uso de humanos si pudiera hacerlo.

Los fanáticos del programa pueden recordar lo que sucede.

El Sr. Burns agarra una de las páginas mecanografiadas y lee con ávida anticipación lo que ha escrito el mono. Lee la página en voz alta y dice: “Fue el mejor de los tiempos, fue el borroso of times” (es decir, hay una palabra que está mal, el “blurst” o algo así). Se enfurece por completo y se decepciona por completo con esos "monos estúpidos" en cuanto a lo que pueden producir.

Sabemos que si un mono escribiera esa parte de “Historia de dos ciudades” de Charles Dicken, deberíamos estar extasiados y saltando de alegría. No así para el Sr. Burns.

Como comentario final para esta discusión, tal vez deberíamos invocar la frase completa que escribió Charles Dickens: “Fue el mejor de los tiempos, fue el peor de los tiempos, fue la era de la sabiduría, fue la era de la insensatez, fue fue la época de la creencia, fue la época de la incredulidad, fue la estación de la luz, fue la estación de la oscuridad, fue la primavera de la esperanza, fue el invierno de la desesperación.”

No estamos muy seguros de hacia dónde nos dirigimos con la IA. Algunos dicen que va a ser lo mejor desde el pan de molde. Otros advierten que la IA que estamos creando será un riesgo existencial para la supervivencia de la humanidad. De hecho, es el mejor de los tiempos o el peor de los tiempos.

No se sorprenda al ver que la IA generativa genera esas mismas palabras. Sorpréndase si ve monos en un zoológico que por casualidad están escribiendo en máquinas de escribir y logran escribir las mismas palabras perspicaces.

Por favor, hágamelo saber si ve que eso sucede.

Estoy dispuesto a esperar mucho tiempo para que esto ocurra, pero probablemente no sea infinito.