Meta AI presenta un encanto diplomático infundido con IA que convierte la ética y la ley de IA en un Tiff poco delicado

El estimado mundo del encanto y la diplomacia a menudo se ve empañado por falta de delicadeza y descortesía.

Will Rogers, el gran humorista y comentarista social, dijo que la diplomacia es el arte de decir "buen perrito" hasta que puedas encontrar una piedra.

La implicación aparente es que a veces tienes que contener estridentemente cualquier fuerza inminente y peligrosa hasta que puedas descubrir una solución defendible adecuada. Haz lo que tengas que hacer cuando te encuentres en una situación desesperada. Aplaca deliberada y decididamente a aquellos que te ponen en peligro, usando tus palabras tranquilizadoras y cariñosas, obteniendo un tiempo precioso para armarte con una postura más práctica y abiertamente tangible.

ANUNCIO

Algunos afirman que la guerra es inextricablemente el resultado de una diplomacia fallida. En este punto de vista considerado, un constante redoble de diplomacia evitará la guerra. Sigue hablando y la pelea no comenzará. Otros discrepan fervientemente sobre una opinión tan problemática. Quizás, se dice, la diplomacia es de hecho lo que nos lleva a las guerras. Además de eso, podría ser que la diplomacia alargue las guerras y mantenga la lucha sin fin.

Le daremos a Will Rogers otra oportunidad de saborear un poco de humor en esta cuestión de si la diplomacia es buena o mala con respecto al advenimiento o la continuación de la guerra: “Saca la diplomacia de la guerra y la cosa se derrumbaría en una semana” (él supuestamente declarado).

La definición común de diplomacia enfatiza las relaciones entre las naciones. Los diplomáticos representan naciones particulares o estados-nación y ejercen la diplomacia cuando realizan sus sagrados deberes. Esperamos que nuestros diplomáticos lleven a cabo su política exterior mediante el uso del aplomo. El mensajero no debe ser el que despierte animosidad, solo el mensaje podría hacerlo. Una representación diplomática presumiblemente impecable de incluso el más atroz de los mensajes puede suavizar de manera demostrable el golpe que surge de una demanda o amenaza nociva.

ANUNCIO

Por supuesto, la diplomacia no se limita únicamente al noble trabajo de los diplomáticos formalizados. Me atrevo a decir que en nuestra vida diaria todos tenemos que habituarnos a alguna apariencia de diplomacia. Cuando desea que un amigo cuide a su amado perro mientras está en un viaje de negocios, lo más seguro es que presente diplomáticamente la solicitud para cuidar al perro. Hacer una demanda directa para hacerlo es probable que aterrice con un ruido sordo.

Probablemente siendo más arte que ciencia, la diplomacia es algo que los humanos usan para engrasar los patines, mantener las luces encendidas y evitar que la sociedad se vuelva totalmente loca. Las negociaciones vienen a jugar. Es posible que deba surgir un apaciguamiento. A veces usas la zanahoria, a veces usas el palo. Si tiene que hacerlo, puede probar la llamada diplomacia de las cañoneras, mediante la cual intenta intimidar a los que le rodean. O en lugar de la mano dura, puede optar por la mediación más suave y la ruta humanitaria. Todo depende.

De acuerdo, todos estamos razonablemente de acuerdo en que la diplomacia es una forma vital de comunicación entre humanos. Consiste en la práctica o el arte escénico asociado con el empleo del tacto, la mediación, la negociación, la conciliación y una gran cantidad de politiquería socialmente hábil.

ANUNCIO

Agreguemos algo más a esa ecuación.

¿Listo para iniciar?

Vamos a agregar algo más que quizás ya hayas considerado.

Inteligencia artificial (IA).

Sí, la IA se está metiendo en la táctica de la diplomacia. Esto parece completamente sensato. Si vamos a tener IA inmersa en todas las facetas de nuestras vidas, eventualmente la diplomacia tuvo su turno. Podríamos esperar que AI sea capaz de realizar cualquier tarea que tenga usando las palabras y los modales apropiados de la diplomacia.

ANUNCIO

AI como diplomático autónomo o semiautónomo.

Me doy cuenta de que puede parecer bastante desalentador y aterrador. No creo que ninguno de nosotros esté listo para que AI ande como representante de nuestros respectivos países. Imagine que AI actúa en nuestro nombre para negociar nuestras posiciones internacionales y afirmar nuestra postura política global. ¡Ay! Es el material de esas historias apocalípticas de ciencia ficción.

Bueno, respira un momento de alivio ya que eso no está en las cartas, por ahora.

En cambio, piense en la IA que usa para realizar sus operaciones bancarias o que lo ayuda a guiarse hacia la compra de una casa. La IA actual que interactúa con las personas suele ser bastante sencilla. Llegar a los hechos, sólo los hechos. Algunas IA se han congelado con una redacción cursi para hacerte pensar que es amigable o un amigo, aunque esto se ve rápidamente. El hecho de que un sistema de IA se refiera a usted por su nombre o emita palabras como "hola" en lugar de "hola", la mayoría de nosotros nos damos cuenta de inmediato de que se trata de una farsa.

El próximo paso que se persigue ávidamente en los pasillos de los desarrolladores de IA es tratar de infundir características diplomáticas en nuestra IA cotidiana. El objetivo general es incorporar aspectos programáticos que harán que la IA muestre la diplomacia y los comportamientos diplomáticos. Usando una variedad de algoritmos y especialmente lo último en IA generativa o Modelos de lenguaje grande (LLM), se está logrando un progreso notable en este frente.

ANUNCIO

Echaremos un vistazo a uno de esos ejemplos, CICERO, un nuevo sistema de IA lanzado por el equipo de Meta AI.

En caso de que estuviera de vacaciones y no se hubiera mantenido al día con las últimas noticias sobre IA, el reciente anuncio y la presentación de un sistema de IA acuñado como CICERO ofrece una señal importante de dónde se encuentra el campo de la diplomacia infundida con IA en estos días. Cuidadosamente y para su buen crédito, el equipo de Meta AI ha puesto a disposición abiertamente su sistema CICERO AI desarrollado. Puede leer los detalles técnicos en un artículo de investigación publicado en Ciencia:, consulte nuestra página, el enlace aquí. Puede visitar un sitio web que han creado para transmitir suavemente los matices generales de CICERO con breves videoclips para ilustrar lo que hace (ver el enlace aquí). Para aquellos de ustedes que buscan el software y el código del programa reales, pueden encontrar el código fuente en GitHub en el enlace aquí.

Quiero aclarar rápidamente un aspecto que puede parecer confuso si opta por profundizar en este asunto.

El sistema de IA particular ideado por Meta AI actualmente está configurado para jugar un juego algo popular conocido como Diplomacia (quizás hayas visto el juego de mesa según Hasbro y otros creadores de juegos). Menciono esto porque la palabra "diplomacia" tendrá una doble función en esta circunstancia. Por un lado, la IA diseñada intenta infundir características de la empresa y mostrar diplomacia per se. Por su parte, el escenario en el que se desarrolla este particular sistema de IA es cuando se juega en concreto y únicamente (por ahora) al famoso juego de mesa conocido como Diplomacia.

¿Ves cómo esto va a confundir potencialmente a algunas personas?

Si alguien le dice que esta IA en particular hace muy bien la "diplomacia", es posible que no esté seguro de si se está refiriendo a la noción de que la IA es bastante hábil para jugar el juego de mesa conocido como Diplomacia o quizás, en cambio, están sugiriendo que la IA encarna la esencia central asociada con el acto de diplomacia de la humanidad. Además, podría ser que ambas facetas estén pensadas al mismo tiempo (es decir, la IA juega bien Diplomacia y simultáneamente hace bien en poder ejercer o exhibir la diplomacia como una habilidad o acto).

ANUNCIO

Aquí, voy a tratar de aclarar esto poniendo en mayúscula la primera letra y mostrando en cursiva el nombre del juego de mesa, Diplomacia. El resto del tiempo usaré palabras sin cursiva de "diplomacia" como una indicación de la concepción general de ser diplomático o exhibir diplomacia (vea, acabo de hacer eso allí mismo).

Volviendo al asunto que nos ocupa, podría reflexionar por un momento si la IA que muestra diplomacia es algo que deberíamos desear o, en cambio, evitar.

Hay muchos aspectos positivos en lograr que la IA muestre la diplomacia. Sin embargo, estarías viviendo en una burbuja poco profunda si supusieras que la IA promulgando la diplomacia será total y exclusivamente algo bueno. La IA, que parece tener habilidades diplomáticas y puede hacernos creer que tiene diplomacia, también está plagada de problemas preocupantes que debemos sacar a la luz. En esencia, la IA utilizada de esta manera plantea un montón de preguntas sobre la ética y la ley de la IA. Para aquellos de ustedes interesados ​​en la ética de la IA y la ley de la IA, pueden echar un vistazo a mi cobertura extensa y continua de la IA ética y la ley de la IA en el enlace aquí y el enlace aquí, Sólo para nombrar unos pocos.

Antes de saltar a la IA como encarnación de alguna forma de diplomacia, primero me gustaría establecer una base esencial sobre la IA y, en particular, la ética y la ley de la IA, para asegurarme de que la discusión sea contextualmente sensata.

ANUNCIO

La creciente conciencia de la IA ética y también de la ley de IA

Inicialmente, se consideró que la era reciente de la IA era AI para siempre, lo que significa que podríamos usar la IA para el mejoramiento de la humanidad. En los talones de AI para siempre vino la realización de que también estamos inmersos en AI para mal. Esto incluye la IA que se diseña o se modifica a sí misma para que sea discriminatoria y toma decisiones computacionales imbuyendo sesgos indebidos. A veces, la IA se construye de esa manera, mientras que en otros casos se desvía hacia ese territorio adverso.

Quiero estar completamente seguro de que estamos en la misma página sobre la naturaleza de la IA de hoy.

Hoy en día no hay ninguna IA que sea inteligente. No tenemos esto. No sabemos si la IA sensible será posible. Nadie puede predecir acertadamente si lograremos una IA inteligente, ni si la IA inteligente surgirá milagrosamente de forma espontánea en una forma de supernova cognitiva computacional (generalmente conocida como la singularidad, vea mi cobertura en el enlace aquí).

El tipo de IA en el que me estoy enfocando consiste en la IA no consciente que tenemos hoy. Si quisiéramos especular salvajemente sobre la IA consciente, esta discusión podría ir en una dirección radicalmente diferente. Una IA consciente supuestamente sería de calidad humana. Debería tener en cuenta que la IA inteligente es el equivalente cognitivo de un ser humano. Más aún, dado que algunos especulan que podríamos tener una IA superinteligente, es concebible que dicha IA termine siendo más inteligente que los humanos (para mi exploración de la IA superinteligente como posibilidad, consulte la cobertura aquí).

ANUNCIO

Sugiero enfáticamente que mantengamos las cosas con los pies en la tierra y consideremos la IA computacional no sensible de hoy.

Tenga en cuenta que la IA actual no puede "pensar" de ninguna manera a la par del pensamiento humano. Cuando interactúa con Alexa o Siri, las capacidades conversacionales pueden parecer similares a las capacidades humanas, pero la realidad es que es computacional y carece de cognición humana. La última era de IA ha hecho un uso extensivo de Machine Learning (ML) y Deep Learning (DL), que aprovechan la coincidencia de patrones computacionales. Esto ha llevado a sistemas de IA que tienen la apariencia de inclinaciones similares a las humanas. Mientras tanto, no hay ninguna IA hoy en día que tenga una apariencia de sentido común y tampoco tenga el asombro cognitivo del pensamiento humano robusto.

Mucho cuidado con antropomorfizar la IA actual.

ML/DL es una forma de coincidencia de patrones computacional. El enfoque habitual es reunir datos sobre una tarea de toma de decisiones. Usted introduce los datos en los modelos de computadora ML/DL. Esos modelos buscan encontrar patrones matemáticos. Después de encontrar dichos patrones, si los encuentra, el sistema de IA utilizará esos patrones cuando encuentre nuevos datos. Tras la presentación de nuevos datos, los patrones basados ​​en los datos "antiguos" o históricos se aplican para tomar una decisión actual.

Creo que puedes adivinar hacia dónde se dirige esto. Si los humanos que han estado tomando decisiones modeladas han estado incorporando sesgos adversos, lo más probable es que los datos reflejen esto de manera sutil pero significativa. La coincidencia de patrones computacionales de Machine Learning o Deep Learning simplemente intentará imitar matemáticamente los datos en consecuencia. No hay apariencia de sentido común u otros aspectos conscientes del modelado creado por IA per se.

ANUNCIO

Además, es posible que los desarrolladores de IA tampoco se den cuenta de lo que está pasando. Las matemáticas arcanas en el ML/DL pueden hacer que sea difícil descubrir los sesgos ahora ocultos. Con razón esperaría y esperaría que los desarrolladores de IA probaran los sesgos potencialmente enterrados, aunque esto es más complicado de lo que parece. Existe una gran posibilidad de que, incluso con pruebas relativamente extensas, aún haya sesgos integrados en los modelos de coincidencia de patrones de ML/DL.

De alguna manera, podría usar el adagio famoso o infame de que la basura entra, la basura sale. La cuestión es que esto es más parecido a los sesgos que se infunden insidiosamente como sesgos sumergidos dentro de la IA. La toma de decisiones del algoritmo (ADM) de la IA se carga axiomáticamente de inequidades.

No está bien.

Todo esto tiene implicaciones notablemente significativas en la ética de la IA y ofrece una ventana útil a las lecciones aprendidas (incluso antes de que sucedan todas las lecciones) cuando se trata de intentar legislar la IA.

ANUNCIO

Además de emplear los preceptos de ética de la IA en general, existe la cuestión correspondiente de si deberíamos tener leyes que rijan los diversos usos de la IA. Se están promoviendo nuevas leyes a nivel federal, estatal y local que se refieren al alcance y la naturaleza de cómo se debe diseñar la IA. El esfuerzo por redactar y promulgar tales leyes es gradual. La ética de la IA sirve como un recurso provisional considerado, como mínimo, y es casi seguro que, hasta cierto punto, se incorporará directamente a esas nuevas leyes.

Tenga en cuenta que algunos argumentan categóricamente que no necesitamos nuevas leyes que cubran la IA y que nuestras leyes existentes son suficientes. Advierten que si promulgamos algunas de estas leyes de IA, estaremos matando a la gallina de los huevos de oro reprimiendo los avances en IA que ofrecen inmensas ventajas sociales.

En columnas anteriores, he cubierto los diversos esfuerzos nacionales e internacionales para elaborar y promulgar leyes que regulen la IA, ver el enlace aquí, por ejemplo. También he cubierto los diversos principios y pautas de ética de la IA que varias naciones han identificado y adoptado, incluido, por ejemplo, el esfuerzo de las Naciones Unidas, como el conjunto de ética de la IA de la UNESCO que adoptaron casi 200 países, ver el enlace aquí.

ANUNCIO

Aquí hay una lista clave útil de criterios o características de IA ética con respecto a los sistemas de IA que he explorado de cerca anteriormente:

• Transparencia
• Justicia y Equidad
• No maleficencia
• Corporativa
• Privacidad
• Beneficencia
• Libertad y Autonomía
• Confía en
• Sostenibilidad
• Dignidad
• Solidaridad

Se supone seriamente que esos principios de ética de la IA deben ser utilizados por los desarrolladores de IA, junto con aquellos que gestionan los esfuerzos de desarrollo de IA, e incluso aquellos que finalmente implementan y realizan el mantenimiento de los sistemas de IA.

Todas las partes interesadas a lo largo de todo el ciclo de vida de desarrollo y uso de la IA se consideran dentro del alcance de cumplir con las normas establecidas de IA ética. Este es un punto destacado importante ya que la suposición habitual es que "solo los codificadores" o aquellos que programan la IA están sujetos a adherirse a las nociones de ética de la IA. Como se enfatizó anteriormente en este documento, se necesita una aldea para diseñar y poner en práctica la IA, y para lo cual toda la aldea debe estar versada y cumplir con los preceptos de ética de la IA.

ANUNCIO

También examiné recientemente la Declaración de derechos de IA que es el título oficial del documento oficial del gobierno de EE. UU. titulado "Proyecto para una declaración de derechos de IA: hacer que los sistemas automatizados funcionen para el pueblo estadounidense" que fue el resultado de un esfuerzo de un año de la Oficina de Política Científica y Tecnológica (OSTP ). La OSTP es una entidad federal que sirve para asesorar al Presidente de los Estados Unidos ya la Oficina Ejecutiva de los Estados Unidos en diversos aspectos tecnológicos, científicos y de ingeniería de importancia nacional. En ese sentido, se puede decir que esta Declaración de Derechos de AI es un documento aprobado y respaldado por la actual Casa Blanca de EE. UU.

En la Declaración de derechos de AI, hay cinco categorías clave:

• Sistemas seguros y efectivos
• Protecciones de discriminación algorítmica
• Privacidad de datos
• Aviso y explicación
• Alternativas humanas, consideración y respaldo

He revisado cuidadosamente esos preceptos, mira el enlace aquí.

ANUNCIO

Ahora que he sentado una base útil sobre estos temas relacionados con la ética de la IA y la ley de la IA, estamos listos para saltar al tema embriagador de la diplomacia basada en máquinas con infusión de IA.

Diplomacia de IA en todo su esplendor y también posible caída

Primero, establezcamos que el tipo de IA que se considera aquí es la IA no sensible.

Digo esto porque si, o dicen algunos cuando llegamos a la IA sensible, es probable que todo el tema cambie por completo. Imagine el caos potencial y la confusión social por haber aterrizado de alguna manera en lo que de otro modo nunca antes se había visto, incuestionablemente verificado. artificial inteligencia que encarna la sensibilidad (para mi análisis de una famosa prueba de IA conocida como la Prueba de Turing, ver el enlace aquí). Puede hacer una apuesta razonada de que muchas de nuestras normas culturales, legales y cotidianas existentes se verán enormemente sacudidas hasta su núcleo.

Tal vez la IA consciente sea nuestro amigo, o tal vez la IA sensible sea nuestro peor enemigo. ¿Cómo podremos saber en qué dirección irá la IA?

Es posible que sienta la tentación de sugerir que presumiblemente podremos hablar con la IA y descubrir por lo que dice las intenciones que tiene. Ajá, has caído en una trampa desconcertante. Supongamos que la IA está especialmente bien infundida con alguna forma de capacidades diplomáticas de IA. Cuando intentes hablar con la IA, quizás te hable en los términos más encantadores y elocuentes. Esto podría ser muy relajante para la humanidad.

ANUNCIO

Pero, ¿es eso lo que la IA realmente tiene "en mente" con respecto a sus intenciones computacionales basadas en la IA?

La IA podría estar haciendo el clásico golpe diplomático uno-dos. Habla un buen juego y haznos creer que la IA es nuestro mejor amigo. Esto podría estar dando tiempo a la IA para acumular recursos para superar a la humanidad o tal vez trabajar diligentemente detrás de escena para socavar todo lo demás que usamos para sostener a la humanidad. Después de ese inteligente puesto diplomático, zas, la IA nos deja inconscientes a todos.

Recuerde lo que dijo Will Rogers, que en este caso podría ser que la IA nos dice "Buen perrito" y le damos a la IA suficiente espacio para respirar para luego borrarnos del planeta. Esta concepción de la IA como un riesgo existencial se ha difundido durante mucho tiempo. Algunos creen que al diseñar IA con diplomacia infundida, nos van a engañar. La IA utilizará astutamente todas las cosas de diplomacia infundidas, en las que ayudamos a entrenar a la IA, y al final, seremos engañados ciegamente para que la IA se convierta en nuestro señor supremo.

La culpa es nuestra.

Para aquellos de ustedes que estén más interesados ​​en este terreno altamente especulativo sobre una IA futurista, vean mi cobertura de las perspectivas sobre la IA como una amenaza existencial en el enlace aquí.

ANUNCIO

Volviendo a la tierra, enfatizaré de ahora en adelante la avenida de la diplomacia infundida por IA en nuestra IA no consciente existente.

Hagamos un poco de rastreo histórico.

Los intentos de diseñar una IA que de alguna manera incorpore un sabor computacional de la diplomacia y los comportamientos diplomáticos han estado ocurriendo desde los primeros días de la IA. Puede volver fácilmente a las décadas de 1950, 1960 y 1970 y encontrar estudios de investigación fundamentales que estaban ansiosos por aplicar la IA a este dominio. Algunos pensaron que la teoría de juegos era la clave. Otros se centraron en la psicología y elementos cognitivos relacionados. Otros intentaron aprovechar la economía, la investigación de operaciones y una miríada de campos de actividad aparentemente pertinentes.

Un apogeo inicial más tarde se produjo durante la década de 1980. En ese momento, un enfoque dominante consistía en utilizar Sistemas Expertos (ES) o Sistemas Basados ​​en el Conocimiento (KBS) para construir sistemas de IA relacionados con la diplomacia. El resultado fue bastante forzado y tendía a demostrar cuán difícil iba a ser esta tarea.

ANUNCIO

Un enigma persistente a lo largo de esta era de investigación inicial fue la necesidad de una plataforma firme sobre la cual, o dentro de la cual, una IA que supuestamente podía desempeñarse en algunas formas relacionadas con la diplomacia pudiera probarse y explorarse adecuadamente. Esta necesidad es quizás obvia. Si alguien quiere discernir si un ser humano o una IA pueden ejercer la diplomacia, se debe establecer un entorno propicio para esta búsqueda.

En esta imagen viene el juego de mesa de Diplomacia.

Me doy cuenta de que el juego de mesa Diplomacia no es tan conocido como Monopolio, Riesgoo Estratega (Es probable que hayas oído hablar de esos juegos). No obstante, existe un juego de mesa estratégico conocido como Diplomacia que se ideó por primera vez en 1954 y se lanzó comercialmente en 1959. Además de jugarse cara a cara, el Diplomacia el juego a menudo se jugaba por correo postal. Escribirías tus movimientos en una hoja de papel y enviarías la hoja por correo a aquellos contra los que estabas jugando. Un poco loco imaginar hoy en día. Más tarde, se utilizó el correo electrónico. Eventualmente, el juego estuvo disponible en línea y permitió a los jugadores participar en tiempo real entre ellos.

Sobre la Diplomacia juego disponible en microcomputadoras, los especialistas en IA comenzaron a utilizar el juego como un medio útil para probar sus brebajes diplomáticos infundidos con IA. los Diplomacia el juego estaba disponible como una aplicación que se ejecutaba en PC, de modo que un humano podía jugar contra la máquina (es decir, la IA diseñada). IA en la década de 1990 que fue escrita para jugar Diplomacia era notoriamente lento, críptico y fácil de vencer por cualquier humano mínimamente inteligente en juegos.

ANUNCIO

He aquí una revisión de 1999 de Diplomacia como se publicó en Yahoo, que describió vívidamente el triste estado de aflicción de la capacidad de diplomacia infundida por IA como oponente de un jugador humano:

• "Sin embargo, DiplomaciaEl problema más evidente es que la inteligencia artificial en el juego es absolutamente terrible. Los jugadores de cualquier nivel de habilidad no tendrán ningún problema para cazar ballenas en la computadora incluso en la configuración de dificultad más alta. La victoria es simplemente una cuestión de tiempo y paciencia con la interfaz. No es que la computadora no planee a sus espaldas, lo hace, y a menudo se asocia con aliados para arrebatarle uno o dos territorios, pero esos esquemas vienen a trancas y comienzos, en lugar de como un proceso continuo o particular. amenaza desafiante.”

Una debilidad especialmente irritante del diseño de la IA era que parecía carecer de la capacidad de calcular múltiples movimientos o estrategias a la vez: “Y en un nivel más básico, la computadora parece incapaz de gestionar múltiples movimientos estratégicos. Mientras que un jugador humano puede lanzar ataques contra Grecia y Bélgica simultáneamente, la computadora siempre parece enfocarse en una sola cosa a la vez. Por esta razón, la computadora simplemente no puede competir contra un jugador humano” (ibíd.).

Todavía no te he explicado cuál es el Diplomacia juego de mesa consiste en, así que tomemos un momento para establecer las reglas básicas.

Hay un trabajo de investigación útil sobre la IA y el juego. Diplomacia que describió sucintamente la naturaleza del juego: “El juego tiene lugar en un mapa de Europa en el año 1901, que está dividido en 75 Provincias. Cada jugador juega una de las siete grandes potencias de la época: Austria (AUS), Inglaterra (ENG), Francia (FRA), Alemania (GER), Italia (ITA), Rusia (RUS) y Turquía (TUR) y cada jugador comienza con tres o cuatro unidades (ejércitos o flotas) que se colocan en posiciones iniciales fijas en el mapa. En cada ronda del juego, cada jugador debe 'enviar una orden' para cada una de sus unidades, que les indica cómo moverse por el mapa y les permite conquistar las provincias del mapa” (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita y Takayuki Ito, “El desafío de la negociación en el juego de la diplomacia”, Acuerdo Tecnologías: 6ª Conferencia Internacional, A LAS 2018)

ANUNCIO

También necesita conocer las formas de ganar y perder el juego: “Algunas de las Provincias se llaman Centros de Abastecimiento y el objetivo de los jugadores es conquistar esos Centros de Abastecimiento. Un jugador es eliminado cuando pierde todos sus Centros de Abastecimiento y un jugador gana el juego cuando ha conquistado 18 o más de los 34 Centros de Abastecimiento (una Victoria en Solitario). Sin embargo, el juego también puede terminar cuando todos los jugadores sobrevivientes acuerden un empate” (ibíd.).

confío en que puedas ver eso Diplomacia es un juego sencillo en el que participan hasta siete jugadores que intentan superar estratégicamente a los demás. Durante esta maniobra, los jugadores pueden consultar entre sí, sin que los otros jugadores sepan lo que están haciendo. El acto de la diplomacia pasa a primer plano al poder hacer que otros jugadores sigan tus planes. Puede que reveles tus verdaderos planes, o puede que no. Podría ofrecer planes falsos. Puedes negociar con otros jugadores. Puedes engañar a otros jugadores. Puedes forjar alianzas con otros jugadores. Etc.

Todo vale en el amor y en la guerra, como dicen.

Seleccioné ese artículo de investigación en particular porque fue fundamental para establecer una variante de la versión computarizada de Diplomacia a través de DipJuego para servir como una plataforma de avance para probar las capacidades de diplomacia infundidas con IA: “Hay una falta crónica de dominios de aplicaciones compartidas para probar modelos de investigación avanzados y arquitecturas de negociación de agentes en sistemas multiagente. En este documento, presentamos un banco de pruebas amigable para ese propósito. El banco de pruebas se basa en El juego de la diplomacia donde la negociación y las relaciones entre los jugadores juegan un papel fundamental” (ibíd.). Esta y muchas otras variaciones de Diplomacia han sido elaborados y puestos a disposición para la investigación y el juego.

ANUNCIO

Los investigadores explicaron por qué creían que Diplomacia es un juego tan útil para ayudar en la búsqueda de la IA hacia la diplomacia infundida por la IA: "El juego de Diplomacia constituye un excelente caso de prueba para este tipo de negociaciones complejas, ya que es un juego que incluye muchas de las dificultades que uno también tendría que enfrentar en las negociaciones de la vida real. Implica satisfacción de restricciones, formación de coaliciones, teoría de juegos, confianza e incluso psicología. Ahora que las modernas computadoras Chess and Go ya son muy superiores a cualquier jugador humano, esperamos que Diplomacia comenzará a llamar más la atención como el próximo gran desafío para las ciencias de la computación” (ibíd.).

En un resumen rápido, el juego de mesa Diplomacia proporciona un vehículo ya conocido y algo popular para lograr que los humanos actúen de diversas formas diplomáticas. Normalmente, los humanos juegan contra otros humanos (en este caso, hasta siete jugadores humanos). Podemos diseñar una IA que intente asumir el papel de un jugador en el juego. Por lo tanto, podrías tener seis jugadores humanos y un jugador de IA.

Imagina jugar Diplomacia en línea.

Si no les decimos a los jugadores humanos que hay una IA entre ellos, naturalmente podrían asumir que el séptimo jugador es simplemente otro jugador humano. Para tratar de evitar que cualquier jugador humano adivine que la IA está jugando, podemos restringir los aspectos del juego para requerir que todos los jugadores se envíen mensajes de texto entre sí. No puedes ver directamente a los otros jugadores.

ANUNCIO

Quizás estés pensando que esto no parece especialmente diferente de jugar al ajedrez en línea. ¿Por qué tanto alboroto sobre Diplomacia como un juego?

Recuerde que nos estamos centrando en las interacciones entre los jugadores. La premisa de este juego es que los jugadores invoquen la diplomacia entre sí. Esto es diferente al ajedrez convencional. Si desarrollara una aplicación de ajedrez basada en IA, normalmente jugaría contra un humano. No hay negociación o discusión entre la IA que juega al ajedrez y el jugador humano. Simplemente hacen movimientos de ajedrez y tratan de superarse unos a otros. Esto generalmente se hace en completo silencio.

Diplomacia nos permite ejercer una diplomacia computacional abierta y basada en humanos (posiblemente hacerlo por escrito en lugar de tener que decirlo en voz alta): “La principal diferencia entre Diplomacia y otros juegos deterministas como Chess and Go, es que en Diplomacy los jugadores pueden negociar entre sí y formar coaliciones. En cada ronda, antes de que los jugadores envíen sus órdenes, se les da tiempo para negociar entre ellos y llegar a acuerdos sobre las órdenes que enviarán. Las negociaciones tienen lugar en privado, y cada acuerdo que se hace sólo es conocido por los actores involucrados en ese acuerdo” (ibíd.).

¿Podría pensar en algún otro juego que haga uso de la diplomacia interactiva en lugar de depender del juego? Diplomacia?

Absolutamente.

ANUNCIO

Hay varios juegos de este tipo.

Sin embargo, la conveniencia de elegir una marca particular de un juego es que los desarrolladores de IA pueden centrar su atención en ese juego específico. Puede unirse para diseñar una IA que realice la diplomacia en ese contexto definido. Puedes compartir enfoques y contrastarlos. Puede puntuar las diversas instancias de IA en función de las métricas asociadas con ese juego. Y así.

Dicho esto, el contraargumento o la preocupación expresada es que esto es como poner todos los huevos en la misma canasta. A algunos les preocupa que si muchos desarrolladores de IA se preocupan por una plataforma o entorno en particular, como en este caso Diplomacia, buscarán optimizar la IA para esa arena específica. La implicación negativa es que la IA no se generalizará. No progresaremos tanto hacia las capacidades generales de la diplomacia infundida por IA.

Algo así como no poder ver el bosque por los árboles, por así decirlo.

Otra preocupación expresada con frecuencia es que juegos como Diplomacia son meros juegos.

ANUNCIO

Surge la pregunta espinosa de si los humanos que juegan un juego están haciendo las mismas cosas que harían en la diplomacia del mundo real. Tal vez usted no está actuando de la misma manera cuando el orgullo nacional o las apuestas nacionales no están en juego. Claro, es posible que le preocupe su orgullo personal cuando juega un juego, o tal vez tratar de convertirse en el máximo goleador, o tal vez incluso ganar premios en metálico, pero aún así, ¿eso equivale a negociar la paz mundial en las Naciones Unidas o regatear sobre qué países? debe tener o no tener armas nucleares.

Algunos creen que estos juegos de diplomacia son microcosmos adecuados del mundo real. Otros lamentan que los juegos sean útiles, pero que no estén a la altura de la proverbial diplomacia de la goma en el camino de calibre internacional. Podría ser que las versiones de juego de la diplomacia infundida con IA resulten ser nada más que un mero éxito de juego. Dios, la IA diseñada puede ganar o hacerlo muy bien cuando se juega un juego que involucra la diplomacia, aunque resulta que el uso de la misma IA en entornos diplomáticos reales es muy deficiente y falla o falla miserablemente.

Supongamos por el momento que la IA está diseñada para jugar juegos como Diplomacia de hecho vale la pena. Se podría argumentar razonablemente que no importa si es adecuada solo para jugar o para la acción del mundo real, la idea implica ampliar los límites de la IA y hacer avances en la IA que podrían contribuir a la diplomacia o podrían tener otros avances ventajosos en la acuñación de la IA.

ANUNCIO

Favorece la cara sonriente por ahora.

A continuación, examinaremos cómo Meta AI ha optado por crear un jugador de diplomacia infundido con IA que pueda desempeñarse en el juego de Diplomacia.

Aférrense a sus sombreros.

Meta AI y la diplomacia jugando al diplomático Cicero basado en máquinas

Como se mencionó anteriormente, hay un trabajo de investigación publicado en Ciencia: que describe la aplicación Meta AI recientemente anunciada y lanzada al público acuñada como Cicero (a lo largo de esta discusión me referiré indistintamente a esto como "Cicero" e igualmente el apodo en mayúsculas de "CICERO"):

ANUNCIO

• “Presentamos a Cicero, un agente de IA que logró un desempeño a nivel humano en el juego de estrategia Diplomacia. En Diplomacia, siete jugadores llevan a cabo negociaciones privadas de lenguaje natural para coordinar sus acciones con el fin de cooperar y competir entre sí. Por el contrario, los grandes éxitos anteriores de la IA multiagente han sido en entornos puramente conflictivos, como el ajedrez, el Go y el póquer, donde la comunicación no tiene ningún valor. Por estas razones, Diplomacia ha servido como un punto de referencia desafiante para el aprendizaje de múltiples agentes” (Meta Fundamental AI Research Diplomacy Team, “Human-Level Play In The Game Of Diplomacy By Combining Language Models With Strategic Reasoning”, Ciencia:22 de noviembre de 2022).

Citaré del documento y luego ofreceré varias ideas que espero sean de su interés.

Dado que la IA acaba de estar disponible, es probable que realice un análisis posterior después de haber tenido la oportunidad de realizar una evaluación práctica profunda del código y también realizar algunos juegos experimentales para medir las capacidades de la IA (como fortalezas y debilidades clave).

¡Esté atento a esa publicación posterior!

De todos modos, confío en que habrás observado en el pasaje que acabo de citar que hay una frase que dice que la IA "alcanzó un rendimiento a nivel humano en el juego de estrategia". Diplomacia."

ANUNCIO

Reflexiona sobre eso.

En primer lugar, es sin duda loable haber podido diseñar una IA que juega el papel de Diplomacia juego en un supuesto nivel de rendimiento similar al de los humanos. Eso es muy importante.

Tenemos muchos Diplomacia jugando AI que es mediocre en comparación con los humanos que juegan el Diplomacia juego. Más de lo que puedes sacudir un palo. Es tranquilizador y emocionante avanzar hacia la IA que puede jugar mucho mejor. Sin embargo, debemos ser cautelosos al saltar a cualquier conclusión rápida sobre esto.

Por ejemplo, supongamos que hubiera ideado una IA para jugar Diplomacia y lo enfrenté contra jugadores humanos que nunca antes habían jugado el juego. Si mi IA los supera, sería un poco exagerado decir que mi IA se ha desempeñado a nivel humano. El hecho de que lo hiciera con humanos que no estaban familiarizados con el juego es algo dudoso y sorprendente.

ANUNCIO

Menciono esto para advertirle que siempre inspeccione de cerca cualquier afirmación aparentemente exagerada sobre la IA. La discusión anterior sobre la ética de la IA y la ley de la IA quizás le abra los ojos a la posibilidad de afirmaciones falsas sobre la IA. Hay afirmaciones totalmente falsas y hay aquellas afirmaciones insidiosas parcialmente verdaderas y parcialmente engañosas que son particularmente espinosas. La clave es preguntarse por qué lo hacen quienes hacen afirmaciones sobre su IA.

¿Dónde está la carne?

Esto es lo que el equipo de Meta AI dijo sobre la base de su afirmación de rendimiento a nivel humano (consulte el documento para obtener más detalles):

• “Cicero participó de forma anónima en 40 juegos de Diplomacy en una liga “blitz” en webDiplomacy.net del 19 de agosto al 13 de octubre de 2022. Esta liga jugó con turnos de negociación de cinco minutos; estos controles de tiempo permitieron que los juegos se completaran en dos horas. Cicero se ubicó en el 10% superior de los participantes que jugaron más de un juego y en el segundo lugar de 2 participantes en la liga que jugaron 19 o más juegos. En los 5 juegos, la puntuación media de Cicero fue del 40 %, más del doble de la puntuación media del 25.8 % de sus 12.4 oponentes. Como parte de la liga, Cicero participó en un torneo de 82 juegos en el que participaron 8 participantes, 21 de los cuales jugaron al menos 6 juegos. Los participantes podían jugar un máximo de 5 juegos con su clasificación determinada por el promedio de sus 6 mejores juegos. Cicerón quedó en primer lugar en este torneo” (ibíd.).

ANUNCIO

Es un gran alivio ver que han tratado seriamente de respaldar sus afirmaciones de AI en este caso (tenga en cuenta que no todos en AI lo hacen).

Podría sugerir que realizaron un experimento. El experimento consta de jugadores humanos que presumiblemente no sabían que estaban jugando con un jugador de IA en medio de ellos (el documento analiza por qué esto parecía inferirse de manera plausible, a saber, que los humanos no se dieron cuenta abiertamente de que uno de los jugadores era IA, aunque una tangente lateral interesante implica la historia de un jugador que sospechó levemente pero no notablemente). Esos jugadores humanos fueron preseleccionados por la naturaleza del diseño experimental de modo que fueran jugadores de liga de Diplomacia y podemos inferir razonablemente que sabían bien cómo jugar el juego. No eran novatos.

De acuerdo con las estadísticas informadas, que tomaremos al pie de la letra como antiguas y debidamente recopiladas e informadas (se proporcionan varios datos y códigos en los materiales complementarios), la IA parecía haber jugado el juego lo suficiente como para llegar a una conclusión plausible aunque limitada. que alcanzó un nivel humano de rendimiento para esta variante del Diplomacia juego y como dentro del contexto del juego de liga declarado contra humanos que aparentemente eran jugadores versados.

Estoy seguro de que algunos de ustedes querrán cuestionar el número de instancias de juego, tal vez argumentando que es demasiado pequeño para hacer proclamaciones audaces. Otra objeción podría ser que estar dentro del 10% superior de los participantes no es lo suficientemente alto, de modo que hasta que tal vez se alcance el 1% superior uno no debería alardear sobre el rendimiento de la IA.

ANUNCIO

Esas sutilezas parecen un poco estridentes.

Digo eso porque afortunadamente no se invocó el reclamo de ser "sobrehumano". Los lectores, sin duda, saben de mi opinión agria y agria de aquellos en la IA que siguen haciendo esos pronunciamientos desmesurados de que su IA ha alcanzado un estado sobrehumano. No entraré en mis quejas sobre los reclamos de clamores sobrehumanos aquí, por favor vea el enlace aquí por mis puntos de vista.

Mi punto en este caso es que creo que la indicación del desempeño a nivel humano probablemente sea permisible en general, suponiendo que todos tengan en cuenta que esto está dentro de un contexto extremadamente estrecho y que no tratamos de convertir esto en lo que se llama sobrehumano. También estoy repitiendo una y otra vez el contexto limitado por una razón que aclararé a continuación.

Puedo imaginar que algunos reporteros ingenuos (posiblemente de mala reputación) de las redes sociales sacarán completamente de contexto la concepción del desempeño a nivel humano.

Esto es lo que temo.

ANUNCIO

Aguanta la respiración

Algunos afirmarán que AI ha dominado la diplomacia. Sí, un estudio de un sistema de IA desarrollado para la diplomacia demostró sin lugar a dudas que la IA puede y ahora tiene la capacidad de hacer todo lo que los humanos hacen por la diplomacia.

Envíe a casa a los diplomáticos extranjeros. Podemos reemplazarlos con IA.

El mundo como lo conocemos ha cambiado. Hemos producido una IA que es completamente igual a los humanos en la diplomacia, y podemos dar el salto mental "lógico" a la idea de que la IA ahora puede hacer lo que los humanos pueden hacer. Voila, ahora hemos demostrado que la IA está a la par con los humanos. Aparentemente, este estudio proporciona evidencia clara de inteligencia artificial inteligente.

Recuerde mis palabras, esto definitivamente va a ser la versión extraña, irresponsable e irritante de algunos escritores.

No insistiré en el punto. Seguimos adelante.

ANUNCIO

¿Cómo funciona la IA?

He aquí un breve resumen del artículo: “Cicero combina un módulo de diálogo controlable con un motor de razonamiento estratégico. En cada punto del juego, Cicero modela cómo es probable que actúen los otros jugadores según el estado del juego y sus conversaciones. Luego planifica cómo los jugadores pueden coordinarse para su beneficio mutuo y mapea estos planes en mensajes de lenguaje natural” (ibíd.).

Hay un bocado en ese resumen rápido.

Permítanme hacer un poco de desembalaje.

Un jugador humano que juega Diplomacia tiene que anticipar lo que van a hacer los otros jugadores humanos. Desea intentar negociar con otros jugadores y hacer que sigan sus planes. Intentarán hacer lo mismo contigo. Puede que te estén mintiendo. Puede que les estés mintiendo. Tienes que lidiar con otros seis jugadores, todos los cuales tienen su propia apariencia de planes y enfoques.

ANUNCIO

Los aspectos multiagente de este juego son vitales para el nivel de dificultad de diseñar IA para jugar. La IA tiene que hacer un seguimiento de lo que cada persona podría querer hacer, junto con lo que dice que quiere hacer, junto con cualquier truco que esté haciendo con otros jugadores. Esto tiene que sopesarse con lo que te dicen que van a hacer, y también con lo que les dices que harás.

Vertiginoso, pero bastante fácil para los humanos, por lo general.

En el lenguaje del campo de la IA, nos referimos a esto como la Teoría de la Mente (ToM). Considere que usted, como humano, tiende a teorizar sobre lo que otros humanos están pensando. No puedes abrir la cabeza de alguien y ver sus pensamientos. Tienes que adivinar cuáles son sus pensamientos. Puede preguntarles, pero lo que le digan podría ser sus pensamientos o podría ser una versión furtiva de sus pensamientos.

Además de las complejidades de la Teoría de la Mente, necesitamos agregar el lenguaje humano a esta mezcla turbia.

Cuando una persona se comunica con usted en su idioma natural, digamos inglés, hay mucho espacio para errores y falta de comunicación. Te digo que me voy a apoderar del país X, pero por error digo Y. Oopsie. ¿O dije el país X, pero pensaste erróneamente que dije el país Y? Si crees que ese tipo de confusión no puede ocurrir si todos usan mensajes de texto, estarías muy equivocado. Podría escribir un mensaje que dice que voy a atacar un país y no menciono cuál. Tal vez esté implícito a cuál atacaría "obviamente". Un jugador que reciba mi mensaje podría suponer que me debo referir implícitamente al país X, pero tal vez quería que pensaran eso.

ANUNCIO

Y así sigue y sigue.

El quid es que nuestros últimos avances en IA con respecto al procesamiento del lenguaje natural (NLP), y especialmente lo último en IA generativa y modelos de lenguaje extenso (LLM), hacen que este tipo de situación de lenguaje natural sea casi factible. En el pasado, la PNL no solía ser lo suficientemente buena y, del mismo modo, los LLM aún no estaban mejor establecidos.

En el pasado, la IA enviaba mensajes que casi con certeza reconocería de inmediato como escritos por un sistema de IA con secuencias de comandos. La redacción no era fluida. Fue moldeado. Este fue un obsequio obvio de que la IA era una IA. Hoy en día, es mucho más difícil discernir que la IA no es un jugador humano en estos contextos.

Como se mencionó en la cita anterior, esta IA en particular ha sido diseñada para contener un "módulo de diálogo controlable con un motor de razonamiento estratégico" (ibíd.). El diálogo viene a través de esto: “Cicero genera diálogo utilizando un modelo de lenguaje pre-entrenado que fue entrenado en datos de diálogo de juegos humanos de Diplomacia. Fundamentalmente, además de basarse tanto en el historial del diálogo como en el estado del juego, el modelo de diálogo se entrenó para ser controlable a través de intentos, que aquí definimos como un conjunto de acciones planificadas para el agente y su interlocutor”.

ANUNCIO

Allí, observe que la configuración del dominio es crucial. Si solo entrenó en diálogos de naturaleza normal a través de Internet, esto no sería necesariamente adecuado para el Diplomacia contexto del juego. Aquellos que juegan el juego están acostumbrados a una forma abreviada de discutir el juego y los movimientos propuestos. Quieres que la IA haga lo mismo. Por lo tanto, entrenar el modelo de lenguaje en datos de diálogo específicos del dominio es un enfoque digno de mención.

Para el motor de razonamiento estratégico mencionado, esto es lo que dicen: “Cicero usa un módulo de razonamiento estratégico para seleccionar intenciones y acciones de manera inteligente. Este módulo ejecuta un algoritmo de planificación que predice las políticas de todos los demás jugadores en función del estado del juego y el diálogo hasta el momento, teniendo en cuenta tanto la fuerza de las diferentes acciones como su probabilidad en los juegos humanos, y elige una acción óptima para Cicero en función de esas predicciones. . La planificación se basa en una función de valor y política entrenada a través de RL autoejecutable que penaliza al agente por desviarse demasiado del comportamiento humano para mantener una política compatible con humanos” (ibid; tenga en cuenta que RL es una abreviatura de Aprendizaje por refuerzo).

Durante un juego, todos los jugadores están recalibrando sus posiciones después de cada movimiento. No puedes entrar en este juego con una estrategia fija predefinida que es inflexible y está grabada en piedra. Tienes que cambiar tus acciones en función de lo que hacen los otros jugadores. La IA debería estar programada para hacer lo mismo. Ninguna estrategia estática per se. En su lugar, sigue informando de la situación, paso a paso, averiguando cuáles parecen ser los próximos mejores pasos a seguir.

Los fundamentos tecnológicos de la IA se diseñaron de esta manera: “Obtuvimos un conjunto de datos de 125,261 juegos de Diplomacia jugado en línea en webDiplomacy.net. De estos, 40,408 juegos contenían diálogo, con un total de 12,901,662 mensajes intercambiados entre jugadores. Las cuentas de los jugadores se desidentificaron y webDiplomacy realizó una redacción automatizada de la información de identificación personal (PII). En lo sucesivo, nos referiremos a este conjunto de datos como WebDiplomacy” (ibid).

De manera similar a cómo puede entrenar a la IA para jugar al ajedrez, mediante el cual obtiene millones de juegos de ajedrez y hace que la IA haga coincidencias de patrones sobre cómo se jugaron los juegos, la IA para esto Diplomacia el juego se estableció de manera comparable.

Aquellos de ustedes que son versados ​​en IA pueden tener curiosidad sobre qué modelos base usaron, aquí tienen: "Tomamos R2C2 (22) como nuestro modelo base: un modelo de codificador-decodificador basado en transformador de parámetros 2.7B entrenado previamente en texto de Internet utilizando un objetivo de eliminación de ruido de BART. El modelo base preentrenado luego se entrenó más en WebDiplomacy a través de la Estimación de máxima probabilidad estándar” (ibíd.).

Además, adoptaron un enfoque un tanto inusual e intrigante para el modelado de los otros jugadores en cuanto a sus políticas imputadas en mente: “Un enfoque popular en los juegos cooperativos es modelar las políticas de los otros jugadores a través del aprendizaje supervisado en datos humanos, que comúnmente es conocida como clonación conductual (BC). Sin embargo, el BC puro es frágil, especialmente porque un modelo supervisado puede aprender correlaciones espurias entre el diálogo y las acciones. Para abordar este problema, Cicerón utilizó variantes de piKL (26) para modelar las políticas de los jugadores. piKL es un algoritmo iterativo que predice políticas asumiendo que cada jugador i busca tanto maximizar el valor esperado de su política πi como minimizar la divergencia KL entre πi y la política BC, lo que llamamos política ancla τi (ibid).

Creo que cubre las facetas principales y le da una apariencia adecuada de lo que hace la IA y cómo lleva a cabo la tarea designada.

Conclusión

Hay mucho más que me gustaría mencionar, pero me estoy extendiendo mucho en esta discusión e intentaré cubrir solo algunos aspectos clave. Trataré de cubrir más en una publicación posterior.

¿Alguna vez has oído hablar del dilema del prisionero?

Es un problema clásico relacionado con decisiones.

El dilema del prisionero implica que usted tiene que decidir si delatará o chismeará sobre un compañero de prisión. Es posible que el otro prisionero también te delate. Hay una función de recompensa tal que si delatas al otro prisionero y no te delatan a ti, es una especie de victoria para ti. Si te delatan y tú no los delatas, es una especie de victoria para ellos y una postura perdedora para ti. Si ambos se delatan mutuamente, esencialmente ambos pierden. Ver mis coberturas en detalle en el enlace aquí.

¿Qué estrategia se te ocurriría ante el dilema del prisionero?

Si fue un trato de una sola vez, casi puedes lanzar una moneda. Si la situación se repitiera una y otra vez y estuvieras tratando con el mismo otro prisionero, es posible que surja un patrón. Uno de los patrones más populares y recomendados a menudo se conoce como teta por tat. Haga lo que haga el otro prisionero, tú haces lo mismo en tu próximo movimiento. Si no te delatan, no los delatas. Si te delatan, entonces los delatas en el siguiente movimiento.

Es posible que te sorprenda cómo se relaciona todo esto con la diplomacia infundida por IA mientras juegas. Diplomacia.

Aquí está el trato.

En las negociaciones con los demás, a menudo tienes que decidir si decirles la verdad o mentirles. Un problema con la mentira es que si te atrapan en la mentira, la otra persona probablemente no confiará en ti a partir de ese momento. Es posible que, para empezar, no hayan confiado plenamente en ti, pero ahora que has demostrado que de hecho mientes, sin duda decidirán que eres un mentiroso.

algunos jugadores de Diplomacia mentir constantemente. Creen que esta es la mejor estrategia. Mentira, mentira y más mentiras. Otros jugadores hacen todo lo contrario. Afirman que desea abstenerse de mentir si puede hacerlo. Solo usa una mentira en las situaciones más necesarias. Al evitar las mentiras, puedes generar confianza con otros jugadores. Una vez que haya seguido el camino de la mentira y haya sido detectado, nadie creerá una palabra de lo que diga.

El documento que describe a Cicero menciona esta consideración: “Finalmente, la diplomacia es un dominio particularmente desafiante porque el éxito requiere generar confianza con los demás en un entorno que alienta a los jugadores a no confiar en nadie. Las acciones de cada turno ocurren simultáneamente después de negociaciones privadas no vinculantes. Para tener éxito, un agente debe tener en cuenta el riesgo de que los jugadores no se mantengan fieles a su palabra, o que otros jugadores puedan dudar de la honestidad del agente” (ibíd.).

Según el documento y los videos cortos, los investigadores finalmente descubrieron que hacer que la IA dijera la mayor cantidad de verdad posible parecía ser la mejor estrategia general. En cierto sentido, podrías comparar esto con el ojo por ojo del dilema del prisionero. Comienza diciendo la verdad. Si tu oponente dice la verdad, continúas diciendo la verdad. Si comienza a mentir, debe evaluar si continúa diciendo la verdad o cambia a mentir.

Uno supone que este es un hallazgo conmovedor.

Tenga en cuenta que la parte engañosa e intrigante de Diplomacia es que estás haciendo esto con respecto a otros seis jugadores (lo que se conoce como un problema multiagente). Podrías ser estridentemente sincero con todos ellos. O, tal vez veraz para algunos pero no para otros. También existe el aspecto de que una vez que mientes y te atrapan en una mentira a otro jugador, esto puede ser potencialmente observado o deducido por otros jugadores. Ergo, se sabe o se supone que estás mintiendo, incluso si no le mentiste a un jugador en particular que esperas que piense que eres sincero y con el que intentas ser sincero.

Los humanos tienden a descubrir y desarrollar sus enfoques de mentira-verdad cuando ejercen la diplomacia. Las dependencias situacionales pueden ser un factor enorme. Las apuestas en la línea son cruciales para considerar. Una multitud de factores entran en juego.

Sería fascinante tener una infusión de IA Diplomacia El jugador basado en máquina juega una gran cantidad de juegos para ver qué pueden sugerir los resultados en general.

También podríamos querer enfrentar a la IA contra menos de otros seis jugadores para ver cómo eso cambia las cosas. También podríamos agregar IA a la mezcla como más de un jugador. Por ejemplo, supongamos que tenemos cinco jugadores humanos y dos jugadores de IA (configuraremos los jugadores de IA como instancias separadas para que no sean computacionalmente uno y el mismo). ¿Qué hay de cuatro humanos y tres IA? ¿Qué pasa con seis IA y un humano?

Otra vía sería enfrentar a la IA únicamente contra la IA. De esa manera, podríamos ejecutar miles de juegos en orden rápido. Configuración de siete instancias distintas de la IA. Cada uno es su propio reproductor independiente. Dado que todo esto está dentro de la computadora, podemos ejecutarlos sin parar y producir miles o millones de instancias de juegos.

Por supuesto, el problema con AI-versus-AI es que hemos eliminado a los jugadores humanos. No sabemos si IA contra IA refleja lo que harían los jugadores humanos. En cualquier caso, se pueden discernir algunos resultados interesantes.

Anteriormente dije que una limitación de la IA de este tipo es que, por lo general, tiene un enfoque limitado. No podemos saber fácilmente que la IA que juega Diplomacia será aplicable en la diplomacia del mundo real. Además, tal vez la IA que funciona bien para Diplomacia no funcionará especialmente bien en otros juegos en línea orientados a la diplomacia. Puede que no se transfiera y, en cambio, sea una especie de pony de un solo truco.

Como se afirma en la investigación sobre la formulación de DipJuego:

• “Sostenemos que en las negociaciones reales es importante tener conocimiento del dominio y uno debería poder razonar al respecto. Uno no puede, por ejemplo, esperar hacer tratos lucrativos en el negocio de las antigüedades sin tener ningún conocimiento de antigüedades, sin importar cuán bueno sea para regatear. Además, un buen negociador también debe poder razonar sobre los deseos de sus oponentes. Un buen vendedor de autos, por ejemplo, trataría de averiguar qué tipo de auto se adapta mejor a las necesidades de su cliente para aumentar las posibilidades de hacer un trato rentable” (según lo citado anteriormente: Angela Fabregues y Carles Sierra, “DipGame: A Challenging Negotiation banco de pruebas”, Aplicaciones de ingeniería de la inteligencia artificial, Octubre 2011).

Una vez que el dominio de la IA en Diplomacia ocurre, todos los ojos deberían estar puestos en usar o reutilizar la IA para abordar otros juegos relacionados con la diplomacia. Además, se deben explorar los esfuerzos para utilizar la IA en entornos diplomáticos del mundo real.

Terminaré por ahora con algunas consideraciones éticas de la IA.

En primer lugar, fue reconfortante notar que el equipo de Meta AI reconoció que su trabajo abarca las ramificaciones de la ética de la IA. Surgen preguntas aleccionadoras. ¿Es correcto "engañar" a las personas para que jueguen contra la IA sin decirles que lo están haciendo? ¿Podría el lenguaje natural generado por la IA contener inadvertidamente palabras ofensivas que se transmiten a los jugadores humanos? Y así.

Asegúrese de echar un vistazo a cómo lidiaron con las preocupaciones apremiantes de la IA ética en los Materiales complementarios (SM) de su artículo: “Discutimos las consideraciones éticas para esta investigación más adelante en el SM, incluidas las consideraciones de privacidad para el uso de datos (SM, § A.1), daños potenciales resultantes de la generación de lenguaje tóxico o sesgado (SM, §A.2), vías para el uso indebido de la tecnología de diálogo orientada a objetivos (SM, §A.3) y divulgación de agentes de IA a jugadores humanos (SM , §A.4)” (ibíd.).

Necesitamos que más desarrolladores de IA y su liderazgo sean conscientes de la IA ética y tomen medidas conscientes para ser cuidadosos y juiciosos en el trabajo de IA que realizan. Además, deben asegurarse de ser transparentes sobre las acciones éticas de IA que han tomado y las suposiciones que han hecho.

Mi último punto por ahora implica la inquietud general de antropomorfizando AI.

Si mejoramos la IA para que parezca profundamente diplomática, ¿engañará a los humanos para que asuman o crean que la IA está a la par con los humanos en todos los aspectos?

Es una pendiente resbaladiza fácil. Una IA torpe con la que interactúas está dando una pista reveladora de que probablemente sea una IA y no un humano. Una IA iterada sin problemas que tiene la apariencia de un equilibrio diplomático supremo probablemente hará que las personas caigan sin vacilar en la trampa de que la IA es humana, incluso como si tuviera el sentido común humano y todas las capacidades de comprensión de los humanos.

Aparte, tenga en cuenta también cómo se podría explotar esto durante una Diplomacia juego. Un jugador humano que ve mensajes que parecen casi poéticos de otro jugador podría darse cuenta de que debe ser IA (ahora mucho más allá de la torpe IA anterior), mientras que otros humanos no serían capaces de redactar mensajes de forma tan articulada. Por supuesto, si la IA continúa ajustándose, podría alterar la redacción poética para reflejar más de cerca la redacción concisa y relajada de los jugadores humanos reales. A su vez, los jugadores humanos pueden cambiar al lenguaje poético, tratando de revelar que son humanos. La idea es que quizás otros jugadores humanos estén dispuestos a alinearse con otros humanos sobre la IA.

Lo siguiente que sabes es que el juego comienza a convertirse en tratar de averiguar quién es el humano y quién es la IA. Si puede averiguar cuál es cuál, quizás esto le dé una ventaja. Por otro lado, podría ser por no. La IA podría terminar siendo tan inteligente en el juego como los humanos. Tus adivinanzas sobre cuál es cuál no te hace mucho bien. Podría ser una distracción de solo concentrarse en tratar de ganar el juego, independientemente de si los jugadores de IA o los jugadores humanos están disponibles.

Para los investigadores que buscan hacer algunos estudios de factores humanos sobre este tipo de concepción alucinante, podrían considerar usar la infusión de IA Diplomacia jugador y buscar dispuesto Diplomacia torneos de liga para investigar la identificación humana versus la IA y las estrategias de adaptación del comportamiento que surgen.

Vamos a terminar esto.

Mark Twain dijo esto sobre la diplomacia: “El principio de dar y recibir es el principio de la diplomacia: dar uno y recibir diez”. ¿Es esa una evaluación honesta de cómo funcionan los humanos o es solo un poco de humor irónico que evalúa de manera cínica pero incorrecta la condición humana?

Reflexione sobre estas preguntas adicionales:

• Si podemos imbuir la diplomacia en la IA, ¿nos enseñará cómo los humanos instancian la diplomacia y posiblemente permitan que la humanidad mejore en el arte de ser diplomático?
• ¿Crearemos una falsedad de la IA que parece ser sensible cuando no es nada por el estilo, todo debido a que computacionalmente sacamos un conejo de un sombrero para mostrar aparentemente una diplomacia similar a la humana?
• ¿Se puede encontrar un equilibrio entre tener una IA imbuida de diplomacia para que, mientras tanto, estemos alertados de que esto sigue siendo solo una IA cotidiana y, por lo tanto, no debemos antropomorfizarla?

Dicen que la diplomacia es el arte de dejar que otra persona se salga con la suya. Asegurémonos de que nuestro camino sea el humano, en lugar del camino de la IA. Aunque para ser diplomático, ahora que lo pienso detenidamente, y en caso de que terminemos con señores supremos de la IA, tal vez deberíamos permitir que nuestra forma sea la forma de la IA, que con suerte encaja en una forma humana adecuada.

Solo trato de ejercer una pizca de diplomacia ingeniosa.