La ética de la IA y el aclamado Valle Inquietante de la IA, que también sacude los autos autónomos basados ​​en la IA

A veces hay cosas un poco extrañas que captan su atención y despiertan sus jugos intuitivos de que de alguna manera algo anda mal. La rareza no es flagrante, en absoluto flagrantemente en tu rostro. Es posible que ni siquiera puedas señalar de inmediato cuál es la incongruencia o cómo es que tu proverbial sentido de araña está hormigueando.

Tal vez se están detectando pistas reveladoras sutiles. Tal vez en tu interior te des cuenta de que existe una disonancia. Supongo que se podría decir que hay un mínimo indicio de misterio discreto y que su delicado radar humano está detectando señales aparentemente ocultas.

Bienvenido al valle inquietante.

Si nunca ha oído hablar del valle inquietante, un tema relativamente popular en el campo de la IA y especialmente en la robótica, le espera un pequeño placer, ya que ese es el tema que discutiré y analizaré de cerca en este documento.

La noción general puede aplicarse a muchas cosas que experimentamos en la vida, aunque los principios clave y la definición original implican sistemas y robots de inteligencia artificial. Primero exploraremos los orígenes y el significado inicial del valle inquietante y luego procederemos a ampliar para ver cómo los fenómenos parecen ser aplicables en contextos más amplios.

También podría agregar que consideraremos si existe el valle inquietante.

Verá, algunos escépticos y cínicos argumentan que todo el asunto es un poco engañoso y no se sostiene. Tenga cuidado al mencionar el tema a aquellos que están al tanto. Algunos sonreirán alegremente y te darán una palmada en la espalda porque estás muy familiarizado con el valle inquietante, mientras que otros te darán lecciones estridentes de que es una mezcla heterogénea de tonterías y que debes limpiar tu mente sumariamente con una barra jabonosa de jabón de limpieza mental. .

La buena noticia aquí es que puedes decidir si el valle inquietante es real o no, además de si tiene méritos para una aplicación consciente o si, en cambio, debe arrojarse sin ceremonias al montón de chatarra de ideas tecnológicas. En ese sentido, usted está en el asiento del conductor.

Todo esto también se relaciona estrechamente con el floreciente campo de la IA ética y la creciente comprensión de que la sociedad debe prestar atención seria y sobriamente a la ética de la IA. Haremos que se empaten momentáneamente.

El mejor lugar para comenzar es citando directamente al profesor que ideó el concepto del valle inquietante y nombró directamente este fenómeno proclamado. En 1970, el profesor Masahiro Mori del Instituto de Tecnología de Tokio publicó un artículo bastante pequeño en una revista algo menos conocida llamada Energía (no particularmente un semillero para la IA y la robótica per se), y dijo esto:

“He notado que, al escalar hacia la meta de hacer que los robots parezcan humanos, nuestra afinidad por ellos aumenta hasta que llegamos a un valle, al que llamo el valle inquietante”.

Tenga en cuenta que la redacción anterior se muestra en inglés, aunque el documento original estaba en japonés. La versión traducida al inglés fue supervisada por el autor y luego publicada en el Espectro IEEE en 2012 y acreditado a Masahiro Mori como autor. Puede leer el documento usted mismo, ya que está disponible en línea de forma abierta y gratuita. Es una lectura decididamente rápida de unos diez minutos y no contiene ninguna terminología pesada para los aficionados a la tecnología.

Habiendo dicho eso, es interesante y algo sorprendente que un artículo tan enérgico, publicado en 1970, finalmente inició todo un campo de investigación y lanzó una miríada de estudios relacionados, proyectos, investigaciones y, a veces, una tormenta de controversia sobre si el introducido El concepto de un valle inquietante realmente existe. Supongo que esto muestra que las ideas intrigantes y, a veces, que cambian el punto de vista no tienen que ser enormemente enrevesadas o sobrecargadas de jerga y altanería. Una idea sucinta puede ser más poderosa de lo que parece a simple vista.

Confío en que eso lo alentará a probar y fomentar sus nuevas ideas, haciéndolo con la comprensión de que lo dulce y simple puede ser tan magnífico o, a veces, más que enrevesado y complejo.

Volvamos a la elicitación del valle inquietante.

Te encuentras con un sistema robótico que tiene una cara similar a una cara de aspecto humano. Imagine que esta cara robótica ha sido diseñada a través de numerosas iteraciones. Los desarrolladores de IA que ensamblan la cabeza del robot se han esforzado cada vez más para hacer que la parte facial robótica se parezca cada vez más a un rostro humano real.

Su primer intento fue extremadamente primitivo. La cara del robot tenía el mismo aspecto que has visto en las películas de ciencia ficción de ser completamente metálica y exhibir engranajes y cables. Sabes instantáneamente cuando miras el artilugio que es un robot. No hay duda en tu mente al respecto.

El siguiente intento de los desarrolladores de IA consistió en envolver algunos materiales plásticos alrededor de las piezas metálicas. Aunque esto parece un poco más amigable, al instante sabes que es una cabeza de robot y una cara robótica. Una vez más, fácil de detectar.

Esos desarrolladores de IA están decididos a mantener esto en marcha. Esculpen el plástico y le dan tonos de piel. Agregan características que parecen muy similares a un rostro humano, como lunares, cabello, imperfecciones y similares.

A primera vista, podría creer que se trata de un rostro humano. Si se tomó una fotografía de la cara robótica y se le pidió que identificara si la imagen representaba una persona o una cara robótica, es posible que se sienta bloqueado al poder decir de inmediato cuál era. Por otro lado, si estuviera parado al lado del dispositivo, probablemente después de una inspección cercana podría discernir que no es un ser humano sino un dispositivo robótico.

La cuestión es que, antes de que tuvieras la oportunidad de hacer un escrutinio de cerca, había algo en la cara que no parecía encajar del todo. Seguro que parecía un rostro humano. Pero había algo mal. Tenías que seguir mirando atentamente una y otra vez para señalar lo que no se ve del todo bien. Tal vez sea una cara real. Por otra parte, tal vez no lo sea. Tu mente se agita en consecuencia.

Una apariencia de inquietud entra en tu mente.

No tenías esa misma apariencia de inquietud cuando viste las dos versiones anteriores. Podrías sin pausa ni vacilación detectar que el robot era un robot. Solo un niño podría dejarse engañar y creer que cualquiera de esas versiones era de una persona real.

Sin embargo, esta última versión era diferente. Todavía no estaba perfeccionado para que pareciera un rostro humano. Tampoco estaba tan lejos de la realidad como para que fuera obvio que debía ser un robot. Se había llegado a una especie de terreno confuso.

Supongamos que los desarrolladores avanzaron más en sus esfuerzos de investigación y arreglaron todo para que el rostro robótico fuera casi indistinguible de un rostro humano. No importa cuánto tiempo mires la cosa, no estás seguro de si es un humano o no. Cuando se le informa que es la cara robótica, se sorprende. Dios, han hecho un gran trabajo para que parezca real.

Tenga en cuenta que hasta ahora solo ha estado considerando los aspectos robóticos basándose únicamente en la apariencia.

Podríamos añadir movimiento a la ecuación. Esto agrega una dimensión adicional para que pueda discernir si el robot es un robot o un ser humano. No quiero considerar esto completamente como un tipo de problema multidimensional en esta discusión, ya que hace que la elucidación de este tema sea más compleja (aunque existen múltiples dimensiones inevitablemente entrelazadas). En cualquier caso, imagine que no solo vio la cara robótica, sino que también pudo ver cómo el robot mueve las características faciales, como la boca, los ojos, la nariz, etc. robot o un humano.

Un aspecto vital para mantenerse al frente del valle inquietante es que la concepción original enfatiza el acto de la afinidad humana. El fenómeno declarado es que su afinidad aumenta a medida que ve que las caras de los robots se mejoran gradualmente, hasta el punto en que surge la variante extraña. En ese momento, se dice que su sentido de afinidad cae dramáticamente, cayendo en picado hacia un abismo o valle de afinidad.

Para la versión particular que le hizo sospechar que algo andaba mal, su afinidad supuestamente ha disminuido radicalmente. Además, según la teoría, su afinidad puede volver a dispararse una vez que encuentre la versión más avanzada que es casi idéntica a una forma verdaderamente humana.

Aquí hay más sobre lo que el autor declaró sobre nuestra inclinación normal a asumir que los aspectos de la vida aumentan gradualmente: “El término matemático función monótonamente creciente describe una relación en la que la función y = f(x) aumenta continuamente con la variable x. Por ejemplo, como esfuerzo x crece, ingresos y aumenta, o cuando se presiona el acelerador de un automóvil, el automóvil se mueve más rápido. Este tipo de relación es omnipresente y muy fácil de entender. De hecho, debido a que estas funciones que aumentan monótonamente cubren la mayoría de los fenómenos de la vida cotidiana, las personas pueden caer en la ilusión de que representan todas las relaciones. También atestigua esta falsa impresión el hecho de que muchas personas luchan a lo largo de la vida empujando persistentemente sin comprender la efectividad de retroceder. Es por eso que la gente suele quedarse perpleja cuando se enfrenta a algún fenómeno que esta función no puede representar”. Esto se cita por el Espectro IEEE papel traducido.

Esta suposición casi universal sobre el aumento constante puede revertirse cuando encontramos algo que no va bien. La inquietud y la sospecha causarán una caída relativamente abrupta y dramática en la afinidad, dice la teoría, como una mano robótica que optó por estrechar y no pudo sentir las características óseas de una mano humana: “Cuando esto sucede, perdemos nuestro sentido. de afinidad, y la mano se vuelve extraña. En términos matemáticos, esto se puede representar con un valor negativo”.

Si aceptas la premisa de que existe este fenómeno de un valle inquietante, estoy seguro de que te estarás preguntando de qué te sirve saber que el valle inquietante aparentemente existe.

Ese es el clásico de todos los tiempos "¿y qué?" prueba de practicidad.

Resulta que mucha gente ha presentado muchas interpretaciones de lo que deberíamos o podemos hacer con respecto al valle inquietante. Hay toneladas de opiniones. Me ocuparé de algo de eso en breve.

Mientras tanto, esto es lo que dijo Masahiro Mori: “Esperamos diseñar y construir robots y manos protésicas que no caigan en el valle inquietante. Por lo tanto, debido al riesgo inherente de tratar de aumentar su grado de semejanza humana para escalar el segundo pico, recomiendo que los diseñadores tomen el primer pico como meta, lo que da como resultado un grado moderado de semejanza humana y un sentido considerable de afinidad. . De hecho, predigo que es posible crear un nivel seguro de afinidad siguiendo deliberadamente un diseño no humano. Les pido a los diseñadores que reflexionen sobre esto”.

Una condensación rápida de mi parte de doce reglas prácticas sobre qué hacer con respecto al valle inquietante es así para los desarrolladores de IA en particular:

1) Sea consciente del valle inquietante y esté alerta en consecuencia

2) Presumiblemente, desea lograr la mayor afinidad humana con su IA tanto como sea posible

3) Esté preparado para una pérdida de afinidad humana si su IA cae en el valle inquietante

4) Busque evitar el valle inquietante diseñando su IA de esta manera

5) Es respetable tener una meta que no llegue al valle inquietante

6) Avanza sigilosamente hasta el borde del valle inquietante, pero no te caigas por el precipicio.

7) No te obsesiones con ir más allá del valle inquietante

8) Existe la posibilidad de que puedas saltar más allá del valle inquietante

9) No te preocupes por el salto ya que de todos modos podrías caer al valle

10) Es cierto que se lograría la máxima afinidad humana pasando el valle inquietante

11) No obstante, existe una afinidad adecuada y adecuada encontrada antes del valle inquietante

12) Sea continuamente consciente del valle inquietante y no deje que se le escape de la mente

Esta docena son todos preceptos generales que pueden considerarse como la piedra angular o puntos de anclaje del conocimiento sobre el valle inquietante. Inmediatamente reconoceré que hay otros puntos que no figuran en esa escasa docena que podrían argumentarse como igualmente importantes. También reconoceré fácilmente que seguramente habrá desacuerdo para cada uno de los puntos identificados, y puede producirse un largo y acalorado debate sobre cada punto planteado.

Más aún, algunos dirían que los doce puntos son completamente basura porque, para empezar, se basan en una falsedad. No existe tal cosa como un valle inquietante, argumentarían. Todo es mera artimaña y un artificio inventado que apela única y tristemente a apelar a las mentes débiles (¡ay, eso duele mucho!). Cualquier atención al valle inquietante es una bocanada de aire desperdiciada y alguien debería venir y poner una estaca teórica de madera afilada en el corazón del asunto (algunos investigadores han intentado hacerlo).

En aras de la discusión, sigamos la corriente y supongamos que hay un valle inquietante y que pretende coincidir en general con lo que he indicado hasta ahora. Aquellos que no estén de acuerdo con la conceptualización de un valle inquietante son bienvenidos a desconectarse o continuar leyendo con los dientes apretados y su ira intelectual hirviendo y hirviendo (perdón por eso).

Así es como se aplica la IA ética y el enfoque de diseñar y desplegar una IA ética. Por cierto, para mis exploraciones continuas y profundas de la ética de la IA, vea mi discusión en este enlace aquí y este enlace aquí, Sólo para nombrar unos pocos.

El valle inquietante es decididamente una historia de amor y odio para aquellos a los que les gusta la IA ética.

Primero, algunos antecedentes necesarios. Uno de los escrúpulos éticos más espeluznantes relacionados con la IA es que se puede engañar a los humanos haciéndoles creer que un sistema de IA es consciente. Tenga en cuenta que no hay ninguna IA de hoy que se acerque remotamente a ser consciente. Simplemente no está sucediendo en este momento. Mi afirmación aparentemente "descarada" se hace a pesar de esos titulares incesantes y estridentes que declaran que esta IA o que la IA es sensible o lo suficientemente cercana como para ser considerada como tal. Malarkey. No estamos en inteligencia de IA.

No sabemos cómo llegar allí. No sabemos si sucederá. La sensibilidad de la IA es un sueño y una aspiración que vale la pena, aunque no se apresure y piense que estamos a punto de lograrlo.

Por supuesto, muchos advierten fervientemente que si de alguna manera logramos lograr la sensibilidad de la IA, ya sea por diseño o por puro accidente, nos enfrentaremos a un riesgo existencial. De esa manera de pensar, tal vez buscar la sensibilidad de la IA no valga tanto la pena. El riesgo es que esta IA sensible pueda determinar que no vale la pena tener humanos cerca. Podríamos ser aplastados como un insecto. O convertirse en esclavos de la IA. Esto podría ocurrir porque la IA decidiera abiertamente hacerlo, o la IA podría terminar siendo nuestra propia máquina del fin del mundo que nos destruye por nuestra propia ineptitud. Para mi cobertura sobre los resultados preocupantes de la inteligencia o la singularidad de la IA, consulte el enlace aquí.

Una preocupación crucial de la IA ética es que los desarrolladores de la IA y aquellos que la aplican a veces engañan a los humanos para que piensen que la IA es consciente. La forma en que la IA se muestra a sí misma, como por ejemplo mediante una formulación robótica o por su interactividad conversacional, puede insidiosamente incitar a las personas a asumir que la IA es sensible. Esto, a su vez, lo lleva por un camino de primavera potencialmente sucio.

Si cae en la trampa mental de pensar que un sistema de IA es sensible, es probable que confíe en él para hacer cosas que harían los seres sensibles. Pero todavía no hay ningún sentido común de una calidad similar a la humana incorporada en ninguna de las IA de hoy. La IA que experimentamos actualmente es extremadamente frágil y superficial cuando se trata de capacidades similares a las humanas. Podría meterse en aguas desagradables y peligrosas al creer que un sistema de IA es sensible.

¿Cómo se conecta eso con el valle inquietante?

Aquí está el trato.

Recuerde que el valle inquietante parece decirnos que la afinidad humana aumentará gradualmente a medida que un sistema de inteligencia artificial o un robot se acerque cada vez más a una formulación similar a la humana. En un momento en el que el sistema de IA se acerca al punto de estar bastante cerca, pero aún no del todo allí, tenemos la extraña sensación de que algo anda mal. Hasta entonces, sabíamos que la IA no era humana. Ahora no estamos seguros. Nuestra afinidad humana cae. Solo una vez que la IA o el robot se vuelven completamente convincentes en cuanto a las capacidades humanas, recuperamos nuestra apariencia de afinidad con el dispositivo.

Los desarrolladores de IA que toman este corazón presumiblemente intencionalmente se esfuerzan por mantener su IA fuera del valle inquietante, con el objetivo de detenerse en términos de las características de la IA, justo antes de caer en el abismo inquietante (recuerde, eso también lo enfatizó Masahiro Mori). Aparentemente, los desarrolladores lo harían asegurándose de que todavía existieran abundantes pistas reveladoras para dejar bastante claro que la IA es una IA menos que inteligente y, por lo tanto, no es un ser humano o lo es igualmente.

Los especialistas en ética de la IA generalmente agradecerían ese sincero esfuerzo.

El razonamiento es sencillo. Aquellos desarrolladores de IA tan informados y que aceptan están tratando de asegurarse de que el sistema de IA no engañe a las personas para que atribuyan falsamente instalaciones similares a las humanas a la IA. Eso es sin duda una buena noticia. Los desarrolladores crearán a propósito la IA para evitar una inmersión en el valle inquietante. Los humanos se darán cuenta fácilmente de que la IA no es sensible.

Intentar que los desarrolladores de IA adopten este enfoque no es fácil. De hecho, puede ser contrario a la intuición de sus instintos habituales y ambiciones de conducción.

Se hacen muchas afirmaciones de que los desarrolladores de IA y los técnicos, en general, se consumen con objetivos. Ven un objetivo y, a menudo, lo persiguen ciegamente con gran entusiasmo. No hay tiempo para detenerse y oler las rosas. A las carreras, vamos. En el campo de la IA, el objetivo normativo sería una IA idealizada que sea indistinguible de los humanos en el sentido de que la IA podría ser inteligentemente igual en paridad. Pero aún no estamos allí. Como tal, el valle inquietante proporciona un objetivo secundario, aterrizando antes que el valle inquietante que de otro modo sería un embalse, y se convierte en un objetivo que, sin embargo, es aceptable. Claro, no es el preciado anillo de oro, pero la idea es que este premio “secundario” esté bien, muchas gracias y puedes estar orgulloso de él.

Hemos alterado la ruinosa ambición máxima de búsqueda de objetivos y la hemos aprovechado en una base razonada que suena lógica para hacer lo correcto, por así decirlo.

¡Hurra!

Obtenga una victoria para la ética de la IA.

Pero espere un segundo, alerta de spoiler, hay algo más que debemos considerar igualmente.

Ahora que esos expertos desarrolladores de IA conocen el valle inquietante, podrían usar su ingenio y destreza técnica para saltar deliberadamente sobre el abismo y, sin embargo, hacerlo con una apariencia de engaño en mente. Haga que la IA se vea y parezca completamente humana, aunque los desarrolladores saben que esto no es cierto.

El pensamiento pícaro es así. No permita que su sistema de IA se quite el sombrero y provoque que las personas obtengan ese elusivo trasfondo de inquietud. Excluya las facetas que puedan dar algún indicio o pista de que la IA no tiene capacidad humana. Haga esto mientras se da cuenta en secreto e inexcusablemente sabiendo que la IA no tiene capacidad humana y que se trata de ocultar esa verdad de aquellos que interactúan con la IA o dependen de ella.

Que diabólicos planes.

Irónicamente, el valle inquietante podría ser una especie de llamada de atención para los desarrolladores de IA de que si realmente quieren engañar a la gente, deben ser lo suficientemente inteligentes como para escapar del abismo. No lo hacen al obtener una IA completa, sino al erigir humo y espejos para hacer que la IA parezca engañosa como si fuera humana. Si los desarrolladores de IA no se hubieran dado cuenta de que existe este valle misterioso, en general habrían caído en él. Eso es bueno para la humanidad porque los humanos, ergo, perderían su afinidad con la IA en términos de no confiar demasiado en la calidad actual de la IA.

Lamentablemente, al saber que la trampa existe, los desarrolladores de IA que quieran sortearla encontrarán formas perniciosamente inteligentes de hacerlo.

Anota un golpe contra los preceptos de la IA ética.

¿Ves cómo esto crea una relación de amor y odio para los especialistas en ética de la IA sobre el valle inquietante?

Maldito si lo haces, maldito si no lo haces.

Me doy cuenta de que este ha sido un examen un tanto cauteloso del valle inquietante y es posible que desee algunos ejemplos del día a día. Hay un conjunto especial y seguramente popular de ejemplos que están cerca de mi corazón. Verá, en mi calidad de experto en IA, incluidas las ramificaciones éticas y legales, con frecuencia se me pide que identifique ejemplos realistas que muestren los dilemas de ética de la IA para que la naturaleza un tanto teórica del tema pueda comprenderse más fácilmente. Una de las áreas más evocadoras que presenta vívidamente este dilema ético de la IA es el advenimiento de los verdaderos autos autónomos basados ​​en la IA. Esto servirá como un caso de uso útil o ejemplo para una amplia discusión sobre el tema.

Aquí hay una pregunta notable que vale la pena contemplar: ¿El advenimiento de los verdaderos autos autónomos basados ​​en IA ilumina algo sobre el valle inquietante y, de ser así, qué nos dice esto que hagamos?

Permítanme un momento para desempacar la pregunta.

Primero, tenga en cuenta que no hay un conductor humano involucrado en un verdadero automóvil autónomo. Tenga en cuenta que los verdaderos autos sin conductor se conducen a través de un sistema de conducción de IA. No hay necesidad de un conductor humano al volante, ni existe una disposición para que un humano conduzca el vehículo. Para conocer mi cobertura amplia y continua de los vehículos autónomos (AV) y, en especial, los autos sin conductor, consulte el enlace aquí.

Me gustaría aclarar más a qué se refiere cuando me refiero a verdaderos coches autónomos.

Comprensión de los niveles de los automóviles autónomos

Como aclaración, los verdaderos autos autónomos son aquellos en los que la IA conduce el automóvil completamente por su cuenta y no hay asistencia humana durante la tarea de conducción.

Estos vehículos sin conductor se consideran Nivel 4 y Nivel 5 (vea mi explicación en este enlace aquí), mientras que un automóvil que requiere un conductor humano para compartir el esfuerzo de conducción generalmente se considera en el Nivel 2 o Nivel 3. Los automóviles que comparten la tarea de conducción se describen como semiautónomos y, por lo general, contienen una variedad de complementos automatizados que se conocen como ADAS (Advanced Driver-Assistance Systems).

Todavía no existe un verdadero automóvil autónomo en el Nivel 5, que aún no sabemos si será posible lograrlo, ni cuánto tiempo llevará llegar allí.

Mientras tanto, los esfuerzos de Nivel 4 están tratando gradualmente de obtener algo de tracción al someterse a pruebas de carreteras públicas muy estrechas y selectivas, aunque existe controversia sobre si estas pruebas deberían permitirse per se (todos somos conejillos de indias de vida o muerte en un experimento que tienen lugar en nuestras carreteras y caminos, algunos sostienen, vea mi cobertura en este enlace aquí).

Dado que los automóviles semiautónomos requieren un conductor humano, la adopción de ese tipo de automóviles no será muy diferente de la conducción de vehículos convencionales, por lo que no hay mucho nuevo per se sobre este tema (sin embargo, como verá, en un momento, los siguientes puntos son generalmente aplicables).

Para los automóviles semiautónomos, es importante que el público deba ser advertido sobre un aspecto inquietante que ha surgido últimamente, a saber, a pesar de que los conductores humanos siguen publicando videos de ellos mismos durmiendo al volante de un automóvil de Nivel 2 o Nivel 3 , todos debemos evitar que nos engañen creyendo que el conductor puede desviar su atención de la tarea de conducir mientras conduce un automóvil semiautónomo.

Usted es la parte responsable de las acciones de conducción del vehículo, independientemente de la cantidad de automatización que pueda arrojarse a un Nivel 2 o Nivel 3.

Coches autónomos y el valle inquietante

Para los vehículos autónomos verdaderos de Nivel 4 y Nivel 5, no habrá un conductor humano involucrado en la tarea de conducción.

Todos los ocupantes serán pasajeros.

La IA está conduciendo.

Un aspecto para discutir inmediatamente implica el hecho de que la IA involucrada en los sistemas de conducción de IA actuales no es sensible. En otras palabras, la IA es en su conjunto un colectivo de programación y algoritmos basados ​​en computadora, y seguramente no es capaz de razonar de la misma manera que los humanos.

¿Por qué este énfasis adicional en que la IA no es consciente?

Porque quiero subrayar que cuando hablo del papel del sistema de conducción de la IA, no estoy atribuyendo cualidades humanas a la IA. Tenga en cuenta que existe una tendencia continua y peligrosa en estos días a antropomorfizar la IA. En esencia, las personas están asignando una sensibilidad similar a la humana a la IA actual, a pesar del hecho innegable e indiscutible de que todavía no existe tal IA.

Con esa aclaración, puede imaginar que el sistema de conducción de inteligencia artificial no "conocerá" de forma nativa de alguna manera las facetas de la conducción. La conducción y todo lo que conlleva deberá programarse como parte del hardware y software del vehículo autónomo.

Vamos a sumergirnos en la miríada de aspectos que entran en juego en este tema.

Primero, es importante darse cuenta de que no todos los autos autónomos con IA son iguales. Cada fabricante de automóviles y empresa de tecnología de conducción autónoma está adoptando su enfoque para diseñar automóviles autónomos. Como tal, es difícil hacer declaraciones generales sobre lo que harán o no harán los sistemas de conducción de IA.

Además, cada vez que se indica que un sistema de conducción de inteligencia artificial no hace algo en particular, esto puede ser superado más adelante por desarrolladores que de hecho programan la computadora para hacer eso mismo. Paso a paso, los sistemas de conducción de IA se están mejorando y ampliando gradualmente. Es posible que una limitación existente hoy en día ya no exista en una iteración o versión futura del sistema.

Confío en que proporcione una letanía suficiente de advertencias para subyacer a lo que estoy a punto de relatar.

Ahora estamos preparados para hacer una inmersión profunda en los autos sin conductor y las preguntas éticas de IA que implican el valle inquietante.

Hay cuatro aspectos relacionados con este asunto que se tratarán aquí:

1. El aspecto general de los coches autónomos

2. La cuestión de hacia dónde “miran” los coches autónomos

3. Acciones de conducción de IA de vehículos autónomos

4. Robots que conducen como medio para conseguir coches autónomos

Las facetas adicionales también se abarcan de manera viable, pero debido a las limitaciones de espacio, estos cuatro temas serán suficientes para iluminar el rumbo del valle inquietante en relación con los automóviles autónomos basados ​​​​en IA.

1. Aspecto general de los autos sin conductor

Apuesto a que has visto fotos o videos de las pruebas de autos autónomos de hoy. Como tal, es posible que haya notado que la mayoría de los vehículos son automóviles de aspecto convencional que están equipados con equipos especializados adicionales. Por ejemplo, puede haber un portaequipajes en la azotea que contenga una gran cantidad de sensores electrónicos. Los sensores a veces incluyen cámaras de video, unidades de radar, dispositivos LIDAR, sensores ultrasónicos y similares.

Los diseños futuristas tienden a sugerir que podríamos apartarnos del automóvil de aspecto convencional para rediseñar los automóviles tanto en el interior como en el exterior para que sean vehículos autónomos de aspecto más elegante. En este momento, el pensamiento general es que es más simple usar autos convencionales y no gastar energía tratando de estirar el esfuerzo jugando simultáneamente con autos de aspecto no convencional (hay algunas excepciones a este punto de vista general, vea mi cobertura en el enlace aquí).

La esencia en este momento es que si está conduciendo por la carretera y se encuentra con un automóvil autónomo cercano, casi siempre puede discernir de inmediato que probablemente sea un automóvil autónomo con solo notar los sensores montados en el vehículo autónomo. Este es un obsequio visual rápido. Por supuesto, no está seguro de que se trate de conducción autónoma per se, ya que en este momento los controles de conducción suelen estar intactos y un conductor de respaldo humano podría estar al volante.

En una forma de pensar, puede sugerir que es especialmente útil que los autos sin conductor parezcan destacarse físicamente y que los conductores humanos los detecten fácilmente en los autos conducidos por humanos cercanos y también los peatones cercanos. El darse cuenta de que un automóvil autónomo está deambulando cerca puede ser una pista útil para estar en guardia, lo que lo lleva a estar atento y consciente de que la IA está o podría estar conduciendo el vehículo.

Supongamos que los autos sin conductor se vean idénticos a un auto convencional manejado por humanos. Esto es factible de manera realista en al menos dos formas. En primer lugar, los sensores podrían estar potencialmente ocultos o moldeados para que no sean tan obvios para una inspección visual casual. En segundo lugar, podría ser que todos los automóviles, incluidos los automóviles convencionales conducidos por humanos, se equipen gradualmente con sensores similares, incluso si el vehículo seguirá siendo un automóvil predominantemente conducido por humanos. Vea mi cobertura adicional en este enlace aquí.

Si reflexiona detenidamente sobre esta consideración acerca de si los automóviles autónomos pueden o deben ser idénticos en apariencia a los automóviles convencionales conducidos por humanos, podría pensar que un valle misterioso podría estar al acecho en este guiso.

Verá, los autos que descaradamente se ven como autos sin conductor pueden tipificarse como si estuvieran en un cruce que está justo antes del valle inquietante. Básicamente, "sabes" que es un robot o un tipo de sistema robótico. Ese es un juicio al que puede saltar casi de inmediato.

Cuando los autos autónomos se ven de manera idéntica a los autos conducidos por humanos, tal vez esto sugiera que los vehículos autónomos han saltado más allá del valle inquietante en cuanto a su apariencia robótica. Sin embargo, ¿existe un punto medio entre esas dos apariencias físicas que nos lleva al valle inquietante?

Tal vez vea un automóvil autónomo que viene por la calle y parezca que probablemente sea un automóvil autónomo, por otro lado, la apariencia no es estrictamente autónoma ni estrictamente conducida por humanos. Se podría argumentar que el automóvil autónomo ahora tiene una apariencia espeluznante o inquietante.

El automóvil autónomo aparentemente se ha sumergido en el valle inquietante.

Dicho esto, no todos estarían de acuerdo con esa categorización. Algunos dirían que el aspecto físico no tiene nada que ver con el valle inquietante. Algunos, por supuesto, también afirman que no hay nada conocido de manera realista como el valle inquietante.

Como se mencionó anteriormente, puede tomar su propia decisión al respecto.

2. Cuestión de hacia dónde miran los autos sin conductor

Una preocupación inminente que muchos tienen sobre los automóviles autónomos es que, por lo general, no tienen un conductor humano en el asiento del conductor y, por lo tanto, es difícil averiguar hacia dónde mira "el conductor" mientras conduce el automóvil.

Normalmente miras a los conductores humanos para espiar hacia dónde miran. Por ejemplo, podría ser un peatón en un cruce de peatones y un automóvil se acerca al cruce. Miras fijamente a la persona sentada en el asiento del conductor y tratas de discernir hacia dónde gira la cabeza y hacia dónde miran sus ojos. Si cree que el conductor humano lo ha visto, es posible que se sienta más cómodo cruzando la calle. Por el contrario, si el conductor humano parece no haberte visto, estás legítimamente preocupado por cruzar.

En algunas ciudades, hay una especie de táctica del gato y el ratón en estos aspectos. Una norma cultural particular en una ciudad determinada podría ser que si haces contacto visual con un conductor, el conductor "gana" y aparentemente tiene el derecho de continuar, independientemente de la legalidad de la situación de conducción. Otras ciudades podrían ser completamente opuestas, a saber, que la norma cultural es que cuando se hace contacto visual, el peatón "gana" y se supone que el conductor humano debe ceder ante las acciones del peatón.

Parece que hemos adoptado esta costumbre durante el tiempo relativamente largo en que los automóviles estaban en medio de nuestras ciudades y comunidades. El problema con la llegada de los automóviles autónomos es que no hay un conductor humano en el asiento del conductor y, por lo tanto, cualquier peatón o conductor humano cercano que normalmente usa la cabeza y los ojos de los conductores de automóviles como un indicador cultural de la intención de conducir ahora es sin suerte.

Los fabricantes de automóviles y los desarrolladores de vehículos autónomos son muy conscientes de este problema emergente. Una solución propuesta consiste en que el automóvil autónomo haga parpadear los faros del vehículo autónomo o posiblemente toque la bocina. Otra noción es que el automóvil autónomo podría tener una variante de un altavoz y decirles a los que están cerca cuáles son las "intenciones" del sistema de conducción de IA. Esas ideas tienen desventajas significativas.

Sin embargo, una propuesta diferente implica hacer algo que al principio podría parecer ridículo. La propuesta consiste en colocar orbes en forma de globos oculares en el exterior del vehículo autónomo. Estos orbes se verían más o menos como ojos humanos en la apariencia de poder girar hacia adelante y hacia atrás, dándote una indicación inmediata que sugiere que la IA "te ha visto" (interpretarías esto por los globos oculares que miran en tu dirección particular). He analizado este enfoque en el enlace aquí.

¿Cuál sería su reacción al ver un automóvil autónomo que se acerca por la carretera y tiene estos globos oculares de gran tamaño montados en el capó o en el techo?

Supongo que podrías pensar que es inquietante, tal vez espeluznante.

Algunos sugerirían que la inquietud surge de que el automóvil autónomo equipado se encuentra en el valle inquietante. Otros argumentarían con vehemencia que esto no tiene nada que ver con el valle inquietante. De esos expertos, algunos dirían que existe un misterio que puede ser un misterio sin tener que atrincherarse en el valle inquietante (es decir, el valle inquietante aparentemente siempre produce inquietante, pero no todo lo inquietante se produce únicamente a través del valle inquietante). El otro ángulo es que los orbes podrían estar presumiblemente diseñados para tener un aspecto menos ocular y parecer más robóticos, o que todos aceptaremos inevitablemente la aparición de estos orbes y la reacción inicial de sorpresa disminuirá.

3. Acciones de conducción de IA de automóviles autónomos

Muchas de las pruebas actuales de autos autónomos han demostrado que los sistemas de conducción de IA existentes tienden a estar programados para conducir de manera bastante tibia y estrictamente legal. El sistema de conducción de IA normalmente hace que el automóvil autónomo se detenga por completo en las señales de alto. El sistema de conducción de IA no hace carreras atrevidas a través de las intersecciones cuando el semáforo va a estar en rojo de forma inminente. Estas prácticas de conducción descarriadas son competencia de los conductores humanos.

Por así decirlo, casi se podría adivinar que un automóvil autónomo es un automóvil autónomo por el estilo de conducción que exhibe. Incluso si el vehículo autónomo pareciera visualmente un automóvil convencional conducido por humanos, podría observar las acciones de conducción y tal vez deducir lógicamente que probablemente esté siendo conducido por un sistema de IA.

Algunos creen que tendremos que hacer que los sistemas de conducción de IA sean más parecidos a las travesuras de los conductores humanos para que se mezclen de manera efectiva con los enfoques normativos de la conducción. Supongo que podrías interpretar esto como combatir el fuego con fuego.

¿Tiene sentido hacerlo?

Tenga en cuenta que los escépticos y críticos abiertos aborrecen la idea. Argumentarían enérgicamente que queremos que los sistemas de conducción de IA funcionen correctamente y con cautela. Agregar potencialmente millones de autos autónomos a las carreteras que están programados para ser como conductores humanos errantes parecería una pesadilla colosal. He discutido esta controvertida proposición en el enlace aquí.

Reformulemos el dilema aprovechando el valle inquietante.

Cuando el sistema de conducción de IA es estrictamente legal por sus acciones de conducción, esta es quizás una pista reveladora de que es probable que sea un sistema robótico (a pesar de los conductores humanos que ciertamente hacen esto, aunque en el mundo de hoy parecen distantes). Si los sistemas de conducción de IA deben conducir tan extravagantes como los conductores humanos, ¿esto salta a través del valle inquietante o cae en el valle inquietante?

Reflexiona sobre eso.

4. Robots que conducen como un medio para lograr autos autónomos

Este último elemento de cobertura es el más sorprendente de estos cuatro.

Es posible que desconozca por completo que algunos desarrolladores de IA están tratando de crear robots que conduzcan automóviles. El robot tendería a parecerse a un ser humano en varios aspectos, con piernas y brazos robóticos como extremidades. Cuando desee que cualquier automóvil convencional conducido por humanos sea un automóvil autónomo, simplemente coloque este robot de conducción de IA especializado en el asiento del conductor de su automóvil. Ver mi análisis de esta noción en el enlace aquí.

¿Por qué querríamos conducir robots?

La belleza de un robot de este tipo es que todos los automóviles actuales impulsados ​​por humanos podrían, en cierto modo, convertirse en automóviles autónomos, casi de la noche a la mañana. Simplemente compra, alquila o de alguna manera consigue un robot de conducción. Pones el robot en el asiento del conductor cuando vas en un viaje de conducción. El robot te lleva a tu destino. Si desea cambiar a la conducción humana, retire el robot del vehículo y tal vez lo guarde en el maletero para usarlo más tarde.

Hay alrededor de 250 millones de automóviles convencionales en los Estados Unidos en la actualidad. Algunos creen que eventualmente se desecharán a medida que surjan los autos sin conductor. En lugar de desechar esos autos convencionales, tal vez podríamos intentar adaptarlos para que se conviertan en autos autónomos, aunque esta es posiblemente una idea bastante costosa. El enfoque aparentemente más prudente sería poner a disposición robots de conducción.

Si viera un automóvil de aspecto convencional que viene por la calle de su vecindario y tiene un robot al volante, ¿cuál sería su reacción?

Probable inquietante.

Una afirmación ciertamente discutible es que esta inquietud se debe al robot que conduce un automóvil convencional que se sumerge en el famoso o infame valle inquietante.

Conclusión

Desde una perspectiva de IA ética, el valle inquietante presenta un enigma intrigante.

Hay algunos en AI que creen plenamente en el valle inquietante y otros que no. Pero, ya sea que creas en el valle inquietante o no, no obstante, el tema en sí es un tema de discusión. No puedes ocultar tu cabeza y pretender que la construcción per se es inexistente. El constructo como idea vive y en cierta apariencia es viralmente poderoso. Odiarlo o amarlo, el tema maldito o tal vez exaltado persiste.

Según mi discurso anterior sobre los méritos del valle inquietante desde el ángulo de la ética de la IA, existe una relación de amor y odio en duelo. ¿Deberían aquellos en el ámbito ético de la IA abrazar el valle inquietante, o rechazar sumariamente el valle inquietante, o permanecer algo neutrales sobre la veracidad y, en cambio, centrarse en el impacto que se acumula debido a las creencias divergentes en curso al respecto?

Este desafío trae a colación al preeminente economista Adam Smith cuando dijo una vez (parafraseando) que en el camino desde la Ciudad del Escepticismo, hay que pasar por el Valle de la Ambigüedad.