Esta es la razón por la que la ética de la IA está promocionando que la IA centrada en el ser humano es crucial para nuestra existencia simbiótica de IA, como el advenimiento de los automóviles autónomos sin conductor

Es posible que haya escuchado o visto que se supone que el mundo se está enfocando en la IA centrada en el ser humano (HCAI).

¿Qué es? ¿Por qué lo necesitamos? ¿Es a largo plazo o solo una moda pasajera? ¿Cómo funciona exactamente? Por lo general, surgen muchas otras preguntas similares de aquellos que no están familiarizados con la naturaleza y la esencia de la IA centrada en el ser humano.

Desempaquemos el asunto y arreglemos la historia.

Además, proporcionaré algunos ejemplos útiles de la importancia de HCAI. Estos ejemplos se basarán en la aparición de vehículos autónomos basados ​​en IA, como los últimos y mejores automóviles autónomos que comienzan a colocarse en nuestras vías públicas.

Prepárese para un viaje emocionante e informativo.

La forma lógica de comenzar esta discusión consiste en hablar sobre lo que impulsó el movimiento centrado en el ser humano en total. Conocer el yin es esencial para comprender el yang, por así decirlo. Tenga en cuenta que todavía no voy a mencionar la IA hasta que establezcamos lo que significa estar centrado en el ser humano. Quite el tema de la IA de su mente por un breve momento y resurgiremos la IA cuando sea el momento adecuado.

Ha estado ocurriendo una supuesta batalla real entre lo que algunos describen como una centrado en la tecnología perspectiva versus un contraste centrado en el ser humano punto de vista a la hora de diseñar nuevas tecnologías.

Tal vez sin que usted lo sepa, la creencia ardiente es que hemos estado preocupados principalmente por los preceptos centrados en la tecnología durante demasiado tiempo. Cada vez que se ideaba alguna nueva innovación tecnológica, la atención se dirigía hacia los aspectos tecnológicos. Algunos dirían que a menudo nos vemos atrapados en la carrera tecnológica desordenada para sacar a la luz lo último en tecnología, independientemente de cómo funcione y cómo la gente pueda reaccionar ante ella.

Hay muchos tropos de Silicon Valley que encajan en esta mentalidad. Fallar rápido, fallar a menudo es uno de los eslóganes típicos. Otra es fingir hasta que lo consigas. La idea grandiosa es que simplemente manipulas cualquier artilugio que puedas y luego comienzas a venderlo o hacer que la gente lo use. Claro, la combinación loca puede tener asperezas. Y, sí, las personas pueden confundirse con el dispositivo o incluso lastimarse, pero de todos modos, ser el primero se considera un gran elogio de los expertos en tecnología, por lo que al diablo con los torpedos y adelante a toda máquina.

El peligro subyacente de este enfoque tecnológico es que el lado humano de la ecuación se minimiza o se descuida por completo. En lugar de lanzar salvajemente nueva tecnología a las manos de la sociedad, ha habido un llamado cada vez más fuerte para respirar hondo y primero asegurarse de que el dispositivo sea compatible con los humanos. ¿Pueden las personas usar adecuadamente el dispositivo y hacerlo sin sufrir daños? ¿Es el artículo nuevo fácil de usar o casi imposible de entender? Y así.

Si de hecho nos hemos centrado ostensiblemente en la tecnología, entonces es hora de cambiar a un nuevo modo de pensar, es decir, centrarnos en el ser humano. La tecnología no puede ser el único determinante de la admiración. En lugar de que la tecnología sea el fin de todo, la cuestión de si los humanos pueden aprovechar la tecnología y obtener ganancias sustanciales de ella es el verdadero signo de invención y modernización encomiables. Una esperanza era que al cambiar la seriedad a las consideraciones centradas en el ser humano, la falta dominante de introspección humana centrada en la tecnología saldría a ver la luz. He discutido con mayor profundidad este cambio de mentalidad según mi análisis de la IA y los llamados conocimiento prohibido, consulte nuestra página, el enlace aquí.

Por supuesto, en el mundo actual, tenemos algunos técnicos que conocen y adoptan la perspectiva centrada en el ser humano, mientras que otros no la conocen o creen que no se aplica a ellos. Por lo tanto, hay muchísimos esfuerzos centrados en la tecnología que siguen avanzando como un toro en una delicada boutique de cristalería. No hay duda de eso.

El desafío desconcertante es que algunos de los esfuerzos centrados en la tecnología tendrán éxito, por lo tanto, es difícil borrar o deshonrar por completo de alguna manera la vía centrada en la tecnología. Como resultado, algunos se sientan directamente en el campo centrado en el ser humano y otros permanecen en el campo centrado en la tecnología. Una afirmación perdurable es que hay más de una forma de despellejar a un gato (vaya, un adagio obsoleto que debe retirarse).

Otro giro es que el campamento centrado en el ser humano afirma firmemente que no se sacrifica ningún punto técnico al adoptar un enfoque centrado en el ser humano. Para los tecnólogos que se imaginan que se están metiendo en una madriguera de conejo al centrarse en el ser humano, la respuesta es que esto realmente mejorará sus posibilidades de crear una tecnología increíble. Piénsalo en términos simples. La tecnología que carece de consideraciones centradas en el ser humano probablemente tendrá dificultades para que la gente la adopte. Es probable que la gente adopte rápida y ansiosamente la tecnología que adopta y se moldea a través de conocimientos centrados en el ser humano.

Puedes tener tu pastel y comértelo también.

Esto enfatiza que tal vez no haya una gran brecha entre estar centrado en la tecnología y estar centrado en el ser humano, en el sentido de que hay espacio para la coexistencia. Haz ambas cosas al mismo tiempo, sostienen algunos. Mezcla los dos para que sean co-iguales y compatibles entre sí. Los detractores insisten en que debes elegir uno u otro. O estás centrado en la tecnología y pones el centro humano a un lado, o estás centrado en el ser humano y desvías el centro de la tecnología hacia la caseta del perro.

En cualquier caso, tomemos al pie de la letra que deberíamos considerar seriamente las facetas relacionadas con los humanos cuando se diseñe una nueva tecnología. Y debemos tener cuidado de no subestimar la importancia de las características relacionadas con el ser humano al idear una tecnología novedosa. La forma práctica de capturar esto es decir que debemos estar centrados en el ser humano. La idea de centrar una cosa frente a otra a veces será muy atractiva y en otras ocasiones lamentablemente distraerá.

A continuación, podemos explorar cómo la filosofía centrada en el ser humano se puede promulgar en términos prácticos reales del mundo real.

Supongamos que se embarca en el diseño y desarrollo de un nuevo sistema que incluirá la última y mejor tecnología. Aquellos que crean sistemas generalmente son conscientes hoy en día de que es necesario considerar todo el ciclo de vida del proceso de diseño y desarrollo. Solía ​​ser que mucha atención se dirigía solo al diseño, o solo a la construcción del sistema. Como resultado, tuvimos muchos sistemas que finalmente fallaron cuando se desplegaron debido a traspasos inconexos e inadecuados a través de las numerosas etapas interrelacionadas del diseño de un sistema. Necesita mucho estar atento a la pelota durante todo el ciclo de vida del sistema.

Se han establecido varias metodologías del ciclo de vida de los sistemas para guiar la totalidad de los esfuerzos de los sistemas. Las metodologías son similares a libros de cocina con plantillas que muestran los aspectos generales que se deben hacer durante cada etapa de un esfuerzo. Puede volver a aplicarlos a su esfuerzo particular de sistemas según corresponda a lo que sea que esté armando.

Ahora estamos listos para conectar los puntos. Ha habido un gran esfuerzo para crear metodologías de ciclo de vida del sistema que estén especialmente interesadas en la importancia de las consideraciones centradas en el ser humano. Esto se conoce en general como Diseño centrado en el ser humano (HCD).

En un documento reciente del Instituto Nacional de Estándares y Tecnología (NIST, por sus siglas en inglés), una definición o explicación bastante útil del diseño centrado en el ser humano consistía en este pasaje: “HCD es un proceso continuo e iterativo en el que los equipos de proyecto diseñan, prueban y refinan continuamente un sistema, colocando a los usuarios en el centro del proceso. Los seres humanos y sus necesidades impulsan el proceso, en lugar de tener un enfoque tecnocéntrico. HCD funciona como parte de otros ciclos de vida de desarrollo, incluidos modelos en cascada, en espiral y ágiles. El diseño centrado en el usuario, el HCD, el diseño participativo, el codiseño y el diseño sensible al valor tienen similitudes clave; al más alto nivel, buscan proporcionar a los humanos diseños que, en última instancia, sean beneficiosos para sus vidas. Además, al colocar a los humanos en el centro de tales enfoques, se prestan naturalmente a un enfoque más profundo en consideraciones sociales más amplias, como la equidad, los prejuicios, los valores y la ética. HCD trabaja para crear productos más utilizables que satisfagan las necesidades de sus usuarios. Esto, a su vez, reduce el riesgo de que el sistema resultante no funcione correctamente, plantee riesgos para los usuarios, resulte en daños para los usuarios o falle” (según el Departamento de Comercio de EE. UU., NIST Special Publication 1270, marzo de 2022, Hacia un estándar para identificar y gestionar el sesgo en la inteligencia artificial por los autores Reva Schwartz, Apostol Vassilev, Kristen Greene, Lori Perine, Andrew Burt y Patrick Hall).

El informe del NIST también menciona adecuadamente el estándar de la Organización Internacional para la Estandarización (ISO) que cubre el diseño centrado en el ser humano (según ISO 9241-210:2019), para el cual estas características notables se consideran fundamentales:

• Comprensión explícita de usuarios, tareas y entornos (el contexto de uso)
• Participación de los usuarios a lo largo del diseño y desarrollo.
• Impulsado por el diseño y refinado por la evaluación centrada en el ser humano
• Proceso iterativo mediante el cual se diseña, prueba y modifica un prototipo.
• Abordar toda la experiencia del usuario
• Diseñar equipos que incluyan habilidades y perspectivas multidisciplinarias

Hagamos un resumen rápido de lo que hemos cubierto hasta ahora.

Confío en que ahora está al tanto de este movimiento en curso hacia la tecnología centrada en el ser humano y que este movimiento puede ser ayudado mediante el uso de metodologías diseñadas intencionalmente para aquellos que quieren, de hecho, crear sistemas centrados en el ser humano.

¿Dónde encaja la IA en todo esto?

Pan comido.

Aquellos que están diseñando y desarrollando IA a menudo caen en la trampa de estar demasiado preocupados por la tecnología en sí. Puede señalar fácilmente muchos sistemas de IA que obviamente estaban centrados en la tecnología y no en el ser humano (en un momento compartiré algunos ejemplos sobre autos sin conductor).

Naturalmente, uno supone que estar en el campo de la IA genera axiomáticamente la tentación de centrarse en la tecnología. Todo el mundo se apresura a intentar convertir la IA en capacidades cada vez más avanzadas. Algunos creen que tal vez podamos hacer que la IA contemporánea entre en un modo en el que, de alguna manera, entre en una especie de supernova cognitiva computacional y salte a la conciencia (ver mi cobertura en este enlace aquí).

Solo para aclarar, todavía no tenemos ninguna IA sensible. No sabemos si es posible producir IA inteligente, ni si surgirá milagrosamente. Toda la IA actual no es sensible y no está cerca de ser sensible. Quiero dejar las cosas claras, ya que hay toneladas de titulares a todo volumen que sugieren que tenemos una IA inteligente o que estamos a punto de tenerla. No tan.

Volviendo al enfoque en el diseño centrado en el ser humano, la esencia es que tiene mucho sentido tratar de lograr que aquellos que elaboran IA adopten una perspectiva centrada en el ser humano. En lugar de la IA miope de la tecnología, parecería prudente y totalmente ventajoso apuntar a diseñar una IA centrada en el ser humano. Esta es la misma idea estridente que se dice que se aplica a cualquier tipo de tecnología.

También podríamos aplicar esos preceptos centrados en el ser humano a los sistemas de IA.

Hacerlo ha generado un reino conocido como IA centrada en el ser humano, a menudo abreviada como HCAI o, a veces, abreviada como HAI. Aquí hay una forma sucinta de describir HCAI: "La IA centrada en el ser humano (HCAI) es un área emergente de investigación que reconceptualiza la HCD en el contexto de la IA, proporcionando metáforas de diseño de IA centradas en el ser humano y estructuras de gobierno sugeridas para desarrollar soluciones confiables, seguras y dignas de confianza". Sistemas de IA” (según el informe del NIST citado anteriormente).

HCAI es una combinación de IA y HCD.

Eso puede parecer algo críptico y excesivamente hinchado con abreviaturas. La versión ampliada sería decir que la IA centrada en el ser humano es una mezcla de la IA y los principios del diseño centrado en el ser humano. Queremos alejarnos de la tendencia a diseñar IA basada únicamente en preceptos centrados en la tecnología y, en cambio, fomentar una preferencia centrada en el ser humano.

Ahora sabe de qué se trata HCAI. Tenemos que avanzar hacia una antigua pregunta.

¿Podemos lograr que los desarrolladores de IA y los líderes de sus empresas adopten métodos de IA centrados en el ser humano?

Tal vez sí tal vez no.

Recuerde que anteriormente señalé que no todos necesariamente están de acuerdo con el enfoque centrado en el ser humano en general. Lo mismo se puede decir sobre la inclusión particular de lo centrado en el ser humano en el ámbito de la IA. Algunos no cumplen porque desconocen qué es HCAI. Otros echan un vistazo superficial a HCAI y deciden que prefieren seguir haciendo lo que ya están haciendo. También hay cínicos que intentan denigrar la IA centrada en el ser humano como uno de esos tipos de enfoques delicados para sentirse bien. Esto a menudo atrae a aquellos tipos de bits y bytes de tecnología completa que preferirían estar empapados de tecnología y no lidiar con lo que interpretan como asuntos superfluos.

Permítanme un momento para identificar por qué la IA centrada en el ser humano (HCAI, por sus siglas en inglés) está ganando fuerza y ​​se está convirtiendo en una parte vital de cualquier esfuerzo demostrativo de IA.

Es posible que sepa que cuando se puso en marcha la última era de la IA hubo un gran estallido de entusiasmo por lo que algunos ahora llaman AI para siempre. Desafortunadamente, inmediatamente después de esa emoción efusiva, comenzamos a presenciar AI para mal. Por ejemplo, se ha revelado que varios sistemas de reconocimiento facial basados ​​en IA contienen sesgos raciales y de género, que he discutido en el enlace aquí.

Esfuerzos para luchar contra AI para mal están en marcha activamente. además de vociferante legal búsquedas de controlar las irregularidades, también hay un impulso sustancial para adoptar la ética de la IA para corregir la vileza de la IA. La noción es que debemos adoptar y respaldar los principios clave de la IA ética para el desarrollo y el despliegue de la IA, haciéndolo así para socavar la AI para mal y simultáneamente anunciando y promoviendo lo preferible AI para siempre.

Mi amplia cobertura de la ética de la IA y la IA ética se puede encontrar en este enlace aquí y este enlace aquí, Sólo para nombrar unos pocos.

Si por casualidad estaba siguiendo de cerca cuando proporcioné la definición o explicación sobre el diseño centrado en el ser humano (HCD), es posible que haya observado con atención esta oración en el extracto del NIST: "Además, al colocar a los humanos en el centro de tales enfoques, naturalmente se prestan a un enfoque más profundo en consideraciones sociales más amplias, como la equidad, los prejuicios, los valores y la ética”. Por lo tanto, en el caso de la IA centrada en el ser humano, podemos ayudar a infundir la ética de la IA y la IA ética en el proceso de diseño y desarrollo de la IA mediante la adopción seria de HCAI como una metodología que vale la pena implementar para los sistemas de IA.

Se puede argumentar de manera un tanto convincente que gran parte de la AI para mal eso no fue intencional y podría haber ocurrido debido a que los desarrolladores de IA y los líderes de su compañía no utilizaron un enfoque HCAI. Si lo hubieran hecho, aumentan las probabilidades de que hubieran considerado cuidadosamente los elementos de la IA ética y hubieran diseñado la IA para que fuera éticamente apropiada. Podría agregar que esto ofrece juiciosamente una valiosa ventaja en el sentido de que si la IA así diseñada es aparentemente éticamente sólida, lo más probable es que la empresa y sus desarrolladores de IA eviten que su IA actúe ilegalmente. Ese es un beneficio bastante notable, ya que es probable que la IA que falla provoque demandas contra los creadores y posiblemente incluso implique un enjuiciamiento por actos delictivos (consulte mi análisis en el enlace aquí de responsabilidad penal por mal actor AI).

Tomemos un momento para considerar brevemente algunos de los preceptos clave de la IA ética para ilustrar lo que debería ser un enfoque vital centrado en el ser humano o HCAI para cualquiera que elabore, despliegue o use IA.

Por ejemplo, como afirma el Vaticano en el Llamamiento de Roma a la ética de la IA y como he cubierto en profundidad en el enlace aquí, estos son sus seis principios éticos primarios de IA identificados:

• Transparencia: En principio, los sistemas de IA deben ser explicables
• Inclusión: Las necesidades de todos los seres humanos deben ser tenidas en cuenta para que todos puedan beneficiarse y todas las personas puedan tener las mejores condiciones posibles para expresarse y desarrollarse.
• Responsabilidad: Quienes diseñan y despliegan el uso de la IA deben proceder con responsabilidad y transparencia
• Imparcialidad: No cree ni actúe de acuerdo con prejuicios, salvaguardando así la equidad y la dignidad humana.
• Fiabilidad: Los sistemas de IA deben poder funcionar de manera confiable
• Seguridad y privacidad: Los sistemas de IA deben funcionar de forma segura y respetar la privacidad de los usuarios.

Según lo declarado por el Departamento de Defensa de los Estados Unidos (DoD) en su Principios éticos para el uso de la inteligencia artificial y como he cubierto en profundidad en el enlace aquí, estos son sus seis principios éticos principales de IA:

• Responsable: El personal del DoD ejercerá los niveles apropiados de juicio y cuidado sin dejar de ser responsable del desarrollo, implementación y uso de las capacidades de IA.
• Equitativo: El Departamento tomará medidas deliberadas para minimizar el sesgo no deseado en las capacidades de IA.
• Trazable: Las capacidades de IA del Departamento se desarrollarán y desplegarán de manera que el personal pertinente posea una comprensión adecuada de la tecnología, los procesos de desarrollo y los métodos operativos aplicables a las capacidades de IA, incluso con metodologías, fuentes de datos y procedimientos de diseño y documentación transparentes y auditables.
• De confianza: Las capacidades de IA del Departamento tendrán usos explícitos y bien definidos, y la seguridad y la eficacia de dichas capacidades estarán sujetas a pruebas y garantías dentro de esos usos definidos a lo largo de sus ciclos de vida completos.
• Gobernable: El Departamento diseñará y diseñará capacidades de IA para cumplir con las funciones previstas mientras posee la capacidad de detectar y evitar consecuencias no deseadas, y la capacidad de desconectar o desactivar sistemas implementados que demuestren un comportamiento no deseado.

También he discutido varios análisis colectivos de los principios éticos de la IA, incluido haber cubierto un conjunto ideado por investigadores que examinaron y condensaron la esencia de numerosos principios éticos nacionales e internacionales de la IA en un artículo titulado "El panorama global de las pautas éticas de la IA" (publicado en Naturaleza), y que mi cobertura explora en el enlace aquí, lo que condujo a esta lista clave:

• Transparencia
• Justicia y Equidad
• No maleficencia
• Corporativa
• Privacidad
• Beneficencia
• Libertad y Autonomía
• Confía en
• Sostenibilidad
• Dignidad
• Solidaridad

Como puede adivinar directamente, tratar de precisar los detalles que subyacen a estos principios puede ser extremadamente difícil de hacer. Más aún, el esfuerzo por convertir esos principios generales en algo completamente tangible y lo suficientemente detallado como para usarse cuando se crean sistemas de IA también es un hueso duro de roer. En general, es fácil hacer algunas sugerencias sobre qué son los preceptos de ética de la IA y cómo deben observarse en general, mientras que es una situación mucho más complicada en la codificación de la IA que tiene que ser la verdadera goma que se encuentra en el camino.

Los principios de ética de la IA deben ser utilizados por los desarrolladores de IA, junto con aquellos que gestionan los esfuerzos de desarrollo de IA, e incluso aquellos que, en última instancia, implementan y realizan el mantenimiento de los sistemas de IA. Todas las partes interesadas a lo largo de todo el ciclo de vida de desarrollo y uso de la IA se consideran dentro del alcance de cumplir con las normas establecidas de IA ética. Este es un punto destacado importante ya que la suposición habitual es que "solo los codificadores" o aquellos que programan la IA están sujetos a adherirse a las nociones de ética de la IA. Tenga en cuenta que se necesita un pueblo para diseñar y desplegar la IA. Para lo cual todo el pueblo tiene que estar alerta sobre la ética de la IA.

Para brindarle una idea de lo que podría incluir una metodología contemporánea de IA centrada en el ser humano, aquí hay algunos puntos señalados por el informe del NIST:

• Definir los términos y conceptos clave relacionados con los sistemas de IA y el alcance de su impacto previsto
• Abordar el uso de datos confidenciales o potencialmente riesgosos
• Estándares detallados para el diseño experimental, la calidad de los datos y el entrenamiento del modelo
• Describa cómo se deben mapear y medir los riesgos de sesgo, y de acuerdo con qué estándares.
• Procesos detallados para pruebas y validación de modelos.
• Detallar el proceso de revisión por funciones legales o de riesgo
• Establecer la periodicidad y profundidad de la auditoría y revisión en curso.
• Resumir los requisitos para la gestión del cambio
• Detallar los planes relacionados con la respuesta a incidentes para tales
• Etc.

Hay una amplia variedad de metodologías orientadas a HCAI disponibles.

Algunas de ellas son gratuitas y se proporcionan en forma de código abierto, mientras que otras metodologías similares tienen licencia o se venden a aquellos que deseen utilizar esa variante en particular. Al igual que una caja de bombones, debe tener en cuenta qué metodología HCAI opta por utilizar y qué contiene exactamente. Algunos están dirigidos, por ejemplo, a tipos específicos de sistemas de IA, como solo para instancias de Machine Learning o Deep Learning. Además, existen metodologías HCAI que son buenas para los sistemas de IA en tiempo real, mientras que otras son débiles en ese sentido. Ver mi discusión en este enlace aquí.

Le insto a que seleccione sabiamente una metodología HCAI adecuada y se asegure de que la está adoptando astutamente. No se limite a descargar la metodología HCAI en los desarrolladores de IA desprevenidos. No obtenga uno simplemente para que pueda simplemente marcar que tiene uno. Hay muchas maneras de socavar y envenenar casi cualquier metodología HACI si falla al adoptarla. Haz lo correcto, de la manera correcta.

Tenga cuidado también en la parálisis de análisis de elegir una metodología HCAI. Algunos grupos de IA entran en guerras territoriales sobre qué metodología HACI es la "mejor" y terminan dedicando una enorme cantidad de esfuerzo a luchar por el proceso de selección. Mientras tanto, el caballo de la IA sale del establo. Mal movimiento.

En este punto de esta discusión, apuesto a que desea algunos ejemplos que puedan mostrar el valor de adoptar la IA centrada en el ser humano (HCAI).

Me alegro de que lo preguntes.

Hay un conjunto especial y seguramente popular de ejemplos que están cerca de mi corazón. Verá, en mi calidad de experto en IA, incluidas las ramificaciones éticas y legales, con frecuencia se me pide que identifique ejemplos realistas que muestren los dilemas de ética de la IA para que la naturaleza un tanto teórica del tema pueda comprenderse más fácilmente. Una de las áreas más evocadoras que presenta vívidamente este dilema ético de la IA es el advenimiento de los verdaderos autos autónomos basados ​​en la IA. Esto servirá como un caso de uso útil o ejemplo para una amplia discusión sobre el tema.

Aquí hay una pregunta notable que vale la pena contemplar: ¿La llegada de los verdaderos autos autónomos basados ​​en IA aclara algo sobre la IA centrada en el ser humano (HCAI), y si es así, qué muestra esto?

Permítanme un momento para desempacar la pregunta.

Primero, tenga en cuenta que no hay un conductor humano involucrado en un verdadero automóvil autónomo. Tenga en cuenta que los verdaderos autos sin conductor se conducen a través de un sistema de conducción de IA. No hay necesidad de un conductor humano al volante, ni existe una disposición para que un humano conduzca el vehículo. Para conocer mi cobertura amplia y continua de los vehículos autónomos (AV) y, en especial, los autos sin conductor, consulte el enlace aquí.

Me gustaría aclarar más a qué se refiere cuando me refiero a verdaderos coches autónomos.

Comprensión de los niveles de los automóviles autónomos

Como aclaración, los verdaderos autos autónomos son aquellos en los que la IA conduce el automóvil completamente por sí sola y no hay asistencia humana durante la tarea de conducción.

Estos vehículos sin conductor se consideran Nivel 4 y Nivel 5 (vea mi explicación en este enlace aquí), mientras que un automóvil que requiere un conductor humano para compartir el esfuerzo de conducción generalmente se considera en el Nivel 2 o Nivel 3. Los automóviles que comparten la tarea de conducción se describen como semiautónomos y, por lo general, contienen una variedad de complementos automatizados que se conocen como ADAS (Advanced Driver-Assistance Systems).

Todavía no existe un verdadero automóvil autónomo en el Nivel 5, y aún no sabemos si será posible lograrlo, ni cuánto tiempo tomará llegar allí.

Mientras tanto, los esfuerzos de Nivel 4 están tratando gradualmente de obtener algo de tracción al someterse a pruebas de carreteras públicas muy estrechas y selectivas, aunque existe controversia sobre si estas pruebas deberían permitirse per se (todos somos conejillos de indias de vida o muerte en un experimento que tienen lugar en nuestras carreteras y caminos, algunos sostienen, vea mi cobertura en este enlace aquí).

Dado que los automóviles semiautónomos requieren un conductor humano, la adopción de ese tipo de automóviles no será muy diferente de la conducción de vehículos convencionales, por lo que no hay mucho nuevo per se sobre este tema (sin embargo, como verá, en un momento, los siguientes puntos son generalmente aplicables).

Para los automóviles semiautónomos, es importante que el público deba ser advertido sobre un aspecto inquietante que ha surgido últimamente, a saber, a pesar de que los conductores humanos siguen publicando videos de ellos mismos durmiendo al volante de un automóvil de Nivel 2 o Nivel 3 , todos debemos evitar que nos engañen creyendo que el conductor puede desviar su atención de la tarea de conducir mientras conduce un automóvil semiautónomo.

Usted es la parte responsable de las acciones de conducción del vehículo, independientemente de la cantidad de automatización que pueda arrojarse a un Nivel 2 o Nivel 3.

Automóviles autónomos e IA centrada en el ser humano (HCAI)

Para los vehículos autónomos verdaderos de Nivel 4 y Nivel 5, no habrá un conductor humano involucrado en la tarea de conducción.

Todos los ocupantes serán pasajeros.

La IA está conduciendo.

Un aspecto para discutir inmediatamente implica el hecho de que la IA involucrada en los sistemas de conducción de IA actuales no es sensible. En otras palabras, la IA es en su conjunto un colectivo de programación y algoritmos basados ​​en computadora, y seguramente no es capaz de razonar de la misma manera que los humanos.

¿Por qué este énfasis adicional en que la IA no es consciente?

Porque quiero subrayar que cuando hablo del papel del sistema de conducción de la IA, no estoy atribuyendo cualidades humanas a la IA. Tenga en cuenta que existe una tendencia continua y peligrosa en estos días a antropomorfizar la IA. En esencia, las personas están asignando una sensibilidad similar a la humana a la IA actual, a pesar del hecho innegable e indiscutible de que todavía no existe tal IA.

Con esa aclaración, puede imaginar que el sistema de conducción de inteligencia artificial no "conocerá" de forma nativa de alguna manera las facetas de la conducción. La conducción y todo lo que conlleva deberá programarse como parte del hardware y software del vehículo autónomo.

Vamos a sumergirnos en la miríada de aspectos que entran en juego en este tema.

Primero, es importante darse cuenta de que no todos los autos autónomos con IA son iguales. Cada fabricante de automóviles y empresa de tecnología de conducción autónoma está adoptando su enfoque para diseñar automóviles autónomos. Como tal, es difícil hacer declaraciones generales sobre lo que harán o no harán los sistemas de conducción de IA.

Además, cada vez que se indica que un sistema de conducción de inteligencia artificial no hace algo en particular, esto puede ser superado más adelante por desarrolladores que de hecho programan la computadora para hacer eso mismo. Paso a paso, los sistemas de conducción de IA se están mejorando y ampliando gradualmente. Es posible que una limitación existente hoy en día ya no exista en una iteración o versión futura del sistema.

Confío en que proporcione una letanía suficiente de advertencias para subyacer a lo que estoy a punto de relatar.

Ahora estamos preparados para profundizar en los automóviles autónomos y el valor notable de Human-Center AI (HCAI).

Usemos un ejemplo fácilmente sencillo. Un automóvil autónomo basado en inteligencia artificial está en marcha en las calles de su vecindario y parece conducir de manera segura. Al principio, habías prestado especial atención a cada vez que lograbas vislumbrar el automóvil autónomo. El vehículo autónomo se destacó con su conjunto de sensores electrónicos que incluían cámaras de video, unidades de radar, dispositivos LIDAR y similares. Después de muchas semanas de que el automóvil autónomo deambulara por su comunidad, ahora apenas lo nota. En lo que a usted respecta, es simplemente otro automóvil en las vías públicas ya ocupadas.

Para que no piense que es imposible o inverosímil familiarizarse con ver autos sin conductor, he escrito con frecuencia sobre cómo los lugares que están dentro del alcance de las pruebas de autos sin conductor se han acostumbrado gradualmente a ver los vehículos arreglados. Muchos de los lugareños finalmente pasaron de estar boquiabiertos a bostezar boquiabiertos a emitir un amplio bostezo de aburrimiento para presenciar esos serpenteantes autos sin conductor.

Probablemente, la razón principal en este momento por la que podrían notar los vehículos autónomos es el factor de irritación y exasperación. Los sistemas de conducción de IA de manual se aseguran de que los autos obedezcan todos los límites de velocidad y las reglas de la carretera. Para los conductores humanos agitados en sus autos tradicionales conducidos por humanos, a veces te molestas cuando estás atrapado detrás de los autos autónomos basados ​​​​en IA que cumplen estrictamente la ley.

Eso es algo a lo que todos deberíamos acostumbrarnos, con razón o sin ella.

Volvamos a nuestra historia.

Resulta que comienzan a surgir un puñado de preocupaciones indecorosas sobre los autos autónomos basados ​​​​en IA, que de otro modo serían inocuos y generalmente bienvenidos, específicamente:

1) Dificultades de recogida y devolución (PUDO)

2) Insuficiente estado de automóvil autónomo en el vehículo para pasajeros

3) Confusión peligrosa para los peatones en cuanto a las intenciones del sistema de conducción de IA

4) Preocupaciones sobre las intrusiones en la privacidad debido a los autos sin conductor

5) Dudas éticas sobre la conducción de IA según el infame Problema del Trolley

Echaremos un vistazo de cerca a cada uno de esos factores. Cada uno de ellos representa algunas de las luchas más desafiantes para la expansión en curso de las pruebas de autos sin conductor. Para aclarar, el mayor desafío es garantizar que el automóvil autónomo vaya de manera segura del punto A al punto B. Estos desafíos adicionales antes mencionados se suman a ese conjunto central o fundamental de desafíos.

Como será evidente, los cinco problemas mencionados están integralmente relacionados con la noción clave del diseño centrado en el ser humano. En ese sentido, muestran la importancia de la atención a la IA centrada en el ser humano (HCAI).

#1: Dificultades para recoger y dejar (PUDO)

Cuando utiliza un servicio de viaje compartido impulsado por humanos, lo único que asume que se llevará a cabo correctamente implica que lo recojan para el viaje en un lugar conveniente y que lo dejen en el destino adecuado cuando se complete el viaje (esto es conocido por el práctico acrónimo de PUDO). Esto puede ser mucho más complicado de lo que parece. Si está parado en una acera roja, ¿debería el conductor humano seguir adelante y detenerse allí para recogerlo? Tenga en cuenta que la ley generalmente establece que no se permite detenerse en un bordillo rojo.

A veces, el lugar “conveniente” para que lo recojan no es necesariamente conveniente para el conductor del vehículo. Estoy seguro de que has cruzado una calle en alguna ocasión para tratar de facilitar que un conductor de viaje compartido te encuentre. Puede surgir un tipo de baile en el que tú intentas acercarte al coche y el conductor intenta acercarse a donde estés.

Para muchas de las empresas que están elaborando sistemas de conducción de IA, todo el asunto de la recogida y devolución adecuada se relegó a una prioridad relativamente baja en la lista de cosas por hacer.

Los desarrolladores de IA generalmente pensaron que un pasajero humano siempre debería dirigirse al automóvil autónomo. Es responsabilidad del pasajero hacer esto. El sistema de conducción AI no tiene que preocuparse por el PUDO. Solo acércate lo suficiente y eso es todo. En esa forma de pensar, los lugares de recogida y entrega no tienen nada que ver con asuntos como las inclemencias del tiempo (cuando llueve, el PUDO a menudo se ajusta en consecuencia) o situaciones de tráfico (quizás otros autos están pasando velozmente y el potencial el pasajero tiene que lanzarse al peligro), y así sucesivamente.

Los conductores humanos no suelen tener esa mentalidad. Se dan cuenta de que no recibirán una propina monetaria o que podrían obtener una puntuación de calificación deficiente si no hacen algo con seriedad para que el pasajero tenga un PUDO relativamente conveniente. Tratar de llegar a un lugar útil puede ser una habilidad de conducción crucial. Esto también promueve la seguridad en el sentido de que si el pasajero es presionado ansiosamente para que alcance desesperadamente el automóvil autónomo, algunas personas toman decisiones imprudentes y pueden resultar perjudicadas por todo tipo de tráfico intermedio.

En el caso de los automóviles autónomos de IA y los sistemas de conducción de IA que no hacen un trabajo sólido de PUDO, se podría decir que esto muestra una falta de enfoque centrado en el ser humano por parte de los desarrolladores de IA. Aparentemente, se encogieron de hombros de las facetas de recoger y dejar. Ese es el tipo de mentalidad que podría generar una perspectiva tradicional centrada en la tecnología. Haz que los humanos se acerquen a la máquina, en lugar de que la máquina se acerque a los humanos.

Problema resuelto, el aficionado a la tecnología podría indicar alegremente y luego lavarse las manos de todo el asunto.

Para ser justos, esta no es la única base para la falta de un ferviente enfoque PUDO. La energía de los desarrolladores de IA que construyen sistemas de conducción de IA se ha dedicado a garantizar que un automóvil autónomo pueda avanzar de manera segura del punto A al punto B. Sin esa capacidad, nada más importa. Dicho esto, es probable que cualquier persona que resulte lesionada o perturbada de manera demostrable debido a un pésimo PUDO de un esfuerzo de automóvil autónomo en ciernes haga ruidos muy publicitados y la reacción social podría ser extremadamente adversa. Indudablemente, habría técnicos de IA que se quejarían de que cualquier reacción negativa de este tipo está perdiendo la hazaña trascendental de que la IA conduzca de manera segura del punto A al punto B. Sería un clamor que el público está dejando que la cola mueva al perro. Tal vez sea así, pero las reacciones de la sociedad pueden significar buena fortuna o directamente la perdición para los florecientes autos sin conductor.

Para mi cobertura en profundidad de este tipo de cuestiones sutiles pero decisivas sobre los vehículos autónomos, vea mi discusión en el enlace aquí que proporciona aspectos destacados de un estudio del que soy coautor con un miembro de la facultad de Harvard.

N.º 2: Estado insuficiente del automóvil autónomo en el vehículo para los pasajeros

Un conductor humano puede ser un gato hablador. Quiero decir que algunos conductores de viajes compartidos están continuamente parloteando durante un viaje. No a todos los pasajeros les gusta esto. Algunos quieren paz y tranquilidad. A otros les gusta tener un poco de bromas agradables.

Un aspecto de un conductor humano es que es casi seguro que puede hacerle preguntas al conductor sobre las acciones de conducción que se están realizando. ¿Por qué el conductor giró a la derecha tan rápido? ¿Por qué el conductor no va más rápido? Entiendes la idea.

La suposición de algunos desarrolladores de IA era que el pasajero de un automóvil autónomo simplemente entraría en el vehículo autónomo y luego sería tan silencioso como un ratón. No es necesario que la IA interactúe con el pasajero. Los pasajeros no son más que un trozo de arcilla. Se sientan en el auto y los llevan a su destino. Fin de la historia.

Para sorpresa de algunos fabricantes de automóviles y empresas de tecnología de conducción autónoma, descubrieron que los pasajeros quieren saber qué está pasando. El enfoque mínimo implica tener una pantalla LED que muestre la ruta del automóvil autónomo. Sin embargo, esto no ayuda especialmente en el manejo de aspectos tales como por qué se hizo un giro rápido o por qué el automóvil se está desacelerando. Claro, se pueden mostrar mensajes electrónicos, pero se permite poca o ninguna interacción entre la IA y los pasajeros.

Una vez más, podría interpretar esto como un problema de desarrollo de IA centrado en el ser humano. La suposición de que los pasajeros son como una maleta o una caja de entrega es un punto de vista centrado en la tecnología. Las personas son personas. Si va a transportar personas, debe hacer que se sientan cómodos y responder a sus consultas. Una solución rápida para algunas operaciones de autos sin conductor es tener una conexión de voz a bordo con un agente humano en un lugar remoto que esté monitoreando los autos de la flota. Esto tiene numerosas desventajas, como analicé extensamente en el enlace aquí.

#3: Confusión peligrosa para los peatones en cuanto a las intenciones del sistema de conducción de IA

Imagina que caminas despreocupadamente por la acera y deseoso de cruzar la calle. Notas que un auto viene por la calle hacia ti. Lo habitual que harías es mirar al conductor humano. ¿Me ve el conductor? ¿El conductor está mirando hacia otro lado? ¿Están viendo un video de gatos y no prestan atención a la carretera?

El problema de los coches autónomos es que no hay un conductor humano. Bueno, supongo que se podría decir que eso es una ventaja, ya que nos permite acabar con la conducción en estado de ebriedad y otros comportamientos errantes de conducción humana. Pero cuando se trata de averiguar qué va a hacer un automóvil, generalmente intenta ver lo que está haciendo el conductor (a través de su cabeza, sus ojos, su postura general, etc.).

Cuando no hay un conductor en el asiento del conductor, ¿cómo sabrá lo que va a hacer un automóvil? Estás ausente de las pistas habituales. Algunos fabricantes de automóviles y empresas de tecnología de conducción autónoma no calcularon particularmente este problema en sus esfuerzos de diseño. En su opinión, el sistema de conducción de IA siempre conduciría de forma segura y legal. ¿Qué más hay que hacer?

Se podría argumentar que este es otro ejemplo más de una visión del mundo centrada en la tecnología frente a una perspectiva centrada en el ser humano. Si cree que los humanos simplemente darán a los autos autónomos el derecho de paso en todo momento, tal vez no importe que se necesiten las señales de acción direccional de un conductor humano. Por otro lado, en el mundo real, se debe proporcionar algo.

Como he examinado en el enlace aquí, se están probando numerosas propuestas, como poner bombillas especiales en el capó de los coches autónomos que se encienden y apuntan en la dirección hacia la que se dirige el vehículo autónomo. Otra noción es que los dispositivos especializados reconocerán a un peatón que son vistos por el sistema de conducción AI. Se están explorando todo tipo de opciones sensatas, incluso a veces enfoques extravagantes.

#4: Preocupaciones sobre las intrusiones en la privacidad debido a los autos sin conductor

He estado advirtiendo repetidamente sobre el potencial masivo de intrusiones en la privacidad debido a la llegada de los autos sin conductor. Nadie está prestando mucha atención al asunto en este momento porque aún no ha surgido como un problema realizado. Les aseguro que, en última instancia, será un problema descomunal, uno que he etiquetado como el verdadero "ojo errante" de los autos sin conductor (ver el enlace aquí).

Su primer pensamiento podría ser que seguramente se trata únicamente de la privacidad de los pasajeros. La IA podría monitorear lo que hacen los pasajeros mientras están dentro de un automóvil autónomo. Claro, eso es una preocupación definitiva. Pero diría que palidece en comparación con el escrúpulo menos obvio que tiene ramificaciones aún mayores.

En pocas palabras, los sensores del automóvil autónomo recopilan todo tipo de datos a medida que los vehículos autónomos circulan por nuestras vías públicas. Captura lo que sucede en los jardines delanteros de nuestras casas. Captura lo que hace la gente cuando camina de un lugar a otro. Muestra cuándo entraste a un establecimiento y cuándo saliste de él. Estos datos se pueden cargar fácilmente en la nube del operador de la flota. El operador de la flota podría luego conectar estos datos y esencialmente tener los detalles de nuestra vida cotidiana que ocurre mientras estamos al aire libre y en toda nuestra comunidad.

No parece que nos importe ese potencial de intrusión en la privacidad en este momento porque solo hay un puñado de autos autónomos que se están probando en relativamente pocos lugares. Algún día, tendremos cientos de miles o millones de autos sin conductor que atravesarán todas nuestras ciudades y pueblos principales. Nuestras vidas diarias al aire libre se grabarán sin parar, 24 × 7 y se nos puede rastrear en consecuencia.

Un desarrollador de inteligencia artificial centrado en la tecnología probablemente minimizaría esto. Sugerirían que todo lo que están haciendo es implementar la tecnología de IA. Es otra persona la que debe preocuparse por cómo se utilizará la tecnología.

Por el contrario, una perspectiva centrada en el ser humano ya estaría preocupada por cómo se va a abordar esta gigantesca bomba de relojería que hace tictac la privacidad. Mejor más temprano que tarde. Es otra buena razón más para tener IA centrada en el ser humano (HCAI) en la combinación de cosas.

# 5: Dudas éticas sobre la conducción de IA según el infame problema del tranvía

Este último punto es un poco complejo. Lo acortaré y lo alentaré a que considere leer detenidamente mi extenso análisis en el enlace aquí. En resumen, cuando conduce un automóvil o viaja simplemente como pasajero en un automóvil, siempre está en peligro en cuanto a lo que le sucede al automóvil. El coche podría ser atropellado por otro coche. El coche podría chocar contra un poste de luz. Todo tipo de cosas malas pueden ocurrir.

¿Cómo decide un conductor humano qué acciones de conducción tomar?

Por ejemplo, mi ejemplo favorito fue un caso reportado en las noticias. Un conductor humano entraba legalmente en una intersección cuando otro automóvil se saltó un semáforo en rojo y se dirigía peligrosamente hacia el automóvil permitido legalmente. El conductor dijo a los periodistas que tenía que tomar una decisión difícil. Podría seguir adelante y probablemente ser embestido por el auto intruso, posiblemente muriendo en el proceso o sin duda resultando gravemente herido. O podría alejar su automóvil de la colisión anticipada, pero había peatones cerca. Había muchas probabilidades de que golpeara o matara a algunos de los peatones. Si lo hiciera, probablemente le perdonaría la vida.

¿Qué haría usted?

La cuestión es que nos enfrentamos a estos dilemas de conducción todo el tiempo. No pensamos especialmente en ellos hasta que las cosas van mal. Te aseguro que todo conductor en todo momento está mentalmente enredado en tener que decidir qué acciones de conducción tomar. Su vida depende de ello. De ello depende la vida de los pasajeros de su vehículo. De ello depende la vida de los demás conductores y pasajeros de los coches cercanos. Los peatones, ciclistas y otros también dependen de él.

Menciono esto debido a una pregunta simple pero extremadamente difícil de responder.

¿Qué debe hacer la IA cuando se enfrenta a decisiones de conducción de vida o muerte?

Si fuera un pasajero en un automóvil autónomo que estaba en medio de una intersección y un automóvil conducido por humanos se saltó la luz roja, ¿qué quiere que haga el sistema de conducción de IA? ¿Debería la IA tratar de evitar el golpe y, sin embargo, posiblemente atacar a un grupo de peatones? ¿O la IA no debería tomar ninguna acción especial y simplemente permitir que el vehículo autónomo sea embestido? Este tipo de dilemas éticos a menudo se representan en el contexto de un famoso experimento mental conocido como el problema del tranvía (ver el enlace aquí).

Actualmente, no muchos están tomando el Problema del Trolebús con alguna seriedad sobria. En general, la mayoría de los sistemas de conducción de IA aún no intentan evaluar las acciones de conducción evasivas. Incluso si la IA lo hace, existe una cuestión abierta y angustiosa de cómo se supone que debe programarse la IA para tomar estas decisiones éticas desafiantes.

Una perspectiva centrada en la tecnología tendería a decir que no se preocupe hasta que se convierta en un problema socialmente consciente. Simplemente siga produciendo grandes cantidades de código de IA y vea qué sucede en el futuro.

Un punto de vista centrado en el ser humano probablemente afirmaría que debemos estar al tanto de este asunto. Sin embargo, este no es un asunto que pueda decidir cada fabricante de automóviles y empresa de tecnología de conducción autónoma por sí solo. Se necesita un enfoque social más amplio para un medio general de resolver esto.

Conclusión

Los desarrolladores acérrimos de IA a menudo son escépticos de lo que consideran modas pasajeras o tonterías esponjosas. He tenido muchos técnicos de IA que me han hecho una pregunta estrictamente dura y severa en un tono altivo y dudoso sobre este creciente interés en la IA centrada en el ser humano (HCAI).

Ellos preguntan esto: ¿Dónde está la carne en HCAI?

Mi respuesta es que la carne, las papas y el postre se encuentran en la comprensión de que un enfoque de la IA centrado en el ser humano nos dará una mayor oportunidad de que la IA sea un éxito y se convierta en una contribución omnipresente a la sociedad en general. Es probable que aquellos que deseen inclinarse y permanecer atascados en un enfoque centrado únicamente en la tecnología descubran que la IA que crean es completamente problemática y que la sociedad se va a enfadar mucho al respecto. Rodarán cabezas. La IA podría ser rechazada como una maravilla tecnológica y convertirse en un marginado villano.

Voto enérgicamente por algún pensamiento centrado en el ser humano para estar centrado en el ser humano cuando se trata de IA.