La última inquietud sobre ética de la IA es que la IA puede encarnar de manera inextricable los sesgos políticos, incluso en el caso inocuo de los automóviles autónomos basados ​​en la IA

Hablemos de política.

Bueno, me doy cuenta de que probablemente esté agotado por el enfoque aparentemente continuo en la política en todas las fuentes de medios disponibles en estos días. Estados rojos versus estados azules. Liberales contra conservadores. Demócratas versus republicaciones. El parloteo sobre maquinaciones políticas es exasperantemente interminable.

Es posible que haya asumido razonablemente que hay algunos temas en los que la política no entra especialmente en escena. En esencia, tal vez haya dos clases distintas de temas, a saber, temas que están infundidos políticamente sin importar qué, y otros temas más banales que bordearían o escaparían del ámbito político.

Parecería tener sentido que habrá esos temas llamativos que están eternamente destinados a estar envueltos en la política y las furias políticas, como la lista de larga data que incluye aspectos de salud nacional, aspectos electorales, control de armas, inmigración, y similares. Todo lo que necesita hacer es mencionar cualquiera de esos temas y lo siguiente que sucede es que está inmerso en una tormenta política. Los argumentos bastante acalorados están prácticamente garantizados.

En la otra cara de la moneda de la conflagración, quizás haya algunos temas que no provoquen una reacción política tan instintiva. Me gustaría presentar uno de esos temas frente a usted, tratando de obtener su reacción visceral inicial.

Ready?

Carros.

Sí, el tema cotidiano de los autos, los automóviles, los vehículos motorizados, o como quiera expresarlo, ¿invoca eso una protesta política o alimenta una diatriba políticamente cargada o peleas verbales que se deben discutir?

Puede que no parezca en la superficie que hay una mayor apariencia de preocupaciones políticas sobre los automóviles. Son simplemente una forma de transporte diario. Te subes a tu auto y conduces al trabajo. Usas tu auto para hacer mandados e ir a comprar víveres. Si puede dedicar algo de tiempo para unas vacaciones, use su automóvil para dirigirse a los bosques abiertos o tal vez visitar algunos monumentos nacionales preciados.

Los coches parecerían ser apolíticos.

Lo sentimos, pero eso no es abundantemente el caso.

Se puede argumentar que los autos están íntimamente rodeados y sumergidos en la política como cualquier otro de los llamados temas críticos. Tal vez los medios de comunicación en general no cubren la política relacionada con los automóviles tanto como podrían hacerlo con otros temas más atractivos, pero no obstante, las corrientes políticas subyacentes aún existen.

Una dimensión política obvia consiste en en qué deben consistir nuestros automóviles.

Me refiero al maquillaje o mecanización de los coches. Por ejemplo, existe un debate político apasionante sobre si los automóviles deberían usar ICE (motores de combustión interna) en lugar de cambiar a EV (vehículos eléctricos). Esta es un área de discurso importante que se vincula con muchos otros temas políticamente cargados, como los problemas ambientales y las facetas del cambio climático.

Un asunto menos conocido pero relacionado se relaciona con el tamaño de los automóviles y su huella general en varios aspectos. ¿Deberíamos tener autos grandes o solo autos pequeños? ¿Deberíamos diseñar automóviles para desalentar el uso de automóviles en general, con el objetivo de convencer a las personas para que utilicen el transporte público y el transporte público? Y así.

Aquí hay algo en lo que probablemente no hayas pensado.

Algunos estudios han examinado si el tipo de automóvil que se posee se basa en las inclinaciones políticas del propietario del automóvil. Presumiblemente, es posible que pueda encontrar una correlación estadística entre alguien declarado demócrata en cuanto al tipo de automóvil comprado y, del mismo modo, encontrar una correlación estadística entre ser republicano y el tipo de automóvil que posee. No profundizaré en esos estudios aquí, aunque me gustaría mencionar que debe interpretar dichos estudios y sus resultados con cautela y una fuerte dosis de escepticismo sobre la validez estadística involucrada.

Hablando de usar estadísticas, hay otro ángulo intrigante para las características políticas y los autos. Hay esfuerzos de investigación que parecen vincular varios comportamientos de conducción de personas a la afiliación política de dichos conductores.

Las preguntas que a menudo se abordan incluyen:

· ¿Es más probable o menos probable que los conductores que se involucran en accidentes automovilísticos o colisiones sean demócratas o republicanos?

· ¿Es más probable que los conductores ebrios sean liberales o conservadores?

· Cuando ocurren esos locos incidentes de ira en la carretera, en los que los conductores se vuelven locos y se golpean unos a otros, ¿tienden esos locos furiosos a ser liberales o conservadores?

· ¿Quién recibe más multas de tráfico y presumiblemente conduce con mayor riesgo, los demócratas o los republicanos?

· Etc.

Nuevamente, no voy a sumergirme en esos esfuerzos de investigación aquí. Y, una vez más, asegúrese de estar alerta cuando lea dichos estudios o vea titulares llamativos sobre sus resultados. Todo lo que diré es que la vieja frase sobre las estadísticas sigue siendo muy cierta hoy en día, de modo que hay mentiras, malditas mentiras y estadísticas (limpié ese poco de sabiduría salada para una audiencia más refinada).

Por lo tanto, parece que tenemos amplia evidencia de que el tema de los automóviles lamentablemente está imbuido de connotaciones políticas.

Elegiré un tema diferente entonces, uno que tal vez sea completamente apolítico.

¿Listo esta vez?

Inteligencia artificial (IA).

Ciertamente, uno esperaría que la IA debe ser apolítica, especialmente cuando se trata de las capacidades internas de los sistemas de IA. Por supuesto, podría sospechar que hay política circundante si la IA debe usarse o no, pero aparentemente pensaría que el interior de un sistema de IA estaría más allá de cualquier fermentación política per se.

Antes de echar un vistazo más de cerca a esa suposición predominante, podría ser instructivo considerar algunas otras facetas de la IA que recientemente han hecho que muchos reconsideren el irresponsable impulso de producir y aceptar instintivamente los sistemas de IA en un abrir y cerrar de ojos.

Ya ves, en la carrera hacia el AI para siempre entusiasmo de los últimos años, ha habido una creciente comprensión de que no toda la IA será necesariamente buena. Hemos llegado a ver que también hay muchas oportunidades para el AI para mal surgir. Esto puede suceder por la intención deliberada de quienes desarrollan IA y también puede suceder por lo que algunos argumentarían estridentemente que es una falta totalmente irresponsable de supervisión adecuada por parte de los desarrolladores de IA y quienes promulgan sistemas de IA.

He cubierto muchos de estos problemas de ética de la IA en la cobertura de mi columna, como el enlace aquí y el enlace aquí..

Considere como un indicador de AI para mal el tema del reconocimiento facial.

Muchos pensaron que el reconocimiento facial iba a ser la mejor de las tecnologías de IA (y, en muchos sentidos, es de hecho una especie de AI para siempre). Sería tan fácil hacer operaciones bancarias en cajeros automáticos simplemente escaneando su rostro para reconocerlo en lugar de usar un código PIN secreto y una tarjeta bancaria. Sería muy conveniente entrar a una tienda de comestibles y comprar simplemente usando su rostro como un medio para indicar su cuenta de comestibles en línea que podría cobrarse por cualquier artículo que seleccione.

Ya sabes que hacer.

Lo siguiente que sabes es que la sociedad comenzó a descubrir que el reconocimiento facial no es solo caramelos de sabor dulce y rosas de olor dulce. Algunos de los algoritmos de reconocimiento facial basados ​​en IA hicieron un pésimo trabajo al poder discernir a las personas debido a su raza. Surgieron muchos otros problemas desconcertantes y absolutamente escandalosos, incluidos los prejuicios inherentes relacionados con el género y otros factores. Para ver mi cobertura sobre los temas de ética de la IA que sustentan el reconocimiento facial, consulte el enlace aquí.

El punto general es que existe una sólida posibilidad de que cualquier AI para siempre también va a llevar equipaje asociado consistente en AI para mal. Hay algunas ocasiones en las que AI para mal es completamente malo, y existen pocas cualidades redentoras que sugieran que hay un mínimo de AI para siempre dentro. Sin embargo, en general, un sistema de IA tendrá una apariencia de ambos. AI para siempre y AI para mal. Lo primero querríamos alentar, lo último querríamos prevenir, reducir, mitigar, y cuando todo lo demás falla, atrapar y quitar los colmillos lo antes posible.

Podría estar pensando, sí, todo eso tiene sentido y deberíamos estar examinando atentamente la IA en busca de cualquier tipo de sesgo racial, sesgo de género y cualquier tipo de desigualdad. Esta sería la acción apropiada y ayudaría a la sociedad a evitar lo malo y cosechar fructíferamente lo bueno de la IA.

Lo creas o no, hay otro factor que se puede agregar a la lista de cosas sorprendentes envueltas en la IA que muchos no sabían que estaba en el estofado abigarrado de la IA.

Inclinaciones políticas.

Estudios recientes muestran que los sistemas de IA pueden encarnar (por así decirlo, aunque no antropomórficamente), una plétora de tendencias políticas, opiniones, preferencias y otros atributos e infusiones de base política. Esto, a su vez, puede afectar la forma en que funciona la IA, como lo que la IA "decide" en función de la programación de la IA.

Si solicita un préstamo en línea y se utiliza un sistema de toma de decisiones algorítmico basado en IA, a menudo no tiene idea de en qué consiste la programación de IA. Al decir que le rechazaron el préstamo, no puede estar seguro de que la IA haya evitado usar su raza, género u otros factores similares al tomar la decisión de rechazo.

Tampoco puede estar seguro de que la IA no reprimió su solicitud de préstamo debido a sus sesgos políticos.

Cuando afirmo eso en términos tan crudos, no infle demasiado la noción creyendo que la IA es consciente. Como mencionaré más adelante en un momento, no tenemos IA consciente hoy. Punto final, punto. No importa qué titulares salvajes vea, tenga en cuenta que hoy en día no hay nada parecido a ser una IA inteligente. Ni siquiera sabemos si es posible alcanzar la sensibilidad con la IA. Tampoco hay indicación de cuándo sucederá, o si alguna vez ocurrirá.

De vuelta al asunto.

Ahora que he puesto sobre la mesa que la IA puede contener sesgos políticos, podemos observar más de cerca cómo sucede esto y de qué manera pueden aparecer insidiosamente las inclinaciones políticas.

Aparte, si la noción de que la IA puede incrustar predilecciones políticas te causa una consternación o una consternación horrenda y desgarradora, atribúyelo a otro ejemplo más de cómo rasgar el velo inmaculado de la IA. La sociedad parece haber aceptado hasta ahora una imagen de marca de IA que incorpora la gran inocencia y el aura prístina de neutralidad y equilibrio.

Podríamos haber heredado esto de otros tipos de máquinas. Los tostadores no parecen tener sesgos inherentes basados ​​en la raza, el género, etc. De manera similar, no esperaríamos que una tostadora tuviera una mentalidad política, por así decirlo. Una tostadora es una tostadora. Se interpreta como una máquina.

La razón por la cual la perspectiva de la tostadora no se sostiene cuando se trata de IA es que el sistema de IA está programado para tratar de llevar a cabo capacidades similares a las cognitivas. Como tal, esto empuja a la máquina al dilema de los problemas cognitivos, como la incorporación de sesgos y similares. Les aseguro que pronto descubriremos que las tostadoras basadas en IA están plagadas de sesgos y preocupaciones problemáticas.

Una forma práctica de abrir la puerta a la comprensión de cómo la IA puede imbuirse políticamente será echar un vistazo al uso de la IA en el advenimiento de los verdaderos autos sin conductor basados ​​en la IA. Podemos matar dos pájaros de un tiro y examinar el tema genérico y general de la IA que contiene la encarnación política, y hacerlo en el contexto ejemplar de cómo esto podría surgir en los automóviles autónomos.

Sin embargo, quiero aclarar que la inoculación política de la IA es un tema independiente que merece que se le dé su merecido. No mezcle por error la IA de los automóviles autónomos con las dimensiones políticas de la IA. Toda IA ​​tendrá posibilidades políticamente inherentes, y la profundidad y el grado dependerán de cómo se diseñe y despliegue la IA.

Aquí hay una pregunta notable que vale la pena reflexionar: ¿Cómo llegará la IA a imbuir internamente las tendencias políticas? ¿Puede esto incluso ocurrir en el ámbito aparentemente apolítico de la IA que se utiliza para los autos autónomos basados ​​en IA emergentes?

Permítanme un momento para desempacar la pregunta en relación con los autos sin conductor.

Primero, tenga en cuenta que no hay un conductor humano involucrado en un verdadero automóvil autónomo. Tenga en cuenta que los verdaderos autos sin conductor se conducen a través de un sistema de conducción de IA. No hay necesidad de un conductor humano al volante, ni existe una disposición para que un humano conduzca el vehículo. Para conocer mi extensa y continua cobertura de los vehículos autónomos (AV) y, en especial, los autos sin conductor, consulte el enlace aquí.

Me gustaría aclarar más a qué se refiere cuando me refiero a verdaderos coches autónomos.

Comprensión de los niveles de los automóviles autónomos

Como aclaración, los verdaderos autos autónomos son aquellos en los que la IA conduce el automóvil completamente por su cuenta y no hay asistencia humana durante la tarea de conducción.

Estos vehículos sin conductor se consideran Nivel 4 y Nivel 5 (consulte mi explicación en este enlace aquí), mientras que un automóvil que requiere un conductor humano para compartir el esfuerzo de conducción generalmente se considera en el Nivel 2 o el Nivel 3. Los automóviles que comparten compartir la tarea de conducción se describen como semiautónomos y, por lo general, contienen una variedad de complementos automatizados que se conocen como ADAS (sistemas avanzados de asistencia al conductor).

Todavía no existe un verdadero automóvil autónomo en el Nivel 5, que aún no sabemos si será posible lograrlo, ni cuánto tiempo llevará llegar allí.

Mientras tanto, los esfuerzos de Nivel 4 están tratando gradualmente de obtener algo de tracción al someterse a pruebas de carreteras públicas muy estrechas y selectivas, aunque existe controversia sobre si estas pruebas deberían permitirse per se (todos somos conejillos de indias de vida o muerte en un experimento teniendo lugar en nuestras carreteras y caminos, algunos sostienen, vea mi cobertura en este enlace aquí).

Dado que los automóviles semiautónomos requieren un conductor humano, la adopción de ese tipo de automóviles no será muy diferente de la conducción de vehículos convencionales, por lo que no hay mucho nuevo per se sobre este tema (sin embargo, como verá, en un momento, los siguientes puntos son generalmente aplicables).

Para los automóviles semiautónomos, es importante que el público deba ser advertido sobre un aspecto inquietante que ha surgido últimamente, a saber, a pesar de que los conductores humanos siguen publicando videos de ellos mismos durmiendo al volante de un automóvil de Nivel 2 o Nivel 3 , todos debemos evitar que nos engañen creyendo que el conductor puede desviar su atención de la tarea de conducir mientras conduce un automóvil semiautónomo.

Usted es la parte responsable de las acciones de conducción del vehículo, independientemente de la cantidad de automatización que pueda arrojarse a un Nivel 2 o Nivel 3.

Automóviles autónomos e inclinaciones políticas integradas en IA

Para los vehículos autónomos verdaderos de Nivel 4 y Nivel 5, no habrá un conductor humano involucrado en la tarea de conducción.

Todos los ocupantes serán pasajeros.

La IA está conduciendo.

Un aspecto para discutir inmediatamente implica el hecho de que la IA involucrada en los sistemas de conducción de IA actuales no es sensible. En otras palabras, la IA es en su conjunto un colectivo de programación y algoritmos basados ​​en computadora, y seguramente no es capaz de razonar de la misma manera que los humanos.

¿Por qué este énfasis adicional en que la IA no es consciente?

Porque quiero subrayar que cuando hablo del papel del sistema de conducción de la IA, no estoy atribuyendo cualidades humanas a la IA. Tenga en cuenta que existe una tendencia continua y peligrosa en estos días a antropomorfizar la IA. En esencia, las personas están asignando una sensibilidad similar a la humana a la IA actual, a pesar del hecho innegable e indiscutible de que todavía no existe tal IA.

Con esa aclaración, puede imaginar que el sistema de conducción de inteligencia artificial no "conocerá" de forma nativa de alguna manera las facetas de la conducción. La conducción y todo lo que conlleva deberá programarse como parte del hardware y software del vehículo autónomo.

Vamos a sumergirnos en la miríada de aspectos que entran en juego en este tema.

Primero, es importante darse cuenta de que no todos los autos autónomos con IA son iguales. Cada fabricante de automóviles y empresa de tecnología de conducción autónoma está adoptando su enfoque para diseñar automóviles autónomos. Como tal, es difícil hacer declaraciones generales sobre lo que harán o no harán los sistemas de conducción de IA.

Además, cada vez que se indica que un sistema de conducción de inteligencia artificial no hace algo en particular, esto puede ser superado más adelante por desarrolladores que de hecho programan la computadora para hacer eso mismo. Paso a paso, los sistemas de conducción de IA se están mejorando y ampliando gradualmente. Es posible que una limitación existente hoy en día ya no exista en una iteración o versión futura del sistema.

Confío en que proporcione una letanía suficiente de advertencias para subyacer a lo que estoy a punto de relatar.

Ahora estamos preparados para profundizar en el dilema incrustado en la política de IA.

Dejemos a un lado brevemente los aspectos del automóvil autónomo y exploremos primero el tema de la IA en cuanto a cómo incorpora tendencias políticas. La forma más fácil para que la IA se acuñe políticamente es mediante las acciones de los desarrolladores de IA que crean el software de IA. Como seres humanos, podrían trasladar sus inclinaciones políticas personales a lo que programan para que haga el software.

Cuando los sistemas de IA comenzaron a mostrar varios sesgos de raza y género, hubo una gran protesta de que esto debe haber sido el resultado de los desarrolladores de IA que idearon esos sistemas. Hubo acusaciones de que se trataba de un acto intencionado por parte de los desarrolladores de IA. Otros, sin embargo, sugirieron que a los desarrolladores de IA les faltaba diversidad y, por lo tanto, sin cuidado o sin pensar permitieron que sus sesgos existentes se transfirieran a sus esfuerzos de programación de IA.

Para muchos equipos de IA, esto los motivó a ser más conscientes de garantizar la diversidad entre sus compañeros desarrolladores, incluso cuando se agregaban nuevos miembros a sus grupos de programación. Además, se crearon cursos educativos instructivos especiales para aumentar la conciencia de diversidad para los desarrolladores de IA. Incluso existen metodologías de desarrollo de IA que abarcan aspectos de diversidad para guiar explícitamente los proyectos de IA hacia la vigilancia de la inoculación de sesgos e inequidades en sus sistemas.

Aunque casi nadie es consciente todavía del tipo de sesgo políticamente incrustado para la IA, lo más probable es que eventualmente se levante en prominencia y resulte en un alboroto vocal. Una vez más, habrá un escrutinio minucioso de los desarrolladores de IA. Quizás algunos estén infundiendo intencionalmente sus inclinaciones políticas, mientras que otros podrían hacerlo sin darse cuenta de que lo están haciendo.

Me atrevo a decir que el enfoque de asumir que los desarrolladores de IA eran la única fuente de introducción de sesgos en la IA omitió la totalidad de dónde surgían los sesgos de la IA. Una conciencia gradual ha sido que el uso de Machine Learning (ML) y Deep Learning (DL) también se convirtió en un contribuyente notable a los aspectos de sesgo interno de AI.

Machine Learning y Deep Learning son técnicas y tecnologías de coincidencia de patrones computacionales.

Reúne los datos que desea introducir en el ML/DL, que computacionalmente busca patrones matemáticos en el conjunto de datos proporcionado. En función de esos patrones calculados, se pondrá en uso el ML/DL, por ejemplo, para poder hacer, por ejemplo, reconocimiento facial. Para el reconocimiento facial, podemos ingresar un montón de imágenes de personas, y el ML/DL calculará las características notables de lo que hace que los rostros sean reconocibles, como la forma y el tamaño de la nariz, la forma y el tamaño de la boca y los labios. , la forma y el tamaño de la frente, y así sucesivamente.

Este enfoque computacional parecería estar más allá de cualquier tipo de influencia sesgada. Todo son solo cálculos.

Ajá, pero recuerde que estamos alimentando imágenes (o lo que sea) en el ML/DL como parte del "entrenamiento" o coincidencia de patrones computacionales. Para el reconocimiento facial, si tuviéramos que alimentar principalmente imágenes que muestren personas de una raza en particular, lo más probable es que la coincidencia de patrones computacionales se acerque a esos aspectos faciales. Más adelante, suponiendo que pongamos este sistema de reconocimiento facial en uso generalizado, es menos probable que los que lo usaron y fueran de una raza diferente sean "reconocidos" matemáticamente porque los patrones ML/DL están formados alrededor de la raza que se encontró predominantemente en el entrenamiento. colocar.

Entonces, puede ver claramente cómo el enfoque matemático "imparcial" de ML / DL puede sesgarse (también hay otras formas, pero solo estoy mencionando esta importante, aquí). ¿Los desarrolladores de IA crearon deliberadamente un conjunto de datos racialmente desequilibrado? Sugeriría que esto rara vez es un acto intencional, aunque el hecho de que no se dieran cuenta de que lo habían hecho todavía no es una excusa suficiente.

Hoy en día, hay un impulso estridente para tratar de que quienes usan ML/DL sean más reflexivos sobre qué datos usan para el entrenamiento y qué resultados produce. Desafortunadamente, todos se han subido al carro de ML/DL y muchos de estos novatos o novatos que han asumido el manto de ML/DL lo están haciendo sin darse cuenta de los sesgos que se están infundiendo. Posiblemente también haya malos actores que podrían hacerlo intencionalmente, aunque esperemos que sean pocos y distantes entre sí.

Confío en que lo anterior lo haya puesto al día sobre los aspectos de ética de la IA relacionados con la infusión de sesgos en la IA actual.

Continúe y repita todo el asunto, reemplazando la noción genérica de sesgos con las indicaciones específicas de inclinaciones políticas arraigadas. Ya mencioné que los propios desarrolladores de IA podrían llevar abiertamente o sin darse cuenta sus inclinaciones políticas a lo que está haciendo la IA programada. La otra faceta que también mencioné es que, para el uso de Machine Learning y Deep Learning, existe la posibilidad de seleccionar datos de entrenamiento que podrían, deliberada o accidentalmente, transmitir patrones que encajan en una dimensión política particular.

Bueno, me estoy alargando un poco en esta columna (vaya, TLDR, algunos dirán con acritud), así que trataré de esbozar brevemente un ejemplo de cómo la IA para un automóvil autónomo basado en IA podría verse arrastrado a estos tipos de agujeros de gusano de inclinación política (para mi cobertura expansiva de tales asuntos, en muchas de mis publicaciones de columna, vea el enlace aquí).

Un problema de equidad potencial muy conocido y discutido a menudo sobre los automóviles autónomos de IA se refiere al uso de taxis automáticos y quién tendrá acceso a esta nueva opción de movilidad como servicio. Las preocupaciones son que solo los ricos podrán permitirse el uso de taxis automáticos y, por lo tanto, aquellos con ingresos más bajos quedarán fuera de la era emergente de los automóviles sin conductor (consulte un informe detallado sobre esto, en el enlace aquí ).

Hay otro giro aprovechando ese escrúpulo.

Imagine que los autos que conducen por sí mismos están deambulando por una ciudad y esperando una solicitud de viaje. Llega una solicitud y un automóvil autónomo de taxi automático cercano se desliza para recoger al pasajero. El ciclista indica a dónde quiere ir y el sistema de conducción de IA traza un camino para llegar allí. Luego, el sistema de conducción de IA procede a conducir el vehículo autónomo al destino deseado.

Todo eso parece estar bien.

Aquí hay una inquietud aleccionadora que se ha expresado.

Supongamos que el sistema de conducción de IA opta por diseñar un camino que evite los barrios más oprimidos. Podría suponer que el trazado de navegación solo se basaría en la ruta óptima, como la distancia mínima o quizás el tiempo más breve. Tal vez tal vez no.

Otros factores podrían ser la probabilidad de que el automóvil autónomo atraviese lo que podría calcularse como lugares plagados de delitos. Podría ser que el peligro para el vehículo autónomo y los pasajeros se esté considerando qué camino tomar.

Existe la preocupación de que los automóviles autónomos casi siempre evitarían inextricablemente a las comunidades más empobrecidas o oprimidas. Las personas que viajan en automóviles autónomos nunca parecerían darse cuenta de que tales lugares existen en sus ciudades o pueblos. Esto, a su vez, presumiblemente los haría inconscientes de las necesidades de tales comunidades. Además de esto, aquellos que viven en esas áreas rara vez tienen la oportunidad de usar un automóvil autónomo, incluso si es asequible. No habría ningún taxi robótico deambulando entre ellos, ya que, por cálculo, se mantuvieron fuera de esas áreas.

¿Se produciría este sesgo debido a la programación intencional de la IA por parte de los desarrolladores?

Podría ser, aunque no necesariamente.

¿Quizás este sesgo surge del uso de Machine Learning y Deep Learning?

Claro, es una posibilidad considerada.

El sistema de conducción de IA podría estar basado en ML/DL que usaba datos para entrenar sobre dónde proceder al trazar un camino. Si esos datos se configuraron para evitar ciertas áreas, el ML/DL probablemente detectaría ese patrón y seguiría adelante con él. Con el tiempo, suponiendo que dichos datos se acumulen aún más a medida que los automóviles autónomos están fuera de casa, los datos utilizados posteriormente para actualizaciones y mantenimiento reforzarían aún más esos mismos patrones inventados.

Se podría decir que los patrones se combinan a medida que el uso del patrón anterior se establece repetidamente en su lugar, una especie de efecto de bola de nieve o espiral constante.

Por así decirlo, se podría interpretar que este aparente sesgo de dónde conducir es un ejemplo de cómo podría surgir una tendencia política incrustada en la IA. Una perspectiva sería dejar que la IA continúe sin cesar en esta predilección. Otra sería revisar la IA para conducir deliberadamente a aquellas áreas que coincidían con patrones fuera del alcance, lo que una vez más podría afirmar que es una postura quizás políticamente inclinada que se está infundiendo en la IA.

En total, la IA tampoco exposiciones una tendencia de inclinación política o al menos se percibe como tal, independientemente de si tenía alguna apariencia (que por sensibilidad no tiene) sobre la política de las cosas.

En resumen

Hay un montón de este tipo de ejemplos que se pueden plantear.

Me quedaré con el contexto del automóvil autónomo y le daré otro ejemplo rápido. Supongamos que un pasajero solicita que lo lleve un robot-taxi de automóvil autónomo de IA y lo hace para llegar a un mitin político que se lleva a cabo en el juzgado del centro. El sistema de conducción AI se niega a llevar al ciclista allí.

¿Por qué?

Imagine que los datos anteriores recopilados sobre mítines políticos como punto de destino hubieran indicado que los autos autónomos estaban atrapados en atascos de tráfico. Supongamos que esto significó que los autos sin conductor tenían menos capacidad para ganar dinero con los pasajeros, debido a los largos tiempos de espera en el tráfico y al cobro de una tarifa menor por esos tiempos de espera. Un algoritmo de IA, como el uso de ML/DL, podría determinar computacionalmente que ir a mítines políticos es una mala elección para hacer dinero. Por lo tanto, cuando surgen solicitudes de robo-taxi para ir a un mitin político, la solicitud es denegada.

Creo que puede ver cómo esto podría verse como una elección políticamente motivada. Aunque es posible que la IA no esté utilizando directamente ningún tipo de motivo político de ninguna manera, en cualquier caso, parece estar tomando una decisión política.

Puede apostar su último dólar a que pronto enfrentaremos una reacción política negativa sobre las inclinaciones políticas de la IA. ¡Marca mis palabras!

Hablando de palabras, el famoso poeta y dramaturgo griego Aristófanes afirmó que debajo de cada piedra se esconde un político. En el mundo de hoy, dentro de cada sistema de IA, existe una posibilidad indudable de una inclinación política incrustada al acecho, ya sea que lo sepa o no.

Será mejor que empieces a darle vueltas a esas piedras.

Fuente: https://www.forbes.com/sites/lanceeliot/2022/01/17/latest-jolting-ai-ethics-concern-is-that-ai-can-inextricably-embody-political-biases-incluyendo- incluso-en-el-inocuo-caso-de-coches-sin-conducción-basados-en-ai/