Tecnología.

El CEO de OpenAI, Sam Altman, testifica en una audiencia 'histórica' en el Senado sobre la seguridad de la IA

Hace 12 meses
Noticias de Bitcoin Ethereum

Sam Altman, director ejecutivo de OpenAI y cofundador de Worldcoin, testificó recientemente ante el Congreso junto con la jefa de confianza de IBM, Christina Montgomery, y el profesor de la Universidad de Nueva York, Gary Marcus. 

La sesión del Subcomité de Privacidad, Tecnología y Leyes del Poder Judicial del Senado representó la primera aparición oficial de Altman ante el Congreso, lo que brindó a los senadores la oportunidad de cuestionar al CEO de OpenAI sobre las opiniones de su empresa sobre la regulación.

Calificado como una sesión "histórica" ​​por el senador de Illinois Dick Durbin, los procedimientos se centraron en comprender las amenazas potenciales que plantean los modelos de inteligencia artificial generativa (IA) como ChatGPT y cómo los legisladores deberían abordar la regulación.

Los comentarios de Altman, que fueron descritos por los miembros del Congreso y el colega Marcus como aparentemente sinceros y genuinos, parecieron tomar por sorpresa a varios miembros del Senado.

Abogó por el establecimiento de una agencia de supervisión federal con la autoridad para emitir y revocar licencias de desarrollo, afirmó que creía que los creadores deberían ser compensados ​​cuando su trabajo se usa para entrenar un sistema de IA y estuvo de acuerdo en que los consumidores que sufren daños al usar productos de IA deberían ser compensados. derecho a demandar al desarrollador.

Altman restó importancia a las preguntas relacionadas con la reciente carta de "pausa de IA" que pedía una moratoria de seis meses en la implementación de sistemas más potentes que GPT-4, el sistema de IA que sustenta ChatGPT, al afirmar que OpenAI había pasado más de seis meses evaluando GPT -4 antes del despliegue. Dijo que la compañía no tenía planes de implementar otro modelo en los próximos seis meses.

Marcus, uno de los signatarios de la carta de pausa, admitió que estaba más de acuerdo con el espíritu de la carta que con su contenido, pero el profesor de la NYU instó al Congreso a considerar la supervisión global además de la regulación federal, un sentimiento con el que Altman estuvo de acuerdo.

A lo largo de la audiencia, los tres oradores invitados se alinearon en la mayoría de los temas. Esto incluyó apoyo para la protección de la privacidad, mayor supervisión del gobierno, auditoría de terceros y qué tan pronto el gobierno de los Estados Unidos debería tratar de regular la industria (inmediatamente).

Sin embargo, una de las únicas fuentes de discordia provino de Montgomery de IBM, quien no estuvo de acuerdo con la idea de que sería necesaria una nueva agencia federal para hacer cumplir las regulaciones en la industria de la IA.

Sus declaraciones indicaron que IBM está a favor de un enfoque quirúrgico de la regulación utilizando los organismos reguladores existentes actualmente para centrar la aplicación en casos de uso específicos.

Si bien los tres oradores estuvieron de acuerdo en que la IA podría ser dañina y requerir intervenciones de seguridad, Marcus dejó en claro que cree que actualmente nadie entiende o puede predecir cuán dañinos pueden ser o se volverán los productos de IA existentes. Abogó por un enfoque cauteloso que implique una mayor transparencia.

Los oradores también coincidieron con los miembros del Congreso en que EE. UU. necesitaba una ley de privacidad nacional similar a las de Europa. Altman, sin embargo, no estuvo de acuerdo con la idea de que los consumidores deberían poder optar por que sus datos web disponibles públicamente no se incluyan en los conjuntos de datos de entrenamiento.

Altman tampoco declaró oficialmente que OpenAI se oponía a ofrecer una versión basada en anuncios de sus productos GPT. El CEO simplemente declaró que "no diría nunca".

Esto, a pesar de decir anteriormente en la audiencia que los productos de OpenAI se adhirieron a los estándares de privacidad del consumidor porque la empresa no creó perfiles de usuario con el fin de publicar anuncios personalizados.

Citando su experiencia como graduado de Stanford y legislador que trabaja con finanzas descentralizadas y empresas de Web3, el senador de Nueva Jersey, Corey Booker, planteó el tema de privacidad más importante de la centralización. Preguntó cuáles serían las implicaciones de la centralización y la monopolización para la industria, una pregunta a la que Marcus respondió con la grave advertencia de que el país podría estar arriesgándose a ceder el control sobre la percepción pública a un pequeño número de actores: las principales empresas de inteligencia artificial con suficiente dinero. para competir con Microsoft, Google y Amazon.

Altman, cuyo proyecto Worldcoin combina un activo de criptomoneda descentralizado en la cadena de bloques de Ethereum con la autenticación de identidad a través de la tecnología de escaneo del iris, explicó que OpenAI simplemente proporcionó una plataforma y que la democratización de los productos de OpenAI se produjo cuando los desarrolladores, las empresas y los usuarios finales adaptaron la API de GPT para Usos “fantásticos”.

Relacionado: CEO de OpenAI en 'conversaciones avanzadas' para financiación de Worldcoin de $ 100 millones: informe