OpenAI, la organización detrás del chatbot de IA ChatGPT, ha presentado una iniciativa destinada a fomentar una mayor participación democrática en el desarrollo de la inteligencia artificial. En un anuncio reciente del 25 de mayo, OpenAI reveló planes para otorgar diez subvenciones, cada una con un valor de $ 100,000, para apoyar experimentos enfocados en establecer un proceso democrático de "prueba de concepto" para determinar las reglas que deben seguir los sistemas de IA.
La compañía enfatizó que estas reglas deben alinearse con los límites legales y priorizar el beneficio de la humanidad. OpenAI ve este programa de subvenciones como un paso hacia la creación de procesos democráticos para supervisar la AGI (Inteligencia General Artificial) y, eventualmente, la superinteligencia. Los experimentos realizados a través de estas subvenciones servirán como base para un proyecto global más ambicioso y de mayor escala en el futuro. OpenAI aclaró que las conclusiones extraídas de estos experimentos no serán vinculantes, pero contribuirán a explorar preguntas importantes sobre la gobernanza de la IA.
Las subvenciones están financiadas por la división sin fines de lucro de OpenAI, y la organización tiene la intención de hacer que los resultados del proyecto sean de libre acceso para el público. Esta iniciativa surge cuando los gobiernos de todo el mundo están considerando implementar regulaciones para la IA generativa de propósito general.
Adopción de OpenAI
El CEO de OpenAI, Sam Altman, se comprometió recientemente con los reguladores europeos para enfatizar la importancia de fomentar la innovación a través de regulaciones no restrictivas. Altman también testificó ante el Congreso de los Estados Unidos, transmitiendo un mensaje similar.
El anuncio de OpenAI se alinea con la creencia de que las leyes deben adaptarse específicamente a la tecnología, lo que destaca la necesidad de pautas más complejas y adaptables que rijan la conducta de la IA. La organización planteó preguntas que invitaron a la reflexión, como la forma en que se deben representar los puntos de vista en disputa en los resultados de la IA, enfatizando que ninguna entidad individual, ya sea un individuo, una empresa o un país, debe dictar unilateralmente tales decisiones.
La compañía advirtió previamente sobre el posible surgimiento de una IA sobrehumana en la próxima década si el desarrollo no se aborda con cuidado, subrayando la importancia de "hacerlo bien". El nuevo programa de subvenciones de la organización busca promover la inclusión y los aportes del público para dar forma al futuro del desarrollo de la IA y, en última instancia, luchar por el avance responsable y beneficioso de la tecnología.
Fuente: https://www.cryptopolitan.com/openai-unveils-1-million-grant-program/