Preocupaciones enfurecidas de que el ChatGPT generativo de IA incita a los estudiantes a hacer trampas en gran medida al escribir ensayos, genera una atención hechizada por la ética y la ley de IA

¿Es el ensayo escrito por los estudiantes de hoy en día un nunca más?

¿El trabajo del estudiante lleno de angustia se va febrilmente por la ventana?

Ese es el alboroto que ha estallado recientemente. Verá, la aparición de una aplicación de IA conocida como ChatGPT ha llamado mucho la atención e igualmente generado una gran ira. Para mi cobertura completa de ChatGPT, consulte el enlace aquí. Para mi cobertura continua y extensa de la ética de la IA y la ley de la IA, consulte el enlace aquí y el enlace aquí, Sólo para nombrar unos pocos.

La esencia de los gritos y bramidos es que este tipo de IA, normalmente conocida como IA generativa, será la sentencia de muerte para pedirles a los estudiantes que hagan tareas estilo ensayo.

¿Porque?

Porque lo último en IA generativa es capaz de producir ensayos aparentemente fluidos con solo ingresar un mensaje simple. Si ingresa una línea como "Cuénteme sobre Abraham Lincoln", la IA generará un ensayo sobre la vida y la época de Lincoln que, a menudo, es lo suficientemente bueno como para confundirlo con haber sido escrito total y exclusivamente por manos humanas. Además, y aquí está el verdadero truco, el ensayo no será un duplicado o una copia notable de algo más ya escrito sobre el mismo tema. La producción del ensayo será esencialmente un "original" en la medida en que lo determine cualquier inspección casual.

Un estudiante que se enfrenta a una tarea de escritura puede simplemente invocar una de estas aplicaciones generativas de IA, ingresar un aviso y listo, su ensayo completo ha sido escrito para él. Solo tienen que cortar y pegar el texto generado automáticamente en un documento vacío, subrepticiamente poner su nombre e información de clase en él, y con un poco de bravuconería bastante audaz seguir adelante y convertirlo en su propio trabajo.

Las posibilidades de que un maestro pueda descubrir que el ensayo fue escrito por AI y no por el estudiante son casi nulas.

¡Escandaloso!

Los titulares han estado proclamando apresuradamente que hemos llegado al amargo final de que los estudiantes escriban ensayos o hagan esencialmente cualquier tipo de tarea de escritura fuera de clase. El único medio para hacer frente a la situación parecería ser mediante la redacción de ensayos en clase. Cuando los estudiantes se encuentran en un entorno controlado, como un salón de clases, y asumen que no tienen acceso a computadoras portátiles o teléfonos inteligentes, se verán confinados a escribir ensayos a la antigua.

Para aclarar, la forma tradicional significa que tendrán que escribir únicamente mediante el uso de sus propios noggins.

Cualquier tipo de ensayo realizado fuera del aula será inmediatamente sospechoso. ¿Escribió el estudiante el ensayo o lo hizo una aplicación de IA? Como se mencionó, el ensayo estará tan bien escrito que no podrá detectar fácilmente que fue escrito por una máquina. La ortografía será impecable. La sintaxis será tremenda. La línea del discurso y los posibles argumentos preparados serán convincentes.

Diablos, por así decirlo, podría sugerir que la IA generativa inclinará su mano proverbial al hacer un ensayo que está más allá de las capacidades del estudiante que opta por tomar este camino nefasto. Un maestro puede sospechar simplemente porque el ensayo es demasiado bueno. Un maestro inteligente estaría tentado a adivinar que el alumno no podría haber escrito una prosa tan elegante y hermética. Las campanas de alarma internas comienzan a sonar.

Por supuesto, desafiar a un estudiante sobre su ensayo será feo y puede tener consecuencias adversas.

Supongamos que el estudiante escribió cuidadosamente el ensayo, solo. Es posible que lo hayan verificado dos y tres veces. También existe la posibilidad de que tal vez hayan hecho que un amigo o conocido eche un vistazo para detectar cualquier cosa que necesite un pulido adicional. Con todo, sigue siendo su ensayo escrito por ellos. Imagínese a un maestro haciéndole a este estudiante serio y estudioso preguntas puntuales sobre el ensayo. La vergüenza y el disgusto por ser acusado esencialmente de hacer trampa son palpables, incluso si el maestro no hace tal afirmación en voz alta. El mero enfrentamiento en sí es suficiente para socavar la estima del estudiante y hacerlo sentir falsamente calumniado.

Algunos insisten en que cualquier profesor que tenga sospechas sobre la autoría de un ensayo debe pedirle al alumno que explique lo que escribió. Presumiblemente, si el ensayo fue escrito por el estudiante, el estudiante en particular puede explicarlo adecuadamente. Los maestros han hecho este tipo de indagación durante eones. Un estudiante podría haber acorralado a otro estudiante para que escribiera su ensayo para ellos. El estudiante podría haber conseguido que uno de sus padres escribiera su ensayo. En el mundo actual, el estudiante puede pagarle a alguien a través de Internet para que escriba en secreto su ensayo en su nombre.

Por lo tanto, pedirle a un estudiante que verifique la autoría a través de una consulta en el aula es habitual y no es gran cosa.

Me alegro de que hayas mencionado eso.

Intentar asar a la parrilla a un estudiante de manera suave o demostrable no es una prueba de fuego tan sencilla como podría pensar. El estudiante podría haber estudiado de cerca el ensayo producido por IA y haberse preparado para un posible interrogatorio.

Piénsalo de esta manera. El estudiante primero genera el ensayo con solo presionar un botón. Luego, el estudiante pasa mucho tiempo que habría dedicado a escribir el ensayo en lugar de examinarlo y estudiarlo meticulosamente. Después de un tiempo, las palabras están casi totalmente memorizadas. El estudiante casi se engaña a sí mismo creyendo que realmente escribió el ensayo. Esta apariencia de confianza y conciencia podría fácilmente pasarlos por el escrutinio dirigido por el maestro.

Ajá, dicen algunos con un poco de contrapunto a los temores de las aplicaciones generativas de IA, tenga en cuenta que el estudiante, de hecho, "aprendió" algo al generar el ensayo. Claro, el estudiante no hizo el trabajo preliminar para investigar el tema, y ​​tampoco compuso el ensayo, pero no obstante, si estudió cuidadosamente el ensayo, parece mostrar que aprendió sobre el tema asignado. El estudiante que se compromete a aprender de memoria el ensayo sobre Lincoln presumiblemente ha aprendido algo importante sobre Lincoln.

El aprendizaje ha sucedido.

Vaya, dice la réplica, la asignación probablemente fue un proceso doble. Aprender sobre Lincoln podría haber sido relativamente secundario. El verdadero propósito era que el estudiante aprendiera a escribir. Esta parte esencial de la tarea se ha socavado por completo. Los maestros a menudo asignan temas abiertos y en realidad solo buscan que el estudiante experimente la escritura. Tienes que diseñar lo que quieres escribir, tienes que averiguar las palabras que usarás, tienes que poner las palabras en un conjunto sensato de oraciones y párrafos, y así sucesivamente. Simplemente leer un ensayo producido por IA no se corresponde en absoluto con ese aspecto fundamental de una tarea de ensayo.

El contragolpe a esto es la afirmación de que el estudiante está potencialmente aprendiendo sobre escritura al examinar de cerca la escritura producida por la IA. ¿No estudiamos todos a los grandes maestros de la escritura para ver cómo escriben? Nuestra escritura es un intento de llegar a gente como Shakespeare y otros grandes escritores. El estudio de la palabra escrita es un medio válido para aprender a escribir.

Como un feroz partido de tenis, la pelota se mueve al otro lado de la red. Aunque estudiar buena escritura es bueno, al final tienes que escribir si quieres ser capaz de escribir. No puede simplemente leer interminablemente y luego asumir en blanco que el estudiante ahora sabe escribir. Tienen que escribir, y escribir, y seguir escribiendo hasta que puedan exhibir y mejorar tangiblemente sus capacidades de escritura.

¿Ves cómo todo esto es todo un enigma?

Tenga en cuenta que hay un millón o más de giros en todo esto.

Cubriré algunos de los giros y vueltas más ingeniosos e interesantes.

Ajuste del ensayo a través de indicaciones de IA

Habiendo mencionado a Shakespeare, aquí hay un aspecto de la IA generativa que podría sorprenderte. En muchas de las aplicaciones generativas de IA, puedes decir algo como esto: "Escribe un ensayo sobre Lincoln como si Shakespeare hubiera escrito el ensayo". La IA intentará generar un ensayo que parezca estar escrito en el idioma que habitualmente usa Shakespeare en sus escritos. Es una hazaña bastante divertida y atractiva de ver y muchos disfrutan mucho de esto.

¿Cómo se relaciona esto con el estudiante que está "haciendo trampa" al usar IA generativa para escribir sus ensayos?

En muchas aplicaciones de IA generativa, puede decirle a la IA que escriba de una manera menos que estelar. La IA buscará producir un ensayo que sea algo tosco en los bordes. Hay problemas de sintaxis aquí o allá. La lógica del ensayo puede ser inestable o ligeramente inconexa.

Esto sería una artimaña inteligente. El estudiante toma el ensayo resultante y lo entrega. El ensayo es lo suficientemente bueno como para obtener una calificación máxima, pero mientras tanto no es tan perfecto como para provocar la ira del profesor. Una vez más, la IA ha hecho todo el trabajo preliminar por el estudiante, incluso hacer que el ensayo sea algo imperfecto.

Además de esto, la mayoría de las aplicaciones generativas de IA le permiten utilizar la aplicación todo el tiempo que desee. Así es como eso viene a jugar. Un estudiante escribe que la aplicación de IA es para hacer un ensayo algo imperfecto sobre Lincoln. Se produce el ensayo. El estudiante mira el ensayo y se da cuenta de que todavía es demasiado perfecto. El estudiante ingresa otro aviso que le indica a la IA que haga que las imperfecciones sean más pronunciadas.

Enjabonar, enjuagar, repetir.

El estudiante continúa ingresando indicaciones e inspeccionando los ensayos producidos. Una y otra vez esto ocurre. Eventualmente, el estudiante lleva la IA al nivel correcto de imperfección en el ensayo. Se ha alcanzado la versión Ricitos de Oro. Es lo suficientemente perfecto para obtener una calificación alta y lo suficientemente imperfecto para no despertar sospechas.

Estoy seguro de que algunos de ustedes están diciendo maliciosamente que si el estudiante hubiera optado por escribir el maldito ensayo en primer lugar, tal vez habría pasado menos tiempo o al menos la misma cantidad de tiempo escribiendo el ensayo en sí. Todo este uso de la aplicación de IA que consume energía podría haber estado dirigido simplemente a escribir el ensayo.

Bueno, recuerda, el estudiante no tiene eso en mente. La facilidad de ingresar indicaciones y revisar y seleccionar iterativamente el ensayo deseado seguramente será mucho más fácil para el estudiante. Una hora de hacer esto es mucho menos arduo que escribir el ensayo directamente. La astucia en este caso tiene que sopesarse con la realidad.

¿Qué sucede si otros estudiantes hacen lo mismo?

Apuesto a que tenías este pensamiento inteligente en mente mientras leías el análisis anterior sobre ensayos y aplicaciones de IA generativa, a saber, que el estudiante sin duda quedará atrapado si muchos otros estudiantes están haciendo lo mismo.

Me explico.

Un maestro asigna a toda su clase a escribir un ensayo sobre Lincoln. Suponga que el 90 % de los estudiantes decide utilizar una aplicación de IA generativa para esta tarea. Si el 90 % parece demasiado deprimente, continúe y use el 10 % en su lugar. Solo tenga en cuenta que a medida que los estudiantes se enteran de la utilidad de las aplicaciones generativas de IA, la tentación de usarlas se multiplicará.

De acuerdo, entonces un porcentaje notable de la clase usa una aplicación de IA generativa. Asumirías que, ergo, todos los estudiantes van a entregar aproximadamente el mismo ensayo de Lincoln. El maestro notará cuando califique el tercer o cuarto ensayo que todos los ensayos son más o menos iguales. Esta será una gran pista de que algo anda mal.

Lo siento, pero es poco probable que tengas tanta suerte.

La mayoría de las aplicaciones de IA generativa son muy sensibles a cómo se compone particularmente un aviso. Si escribo “Háblame de Lincoln” versus si escribo “Háblame de la vida de Lincoln”, lo más probable es que los ensayos sean sustancialmente diferentes. En primera instancia, tal vez el ensayo producido por la IA se centre en el presidente Lincoln durante su mandato en la Casa Blanca y omita algo sobre su infancia. El otro mensaje podría producir un ensayo que cubra su nacimiento hasta su muerte.

Es probable que los estudiantes no ingresen exactamente lo que el maestro les dio como indicación para el ensayo. Parecería sensato, como tramposo, intentar variaciones. Pero incluso si todos los estudiantes ingresan exactamente el mismo mensaje, las probabilidades son bastante buenas de que cada ensayo sea algo diferente de los demás.

Estas aplicaciones de IA hacen uso de una vasta red matemática y computacional diseñada internamente que básicamente tiene una amplia coincidencia de patrones en el texto que se encuentra en Internet. Incluido en el proceso de generación de un ensayo es un factor probabilístico. Es poco probable que las palabras elegidas estén en el mismo orden y con la misma redacción exacta. Cada ensayo generado será generalmente diferente.

Sin embargo, hay una trampa para esto. Si el tema elegido es bastante oscuro, existe la posibilidad de que algunos de los ensayos producidos se parezcan entre sí. Eso se debe en parte a que el patrón en la raíz del texto era delgado al principio. Dicho esto, la forma en que se compone el ensayo aún podría ser bastante diferente. Todo lo que digo es que la esencia del contenido en sí podría ser potencialmente más o menos la misma.

No quiero parecer triste, pero potencialmente podrías hacer la misma afirmación sobre un tema común como la vida de Lincoln. ¿De cuántas maneras diferentes puedes elaborar los aspectos generales de su vida? Si de alguna manera asegurara a los estudiantes en un aula cerrada para escribir sobre Lincoln y les diera acceso en línea para investigar su vida, me atrevo a decir que las posibilidades de que los ensayos sean algo similares podrían suceder de todos modos.

El factor gratis y fácil es sustancial

Si un estudiante hoy en día quiere hacer trampa pagándole a alguien a través de Internet para que escriba su ensayo, es muy sencillo hacerlo (espero que no te sorprenda, tal vez debería haberle dado una advertencia de activación de antemano).

Sin embargo, el problema es que debes pagar por el ensayo. Además, existe una pequeña posibilidad de que, más adelante, te atrapen, tal vez. ¿Utilizó una tarjeta de crédito para pagar el ensayo? Tal vez sea mejor usar alguna forma de procesamiento de pago clandestino para tratar de mantener sus pistas claras.

La belleza o quizás el factor exasperante de la IA generativa es que, en este momento, la mayoría de ellos están disponibles de forma gratuita. No se requiere pago. No hay un registro de seguimiento particular de su uso (bueno, para ser claros, la aplicación de IA podría estar realizando un seguimiento de su uso, especialmente porque muchas de las aplicaciones de IA requieren que se registre con una dirección de correo electrónico, pero por supuesto, también puede falsificar eso) ).

Algunas personas asumen naturalmente que necesita ser un asistente de IA para usar una aplicación de IA generativa.

No es así.

En general, las aplicaciones de IA generativa son asombrosamente fáciles de usar. Invocas la aplicación de IA. Le presenta un cuadro de texto abierto para que ingrese su aviso. Ingresas un aviso y presionas enviar. La aplicación AI genera el texto.

Eso es todo.

No se necesitan lenguajes informáticos especializados. Sin conocimiento de bases de datos o ciencia de datos. Les aseguro que casi cualquier niño en la escuela puede usar fácilmente una aplicación de IA generativa. Si un niño puede escribir, puede usar estas aplicaciones.

Algunos argumentan que las empresas que proporcionan las aplicaciones de IA generativa deberían primero verificar la edad del usuario, presumiblemente para evitar que personas que no sean adultos usen la IA para hacer trampa al escribir ensayos. Si el usuario indica que no es un adulto, no permita que use la aplicación de IA. Francamente, ese es un escenario de prevención poco probable, a menos que de alguna manera se hayan promulgado leyes relacionadas con la IA que intenten establecer este tipo de restricciones. Incluso si se aprueban tales leyes, es probable que pueda evitar esto utilizando una aplicación de IA generativa que esté alojada en otro país, etc.

Otro ángulo prohibitivo sería si las aplicaciones generativas de IA cuestan dinero. Supongamos que hubiera una tarifa por transacción o una tarifa de suscripción. Esto pondría a la aplicación de IA generativa a la par con esos humanos a través de Internet que escribirán un ensayo para usted y le cobrarán por hacerlo. El trabajo iría de la mano con la IA (como un aparte, todo esto sugiere que los humanos que se ganan la vida escribiendo ensayos para los estudiantes serán reemplazados por la IA que hace lo mismo; la pregunta es si deberíamos estar tristes o complacidos) que aquellos humanos que se ganan la vida de esa manera ya no podrán hacerlo de esa manera).

Las empresas que fabrican aplicaciones de IA generativa ciertamente están deseosas de ganar dinero con estas aplicaciones, aunque la forma de hacerlo aún está en el aire. Cobrar una tarifa de transacción, una tarifa de suscripción o tal vez cobrar por palabra generada están todos sobre la mesa. En lugar de cobrar a las personas, la monetización podría realizarse mediante el uso de anuncios. Quizás cada vez que usa una aplicación de IA generativa en particular, primero debe ver un anuncio. Eso podría ser un fabricante de dinero.

Odio derramar leche sobre esto, pero como un medio para superar las trampas de los estudiantes, no va a ser ningún tipo de panacea. Ni siquiera cerca.

Hay versiones de código abierto de IA generativa. La gente los publica y otros son aptos para hacer que la aplicación esté disponible de forma gratuita. De una forma u otra, incluso si algunas compañías cobran una tarifa, podrá encontrar variantes que son de uso gratuito, aunque es posible que necesite ver anuncios o tal vez registrarse y brindar información sobre usted con fines de marketing.

¿El multi-paso ayuda esto?

Un estudiante opta por usar una aplicación de IA generativa para producir su ensayo.

En lugar de entregar el ensayo de inmediato, el estudiante decide editarlo. Quitan juiciosamente algunas palabras aquí. Pon algunas palabras allí. Mover una oración hacia arriba. Mover una oración más abajo. Después de un poco de edición y perfeccionamiento, ahora tienen un ensayo que están listos para entregar.

¿Este ensayo es obra del estudiante o no?

Te he llevado a la gran pregunta sin respuesta de un millón de dólares.

Hagamos algunos antecedentes rápidos sobre los derechos legales y la infracción. Este es un tema que he tratado bastante, como el enlace aquí y el enlace aquí, por ejemplo.

Es probable que ya sepa algo sobre los derechos de autor y lo que se conoce como Propiedad Intelectual (PI). Se supone que alguien que tiene una historia con derechos de autor conserva varios derechos legales asociados con esa historia. No tienen una apariencia completamente acorazada de derechos legales que lo abarque todo. Hay exclusiones y excepciones.

Uno de los problemas más difíciles de infringir el material protegido por derechos de autor de alguien es la cercanía de lo que podría tener en comparación con la fuente original. Tal vez hayas leído o visto noticias sobre cantantes famosos y sus letras, en las que alguien más escribió una canción con letras aparentemente similares y si esto era legalmente correcto o no.

Anteriormente mencioné que, por lo general, la aplicación de IA generativa no produce un ensayo que sea una copia al carbón de otros materiales en los que se entrenó anteriormente mediante el examen de contenido en Internet. Lo más probable es que el material esté generalizado y mezclado de tal manera que ya no se parezca mucho al contenido original.

Tendremos que esperar y ver cómo el proceso legal se ocupa de esto. Si una aplicación de IA generativa produce una obra de arte que es visualmente similar a alguna obra de arte original, probablemente nos inclinaríamos por acusar a la IA y a los creadores de la IA de haber violado los derechos de autor asociados con la obra original. Podemos verlo con nuestros propios ojos.

Cuando se trata de ensayos, esto puede ser más complicado. Los casos obvios son cuando oraciones completas y párrafos son idénticos palabra por palabra. Todos podemos ver eso. Pero cuando la redacción difiere con un mínimo de diferencias, entramos en áreas grises.

¿A qué distancia del material de origen original tiene que estar el material recién elaborado para declarar que es un original de buena fe por sus propios méritos?

Esa es una pregunta de peso.

Relacionemos esto con el estudiante que usa la aplicación de IA generativa para su ensayo.

Imagine por el momento que un ensayo en particular generado por la aplicación AI se interpretará como un ensayo "original". Estoy diciendo que se asuma que no viola de manera aparente ningún otro ensayo o texto narrativo preexistente en ninguna parte del mundo.

El estudiante entonces está comenzando con una fuente original del material. Como ya se indicó, el estudiante edita y refina este material. Las cosas llegan a un punto en el que el original producido por la aplicación de IA ahora difiere de la versión refinada que ha ideado el estudiante.

¿Es esto una trampa?

Tal vez sí tal vez no.

Puedes argumentar que lo es. El estudiante comenzó con la IA escribiendo su ensayo para ellos. Todo lo que ha hecho el estudiante se juega mecánicamente con el ensayo. Esperamos que el estudiante escriba el ensayo de la nada y use su propio impulso para hacerlo. Claramente es una trampa usar la aplicación de IA para generar su línea de base. Asigne una calificación de "F" al estudiante.

No tan rapido. Puedes argumentar que no es trampa. El estudiante ha reelaborado el material de origen. Si una comparación entre el ensayo producido por la aplicación de IA y la versión refinada del estudiante es una diferencia lo suficientemente grande, diríamos que el estudiante escribió el ensayo. Es cierto que usaron otro material para hacerlo, pero ¿no puedes decir lo mismo si usaron una enciclopedia o alguna otra fuente? Este estudiante merece una calificación de “A” por haber compuesto un ensayo con su propio ingenio (sin perjuicio de haber hecho referencia a otros materiales para hacerlo).

Los maestros van a quedar atrapados en medio de esta pregunta ya desconcertante.

Un enfoque es que un maestro podría declarar categóricamente que los estudiantes deben enumerar todos los materiales de referencia, incluso si se usó o no una aplicación de IA generativa. Si un estudiante no enumera directamente la IA generativa como referencia, y si el maestro descubre que no la incluyó, el estudiante obtiene una calificación de "F" en la tarea. O quizás algunas escuelas consideren que esto es un acto de trampa que hace que el estudiante obtenga una suspensión automática. O tal vez expulsado. Habrá que ver hasta dónde llegan las escuelas en estos asuntos.

En general, nos dirigimos a un mundo al revés de la propiedad intelectual y la propiedad legal de obras como ensayos (texto), arte (imágenes) y video, que incluyen:

• Algunos buscarán reparación legal de los creadores de IA generativa en cuanto a las fuentes de contenido que utilizó la IA para generar el resultado producido.
• Algunos tomarán el resultado de la IA generativa y considerarán que el resultado son obras de su propiedad, y luego intentarán buscar una reparación legal de cualquiera que viole su trabajo "original".
• Esto podría cambiar, de modo que alguien produzca resultados de IA generativa, que se publica en Internet, y luego aparece otra IA generativa y la usa en su entrenamiento para producir trabajos similares.

Convirtiendo un negativo en positivo

Toda esta charla sobre la maldad de la IA generativa cuando se trata de hacer trampa por parte de los estudiantes tal vez nos esté nublando la mente, exhortan algunos.

Toma esto en una dirección diferente.

¿Estás sentado?

Tal vez los maestros deberían considerar deliberadamente que los estudiantes usen IA generativa como parte del proceso de aprendizaje sobre cómo escribir ensayos.

Anteriormente he escrito sobre los llamados usos duales de IA, ver el enlace aquí. La idea es que a veces un sistema de IA puede usarse para mal y otras veces puede cambiarse y usarse para bien. El aspecto preocupante es cuando alguien escribe IA para bien y no se da cuenta de la facilidad con la que su IA puede convertirse en el espectro de la maldad. Parte de IA ética es la comprensión de que la IA debe diseñarse para que no se convierta de la noche a la mañana en una maldición. Esta es una preocupación constante.

Volvamos a la IA generativa para producir ensayos.

Anteriormente mencioné el concepto de que un estudiante podría aprender acerca de la escritura mirando obras escritas que ya existen. Esto tiene mucho sentido. Básicamente, cuanto más lea, es probable que esté expandiendo su apariencia mental para poder escribir. Como se indicó anteriormente, aún debe escribir, ya que toda la lectura del mundo no necesariamente lo convertirá en un buen escritor si no practica el acto de escribir.

Podríamos usar IA generativa para fomentar este acoplamiento de lectura y escritura. Haga que un estudiante use intencionalmente IA generativa. La IA produce un ensayo. Al estudiante se le asigna la tarea de criticar el ensayo producido por IA. A continuación, se le asigna al estudiante que escriba un nuevo ensayo, tal vez sobre un tema diferente, pero puede usar la estructura y otros elementos generales del ensayo anterior generado por IA.

Esto podría ser aún más productivo, sugieren algunos, para los estudiantes que simplemente leer libros u otros textos de escritores con los que el estudiante no tiene acceso para “interactuar”. Con la aplicación de IA, el estudiante podría intentar volver a ejecutar y producir el ensayo inicial utilizando una multitud de indicaciones, una tras otra. El estudiante podría decirle a la IA que escriba un ensayo básico sobre Lincoln. A continuación, el estudiante pide un ensayo extenso sobre Lincoln que está escrito en un tono informal. Después de revisar eso, el estudiante le indica a la aplicación de IA que produzca una versión altamente formalizada del ensayo de Lincoln. Etc.

La afirmación que se hace es que esto podría ayudar materialmente a un estudiante a aprender sobre la escritura y cómo puede llevarse a cabo la escritura.

Un artículo de investigación reciente propone este mismo punto: “Los autores de este artículo creen que la IA se puede utilizar para superar tres barreras para el aprendizaje en el aula: mejorar la transferencia, romper la ilusión de profundidad explicativa y capacitar a los estudiantes para evaluar críticamente las explicaciones” ( en un artículo titulado "Nuevos modos de aprendizaje habilitados por AI Chatbots: tres métodos y asignaciones", el Dr. Ethan Mollick y la Dra. Lilach Mollick, Escuela Wharton de la Universidad de Pensilvania y Wharton Interactive, 12 de diciembre de 2022)

Por ejemplo, señalan que mejorar la transferencia del aprendizaje podría ocurrir de esta manera: “La IA es una forma económica de proporcionar a los estudiantes muchos ejemplos, algunos de los cuales pueden ser inexactos, necesitar más explicaciones o simplemente inventarse. Para los estudiantes con conocimientos básicos de un tema, puede usar la IA para ayudarlos a evaluar su comprensión y alentarlos explícitamente a nombrar y explicar imprecisiones, lagunas y aspectos faltantes de un tema. La IA puede proporcionar una serie interminable de ejemplos de conceptos y aplicaciones de esos conceptos y puede alentar a los estudiantes a: comparar ejemplos en diferentes contextos, explicar el núcleo de un concepto y señalar las inconsistencias y la información faltante en la forma en que la IA aplica los conceptos. a situaciones nuevas” (ibíd.).

Es similar al viejo estribillo, si no puedes vencerlos, únete a ellos.

Convierta la IA generativa en una herramienta educativa.

Vaya, viene la respuesta rápida.

Estás metiendo al zorro en el gallinero. A los estudiantes que no tenían idea de lo que es la IA generativa ahora se les mostrará, abiertamente, mediante las acciones abiertas de un maestro y sus escuelas. Si los estudiantes no tenían idea de las oportunidades de hacer trampa, se lo está poniendo directamente en la cara y en las manos.

Parece totalmente repulsivo que los que tienen autoridad presenten a los estudiantes un medio para hacer trampa. Por lo tanto, siempre pondrás al más honesto de los estudiantes en el reino de las tentaciones de hacer trampa. Todo el mundo tendrá acceso a la máquina de hacer trampa. Se les dice que lo hagan. No hay necesidad de ocultarlo. No es necesario fingir que no está utilizando IA generativa. La escuela y el maestro te obligaron a usarlo.

La réplica a esto es que tienes que esconder la cabeza ciega e ignorantemente para pensar que los estudiantes no se familiarizarán con la IA generativa. Mientras finges tontamente que no lo saben, ellos corren fuera de la escuela para usarlo. Su mejor opción es presentarles la cosa, discutir para qué se puede y no se puede usar, y traer una luz brillante a todo el enigma.

Es bastante tonto.

Para aquellos de ustedes que están investigando sobre innovaciones educativas de la tecnología, es posible que deseen echar un vistazo a la IA generativa y cómo podría cambiar la naturaleza de los enfoques educativos e impactar el aprendizaje de los estudiantes. Llegará lo suficientemente pronto.

Usando la detección para rescatarnos de la ruina

Cámbiense los sombreros y consideremos el arte digital por un momento.

Si crea una obra de arte digital, es posible que desee marcarla de alguna manera para que pueda, más adelante, discernir si alguien ha optado por usar o reutilizar su arte. Una forma sencilla de hacerlo consiste en cambiar algunos de los píxeles o puntos de su obra de arte digital. Si hace algunos aquí o allá, el aspecto de la obra de arte seguirá pareciendo el mismo a los ojos de los humanos. No notarán esos píxeles que son diminutos y se han configurado en un color especial que solo se puede ver tras una inspección minuciosa a través de herramientas digitales.

Es posible que conozca estas técnicas como una forma de marca de agua. Así como en los viejos tiempos hubo intentos de poner marcas de agua en materiales en papel y otros contenidos no digitalizados, hemos visto gradualmente el aumento de las marcas de agua digitales.

Una marca de agua digital puede estar oculta en la imagen de una obra de arte digital. Si eso puede parecer intrusivo para la imagen, puede intentar incrustar la marca de agua en el archivo que contiene la obra de arte digital (los llamados "metadatos" de la obra digital).

Hay un juego del gato y el ratón que puede surgir.

Aparece un malhechor y descubre tu marca de agua digital. Lo quitan. Ahora, aparentemente pueden usar libremente su obra de arte digital sin preocuparse de que usted pueda, más adelante, hurgar en ella y mostrar que claramente es una estafa de sus esfuerzos. ¡Esos sinvergüenzas!

Necesitamos aumentar la marca de agua digital, lo que podemos hacer mediante el uso de técnicas y tecnologías criptográficas. Piense en los mensajes secretos y la codificación.

La idea es que codifiquemos la marca de agua digital para que sea difícil de encontrar. También es potencialmente difícil de eliminar. Incluso podríamos tratar de asegurarnos de que el software que muestre o permita el uso de la obra de arte digital primero debe verificar y ver que existe una marca de agua digital codificada válida en la obra, de lo contrario, se considera una copia incorrecta. Te pillé con las manos en la masa.

¿Podemos hacer lo mismo con la IA generativa que produce texto?

Se ha colocado un guante. Sin embargo, el problema puede ser más difícil hasta cierto punto que cuando se consideran marcas de agua digitales para obras de arte.

Este es el por qué.

Suponga que el único lugar donde puede colocar la marca de agua es directamente en el texto mismo. Digo esto porque el texto que se genera no necesariamente va a un archivo. El texto es solo texto. Puedes cortarlo y pegarlo desde la herramienta de IA generativa. En este sentido, normalmente no hay metadatos o archivos en los que se pueda incrustar la marca de agua.

Tienes que centrarte únicamente en el texto. Puro texto.

Una vía sería hacer que la IA generativa produzca el texto de una manera que se pueda rastrear. Como un ejemplo crudo pero poco práctico, imagina que decidimos comenzar cada tercera oración con la palabra "Y" al comienzo de la oración. Todavía generaríamos un ensayo aparentemente completamente fluido. El único truco es que cada tercera oración comienza con nuestra palabra mágica elegida. Nadie más sabe lo que estamos haciendo.

Un estudiante usa IA generativa para producir el ensayo asignado sobre Lincoln. El estudiante lo toma directamente de la aplicación de IA y lo envía por correo electrónico al maestro. Resulta que el alumno esperó hasta el último momento y se topó con el plazo publicado. No hay tiempo para revisar el ensayo. Solo envíalo y espera lo mejor.

El profesor mira el ensayo. Supongamos que le hemos dicho que nuestra marca de agua consiste en la palabra mágica que se usa al comienzo de cada tercera oración. El profesor detecta que este es el caso en este ensayo presentado. Aunque tal vez haya una posibilidad increíblemente pequeña de que el estudiante haya escrito el ensayo y tal vez le guste usar esta palabra en particular al comienzo de cada tercera oración, creo que podemos razonablemente estar de acuerdo en que esto es muy poco probable y, en cambio, el estudiante probablemente usó la IA generativa. para producir el ensayo.

¿Ves cómo funciona eso?

Confío en que lo hagas.

El problema ahora es cómo crear una marca de agua que no sea tan obvia. Un estudiante puede notar que las oraciones parecen estar usando una palabra en particular de manera extraña. Podrían adivinar lo que está pasando. A su vez, el estudiante puede moverse por las oraciones y hacer algunas reformulaciones. Esto prácticamente hunde esta marca de agua en particular, ya que el ensayo ya no se detecta fácilmente como escrito por la IA generativa.

El juego del gato y el ratón sigue adelante una vez más.

Necesitamos producir un texto fluido que de alguna manera contenga una "marca de agua" de una manera que no se pueda discernir fácilmente. Además, si es posible, la marca de agua debe continuar incluso si el ensayo se revisa ligeramente. Una revisión completa probablemente no permitirá que la marca de agua sobreviva. Pero queremos algo de redundancia y flexibilidad para que la marca de agua sea preferentemente detectable incluso si se realizan algunos cambios en el área de texto.

Un investigador que está trabajando para la empresa que fabrica ChatGPT (la aplicación de IA de OpenAI) está explorando algunos esfuerzos criptográficos interesantes a lo largo de estas consideraciones de marca de agua. Scott Aaronson es profesor de Ciencias de la Computación en la Universidad de Texas en Austin y recientemente dio una charla sobre algunos de los trabajos que se están realizando (se publica una transcripción en su blog).

Considere este extracto en el que explica brevemente el enfoque existente: “¿Cómo funciona? Para GPT, cada entrada y salida es una cadena de tokens, que pueden ser palabras pero también signos de puntuación, partes de palabras o más; hay alrededor de 100,000 XNUMX tokens en total. En esencia, GPT genera constantemente una distribución de probabilidad sobre el próximo token a generar, condicional a la cadena de tokens anteriores. Después de que la red neuronal genera la distribución, el servidor OpenAI luego muestra un token de acuerdo con esa distribución, o alguna versión modificada de la distribución, según un parámetro llamado 'temperatura'. Sin embargo, siempre que la temperatura no sea cero, por lo general habrá cierta aleatoriedad en la elección del siguiente token: puede ejecutar una y otra vez con el mismo mensaje y obtener una finalización diferente (es decir, una cadena de tokens de salida) cada vez .”

Como se señaló, hay una cantidad designada de aleatoriedad en cuanto a qué palabras se colocarán a continuación en el ensayo que deriva la aplicación ChatGPT. Eso también explica el punto anterior de que es probable que cada ensayo sea algo diferente, incluso si se trata del mismo tema. Un uso intencionado de un enfoque de selección aleatoria que se encuentra dentro de límites particulares está funcionando bajo el capó durante la generación del ensayo.

Ahora llegamos a la parte jugosa, la mezcla criptográfica: “Entonces, para la marca de agua, en lugar de seleccionar el siguiente token al azar, la idea será seleccionarlo pseudoaleatoriamente, utilizando una función criptográfica pseudoaleatoria, cuya clave solo conoce OpenAI. . Eso no supondrá ninguna diferencia detectable para el usuario final, suponiendo que el usuario final no pueda distinguir los números pseudoaleatorios de los verdaderamente aleatorios. Pero ahora puede elegir una función pseudoaleatoria que secretamente sesga una cierta puntuación, una suma sobre una determinada función g evaluada en cada n-grama (secuencia de n tokens consecutivos), para alguna n pequeña, puntuación que también puede calcular si sabe la clave para esta función pseudoaleatoria”.

Me doy cuenta de que puede parecer algo tecnológicamente repleto.

La esencia es que el ensayo producido parecerá fluido y no podrá discernir fácilmente al leer el ensayo que contiene una marca de agua digital. Para averiguar si un ensayo determinado contiene una marca de agua, deberá introducir el ensayo en un detector especialmente diseñado. El programa que realiza la detección calcularía un valor basado en el texto y podría compararlo con una clave almacenada. En el enfoque que se describe, las claves estarían en manos del proveedor y no estarían disponibles de otro modo, por lo tanto, suponiendo que las claves se mantengan en secreto, solo el programa de detección designado podría calcular si el ensayo probablemente se derivó de ChatGPT en este caso.

Continúa reconociendo que esto no es infalible: “Ahora, todo esto se puede vencer con suficiente esfuerzo. Por ejemplo, si usó otra IA para parafrasear la salida de GPT, está bien, no podremos detectar eso. Por otro lado, si solo inserta o elimina algunas palabras aquí y allá, o reorganiza el orden de algunas oraciones, la señal de marca de agua seguirá estando allí. Debido a que depende solo de una suma sobre n-gramas, es sólido frente a ese tipo de intervenciones”.

Un maestro podría tener acceso a un programa detector que verificaría los ensayos de los estudiantes. Supongamos que el asunto es relativamente fácil en el sentido de que el maestro hace que los estudiantes envíen sus ensayos por correo electrónico al maestro y al detector automático. La aplicación del detector luego informa al maestro sobre la probabilidad de que ChatGPT elabore el ensayo en este caso.

Ahora bien, si el detector está abiertamente disponible para cualquier persona, tendría estudiantes tramposos con "rendimiento excesivo" que simplemente ejecutarían sus ensayos en el detector y realizarían una serie de cambios hasta que el detector indicara una baja probabilidad de que el ensayo se derivara del generativo. AI. Más del gato y el ratón. Presumiblemente, el detector debe mantenerse fuertemente protegido mediante el uso de contraseñas, o se necesitan otros medios o métodos para tratar con enfoques criptográficos (hay una variedad de métodos basados ​​en claves y sin claves que se pueden utilizar).

Un maestro puede enfrentarse a la posibilidad de que haya docenas o cientos de aplicaciones generativas de IA disponibles para su uso en Internet. En cuyo caso, tratar de hacer que todos usen alguna marca de agua digital y tener que introducir un ensayo en todos ellos, bueno, se vuelve más seductor y logísticamente complicado.

No más ensayos fuera del aula

Una perspectiva pesimista es que tal vez los maestros tendrán que abandonar el uso de la redacción de ensayos externos. Todos los ensayos deben escribirse solo dentro del entorno controlado de un salón de clases.

Esto tiene muchos, muchos problemas.

Supongamos que un estudiante normalmente requiere diez horas para escribir un ensayo completo en particular que es un proyecto de clase. ¿Cómo se haría esto dentro de un salón de clases? ¿Va a repartirlo y hacer que el estudiante escriba una pequeña parte del ensayo durante una serie de días? Piensa en las dificultades que esto presenta.

Algunos afirman que quizás se está exagerando el asunto.

Los profesores deberían hacer lo que siempre han hecho con respecto al plagio por parte de los estudiantes. Por adelantado, el maestro declara que el plagio es un grave problema de trampa. Enfatice que el uso de IA generativa, de cualquier manera, se considerará una acción de trampa.

Imponga sanciones que tengan un peso significativo, como una calificación baja, una clase suspendida o la expulsión de una escuela si llega tan lejos. Solicite a los estudiantes que certifiquen por escrito para cada tarea de ensayo externo que lo que han entregado es su trabajo (hecho sin ayudas como IA generativa, copiar de Internet, usar compañeros de estudios, usar un padre, pagar para hacerlo y pronto). Además, exija que los estudiantes enumeren cualquier herramienta en línea utilizada en la preparación del trabajo, incluido específicamente tener que anotar especialmente cualquier uso generativo de IA.

El maestro puede o no usar una aplicación detectora para tratar de discernir si el ensayo enviado es probable que sea una aplicación de IA generativa. Este es un paso potencialmente oneroso, dependiendo de qué tan fácil sea usar y acceder a los detectores.

Es de suponer que los maestros ya deberían estar tomando medidas para averiguar si los ensayos escritos externos parecen legítimos. Al escribir ensayos en clase, existe la posibilidad de comparar y contrastar, sin embargo, se da cuenta de que el tiempo para escribir en un aula es menor y también podría verse obstaculizado por la restricción de no permitir el acceso a materiales de referencia en línea.

La esencia es que no debemos tomar la ruta de descartar abruptamente el uso de la escritura de ensayos externos. Algunos deplorarían esto como un acto precipitado y que parece una reminiscencia de tirar al bebé con el agua del baño (un viejo dicho, quizás valga la pena retirarlo).

Si la escritura al aire libre se suspende por completo como actividad de aprendizaje, es probable que haya inconvenientes graves y prolongados al eliminar esta actividad educativa aparentemente cotidiana del plan de estudios. Hay una compensación involucrada. ¿Cuántos estudiantes harán trampa, a pesar de todos los controles y equilibrios mencionados anteriormente? ¿Cuántos estudiantes no harán trampa y, por lo tanto, continuarán utilizando un enfoque educativo beneficioso para mejorar su destreza en la escritura?

En teoría, con suerte, el porcentaje de tramposos será lo suficientemente pequeño como para que la escritura externa siga siendo meritoria para la preponderancia de los estudiantes.

Conclusión

La IA puede ser un gran dolor de cabeza.

Para los profesores, la IA puede ser tanto una bendición como una maldición. De cualquier manera, significa que los maestros deben saber sobre la IA, además de cómo lidiar con los giros y vueltas de la IA asociados con sus actividades de enseñanza, lo cual es otro peso adicional sobre sus espaldas y hombros ya sobrecargados. Un saludo a los maestros en todas partes.

Tal vez podamos desear que la IA desaparezca.

Nop.

Verá, no vamos a hacer retroceder el reloj y eliminar la IA generativa. Cualquiera que pida esto es un soñador. Y, aparte, estoy usando la palabra "Y" como la primera palabra de la tercera oración de este párrafo (¡ups, regalando la clave!), la IA generativa está aquí para quedarse.

Aquí hay un indicador para poner en marcha sus discusiones acaloradas: La IA generativa se volverá más omnipresente y tendrá capacidades aún más asombrosas y desconcertantes.

Gota de micrófono

Pensamiento final por ahora.

Shakespeare escribió célebremente que “Ser o no ser: esa es la cuestión”.

Os aseguro que la IA generativa va a ser. ya lo es

Tenemos que averiguar cómo queremos que la IA generativa entre en nuestras vidas y cómo la sociedad optará por dar forma y guiar dicho uso. Si alguna vez necesitó una razón para pensar en la ética de la IA y la ley de la IA, tal vez la IA generativa lo impulse a buscar saber lo que somos, incluso si no sabemos lo que podemos ser (referencia oculta de Shakespeare).