1. La profesora Carissa Véliz relata dos accidentes aéreos. Uno ocurrió porque los pilotos conversaban distraídamente durante el aterrizaje y no prestaron suficiente atención a la velocidad y la altitud del avión. El otro se produjo porque parte del sistema de aterrizaje por instrumentos del aeropuerto estaba fuera de servicio y los pilotos ya no recordaban cómo aterrizar manualmente sin depender de la automatización. Como escribe Véliz: «A medida que el vuelo se ha automatizado, los pilotos han ido perdiendo ciertas habilidades necesarias para pilotar manualmente.» Luego sostiene que la IA representa la forma más avanzada de automatización.¿Le preocupa que las personas puedan depender excesivamente de la IA y, como consecuencia, perder habilidades esenciales para desempeñar su trabajo o incluso para comunicarse eficazmente con los demás? ¿Cambia su opinión según la profesión de que se trate —por ejemplo, la aviación, la medicina o el derecho—? Explique su respuesta.
2. Véliz ofrece otro ejemplo:
Cuando la empresa Norsk Hydro sufrió un ataque de ransomware, logró evitar el cierre de sus operaciones únicamente porque empleados de mayor edad —e incluso personas que ya se habían jubilado— aún sabían cómo realizar el trabajo manualmente.
¿Considera que esta situación tiene implicaciones para el campo profesional en el que usted espera trabajar? Explique.
3. Si continúa utilizando la IA de la forma en que lo hace, la profesora Peat quizá nunca llegue a desarrollar plenamente sus propias habilidades de escritura profesional. Tal vez piense que no necesita hacerlo porque siempre tendrá acceso a la IA. Sin embargo, la profesora Véliz sostiene:
Entre las habilidades que desarrolla la escritura está la empatía. Escribir obliga a ponerse en el lugar del lector. ¿Entenderá lo que intenta comunicar? ¿Existe el riesgo de aburrirlo? ¿Está considerando otros puntos de vista con suficiente respeto? Las habilidades sociales son algunas de las capacidades más valiosas que poseemos y debemos procurar que la IA no las debilite. Si los estudiantes se acostumbran a depender de chatbots para redactar sus ensayos, podrían perder habilidades de pensamiento crítico, empatía y creatividad.
¿Está de acuerdo en que estas son preocupaciones importantes? ¿O cree que se exageran los riesgos? Fundamente su respuesta con evidencia.
4. En un artículo publicado en The Atlantic, Rose Horowitch escribió:
Cal Newport, profesor de informática en la Universidad de Georgetown, sostiene que el proceso de escribir obliga a las personas a pensar de manera ordenada y lógica. Pone al descubierto las ideas poco desarrolladas y los razonamientos deficientes. El tiempo y la concentración necesarios para convertir pensamientos en palabras, oraciones y párrafos permiten establecer nuevas conexiones y descubrir nuevas ideas.
Esto me parece cierto. Mi trabajo consiste en escribir… La perspectiva de una enfermedad grave me produce menos temor que una página en blanco. Sin embargo, hay satisfacción en esa lucha. Escribir es la manera en que doy forma a ideas todavía confusas y alcanzo nuevos conocimientos. Al evaluar mis argumentos y descartar los que no son convincentes, encuentro los que sí lo son. Escribir es difícil porque quien escribe está aprendiendo. Si la IA elimina ese esfuerzo, también elimina el aprendizaje.
¿Está de acuerdo con esta idea o coincide más con el título del artículo de Horowitch: «El fin de la lectura ha llegado»? Explique su respuesta.
5. Horowitch respalda su argumento señalando:
«Los primeros estudios sugieren que esto es precisamente lo que ocurre cuando las personas utilizan IA para escribir. El proceso resulta más sencillo. El producto final suele ser mejor que el que podrían elaborar por sí solas. Sin embargo, ese beneficio tiene un costo para el desarrollo intelectual. Un estudio realizado en Brasil encontró que los estudiantes universitarios que utilizaron IA para estudiar obtuvieron resultados significativamente peores en un examen sorpresa que quienes estudiaron sin ella. Incluso obtuvieron peores resultados en preguntas que exigían reflexión y razonamiento, más que la simple memorización de conocimientos. Otro estudio realizado con cientos de personas en el Reino Unido encontró que el uso frecuente de la IA para tareas cognitivas se asocia con una disminución de las capacidades de pensamiento crítico.»
¿Estos estudios le hacen pensar que la dependencia excesiva de la IA constituye un problema real? ¿Por qué sí o por qué no?
6. Cory Doctorow (autor del imaginativamente titulado Enshittification) señaló en un libro más reciente (también con un título bastante creativo, The Reverse Centaur’s Guide to Life after AI):
«Un estudio revisado por pares publicado en The Lancet, una de las principales revistas médicas británicas, describió una pérdida de experiencia entre médicos especialistas en endoscopia que utilizaban IA para interpretar los resultados de colonoscopias. Después de solo unos meses trabajando con estas herramientas, estos profesionales altamente capacitados experimentaron una disminución significativa en su capacidad para identificar pólipos potencialmente peligrosos. Este fenómeno constituye un claro ejemplo de “ceguera por automatización” y plantea serias dudas sobre la idea de utilizar a los profesionales de la salud como “seres humanos en el circuito”, supervisando herramientas de diagnóstico basadas en IA.»
¿Le resulta convincente el concepto de «ceguera por automatización»? ¿Por qué sí o por qué no? ¿Puede pensar en alguna situación en la que usted mismo haya experimentado algo parecido? Explique su respuesta.
7. Investigadores del MIT compararon a dos grupos de estudiantes que debían escribir un ensayo. Uno podía utilizar ChatGPT y el otro debía escribir sin ayuda de IA. Las imágenes cerebrales mostraron una mayor actividad eléctrica en los cerebros de los estudiantes que no utilizaron ChatGPT. ¿Qué significado tiene este resultado para usted? Explique.
8. El mismo estudio encontró que la mayoría de los estudiantes que utilizaron ChatGPT no podían recordar, apenas unos minutos después, ni una sola oración del ensayo que supuestamente habían escrito. En cambio, quienes escribieron el ensayo por sí mismos sí podían hacerlo. Qué le sugiere este hallazgo? ¿Le sorprende? ¿Por qué sí o por qué no?
9. Posteriormente, los investigadores invirtieron los grupos. Los estudiantes que primero habían escrito sin IA pudieron utilizar ChatGPT en una segunda actividad y registraron entonces la mayor actividad cerebral de todo el estudio. Sin embargo, quienes inicialmente habían utilizado ChatGPT nunca alcanzaron esos mismos niveles de actividad cerebral cuando posteriormente tuvieron que escribir sin ayuda de la IA. ¿Qué conclusiones extrae de este resultado?
10. Un estudio realizado en Suiza encontró que un mayor uso de herramientas de IA se asociaba con una disminución del pensamiento crítico debido al fenómeno conocido como «externalización cognitiva» (cognitive offloading), mediante el cual las personas delegan parte de su proceso de reflexión en herramientas externas como la IA. ¿Le parece una explicación convincente? ¿Su propia experiencia utilizando IA respalda o contradice estos resultados? Explique con ejemplos.
11. ¿Es posible que la IA mejore su desempeño en algunos aspectos de su trabajo, mientras perjudica su desempeño en otros? Un estudio realizado por Fabrizio Dell’Acqua y sus colegas, en el que participaron numerosos consultores de gestión enfrentando tres tipos distintos de tareas, encontró lo siguiente:
«…las capacidades de la IA abarcan un conjunto desigual de tareas propias del trabajo intelectual, por lo que introducimos el concepto de una “frontera tecnológica irregular” para describir el desempeño de la IA cuando es utilizada por trabajadores del conocimiento. Tareas que, desde la perspectiva humana, parecen tener un nivel de dificultad similar pueden ser realizadas mejor o peor por personas que utilizan IA. Dentro de esa frontera tecnológica, la IA puede complementar el trabajo humano. Sin embargo, fuera de esa frontera, la IA resulta imprecisa, menos útil e incluso puede empeorar el desempeño de las personas. La asistencia de la IA mejora el rendimiento únicamente en aquellas tareas que se encuentran dentro de sus capacidades actuales y lo empeora cuando las tareas quedan fuera de ellas.»
La principal conclusión de este estudio fue que, cuando los consultores utilizaron IA para resolver problemas que estaban fuera de las capacidades del modelo, obtuvieron peores resultados que quienes realizaron las mismas tareas sin utilizar IA. Los investigadores describieron este fenómeno como «quedarse dormido al volante». ¿Qué conclusiones extrae de este estudio? ¿Cree que siempre podrá identificar cuándo una tarea se encuentra dentro de las capacidades de la IA y cuándo no? Si es así, ¿cómo? ¿Existe el riesgo de confiar demasiado en un sistema de IA para realizar una tarea para la que no está preparado? Explique su respuesta.
12. Grace Liu y sus colegas descubrieron que las personas que trabajan habitualmente con IA tienden a esperar respuestas inmediatas y, por ello, son menos propensas a perseverar cuando enfrentan problemas difíciles. Aunque inicialmente obtienen mejores resultados, cuando dejan de disponer de la ayuda de la IA suelen rendir peor y abandonar las tareas con mayor rapidez que quienes nunca dependieron de ella. ¿Le parecen razonables estos hallazgos? ¿Coinciden con su propia experiencia utilizando herramientas de IA? Explique.
13. Un estudio realizado por Abram Anders y Emily Dux Speltz concluyó que:
«Descubrimos que los estudiantes dedicaban menos tiempo a transformar ideas en oraciones y párrafos, pero invertían más esfuerzo en tomar decisiones de orden superior relacionadas con la planificación, el juicio, la evaluación y el control de la calidad. Uno de los estudiantes expresó muy bien esta idea: “Tuve que aprender a pensar sobre mi propio pensamiento”. No diría que nuestro estudio demuestra que los estudiantes piensan más o menos, sino que piensan de una manera diferente.
Los estudiantes se comprometieron profundamente con su visión creativa y, aun utilizando IA, rara vez se conformaban con un resultado inferior al que buscaban, lo que con frecuencia dio lugar a un intenso proceso de ida y vuelta con la herramienta.»
¿Qué tan convincente le parece esta conclusión? ¿Coincide con su propia experiencia? Explique con ejemplos.
14. El profesor Chrysanthos Dellarocas, cuya reflexión inspira el caso de la profesora Peat, sostiene que la dependencia de la IA puede impedir que los estudiantes desarrollen habilidades fundamentales y que, como consecuencia, será necesario replantear tanto la enseñanza como la evaluación.Antes, los estudiantes recibían una tarea (por ejemplo, desarrollar un programa informático) y el proceso mismo de realizarla les permitía adquirir los conocimientos y las habilidades necesarios. Ahora, en cambio, pueden pedirle a la IA que genere ese programa y completar la tarea sin haber aprendido realmente el contenido. Dellarocas explica:
«¿Qué queremos que los estudiantes sean capaces de hacer en un mundo donde existen máquinas inteligentes?
La respuesta comienza distinguiendo entre dos tipos de habilidades que la IA ha separado. La primera es la producción de artefactos: elaborar un ensayo, un programa, un diagrama o un análisis. Esta ha sido la competencia sobre la que tradicionalmente se han construido la mayoría de nuestros objetivos de aprendizaje, y la IA generativa la ha puesto al alcance de casi cualquier persona, independientemente de que exista o no una comprensión auténtica del tema.
La segunda es el razonamiento sobre los artefactos: decidir qué artefacto debe producirse, orientar a un sistema para que lo genere correctamente y evaluar si el resultado responde realmente a la pregunta planteada. Esto es precisamente lo que la IA no puede hacer. Sin embargo, es cada vez más lo que se espera de los graduados en el ámbito laboral: supervisar, evaluar y asumir la responsabilidad de los resultados que los sistemas inteligentes producen en su nombre.
El razonamiento sobre los artefactos comprende, a su vez, dos componentes. El primero consiste en formular correctamente el problema: plantear una pregunta con la precisión suficiente para que un artefacto pueda responderla. Pensemos en una pregunta que los decanos suelen hacerse: ¿qué cursos son los más eficaces? Antes de que cualquier algoritmo pueda responder, alguien debe decidir qué significa exactamente «eficaz». ¿Mayores calificaciones en los exámenes? ¿Una mejora entre la primera y la última tarea? ¿Un mejor desempeño en cursos posteriores? ¿O algo más difícil de medir, como la capacidad para aplicar ideas en situaciones nuevas? Cada definición conduce a un conjunto de datos diferente, a un modelo distinto y, en última instancia, a una respuesta diferente. Un sistema de IA puede generar paneles de control y clasificaciones una vez que la pregunta ha sido formulada. Pero, si nadie define cuidadosamente el problema, el sistema ofrecerá respuestas muy precisas a una pregunta vagamente planteada.
El segundo componente es la interpretación crítica: analizar un resultado con suficiente profundidad para determinar si realmente responde a la pregunta planteada, qué supuestos incorpora y en qué aspectos podría inducir a error. Reconocer esas limitaciones exige una comprensión auténtica del tema, una comprensión que solo se desarrolla mediante un compromiso profundo y sostenido con el aprendizaje.
En conjunto, estas capacidades constituyen el nuevo núcleo de competencias que nuestros cursos deberían desarrollar, no como un complemento de los objetivos de aprendizaje actuales, sino como el marco organizador sobre el cual deberían rediseñarse.
En mi curso de bases de datos de la Escuela de Negocios Questrom de la Universidad de Boston, donde se estudian herramientas fundamentales para el funcionamiento de las organizaciones —como modelos de datos, consultas a bases de datos y paneles de análisis—, cambié la pregunta que guiaba cada unidad del curso. Antes preguntábamos: «¿Pueden los estudiantes producir correctamente estos artefactos?». Ahora preguntamos: «¿Pueden razonar críticamente sobre lo que esos artefactos hacen?».»
¿Qué le parece la propuesta del profesor Dellarocas? ¿Podría diseñar una solución similar para alguna asignatura que esté cursando o haya cursado, o para algún trabajo que haya desempeñado? Fundamente su respuesta con ejemplos específicos.