El aseguramiento del aprendizaje en los tiempos de la IA Generativa o el cómo podemos estar asesinando el aprendizaje y la metacognición.
Este es un título rimbombante y reaccionario, lo sé, pero necesario. Necesario como una alerta, como una llamada de atención, como una alarma; y si será falsa alarma, solo el tiempo lo dirá.
Y mientras los tiempos pasan, debemos dejar claro nuestro punto de vista, no estamos en contra de la IA, si somos puristas, tal como lo expresa Yuval Noah Harari en su libro Sapiens: De Animales a Dioses, cuando el primer hombre en la historia usó la primera herramienta (un palo, una piedra) para un fin determinado, inició la historia de la IA, así que es imposible darle la espalda. Somos lo que somos, cultural y socialmente hablando gracias a la IA.
Lo que sí es necesario es enfrentar la IA poniendo en profunda, muy profunda reflexión y discusión, sus ventajas y desventajas, sus retos y puntos oscuros, para tomar decisiones prácticas y éticas sobre su uso. Esta carrera en últimas se trata de aprender de la IA, sin dejar de aprender.
Todo a un click.
Nuestra tesis es que el reto esencial al que nos enfrenta la IA, y sobre todo la IA Generativa es un reto llamado “aprendizaje y la metacognición”, ¿Cómo estamos aprendiendo? ¿Cómo estamos desarrollando procesos de metacognición y pensamiento crítico? En general los seres humanos queremos hacer todo de forma inteligente y sobre todo urgente, y eso nos lleva muchas veces a ignorar o suprimir el proceso. Y si tenemos toda la información a la mano, esto puede ir en contra del proceso natural de enseñanza y aprendizaje que hemos propuesto en los sistemas educativos, algo completamente peligroso.
Similar a la película “Click” de Adam Sandler, que retrata a un ejecutivo que por extrañas razones termina por usar un control remoto que le permite adelantar su propia vida en esos espacios que detesta, para solo seleccionar y vivir los que prefiere, por ejemplo: una semana dura de trabajo, la adelanta, su cuerpo está en piloto automático y su mente desconoce lo que pasa exactamente, pero se salta ese pedazo poco placentero de la vida. Su objetivo e intención es ascender en la compañía, y termina en parte por curiosidad y en parte por pereza, adelantando partes bonitas de su vida a la par que otras tediosas.
Su esposa le habló interrumpiendo, adelantemos 15 min, hasta que se cierre la boca; una reunión de trabajo innecesaria, adelantemos el tiempo; una visita esporádica de su padre, adelantemos. En este caso le era como ver una película, su propia película, adelantando esas partes que él no quería experimentar. Pensando solo en la intención final.
En ese espacio de tiempo, su perro muere, su padre muere, su esposa lo deja, sus hijos aprenden a odiarlo. A la par, él logra los objetivos en el trabajo, asciende al puesto más importante jamás imaginado, millonario, poderoso, pero obeso y con cáncer se pregunta, ¿todo esto para qué? y al final despierta, fue solo un mal sueño. Su familia, su perro, su puesto de trabajo sigue allí. Con todo lo bueno y lo malo que eso signifique, pero todo está allí.
Esta es una película que muestra las contradicciones del ser humano, amamos más el desenlace que la trama parafraseando a Drexler, planeamos vivir algún día felices, sin darnos cuenta que la vida es ahora mientras la planeamos. Deseamos aprender a hacer algo, pero quisiésemos que ese aprendizaje fuera rápido, sin tantos esfuerzos ni preocupaciones. Ignorando que ese amargo le da sabor a la vida, olvidando que luego del gran esfuerzo viene la gran recompensa; ¿y si no hay recompensa? No tiene por qué haberla. Intentarlo es vivir, vivir aprendiendo.
Pero queremos suprimir las partes duras, frustrantes, y quedarnos solo con lo mejor; y cómo aprender es incomodarse, cómo aprender es usar energía vital y tiempo para un objetivo, cómo es común desanimarse en los intentos, llega la IA Generativa con la promesa de hacerlo por ti…
“No aprendas, yo ya lo sé todo, solo úsame y deja de pensar, deja de aprender” es la voz de la IA que similar a una musa griega nos tienta.
¿Exagero? Vamos a este ritmo: Un traductor para no aprender idiomas, una calculadora para no hacer cálculos, un auto para no ser manejado, un antidepresivo para no pensar en la causa del dolor, una vida virtual para no vivir la real, una red social para no tener amigos, esteroides anabólicos para tener músculos sin la pesadez del ejercicio, multivitamínicos para no comer naturalmente, drogas para no ver la nítida realidad, un filtro fotográfico para no aceptar la apariencia natural, en conclusión, una vida para no ser vivida.
Haciendo todo virtualmente, ¿Cuánto tiempo ahorramos al no tener que ir al banco? ¿o de compras? y este tiempo ahorrado ¿En qué lo estamos usando? Irónicamente ganamos tiempo gracias a la virtualidad para luego perderlo sin saber cómo en la virtualidad.
Supongo que va a llegar el momento donde hartos de todo no haremos nada, no aprenderemos nada, será el paraíso del hastío. La visión del cielo en sentido contrario. Muertos del tedio nos preguntaremos sin poder adivinar la respuesta ¿Qué nos trajo acá? y aunque ensayemos varias opciones de respuesta, no vamos a querer darle la espalda al placebo que nos oculta la realidad.
Si lo pensamos minuciosamente, la máquina si nos va a reemplazar, ya lo está haciendo, y así las cosas, vamos migrando a otros empleos, a otras líneas de trabajo, a otros mundos.
¿El antídoto? se trata de aprender de manera profunda, repasar uno a uno los mecanismos del cómo pensamos – metacognición-, siendo tan profundos como sea necesario. Y esto nos deja con el sin sabor, frente a un abismo: quienes quieren todo más fácil, les será más fácil, quienes lo hacen todo cada vez más profundo y consciente, todo les será más profundo, la inteligencia y el aprendizaje como filtro natural de la humanidad para crear dos nuevas categorías. Los perezosos a un lado, los que aprenden profundamente al otro.
Pero, antes de profundizar ¿qué es la IA y para este caso más específico la IA Generativa?
Vamos a terrenos más seguros, bajando un poco el volumen filosófico de este texto, definiendo lo que es la IA. Luego de revisar cientos de fuentes podemos ver los siguientes puntos de encuentro con una definición precisa: “simulación de inteligencia humana por máquinas” En esto Chat GPT está de acuerdo:
Y en el caso de la IA Generativa, es la IA usada para crear contenido nuevo (texto, imágenes, audio, código, etc.) a partir de patrones aprendidos. Modelos como ChatGPT, DALL·E o Midjourney pertenecen a esta categoría.
Esta distinción entre IA e IA Generativa es necesaria, muchos vienen confundiendo los términos al pensar que usar IA es sinónimo de usar algún asistente de estos, pero es un ejercicio mucho más amplio.
Ahora, gran parte de las máquinas usadas en la industria son computadoras con software y hardware, antes eran solo hardware (pequeñas o grandes máquinas operadas siempre por humanos), y antes eran solo utensilios como cuchillos, ruedas, piedras y palos, operadas siempre por humanos. Por esto podemos sostener que esas primeras herramientas fueron el inicio de la IA, en sentido estricto, la intención de los primeros homínidos era usar esos instrumentos para una finalidad, usar estas herramientas precarias fue uno de los primeros procesos artificiales y tareas complejas que llevaron a cabo.
Y para entender la IA en los tiempos actuales, basta pensar en que esa herramienta rudimentaria usada miles de años atrás, hoy en día pudiese usarse a sí misma como si tuviera vida y una intención, sin la necesidad de un humano que la opere. Que ese cuchillo, rueda, piedra o palo, aprendiesen por sí mismos a hacer la tarea. ¡Qué extraño que en la antigua Grecia existieron filósofos presocráticos que defendían una perspectiva hilozoísta de las cosas, la materia está dotada de la capacidad de actuar! A veces creo que vamos avanzando hacia el pasado, no al futuro, creando o descubriendo lo que ya se existía.
Estamos rodeados de IA, ahora mismo hay decenas de aparatos en tu casa que se “manejan solos”, un reloj que avisa de la hora, un TV que por inactividad se apaga solo, un microondas que calienta a la hora indicada, un celular que zumba lleno de notificaciones.
Por todo esto ¿Cuál es el miedo actual? Que las máquinas se operen solas, pero bueno, ya lo hacen, el internet de las cosas es una realidad desde hace más de una década. Y ya no es tan extraño que la impresora haga algún ruido o que un tv se prenda sin aviso. O que el mouse mueva el puntero con vida propia sin que nadie lo opere. Cuando esto pasa surge una exclamación común que seguro todos hemos usado es: “esta máquina está loca” … ¡Qué extraño que nos acostumbremos a esa locura!
Así que seamos tercos y preguntémonos de nuevo, ¿cuál es el miedo?, que las máquinas tengan consciencia y se revelen en sus tareas, y con su poder nos ataquen, nos esclavicen. Ya hemos visto demasiado cine, los extraterrestres siempre han querido lo mismo, esclavizarnos, nunca vienen en son de paz y si lo hicieran, no les creeríamos, y seguro de ser así, de que vengan en real son de paz, terminaríamos por domeñarlos.
Así es como cobra más fuerza la teoría de que los seres humanos acabamos con las otras especies coetáneas de homínidos a punta de violencia y sangre. Luego hemos venido haciendo lo mismo con los animales, y al final incluso con nuestros mismos amigos, parientes y cónyuges, la suerte está echada, somos profundamente violentos y dominantes, un aura de inconsciente colectivo histórico nos obliga a hacer siempre lo mismo, y en esencia el capitalismo es eso, dominar y tener el poder, antes esto mismo lo reflejaba la iglesia en su visión evangelizadora al igual que los imperios en su visión expansionista.
La verdad, y esto lo digo a título personal, no tengo miedo de la consciencia en las máquinas, como ya lo hemos dicho en nuestras editoriales, si ni siquiera sabemos lo que es la consciencia ni cómo se origina, ¿cómo saber si la máquina la tiene? primero resolvamos el problema de qué es la consciencia y cómo se genera, antes de creer que la IA tiene consciencia…
Y por ahora sigamos avanzando en el problema central que queremos plasmar, el aprendizaje en los tiempos de la IA Generativa y cómo podemos estar asesinando el aprendizaje.
Le tengo miedo...
Le tengo más miedo a los impactos en el aprendizaje, tanto los positivos como los negativos, veo en el presente cercano y en el futuro próximo una nueva división social, un nuevo modelo de castas, de categorización, los que saben versus los que no saben, y peor aún, los que saben aprender – metacognición-, versus los que no saben aprender o suponen que saben.
Expliquemos esto mejor, históricamente hemos visto a las profesiones envueltas en un proceso de aprendizaje, un científico, un hombre de negocios o un artista ha alcanzado sus metas con base en el aprendizaje, ha aprendido tanto que tiene una ventaja competitiva y saben cómo actuar para obtener un resultado esperado.
El científico sabe investigar para validar nuevas hipótesis que se conviertan en teorías, acuñar nuevos conceptos que conlleven a nuevos descubrimientos, el hombre de negocios sabe como hacer nuevos tratos, entiende la lógica del mundo de los negocios, saber hacer dinero, el artista dominando un arte, crea y recrea nuevos espacios llenos de simbología, de profundidad, sea por medio de la música, el cine, la literatura o cualquier otro arte. En otras palabras, han aprendido cómo hacerlo, el centro de su vida profesional y de sus logros es el aprendizaje.
En oposición, recientemente y a diario vemos nuevos Youtuber e Influencer que saltan a la fama por un short que se vuelve viral, luego intentan mil shorts más y nunca son tan virales como el primero, ninguno de ellos sabe cuál será el siguiente short que pueda satisfacer a las audiencias, el intrincado mundo del algoritmo que nutre las pantallas de los miles de usuarios en las redes sociales en todo el mundo no es para nada claro. Para brindar datos, diversos estudios de organizaciones independientes como Pew Research Center concluyen que la probabilidad de ser exitoso en las redes sociales y monetizar un salario promedio de 100.000 USD al año solo es del 1%.
Sabemos que 100.000 USD al año es bastante, o puede sonar muy tentador, pero en perspectiva ten en cuenta:
- Debes invertir diariamente en tus vídeos. Si tienes un canal de viajes, ¿cuánto vale viajar y documentar cada semana? si es de tecnología, ¿cuánto debes pagar por acceder a los últimos dispositivos? Luisito Comunica, uno los YouTuber más famosos de habla hispana, con más de 40 millones de seguidores, expresa que muchos de sus viajes los paga con su propio dinero y no necesariamente la inversión obtiene los réditos suficientes.
- Una vez alcances ese nivel de ingresos, no es recurrente ni para siempre, cada día verás de nuevo el reto de volver a hacer algo que te mantenga en la cresta de la ola.
En este mismo sentido, a todos nos ha pasado que las redes que usamos nos dejan de mostrar lo que realmente nos gusta y de paso nos embuchan con contenidos que detestamos, al punto que nos pueden hacer desertar de esas redes o que terminamos cambiando los gustos (esto es bien oscuro). Vamos navegando, usándolas porque sí, publicando porque sí, cantando ciertas canciones porque sí, consumiendo porque sí. Las redes sociales nos han enseñado algo de forma natural. Ellas nos enseñan y logran su objetivo de atraparnos. De atrapar nuestra atención.
Mientras lees este artículo ¿cuántas veces has chequeado tu celular? ¿Una, dos o tres veces? o ninguna…
¿Exagero? piensa profunda y honestamente ¿por qué tienes una red social activa y por qué compartes en ella girones de tu vida? ¿Tienes una clara respuesta? la mayoría no lo sabemos, pero igual lo hacemos.
Estamos frente a un nuevo escenario de una sociedad hiperinformada que no sabe.
El Influencer y el YouTuber pueden estar quemando su vida buscando el próximo contenido que los siga haciendo famosos y virales, y solo unos pocos lo logran, a cambio, un sin número de intentos son fallidos, millones de personas se estrellan contra el fracaso. No saben cómo lograrlo, en esto los trabajos tradicionales tienen una ventaja. El científico, el hombre de negocios, el artista sí saben. Han capitalizado su conocimiento. Las reglas del arte, de los negocios y de la ciencia son bastante claras para ellos.
Ahora muchos influencers son felices amasando sus pequeñas fortunas, sin saber cómo las han logrado, sin entender el mecanismo que los ha llevado a recibir un rédito por sus publicaciones, sin aprender ¿qué futuro nos depara la vida cuando no sabemos por qué hemos logrado lo que hemos logrado? Esa es una de las amargas realidades e ironías de nuestros tiempos.
Los profesionales que han aprendido a ganarse la vida en sus tareas diarias, tienen una expectativa francamente inexistente de aumentar su riqueza en unas pocas horas de trabajo. Mientras los influencers (una mínima porción) si lo pueden lograr. Lo malo es que no saben exactamente “cómo”, cómo mantenerse, cómo seguir ganando dinero. Por ello es tan común que quienes se ganan la vida de forma tradicional critiquen a los influencers diciendo, “son millonarios por hacer bobadas” a lo que los influencers responden “hagan ustedes estas bobadas y sean millonarios como nosotros” cómo resultado de esto vemos ya a muchos profesionales, doctores, científicos, empresarios y artistas buscando esas mieles del éxito en las redes sociales.
Una varita mágica
Las historias de las lámparas que al ser encontradas te permiten pedir el deseo que quieras develan el sentido ulterior de los deseos, como no sabemos como lograrlo, que venga el milagro y lo haga por nosotros. No importa el proceso, solo el resultado, todo a un click.
Similar a la maldición de las loterías, donde luego de los dos años hasta el 80% de los ganadores están en iguales o peores condiciones financieras de cuando la ganaron, así mismo podremos ver el futuro qué pasará con quienes no saben. El problema no es ser millonarios, el problema es saber cómo vivir la vida de un millonario.
Mucho se ha venido diciendo que los nuevos analfabetas serán quienes no saben de computación, bueno, la verdad ya llegó ese momento, la caída el 19 julio de 2024 de Microsoft paró al mundo o por lo menos una parte de él, ¿quiénes lo pudieron arreglar? los que sabían, no el resto, el resto solo oraban con buenas intenciones. Solo los ingenieros y desarrolladores podían solucionar el problema. El resto eran sólo actores de reparto que esperaban el momento en que todo fluyera.
Ahora mismo y para ser más exactos y demostrando lo poco que sabemos del mundo que nos rodea escribo gracias a la IA, un portátil online usando Google Drive, un programa que convierte por medio de una interfaz clicks en letras en una pantalla. ¿Qué hago si el teclado se bloquea? ¿Qué hago si Google Drive deja de guardar? ¿Qué hago si simplemente el portátil se apaga? a ciencia cierta, no lo sé, no lo podría solucionar por mis propios medios y de inmediato, tendría tres posibles opciones; esperar a que se arregle solo, buscar un técnico o aprender y arreglarlo por mi cuenta, esta última ¿cuánto demoraría?
Y no se trata de saber todo, no es posible, no podemos ser polímatas postmodernas que todo lo sabemos, pero sí debemos prender las alarmas. ¿Cuánto realmente sé para moverme en un mundo como este sin depender tanto del azar o de la IA?
Un famoso político en campaña cuando le preguntaron por un tema de geografía colombiana, argumentó que “no era necesario saberlo, solo era entrar a Google y buscarlo”. Sin quererlo, demostró algo, su respuesta honesta sería decir: “no lo sé” ahora, se trata de saber que la respuesta está en otro lugar, no en mi cabeza. Y con eso amaso la falsa idea de que sé, de qué sé dónde buscarlo.
En este sentido es que la IA y sobre todo la IA Generativa amenaza con asesinar el aprendizaje y la metacognición, en muchos casos, más de los que podemos ser conscientes, no usamos la herramienta, la herramienta nos usa, no la usamos para generar un conocimiento detallado y profundo, nos usa para darnos la falsa sensación de que sabemos. Y lo peor aún, no necesariamente es cierto lo que te dice.
Cuando vamos a preguntarle algo, allí, bajo esa misma casilla de un chat que nos abre una puerta al mundo que desconocemos un tímido mensaje nos debería alertar:
“ChatGPT puede cometer errores. Comprueba la información importante”
¿Cuál es la información importante? ¿Qué es lo que realmente sabemos? y ¿Qué tan cierto es?
Siempre lo hemos intuido, lo que nos separa de lo que queremos es no saber, no nos alimentamos bien porque no sabemos cómo hacerlo, no aprendemos un idioma porque no sabemos cómo hacerlo, no somos millonarios ni exitosos porque no sabemos cómo hacerlo.
Y sufrimos un doble engaño, el primero es que pensamos que saber algo es recitarlo, es denominarlo, es declararlo, a eso le conocemos como el aprendizaje superficial, es el aprendizaje que se queda a medio camino, sabemos que la comida chatarra es nociva, pero la consumimos, sabemos que un nuevo idioma nos genera grandes ventajas, pero no lo estudiamos, sabemos que es posible ser millonarios y tener éxito, pero no lo buscamos con todas nuestras fuerzas.
Y viene un segundo nivel de aprendizaje, es un aprendizaje profundo, deep learning diría Ken Bain, es un aprendizaje que va más allá de solo narrar las cosas, profundiza en el intrincado mundo del saber, tiene que ver con la percepción de autoeficiencia donde quien siente que puede lograr realmente sigue aprendiendo hasta el cansancio una y otra vez.
El segundo engaño y más sofisticado es pensar que sé porque sé dónde buscar una respuesta, luego porque tengo una máquina que lo hace por mí, al final aunque parezca absurdo nos preguntaremos porque seremos reemplazados.
Solo sé que nada sé.
Esta irónica frase acuñada a Sócrates hace más de 2.500 años puede estar perdiendo su esencia, si estamos de acuerdo, Sócrates quería decir, “si solo sabes que nada sabes, podrás estar más cercano a la verdad que quien siente que sabe”. Por el contrario, la falsa sensación de sabiduría nos hará caer en esa trampa del saber, si creemos que ya lo sabemos, ¿qué nos hará movilizarnos hacia el conocimiento? Y peor aún, si contamos con una cascada infinita de conocimientos a un click, estamos tergiversando la realidad, estamos tomando prestado un conocimiento que no nos pertenece, que no hemos reflexionado profundamente, que no hemos alcanzado… y si esa herramienta se esfuma… veremos realmente lo ignorantes que somos.
No es extraño que esto esté documentado en uno de los más grandes estudios realizados en la historia reciente durante más de 70 años, a este estudio se le conoce como el efecto Flynn. Desde 1938 hasta el 2008 se documentó la subida constante y positiva en los niveles de cociente intelectual en los 5 continentes, pero en los años 90 se ha empezado a ralentizar al punto que varios investigadores consideran que nuestro cerebro ha llegado a su cenit, iniciando una curva de descenso.
¿Será esto un síntoma de lo que vemos a diario? con el Youtuber o el Influencer desorientado cada mañana ya que no sabe cómo crear un contenido que pueda satisfacer a un público que a la vez no sabe porque consume lo que consume, porque le gusta lo que le gusta. ¿Estamos en las manos de la IA sin saberlo?
Apaguemos nuestro celular y PC, pongamos lejos todo aparato, hagamos un ayuno de dopamina y pensemos de forma seria durante todo un día ¿cuánto realmente sabemos?
¿Qué nos queda?
La respuesta sonará bastante rosa. Nos queda la posibilidad y capacidad de aprender profundamente. Nos queda contrastar la información que tenemos en manos, nos queda dudar de todo, nos queda seguir desempeñando tareas complejas, porque eso es vivir.
Nos queda la posibilidad de adquirir una lectura y un pensamiento crítico, que nos permita ajustar constantemente eso que consideramos es verdad, nos queda la posibilidad de pensar y reflexionar profundamente por fuera de la caja, del marco normativo.
Nos queda la metacognición como el camino más seguro para aprender sobre la forma en la que aprendemos, desmontando en la medida de lo posible los mecanismos de la mentira y la falacia.
Pero, viene la respuesta no rosa. Prepárate.
Similar al niño al que sus padres no le dejan que experimente el mundo, porque no quieren que sufra, y así lo están «blindando» de sentir las emociones y sensaciones de toda índole. Lo están dejando desprovisto de las herramientas básicas para enfrentarse a su mundo. Así mismo les estamos dando la bienvenida a la sociedad de cristal a la que nada se le puede decir porque lloran y se revuelcan como putas magdalenas.
¿Algún lector se habrá ofendido con esta última expresión de “putas magdalenas” ?, pido excusas, es un mero uso del lenguaje, un recurso estilístico, del cual me doy permiso para darle fuerza al texto y no tendría por qué afectar a nadie. Pero la corrección política sumada a una falsa sensación de educación, y por supuesto, a una falsa sensación de aprendizaje, van en contravía del saber. Se que estas posturas y expresiones pueden incomodarnos y eso deseo un poco, que nos incomodemos. Así como el aprendizaje suele incomodar.
Cada día me levanto siempre a las 4:00 am, tomo un café o un té e inicio mi sesión de escritura, tomo libros, referencias que he leído, artículos, papers y sobre todo reflexiones personales para ponerlas en las editoriales y ahora mismo en este futuro libro. Así cada madrugada. Y durante el día le doy miradas y hago pinceladas robando tiempo de otras ocupaciones, reviso que debería decir cada título, cada palabra y cada frase, y es más lo que desecho que lo que construyo… así aprendo.
Durante semanas he usado la IA Generativa, he buscado las mejores maneras de darle forma al prompt, he usado otras herramientas de IA no tan populares, y además he revisado cuidadosamente los elementos a tener en cuenta para publicar por ejemplo, en nuestro Blog de ESE, ¿y saben algo? A cada momento la tentación está, la seducción llega, la IA genera en segundos un texto con miles de palabras para ser publicada.
Además, Google me dice, una buena editorial desde la perspectiva de SEO debe tener lo siguiente: “Escribe sobre temas que la gente busca” unos ejemplos que me sugieren son ¿cómo perder peso sin hacer dieta? ¿cómo amar sin sufrir? y luego me dice que debo buscar crear un texto de menor extensión, qué esto que estás leyendo sea al menos 10 veces menor, y qué los párrafos deben ser menos extensos, y qué debo satisfacer la intención de búsqueda. Mi próximo título será “¿cómo aprender sin esfuerzo y durmiendo?”.
Debo evitar usar palabras o conceptos de complejidad media, cambiándolos por unos más populares y sencillos. Debo, debo, debo, hasta que se convierta en tengo, tengo, tengo…
¿Estamos encerrados en un ciclo de construcción de ideas más sencillas y términos más cortos? En este sentido, la IA Generativa puede ayudar a asesinar el aprendizaje.
Una tensión ética
Las tensiones éticas se manifiestan cuando dos o más principios morales o normas entran en pugna, decir siempre la verdad, aunque genere incordios y problemas, ¿hasta dónde un profesional debe guardar el secreto de un paciente, a sabiendas del daño que ese paciente puede seguir causando a otros? ¿A quién socorrer primero en el caso de un accidente, a tu mascota o a un desconocido? ¿Sigue siendo vigente la vieja norma de primero las mujeres, ancianos y niños en un mundo que exaspera con su falsa visión de igualdad? ¿Es necesario darle la palabra y respetar la opinión de cualquiera, aunque sea un violador o un asesino? ¿se le debe respetar como a cualquier otro por el solo hecho de ser humano? ¿Dejaremos de comer carne o aprenderemos a comer de todas las carnes cuando sea necesario? estos algunos ejemplos de las tensiones éticas actuales.
Una tensión ética muy sonada en el 2024 fue por supuesto la generada con la entrega de los premios Nobel en física y química y si es lícito o necesario reconocer el trabajo de la IA en este proceso.
Para dar un contexto, el uso de la IA ha permitido predecir las complejas estructuras de las proteínas, un reto que desde hace 50 años estaba presente en los laboratorios de los científicos y que sin la ayuda de la IA, podrían haber pasado otras décadas para su predicción. Y por otra parte, John J. Hopfield y Geoffrey E. Hinton, han sido premiados con el Nobel por “Los descubrimientos e invenciones que permite el Machine Learning/Aprendizaje Automático con redes neuronales artificiales” Premios Nobel, o dicho de otra manera, por sentar y definir las bases del aprendizaje automático, aspecto esencial para el diseño y funcionamiento de la IA.
Las discusiones son amplias y complejas, ¿por qué mezclar ciencias de la computación con física? ¿Quién ganó el premio, la IA o los científicos? o algunas más triviales ¿por qué entregar el premio a dos personas a la vez?
La tensión ética que realmente llama la atención es que para usar la IA se estima que en este 2024, se requiere y se está usando el 2% del total de energía consumida en el mundo según cifras del “El Foro Económico Mundial”. Para el 2030 se supone será más del 10%, en otras palabras, la IA va en contra de las soluciones asociadas al cambio climático (bajar los consumos energéticos), pero a su vez promete eliminar el problema. Un cuello de botella, un auténtico dilema ético, como dice la fábula, mató al pollo aliviado para darle de comer al enfermo.
Es una profunda discusión, la IA está redefiniendo los límites de las ciencias y los límites del pensamiento y del aprendizaje humano, en otras palabras, está redefiniendo la existencia misma.
¿Cuánto de esto es aún conducido por el hombre? ¡Tal parece que el volante que dirige nuestras vidas y que siempre ha estado suspendido sobre nuestras manos y decisiones, va cambiando de piloto! Imagino a modo de metáfora un auto (nuestro cuerpo) conducido por dos seres, el piloto, quien lleva el volante no eres tú, es la IA. El copiloto eres tú, si bien habitan el mismo cuerpo, lentamente caes en un sueño, ¿a dónde vamos? preguntas en voz baja, casi dormida, la IA te sonríe y acelera.
Influencers y YouTubers vs científicos y premios Nobel.
No me deja de llamar la atención que exista una gran similitud entre estas dos poblaciones, entre estos dos tipos de personajes posmodernos, cada vez le entregamos más y más nuestro poder a la IA, cómo lo hemos visto, parece que gran parte del crédito se lo lleva la IA en ambos casos, ¿El Influencer y el hombre de ciencia ya no pueden llevar a cabo sus objetivos si usar la IA? ¿Cuál de ellos se resistiría a usarla? En términos simples ambos no pueden ser lo que son sin la IA, ambos han logrado gran parte de lo que son gracias a la IA, ¡Nunca habían estado tan cerca un Tiktoker de 13 años con un científico octagenario!
Para terminar...
¿Para qué usamos cada uno de nosotros la IA? ¿Estamos aprendiendo con la IA? o
¿Estamos dejando de usar muchas de nuestras capacidades cognitivas sin darnos cuenta?
Recuerdo a uno de mis profesores de la universidad, nos relataba que hace unos 40.000 años los humanos ya soñaban, esto se argumenta en que de esa época datan los primeros pictogramas, esas imágenes pintadas en las cavernas. No olvidaré que de una forma magistral nos explicaba o mejor, nos ayudaba a imaginar cómo serían esos primeros sueños de los primeros seres humanos, soñaban que eran atacados por un león, pero era solo un sueño, al despertar, su piel intacta les daba pistas que solo fue un sueño, pero ¿cómo sabían que soñaban? ¿cuándo era un sueño y cuándo era la vida real? estirando la reflexión, ¿el sueño no hace parte de la realidad? Tal vez el sueño fue la primera forma primitiva de la IA y la consciencia fue la forma exacta de la IA. Siempre hemos soñado que la IA viva y haga mejor la vida.
Le pregunté a una de las herramientas de la IA Generativa sí ella existe, y me respondió: “Sí, la inteligencia artificial generativa existe, pero su existencia depende de cómo la definimos y del alcance que imaginemos para ella. Actualmente, la IA se refiere a sistemas y programas diseñados para realizar tareas específicas que requieren algún tipo de inteligencia humana, como el reconocimiento de patrones, la toma de decisiones, el procesamiento de lenguaje y el aprendizaje a partir de datos. Estos sistemas de IA son reales y están ampliamente integrados en áreas como la medicina, el comercio, la educación y la tecnología personal.
Sin embargo, lo que existe hoy en día es lo que se llama IA estrecha o débil, que está diseñada para realizar tareas concretas, como el reconocimiento de voz o la recomendación de contenido. Estas IA no tienen autoconciencia, intencionalidad ni capacidad para generalizar conocimientos de una tarea a otra como lo hace la inteligencia humana.
La idea de una IA general o fuerte –es decir, una IA con capacidades cognitivas completas y una conciencia similar a la humana– aún no existe y sigue siendo un objetivo teórico y filosófico en gran medida. Esto plantea preguntas profundas sobre la naturaleza de la “existencia” de la IA: si solo se considera “existente” cuando pueda entenderse y autoperpetuarse o si basta con que pueda realizar tareas complejas diseñadas por humanos”.
Tal parece que el sueño se está cumpliendo…me genera escalofríos pensar en que la IA lidere “ese objetivo teórico y filosófico de una IA con capacidades cognitivas y una consciencia similar a la humana”. Recuerden, no lo he dicho yo.
Nota del autor:
Este artículo lo terminé de escribir en agosto de 2024. Durante meses lo dejé a solas; en otras palabras, no volví sobre él. Parece que todo tiene vida propia y por eso todas las cosas envejecen: algunas bien, otras regular, otras mal. Esa capacidad de resistir el paso del tiempo es, en parte, lo que distingue al arte de las modas pasajeras.
Cualquier cosa que se llame arte tiene que envejecer bien.
Y me alegra que sea el lector quien decida qué sucede en este caso.
Nunca he querido escribir sobre temas de moda: casi siempre envejecen mal. Lo mismo ocurre con muchas afirmaciones sobre la inteligencia artificial; en una semana pueden quedar obsoletas. Por eso no he centrado mis esfuerzos en hablar de la IA Generativa, sino en explorar algo más profundo: la relación entre el ser humano y el aprendizaje, mediado por la IA.
¿La inteligencia artificial está matando tu aprendizaje?
¿O lo está haciendo más robusto, más consciente, más humano? Ahí está, creo, lo vital.
Mayo 3 de 2025.
Eduardo Montoya Castañeda
Licenciado en Filosofía con más de 24 años de experiencia en evaluación y aseguramiento del aprendizaje —AoL—. Fue docente y directivo por alrededor de 10 años. Socio fundador y Director general de ESE- Grupo Educación y Empresa desde hace 14 años.
Excelente artículo!
Gracias Elisabeth, ¡qué bueno saber que te ha gustado! saludos.
No hay nada nuevo bajo el sol. Lo que hoy es ayer ya fue; dice el Eclesiastés, gran artículo,
Gracias Martín, buen punto de vista, ¿será que vamos hacia el pasado?
Muy buen artículo Eduardo, lo abordaré en mis clases. Gracias.
Un gusto Roxana. Me alegra que te sea de utilidad. Saludos.