INTEL·LIGÈNCIA ARTIFICIAL I EDUCACIÓ SUPERIOR. Possibilitats, riscos acceptables i limitis que no s'han de traspassar.
DOI:
https://doi.org/10.1344/REYD2024.2%20Extraordinario.49175Paraules clau:
intel·ligència artificial, intel·ligència artificial generativa, educació superior, recerca, riscosResum
La IA Generativa ha arribat també al món de la universitat, tant en el pla dels alumnes que accedeixen als estudis superiors com en el del professorat que es troba en el seu doble vessant com a docents i investigadors amb aquesta realitat tecnològica que no fa sinó créixer. No obstant això, cal conèixer els límits del que la IA Gen pot oferir així com els riscos que aquestes tecnologies poden suposar per a l'ensenyament superior ja que enfront dels avantatges que tota tecnologia posseeix, sorgeixen també importants dubtes sobre els riscos que aquestes podran implicar en un futur a mitjà i llarg termini. En aquest treball ens centrem essencialment en els riscos que diversos científics socials han detectat, fonamentalment, per a intentar aportar arguments per a una reflexió serena i essencialment prudent sobre la incorporació la IA Gen a l'educació superior. Gairebé tots els mals de pobles i individus dimanen de no haver sabut ser prudents i enèrgics durant un moment històric, que no tornarà mai, assenyalava Santiago Ramón y Cajal, aquestes paraules del nostre premi Nóbel de Medicina i pare de la neurociència ens adverteixen que hi ha moments crítics en la regulació dels problemes abans que aquests es transformin o puguin transformar-se en irresolubles com considerem en aquest estudi, aquest moment en el camp de la IA Gen ha arribat.
Referències
Alkaissi, H., y McFarlane, S. I. Artificial hallucinations in ChatGPT: implications in scientific writing. Cureus, 15(2) 2023. De recomendable consulta en: https://pubmed.ncbi.nlm.nih.gov/36811129/
Atkinson-Abutridy J, Grandes modelos de Lenguaje, Marcombo, Madrid, 2023
Ben G, Los defectos de las políticas que requieren supervisión humana de los algoritmos gubernamentales, 45 Ley y seguridad informática Rev. 1,2022.
Berzal F, Redes Neuronales & Deep Learning, Granada, 2019
Burke, P, Ignorancia. Una historia global, Alianza Ed, Madrid, 2023
Carr, N, Atrapados. Cómo las máquinas de apoderan de nuestras vidas, Taurus, Madrid, 2014
Carr, Nicholas, “¿Qué está haciendo Internet con nuestras mentes? Superficiales”, Taurus, Barcelona, 2020
Edelson, M, y otros, Following the Crowd: Brain Substrates of Long-Term Memory Conformity, Science, 333, 2011
Emsley, R. ChatGPT: these are not hallucinations – they’re fabrications and falsifications. Schizophr 9, 52, 2023. https://doi.org/10.1038/s41537-023-00379-4
Garnier-Brun, J, M. Benzaquen y J.P. Bouchaud, “Unlearnable Games and “Satisficing” Decisions: A Simple Moldeo for a Complex World”, arvix.org 2312.12252v2 5 de enero de 2024. https://link.aps.org/doi/10.1103/PhysRevX.14.021039
Guía para el uso de IA generativa en educación e investigación. https://unesdoc.unesco.org/ark:/48223/pf0000389227
Grant, R W, Los hilos que nos mueven. Desenmarañando la ética de los incentivos, Avarigani, Madrid, 2021
Glauner, Patrick, PetkPetko Valtchev y Radu State, “Impact of Biases in Big Data”, Actas del 26º Simposio Europeo sobre Redes Neuronales Artificiales, Inteligencia Computacional y Aprendizaje Automático (ESANN 2018). arXiv: 1803.0089
Haidt, J, La generación ansiosa. Por qué las redes sociales están causando una epidemia de enfermedades mentales entre nuevos jóvenes, Deusto, Barcelona, 2024
Hicks, M,T, J Humphries, y J, Slater, ChatGPT is bullshit, Ethics and Information Technology, 2024. https://doi.org/10.1007/s10676-024-09775-5
Horwitz, J, Código roto. Manipulación política, fake news, desinformación y salud pública, Ariel, Barcelona, 2024.
Inteligencia artificial y educación: guía para las personas a cargo de formular políticas. https://unesdoc.unesco.org/ark:/48223/pf0000379376
Inteligencia artificial y educación: una visión crítica a través de la lente de los derechos humanos, la democracia y el estado de derecho (2022) https://book.coe.int/en/education-policy/11333-artificial-intelligence-and-education-a-critical-view-through-the-lens-of-human-rights-democracy-and-the-rule-of-law.html
Jonas, H, El principio de responsabilidad. Ensayo de una ética para la civilización tecnológica, Herder, Barcelona, 2015, p.-16.
Kearns, M y A Roth, El algoritmo ético. La ciencia del diseño de algoritmos socialmente éticos, La Ley Wolters Kluwer, Madrid, 2020
Keita Kurita y otros, “Measuring Bias in Contextualized Representations”, 1st ACL Workshop on Gender Bias for Natural Language Processing 2019. Puede verse en: Cornell University https://arxiv.org/abs/1906.07337v1, p. 31.
Khaneman, D, O Sivony y C.R. Sunstein, Ruido. Un fallo en el juicio humano, Debate, Barcelona, 2021
Kranzberg, M, Kranzberg's Laws, Technology and Culture, jul, 1986, Vol. 27, No. 3, p. 547.
Larson, E J. El mito de la inteligencia artificial. Por qué las máquinas no pueden pensar como nosotros lo hacemos, Shackleton, Barcelona, 2022.
López de Matarás, Ramón, El traje nuevo de la inteligencia artificial, Investigación y Ciencia, nº 526 Julio 2020.
Matute, H, “Ilusiones y sesgos cognitivos”, Investigación y Ciencia, noviembre, 2019.
Maher C, Mentes vegetales, una defensa filosófica, Bauplan, Madrid, 2022
Messeri L, Crockett M J, Artificial intelligence and illusions of understanding in scientific reserarch, Nature, 627, 2024
McLuhan, M, Comprender los medios de comunicación. Las extensiones del ser humano. Paidós, Barcelona, 2009
Nguyen A, Ngo HN, Hong Y, Dang B, Nguyen BT. Ethical principles for artificial intelligence in education. Educ Inf Technol (Dordr). 2023;28(4):4221-4241. doi: 10.1007/s10639-022-11316-w. Epub 2022 Oct 13. PMID: 36254344; PMCID: PMC9558020.
Nussbaum, M. Paisajes del pensamiento. La Inteligencia de las emociones. Paidós, Barcelona, 2008.
O`Neil C, Armas de destrucción matemática. Como el Big Data amenaza la desigualdad y amenaza la democracia, Capitán Swing, Madrid, 2017, p. 175.
Pohl, Rüdiger F, Cognitive Illusions. A Handbook of Fallacies and Biases in Thinking, Judgment and Memory, Psychology Press, Taylor & Francis Group, New York, 2004, p. 40.
Recomendación sobre la ética de la inteligencia artificial. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa?posInSet=2&queryId=a2836fbc-3a67-4c9c-b414-3b1bd9998da0
Roselli, D.; Matthews, J.; Talagala, N. Managing Bias in AI. In Proceedings of the Companion Proceedings of the 2019 World Wide Web Conference, San Francisco, CA, USA, 13–17 May 2019, pp. 539-544.
Solove, D J. y Matsumi, H, AI, Algorithms, and Awful Humans. 96 Fordham Law Review, 16 de octubre de 2023.
Sunstein C. R y R H. Thaler, Un pequeño empujón, Taurus, Madrid, 2009, pp. 255-272.
Sharot, Tali, Christof W Korn y Raymond J Dolan, How unrealistic optimism is maintained in the face of reality, Nat Neurosci, 14 (11), May 1, 2012, p. 6.
Vicente, L., Matute, H. Humans inherit artificial intelligence biases. Sci Rep 13, 15737, 2023.
Vicente, L, Matute, H, Humans inherit artificial intelligence biases. Sci Rep 13, 15737, 2023.
Xu Z, Jain S, M Kankanhalli, Hallucination in Inevitable: An Innate Limitation of Large Language Models, arXiv:2401.11817v1 [cs.CL]
Descàrregues
Publicades
Com citar
Número
Secció
Llicència
Drets d'autor (c) 2024 Luis Miguel González de la Garza
Aquesta obra està sota una llicència internacional Creative Commons Reconeixement 4.0.
El/la autor/a que publica en esta revista está de acuerdo con los términos siguientes:
- El/la autor/a conserva los derechos de autoría y otorga a la revista el derecho de primera publicación de la obra.
- Los textos se difundirán con la licencia de reconocimiento de Creative Commons que permite compartir la obra con terceros, siempre que éstos reconozcan su autoría, su publicación inicial en esta revista y las condiciones de la licencia.
Síguenos en LinkedIn
Síguenos en Facebook 
Síguenos en Twitter
