La intel·ligència artificial en la prevenció de conductes suïcides: aspectes tècnics i consideracions ètico-legals
DOI:
https://doi.org/10.1344/rbd2023.59.42759Paraules clau:
intel·ligència artificial, psiquiatria computacional, suïcidi, xarxes socials, aplicacions mòbils, ètica aplicadaResum
En aquest article reflexionem sobre la potencialitat terapèutica dels nous desenvolupaments de la Intel·ligència Artificial en l'àmbit de la salut mental, especialment en la prevenció de conductes suïcides. En primer lloc, analitzem els aspectes tecno-científics més rellevants de l'Aprenentatge Automàtic en l'entorn de les Xarxes Socials, les aplicacions mòbils i els chatbots, així com els avantatges i inconvenients d'aquesta nova Psiquiatria Computacional. A continuació, considerem els límits i les dificultats en l'ús d'aquestes tecnologies des d'una perspectiva ètica, a més del marc legal perquè aquestes aplicacions preventives siguin garantistes en qüestions d'eficàcia, seguretat, privadesa, transparència, responsabilitat i equitat. Tot i que les amenaces són considerables, concloem que amb una correcta identificació i gestió d'aquestes, el potencial terapèutic d'aquestes eines sembla prometedor.
Referències
Adamopoulou, Eleni y Moussiades, Lefteris (2020). Chatbots: History, technology, and applications. Machine Learning with Applications, 2(100006). https://doi.org/10.1016/j.mlwa.2020.100006.
Ahmed, Arfan; Ali, Nashva; Aziz, Sarah; Abd-alrazaq, Alaa; Hassan, Asmaa; Khalifa, Mohamed; Elhusein, Bushra; Ahmed, Maram; Ali, Siddig; Ahmed, Mohamed y Househ, Mowafa (2021). A review of mobile chatbot apps for anxiety and depression and their self-care features. Computer Methods and Programs in Biomedicine Update 1(100012). https://doi.org/10.1016/j.cmpbup.2021.100012.
Agencia Española de Protección de Datos (2020). Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Una introducción. https://www.aepd.es/sites/default/files/2020-02/adecuacion-rgpd-ia.pdf.
Artificial Intelligence High-Level Expert Group (2020).
https://digital-strategy.ec.europa.eu/en/policies/expert-group-ai.
Bachmann, Silke (2018). Epidemiology of Suicide and the Psychiatric Perspective. International Journal of Enviromental Research and Public Health, 15(7), 1425. http://doi.org/10.3390/ijerph15071425).
Bansal, Himanshu y Khan, Rizwan (2018). A review paper on human computer interaction. International Journal of Advanced Research in Computer Science and Software Engineering, 8(53). http://dx.doi.org/10.23956/ijarcsse.v8i4.630.
Beauchamp, Tom y Childress, James (2013). Principles of biomedical ethics. Oxford University Press.
Biscaia Fernández, José Miguel (2022). La gran pantalla como laboratorio y espejo para la roboética. Ética y Cine Journal, 12(2), 55-69. https://doi.org/10.31056/2250.5415.v12.n2.38328.
Busch, Katie; Fawcett, Jan y Jacobs, Douglas (2003). Clinical correlates of patient suicide. The Journal of Clinical Psychiatry, 64, 14-19. http://doi.org/10.4088/jcp.v64n0105.
Camacho, Sandra (2023). El acto de telemedicina: hacia un nuevo concepto de asistencia médico-personal. Revista de Bioética y Derecho, 54, 67-82.
Carta de los Derechos Fundamentales de la Unión Europea (2020). https://www.europarl.europa.eu/charter/pdf/text_es.pdf.
Chan, Melissa; Bhatti, Henna; Meader, Nick; Stockton, Sarah; Evans, Jonathan; O´Connor, Rory; Kapur, Nav y Kendall, Tim (2016). Predicting suicide following self-harm: systematic review of risk factors and risk scales. British Journal of Psychiatry, 209(4), 277-283. http://doi.org/10.1192/bjp.bp.115.170050.
Colombo, Gualtiero; Burnap, Pete; Hodorog, Andrei y Scourfield, Jonathan (2016). Analysing the connectivity and communication of suicidal users on Twitter. Computer Communication, 73(B), 291-300.
https://doi.org/10.1016/j.comcom.2015.07.018.
Coppersmith, Glen; Leary, Ryan; Crutchley, Patrick y Fine, Alex (2018). Natural Language Processing of social media as screening for suicide risk. Biomedical Informatics Insights, 10(1178222618792860).
https://doi.org/10.1177/1178222618792860.
Cummins, Nicholas; Matcham, Faith; Klapper, Julia y Schuller, Björn (2020). Artificial intelligence to aid the detection of mood disorders. En Barh, Debmalya (Ed.), Artificial Intelligence in Precision Health (pp. 231-255). Academic Press.
Dandapat, Sandipan (2011). Reviewed Work: Handbook of Natural Language Processing (second edition) by Nitin Indurkhya, Fred J. Damerau. Machine Traslation, 25(4), 377-381. https://doi.org/10.1007/s10590-011-9117-6.
Declaración de Montreal para la Responsabilidad en IA (2018).
Desmet, Bart y Hoste, Véronique (mayo, 2014). Recognising Suicidal Messages in Dutch Social Media (pp. 830-835). En Ninth International Conference on Language Resources and Evaluation, Reykjavik.
Di Carlo, Francesco; Sociali, Antonella; Picutti, Elena; Pettorruso, Mauro; Vellante, Federica,;Verrastro, Valeria; Martinotti, Giovanni y di Giannantonio, Massimo (2021). Telepsychiatry and other cutting-edge technologies in COVID-19 pandemic: Bridging the distance in mental health assistance. International Journal of Clinical Practice, 75(1), 10.1111/ijcp.13716. https://doi.org10.1111/ijcp.13716.
Drapeau, Christopher y Mcintosh, John (2018). USA Suicide: 2018 Official Final Data. American Association of Suicidology.
https://suicidology.org/wp-content/ uploads/2020/02/2018datapgsv2_Final.pdf.
European Alliance Against Depression (enero, 2023). http://www.eaad.net/.
Evers, Khatinka (2011). Neuroética. Cuando la materia se despierta. Katz Editores.
Ezinmo, Óscar; Eterovich, Nicole y Martín, Elisa (2021). Reflexiones acerca de la tecnología en la prevención del suicidio. Business, Research, Ageing, Innovation, Neuroscience and Social Journal, 1(4), 27-32.
https://www.clustersalutmental.com/wp-content/uploads/2022/03/Brains04_Innovation_Tech-PS.pdf.
Fitzpatrick, Kathleen; Darcy, Alison y Vierhile, Molly (2017). Delivering cognitive behavior therapy to young adults with symptoms of depression and anxiety using a fully automated conversational agent (Woebot): A randomized controlled trial. JMIR mental health, 4(2), e19. https://doi.org/10.2196/mental.7785.
Floridi, Luciano; Cowls, Josh; Beltrametti, Monica; Chatila, Raja; Chazerand, Patrice; Dignum, Virginia; Luetge, Christoph; Madelin, Robert; Pagallo, Ugo; Rossi, Francesca; Schafer, Burkhard; Valcke, Peggy y Vayena, Effy (2018). AI4People-An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines (Dordr), 28(4), 689-707. https://doi.org/10.1007/s11023-018-9482-5
Friston, Karl; Redish, David y Gordon, Joshua (2017). Computational nosology and precision psychiatry. Computational Psychiatry, 1, 2-23. https://doi.org/10.1162/CPSY_a_ 00001
Gamble, Alyson (2020). Artificial Intelligence and mobile apps for mental healthcare: a social informatics perspective. En International Conferences Internet Technologies & Society 2020.
Glenn, Catherine y Nock, Matthew (2014). Improving the short-term prediction of suicidal behavior. American Journal of Preventive Medicine, 47, S176-S180. https://doi.org/10.1016/j.amepre.2014.06.004.
Go, Eun y Sundar, Shyam (2019). Humanizing chatbots: The effects of visual, identity and conversational cues on humanness perceptions. Computers in Human Behavior, 97, 304-316. http://dx.doi.org/10.1016/j.chb.2019.01.020.
Guntuku, Sharath; Yaden, David; Kern, Margaret; Ungar, Lyle y Eichstaedt, Johannes (2017). Detecting depression and mental illness on social media: an integrative review. Current Opininion in Behavioral Sciences, 18, 43-49.
https://doi.org/10.1016/j.cobeha.2017.07.005.
He, Jianxing; Baxter, Sally; Xu, Jie; Xu, Jiming; Zhou, Xingtao y Zhang, Kang (2019). The practical implementation of artificial intelligence technologies in medicine. Nature Medicine, 25(1), 30-36. https://doi.org/0.1038/s41591-018-0307-0.
Huys, Quentin (2020). Computational psychiatry series. Biological Psychiatry. Cognitive Neuroscience and Neuroimaging, 5(9), 835-836. https://doi.org/10.1016/j. bpsc.2019.11.009.
Ienca, Marcello y Andorno, Roberto (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(1), 5. https://doi.org/10.1186/s40504-017-0050-1.
Instituto Nacional de Estadística (INE) (2021). Defunciones según la Causa de Muerte.
https://www.ine.es/ jaxiT3/Tabla.htm?t=10803.
Informe con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2017). Parlamento Europeo, Bruselas. https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_ES.html.
Informe sobre las repercusiones en materia de seguridad y responsabilidad civil de la IA, el internet de las cosas y la robótica (2020). Comisión Europea, Bruselas.
https://ec.europa.eu/transparency/regdoc/rep/1/2020/ES/COM-2020-64-F1-ES-MAIN-PART-1.PDF.
International Medical Device Regulators Forum (2013). Software as a Medical Device (SaMD): Key Definitions. https://www.imdrf.org/sites/default/files/docs/imdrf/final/technical/imdrf-tech-131209-samd-key-definitions-140901.pdf.
Jiang, Fei; Jiang, Young; Zhi, Hui; Dong, Yi; Li, Hao; Ma, Sufeng; Wang, Yilong; Dong, Qiang; Shen, Haipeng y Wang, YongJun (2017). Artificial intelligence in healthcare: past, present and future. Stroke and Vascular Neurology, 2(4), 230-243. https://doi.org/10.1136/svn-2017-000101.
Khanna, Anirudh; Pandey, Bishwajeet; Vashishta, Kushagra; Kalia, Kartik; Pradeepkumar, Bhale y Das, Teerath (2015). A Study of Today’s A.I. through Chatbots and Rediscovery of Machine Intelligence. International Journal of u- and e-Service, Science and Technology, 8(7), 277-284. http://dx.doi.org/10.14257/ijunesst.2015.8.7.28.
Klopfenstein, Lorenz; Delpriori, Saverio; Malatini, Silvia y Bogliolo, Alessandro (junio, 2017). The rise of bots: a survey of conversational interfaces, patterns, and paradigms. Proceedings of the 2017 Conference on Designing Interactive Systems (pp. 555- 565). New York: ACM.
Larsen, Mark; Huckvale, Kit; Nicholas, Jennifer; Torous, John; Birrell, Louis; Li, Emily y Reda, Bill (2019). Using science to sell apps: evaluation of mental health app store quality claims. NPJ Digital Medicine, 2, 18. https://doi.org/10.1038/s41746-019-0093-1
Lee, Sang; Kang, Won; Cho, Ah-Rang; Kim, Tae y Park, Jin (2018). Psychological Impact of the 2015 MERS outbreak on hospital workers and quarantined hemodialysis patient. Comprehensive Psychiatry, 87, 123-127.
https://doi.org/10.1016/j.comppsych.2018.10.003
Ley de Inteligencia Artificial, de 14 de junio de 2023, de la Unión Europea. https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf.
Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales. Boletín Oficial del Estado, 294, de 6/12/2018. https://www.boe.es/buscar/doc.php?id=BOE-A-2018-16673.
Ley 44/2003 de 21 de noviembre, de ordenación de las profesiones sanitarias. Boletín Oficial del Estado, 280, de 22/11/2003.
https://www.boe.es/buscar/act.php?id=BOE-A-2003-21340.
Ley 14/2007, de 3 de julio, de Investigación biomédica. Boletín Oficial del Estado, 159, de 4/07/2007.
https://www.boe.es/eli/es/l/2007/07/03/14.
Ley 33/2011, de 4 de octubre, General de Salud Pública. Boletín Oficial del Estado, 240, de 5/10/2011.
https://www.boe.es/buscar/act.php?id=BOE-A-2011-15623.
Lin, Eugene; Lin, Chieh-Hsin y Hsien-Yuan, Lane (2020). Precision Psychiatry Applications with Pharmacogenomics: Artificial Intelligence and Machine Learning Approaches. International Journal of Molecular Science, 21(3), 969. https://doi.org/10.3390/ijms21030969.
Lucas, Gale; Gratch, Jonathan; King, Aisha y Morency, Louis Philippe (2014). It’s only a computer: Virtual humans increase willingness to disclose. Computers in Human Behavior, 37, 94-100. https://doi.org/10.1016/j.chb.2014.04.043.
Marks, Mason (2019). Artificial Intelligence Based Suicide Prediction. 21 Yale Journal of Law and Technology, 21, 3.
https://yjolt.org/sites/default/files/21_yale_j.l._tech._special_issue_98.pdf.
Nock, Matthew; Park, Jennifer; Finn, Christine; Deliberto, Tara; Dour, Halina y Banaji, Mahzarin (2010). Measuring the suicidal mind: Implicit cognition predicts suicidal behavior. Psychological Science, 21(4), 511-517.
https://doi.org/10.1177/0956797610364762.
O'Dea, Bridianne; Wan, Stephen; Batterham, Philip; Calear, Alison; Paris, Cecile y Christensen, Helen (2015). Detecting suicidality on Twitter. Internet Interventions, 2(2), 183-188. https://doi.org/10.1016/j.invent.2015.03.005.
Organización Mundial de la Salud (OMS) (1997). Informática de la salud y telemedicina. 99 Reunión del Consejo Ejecutivo. https://apps.who.int/iris/bitstream/handle/10665/194008/EB99_30_spa.pdf.
Organización Mundial de la Salud (OMS) (2014). Preventing suicide: a global imperative.
https://apps.who.int/iris/ handle/10665/131056).
Organización Mundial de la Salud (OMS) (2021). Suicidio en todo el mundo en 2019.
https://www.who.int/publications/i/item/9789240026643.
Organización para la Cooperación y el Desarrollo Económico (OECD) (2022). Suicide rates (indicator).
https://doi.org/10.1787/a82f3459-en
Pamungkas, Endang (2018). Emotionally-Aware Chatbots: A survey. En Proceedings of ACM Conference (Conference’17), New York. https://doi.org/10.1145/1122445.1122456.
Pareto, Julia (2022). Robótica social asistencial. Implicaciones y desafíos éticos. Brains: Business, Research, Ageing, Innovation, Neuroscience and Social Journal, 2(2): 39-43.
https://www.clustersalutmental.com/wp-content/uploads/2022/05/Brains_02_vol2_Journal.pdf.
Pascual, César (2021). Dificultades para la implantación de herramientas de IA en el Sistema Nacional de Salud. En Sánchez-Caro, Javier y Aberllán-García, Fernando (Coor.), Inteligencia Artificial en el campo de la salud. Un nuevo paradigma: aspectos clínicos, éticos y legales. Colección de bioética y derecho sanitario 26 (pp. 139-174). Fundación Merck Salud.
Patel, Vikram et al. (2018). The Lancet Commission on global mental health and sustainable development. The Lancet, 392(10157), 1553-1598. https://doi.org/10.1016/S0140-6736(18)31612-X
Pourmand, Ali; Roberson, Jeffrey; Caggiula, Amy; Monsalve, Natalia; Rahimi, Murwarit y Torres-Llenza, Vanessa (2019). Social Media and Suicide: A Review of Technology-Based Epidemiology and Risk Assessment. Telemedicine Journal and e-Health, 25(10), 880-888. https://doi.org/10.1089/tmj.2018.0203.
Ramírez-Cifuentes, Diana; Freire, Ana; Baeza-Yates, Ricardo; Puntí, Joaquim; Medina-Bravo, Pilar; Velázquez, Diego; Gonfaus, Josep y Gonzàlez, Jordi (2020). Detection of Suicidal Ideation on Social Media: Multimodal, Relational, and Behavioral Analysis. Journal of Medical Internet Research, 22(7), e17758. https://doi.org/10.2196/17758.
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (RGPD).
https://www.boe.es/buscar/doc.php?id=DOUE-L-2016-80807.
Reina, Pastora (2014). El asociacionismo en la postvención de supervivientes al suicidio. En Anseán, Andoni (Coord.) Manual de prevención, intervención y postvención de la conducta suicida (pp. 951-964). Fundación Salud Mental España.
Replika (2018). https://replika.ai/
Romero, Miriam, Casadevante, Romero y Montoro, Helena (2020). Cómo construir un psicólogo-chatbot. Papeles del Psicólogo, 41(1), 7-34. https://doi.org/10.23923/pap.psicol2020.2920.
Sallent, Josuè (2022). Consideraciones del uso de datos y la inteligencia artificial aplicada a la industria del sector de salud mental. Brains: Business, Research, Ageing, Innovation, Neuroscience and Social Journal, 2(2), 7-10.
https://www.clustersalutmental.com/wp-content/uploads/2022/05/Brains_02_vol2_Journal.pdf.
Sánchez-Caro, Javier y Abellán-García, Fernando (2021) Aspectos bioético-legales relacionados con la IA en la asistencia sanitaria y su repercusión en materia de responsabilidad. En Sánchez-Caro, Javier y Aberllán-García, Fernando (Coord.) Inteligencia Artificial en el campo de la salud. Un nuevo paradigma: aspectos clínicos, éticos y legales. Colección de bioética y derecho sanitario 26 (pp. 75-110). Fundación Merck Salud.
Selgelid, Michael (2009). La gobernanza del doble uso de las investigaciones, un dilema ético. Boletín de la OMS, 87, 720.
Sentinobot (2018). https://sentino.org/.
Solimini, Renata; Busardò, Francesco; Gibelli, Filippo; Sirignano, Ascanio y Ricci, Giovanna (2021). Ethical and Legal Challenges of Telemedicine in the Era of the COVID-19 Pandemic. Medicina (Kaunas), 57(12), 1314. https://doi.org/10.3390/ medicina57121314.
Ta, Vivian; Griffith, Caroline; Boatfield, Carolynn; Wang, Xinyu; Civitello, María; Bader, Haley; DeCero, Esther y Loggarakis, Alexia (2020). User Experiences of Social Support from Companion Chatbots in Everyday Contexts: Thematic Analysis. Journal of Medical Internet Research, 22(3), e16235. https://doi.org/10.2196/16235.
Terry, Nicolas y Gunter, Tracy (2018). Regulating mobile mental health apps. Behavioral Sciences & the Law, 36(2), 136-144. https://doi.org/10.1002/bsl.2339.
The European Parlament (2019). A comprehensive European industrial policy on artificial intelligence and robotics (2018/2088(INI)). https://www.europarl.europa.eu/doceo/document/TA-8-2019-0081_EN.html.
The Future of Life Institute (2017). Asilomar AI principles. https://futureofife.org/ai-principles/.
Tratado de Funcionamiento de la Unión Europea (2010). https://www.boe.es/doue/2010/083/Z00047-00199.pdf.
Turecki, Gustavo y Brent, David (2016). Suicide and Suicidal Behavior. Lancet. 387(10024), 1227-1239. https://doi.org10.1016/S0140-6736(15)00234-2.
US Food and Drug Administration and Center for Devices and Radiological Health Digital Health Program (2018). Digital Health Innovation Action Plan. https://www.fda.gov/media/106331/download.
Villanti, Andrea; Johnson, Amanda; Ilakkuvan, Vinu; Jacobs, Megan; Graham, Amanda y Rath, Jessica (2017). Social media use and access to digital technology in US young adults in 2016. Journal of Medical Internet Research, 19(6), e196.
https://doi.org 10.2196/jmir.7303.
Wallace, Richard (2009). The anatomy of A.L.I.C.E. En Epstein, Robert; Roberts, Gary y Beber, Grace (Eds.), Parsing the Turing test: philosophical and methodological issues in the quest for the thinking computer (pp. 181–210). Springer.
http: //dx.doi.org/10.1007/978-1-4020-6710-5_13.
Walsh, Colin; Ribeiro, Jessica y Franklin, Joseph (2017). Predicting Risk of Suicide Attempts Over Time Through Machine Learning, Clinical Psychological Science, 5(3), 457-469. https://doi.org/10.1177/2167702617691560.
Zero Suicide (2022). https://zerosuicide.edc.org/.
Zirikly, Ayah; Resnik, Philip; Uzuner, Özlem y Hollingshead, Kristy (junio, 2019). CLPsych 2019 Shared Task: Predicting the Degree of Suicide Risk in Reddit Posts. En Proceedings of the Sixth Workshop on Computational Linguistics and Clinical Psychology (pp. 24-33). Association for Computational Linguistics, Minnesota.
Descàrregues
Publicades
Com citar
Número
Secció
Llicència
Drets d'autor (c) 2023 José Miguel Biscaia Fernández
Aquesta obra està sota una llicència internacional Creative Commons Reconeixement-NoComercial-SenseObraDerivada 4.0.
Els/les autors/es conserven els drets d'autoria dels articles i autoritzen la Universitat de Barcelona a publicar-los en la seva Revista de Bioética y Derecho i a incloure'ls en els serveis d'indexació i abstracts, bases de dades acadèmiques i repositoris en els quals participa la revista. Els treballs publicats en la Revista de Bioètica i Dret estan sota la llicència Creative Commons Reconeixement-NoComercial-SenseObraDerivada 4.0 Internacional (by-nc-nd 4.0), que permet compartir l'obra amb tercers, sempre que aquests reconeguin la seva autoria, la seva publicació inicial en aquesta revista i les condicions de la llicència. No es permet un ús comercial de l'obra original ni la generació d'obres derivades.
