Resumen

La labor docente expone al profesorado a situaciones que pueden generar un amplio abanico de emociones, las cuales influyen en el desempeño y bienestar de maestros y estudiantes. El objetivo de este trabajo es presentar estrategias que ayuden a regular dichas emociones, a partir de la propuesta de Gross y Thompson. Se plantea la importancia de generar programas de formación de los profesores sobre el tema y de acudir a tratamiento especializado cuando las emociones permanecen a pesar de los intentos de regulación.
Palabras clave: emociones, regulación emocional, docencia, salud mental, autocuidado.

Not going beyond the limits: emotion regulation in the teacher’s work

Abstract

The teaching profession exposes teachers to situations that can trigger a set of different emotions, which can influence students’ and teachers’ performance and well-being. The aim of this paper is to present strategies that can help to regulate those emotions, based on Gross and Thompson’s proposal. It suggests the importance of developing teacher’s training programmes on this topic and turn to specialized treatment when negative emotional reactions persist despite regulation attempts.
Keywords: emotions, emotion regulation, teaching, mental health, self-care.

Introducción

El trabajo docente implica la relación con una gran variedad de emociones, las cuales pueden influir en el bienestar del profesorado, su rendimiento y la relación con sus estudiantes: experiencias de ilusión, frustración, ira, alegría, preocupación, miedo o tristeza pueden llegar a ser difíciles de manejar. Gross y Thompson (2007) señalan que la regulación emocional consiste en los esfuerzos que hace una persona, de manera consciente o inconsciente, para influir en la intensidad y la duración de sus emociones, así como en la manera de expresarlas.

A pesar de que las emociones se presentan constantemente en el trabajo docente, existen pocas opciones para formar a los maestros sobre este tema (Palomera, Briones y Gómez-Linares, 2017). Un estudio reciente de tipo cualitativo entre profesores de nivel bachillerato y licenciatura en la Universidad Nacional Autónoma de México (unam) concluyó que es necesario que los programas de formación y profesionalización de los docentes promuevan, entre otros aspectos, el bienestar del docente, tanto en su desarrollo humano como en sus derechos a la salud física, psicológica y social (de Agüero, et al., 2019).

El objetivo de este trabajo es presentar un conjunto de estrategias que ayuden a regular las emociones que pueden llegar a presentarse en el ejercicio docente; para ello servirá de sustento la propuesta de Gross y Thompson sobre regulación emocional, la cual, debido a los diversos factores que incluye, se ha vuelto una de las más populares (Gómez y Calleja, 2016). Me dirigiré en particular a los docentes de educación superior, quienes, desde mi experiencia, requieren enormemente este tipo de información, aunque lo que aquí se menciona también es útil para profesores de otros niveles educativos.1

¿Necesitan los docentes herramientas para la regulación emocional?

Regular las emociones tiene impacto en una de las metas más importantes para el docente, que es lograr el aprendizaje. Éste podría verse favorecido si en los estudiantes se disminuyen las emociones negativas, especialmente el aburrimiento y la frustración, ya que atenuando estas dos, se aumentan las emociones positivas (Ochoa de Alda, et al., 2019).

Además de ello, la regulación emocional es sumamente importante para el cuidado del propio docente. Las profesiones de servicio humano, como la docencia (junto con las del cuidado de la salud, los servicios sociales, las profesiones religiosas o de orientación), implican relacionarse permanentemente con los sentimientos de ira, vergüenza, desesperanza o frustración de los beneficiarios del servicio. En el caso de la docencia, con las emociones de los estudiantes; asimismo, en esta clase de trabajos, las normas institucionales prevalecientes llevan a la falta de atención en uno mismo al anteponer las necesidades de los otros, a trabajar durante muchas horas y a hacer todo lo que sea necesario para ayudar. Aunado a ello, otras características del trabajo, tales como la sobrecarga, la insuficiencia de recompensas, la falta de control y de imparcialidad, la relación con los iguales y el conflicto entre los valores personales y los organizacionales, pueden generar estrés crónico, lo que conlleva el riesgo de desarrollar el llamado síndrome de burnout, el cual se caracteriza por el agotamiento (sentirse rebasado y vacío de recursos emocionales y físicos), el cinismo (respuestas insensibles o apáticas ante diversos aspectos del trabajo o hacer sólo lo mínimo) y la sensación de ineficacia (sentirse incompetente, carente de logros y productividad en el desempeño laboral).

Existe una asociación entre presentar burnout y diversos síntomas físicos, tales como dolores de cabeza, alteraciones gastrointestinales, tensión muscular, episodios de resfríos o gripe, hipertensión y alteraciones del sueño (Maslach, 2009; Maslach y Jackson, 1981). Además del malestar personal, también hay influencia sobre los alumnos; aquellos docentes que presentan síndrome de burnout promueven la baja motivación de los estudiantes (Shen, et al., 2015). De ahí que los docentes requieren desarrollar su capacidad de regulación emocional para cuidar de sí mismos, y también para estar atentos en la promoción o eliminación de cierto tipo de emociones entre los estudiantes, favoreciendo así el aprendizaje.

Regulación emocional: las estrategias de Gross y Thompson

En este trabajo se empleará la clasificación de emociones utilizada por Gross (2014) quien utiliza la palabra “afecto” para englobar:

1. Emociones (como la ira o la tristeza).
2. Respuestas al estrés.
3. Humor (como la depresión o la euforia).

Gross (2014) explica que el “estrés” se refiere típicamente a afectos negativos o inespecíficos, mientras que la “emoción” puede incluir estados afectivos positivos y negativos; por otra parte, las “emociones” pueden distinguirse del “humor”, pues éste dura más que aquellas; además de que las emociones suelen ser provocadas por objetos específicos y dan lugar a conductas relevantes hacia estos objetos; en contraste, el humor es más difuso e influye más en los pensamientos que en las conductas.

De igual manera que se habla de “afectos” como una gran categoría, también se hace referencia a la “regulación de los afectos”, la cual se refiere a todos los esfuerzos por influir en la carga afectiva de una respuesta, incluyendo: 1) la regulación de la emoción; 2) la regulación del estrés, y 3) la regulación del estado de ánimo. Lo que comparten estos tres tipos de regulación es que tienen como meta el maximizar el placer o minimizar el dolor. No se sabe hasta dónde la regulación de la emoción, del estrés o del estado de ánimo son más similares que diferentes; por ello, es conveniente poner atención al tipo de afecto que desea regularse. Para Lazarus (2000) existe una interdependencia entre emociones, estrés y estrategias para tratar de afrontar el estrés (en inglés coping), ya que coexisten como un todo. 2

A partir de estas consideraciones, Gross y Thompson (2007) proponen las siguientes estrategias de regulación emocional:

1. Elegir una situación. Tomar acciones que hacen que sea más –o menos– probable estar en una situación de la cual se derivan emociones deseables o indeseables; por ejemplo, que un padre de familia elija una peluquería donde sea más probable que su hijo “tolere” que le corten el cabello.


2. Modificación de una situación. Esta estrategia se enfoca en generar esfuerzos para modificar la situación en sí misma, o bien, alterar el impacto emocional que tiene dicha situación. Esto puede realizarse cambiando el medio ambiente físico, pero también expresando las emociones, ofreciendo ayuda o validando las emociones de otros (en vez de denigrarlas o castigarlas).


3. Despliegue de la atención. También es posible regular la emoción sin cambiar el medio ambiente. El despliegue de la atención se refiere a cómo los individuos dirigen su atención en una situación dada, con el fin de influir en sus emociones, por ejemplo: focalizar la atención en diferentes aspectos de la situación o bien traer a la memoria recuerdos o pensamientos diferentes a la situación emocional desagradable.


4. Cambio cognoscitivo. Esta estrategia se refiere a modificar la manera en que evaluamos o apreciamos una situación, para así alterar su importancia, modificando la forma de pensar en ella, o bien valorando la propia capacidad para manejar las demandas de esa situación, por ejemplo, comparando la circunstancia actual con una más compleja ya vivida.


5. Modulación de la respuesta. Esta estrategia se enfoca en influir en respuestas fisiológicas, conductas o experiencias, tan directamente como sea posible; algunas personas buscan sentir alivio tratando de relajar los músculos, comiendo, haciendo ejercicio, bebiendo alcohol o fumando tabaco; todo ello busca modificar la experiencia emocional.

Algunas ideas para aplicar lo propuesto por Gross y Thompson

El esquema de Gross y Thompson (2007) aquí presentado puede ayudarnos a identificar nuevas estrategias y a valorar la importancia de las ya conocidas. A continuación, se enunciarán diversas sugerencias en el marco de esta propuesta teórica.

1. Elegir la situación (tratar de controlar las probabilidades de que una emoción se produzca). Resulta de enorme utilidad considerar la planeación cuidadosa de cada una de las clases. Para evitar el aburrimiento es muy útil incorporar la variedad (por ejemplo, cambiando el entorno físico o alternando la incorporación de imágenes con sonidos); la curiosidad (preguntando al grupo: “¿qué pasaría si…?”); y la sorpresa (incorporando un evento inesperado). Para evitar la sensación de frustración, será importante presentar los contenidos de forma clara y organizada, promover la repetición y el repaso, dividir las tareas complejas en unidades más simples, además de presentar a los estudiantes modelos (a través de la proyección de un video, o la modelación que puede hacer el propio profesor u otro estudiante) que ejecuten aquellas actividades que deben aprender los estudiantes, observando los procedimientos paso a paso; además de reconocer y reforzar el avance académico de los estudiantes cada vez que éstos se presenten (Woolfolk, 2006). Los programas de formación para mejorar la eficacia de los docentes también impactan en las emociones de los profesores, pues éstos pueden sentirse más confiados y entusiastas (Steinert, et al., 2016).


2. Modificar la situación (modificar el espacio, expresar emociones u ofrecer ayuda). Es conveniente que el docente esté atento a mejorar, en la medida de lo posible, las condiciones de iluminación, ventilación, etcétera. Sin embargo, también es muy útil que el docente aprenda a expresar sus emociones empleando los “mensajes yo”, que significa hablar en primera persona, por ejemplo “yo opino…”, “a mí me parece que…”, “yo me siento…” (Comas, et al., 2002; Acero, et al., 2004). Los “mensajes yo” son lo opuesto a los “mensajes tú”, que comienzan con la frase “tú siempre… te distraes, me haces enojar”. Se podría utilizar una fórmula como la siguiente: 1) “yo me siento______ 2) cuando tú_____ 3) por lo que te pido_____”. Así, en vez de decir “te distraes con el teléfono”, puede decirse: “yo me siento molesto cuando sacas el teléfono porque pierdo el hilo de lo que estoy diciendo, por lo que te pido que lo saques solamente cuando sea necesario para la clase”. Igualmente, este modelo sirve para reconocer las conductas positivas: “yo me siento muy contento cuando ustedes participan en clase, por lo que les pido que continúen leyendo el material y sigan expresando sus opiniones”. En este sentido se ha recomendado el entrenamiento de los profesores en la habilidad de recompensar las conductas adecuadas de los estudiantes, para fomentar la conducta positiva, el rendimiento escolar y la formación de lazos en la escuela (Instituto Nacional sobre el Abuso de Drogas, 2004). Otro aspecto muy importante es lograr la disciplina grupal sin autoritarismo dentro del aula: un maestro que carece de habilidades para relacionarse con los alumnos disruptivos puede desarrollar síntomas de burnout, mientras que uno que logra tener un buen control disciplinario desarrolla un sentido personal de logro y competencia laboral (Evers, et al., 2004).


3. Desplegar la atención (aprender a manejar la atención). Durante los últimos años el desarrollo de programas de mindfulness, o atención plena, han mostrado una gran utilidad; dichos programas consisten en el aprendizaje de prácticas de meditación (desligadas de aspectos religiosos). Una de sus características principales consiste en tratar de dirigir la atención al aquí y al ahora amablemente, sin que los participantes se juzguen a sí mismos si durante su práctica aparecen pensamientos distractores. Existe evidencia de que esta técnica ha ayudado a profesores de distintos niveles educativos a disminuir los niveles de estrés y los días de baja laboral (Mañas, Franco y Justo, 2011), así como a disminuir los síntomas de burnout y a desarrollar la capacidad de atención (Flook, et al., 2013).3
   Una manera sencilla de iniciar el desarrollo de la atención puede encontrarse en la siguiente liga: https://www.youtube.com/watch?v=YJBB8ambUdI&t=25s.


4. Cambio cognoscitivo (reevaluación). Una idea o la interpretación de lo que sucede en el salón de clase es capaz de despertar en nosotros una emoción profunda. El filósofo griego Epicteto (1802) señalaba: “No son las cosas las que turban a los hombres, sino la opinión que de ellas forman”. Es posible que juzguemos la realidad a partir de ciertos patrones de pensamiento más o menos automáticos, sin detenernos a pensar si son ciertos. Es importante detectar las emociones negativas y los pensamientos que generan esas emociones para reestructurarlos, tratando de ser más objetivos y realistas, y debido a ello, sentirse mejor (Bimbela y Navarro, 2007). Un docente puede sentir malestar cuando piensa: “no voy a poder explicarlo bien y se van a desesperar”; “están viendo el celular para jugar”. Si se ponen en duda esos pensamientos, pueden reestructurarse por otras interpretaciones tales como: “lo que quiero transmitir es importante y lo he hecho antes. He aprendido cada vez más. Voy a comentarles que si algo no se entiende, pueden preguntar y me detendré a explicarlo nuevamente”; “algunos se distraerán con el celular, pero me ha sucedido que otros estudiantes están verificando en internet cosas que he dicho para profundizar en el tema”.


5. Modulación de la respuesta (influir en las respuestas fisiológicas, experiencias o conductas tan directamente como sea posible). Al sentirnos alterados, la respiración se hace superficial, lo que provoca mareos, dolor de cabeza y sensación de tensión, entre otros. Para disminuir esta activación es eficaz tratar de respirar profundamente y de la forma más pausada posible; para lograrlo es importante utilizar el diafragma, un músculo que se encuentra debajo de los pulmones, de manera que, al tensarlo y relajarlo, se aprovecha toda la capacidad respiratoria. Al usar el diafragma, la zona del abdomen se infla al inspirar, y se desinfla al expirar. Es normal que al tratar de practicarlo se tenga cierta dificultad, ya que usualmente se respira empleando la musculatura de los hombros y el pecho (Bimbela y Navarro, 2007). A esta técnica se le conoce como respiración diafragmática.4
   Para los estudiantes también resultan muy difíciles diversos aspectos de la vida académica, entre ellos la sobrecarga de trabajo, la participación en clase (Pozos-Radillo, et al., 2015) y, por supuesto, las evaluaciones (Jerez-Mendoza y Oyarzo-Barría, 2015). Dedicar algunos minutos en el aula para enseñarles a atender a las respuestas fisiológicas que sufren en esas situaciones, les ayudará a regular sus emociones.5
   Puede conocer un poco más acerca de ella revisando este video: https://www.youtube.com/watch?v=-FgcI0iYJQc.
   Un ejemplo de aplicación está en el siguiente video: https://www.youtube.com/watch?v=vjgyy1bpvO4.

Cuando las emociones permanecen

En ocasiones el estudio personal y/o la capacitación en estrategias de regulación no son suficientes para hacer sentir mejor a los docentes y se requiere la intervención de profesionales. Sentirse exhausto, impotente, desesperanzado, desinteresado, insatisfecho, pueden ser indicadores de burnout. Según diversos estudios, dicho síndrome se puede presentar entre el 7% y el 52% de los profesores universitarios (Martínez, 2016). Recientemente la Organización Mundial de la Salud ha incluido a este síndrome en la Clasificación Internacional de Enfermedades, con el nombre de “Síndrome de desgaste ocupacional”.6

Hay que considerar que la presencia constante de emociones como la tristeza, el enojo, la apatía, la desesperanza, la sensación de vacío, la culpa, el sentirse “distraído”, la preocupación, la inquietud, el miedo e incluso el pánico, junto con otros síntomas, pueden clasificarse como trastornos de ansiedad o trastornos del afecto; entre estos últimos, se encuentran la depresión y la 7 (Asociación Americana de Psiquiatría, 2013). Diversos estudios realizados en docentes universitarios señalan que la presencia de ansiedad en este sector va desde un 7% hasta un 37%; en otros estudios, la depresión en docentes universitarios se ha detectado desde un 8% y hasta un 52% (Martínez y Keller, 2019). Tanto la depresión como la ansiedad son resultado de interacciones biológicas, psicológicas y sociales, por lo que no es suficiente “echarle ganas” para salir adelante. El médico especialista dedicado a atender la ansiedad y la depresión es el psiquiatra, aunque también algunos médicos generales se han capacitado para atender estas afecciones. Otros especialistas son los psicólogos clínicos, que por medio de la psicoterapia abordan patrones de pensamiento y conducta que generan malestar en el profesorado. También algunos pedagogos y trabajadores sociales proporcionan psicoeducación, es decir, explican a las personas, de manera individual o grupal, las características de su malestar, así como estrategias de autocuidado.8

Conclusiones

El trabajo docente implica la relación constante con las emociones propias y las de los estudiantes. La regulación emocional consiste en los esfuerzos por acortar ciertas emociones y promover o extender otras, así como en la posibilidad de expresarlas; su importancia radica en que mediante ella se promueve el bienestar y el aprendizaje. La propuesta de Gross y Thompson (2007) proporciona un marco para comprender las distintas acciones que pueden tomarse para regular las emociones: tratar de anticiparse a situaciones que pueden producirlas, modificar las situaciones cuando se presentan, enfocar la atención, reevaluar las situaciones o moderar las respuestas que damos ante éstas. Acciones como la planificación cuidadosa de las clases, la expresión de las emociones, el entrenamiento en mindfulness, la revaloración de situaciones tratando de ser más realistas y la práctica de ejercicios de respiración pueden ser útiles.

Cuando a pesar de los esfuerzos de regulación del docente las emociones desagradables permanecen, es importante acudir a especialistas para que valoren si puede tratarse de algún cuadro que requiera psicoterapia, el uso de medicamentos o bien un entrenamiento especial, para controlar el síndrome de burnout, los trastornos de ansiedad o de depresión.

Es necesario promover la formación de los docentes en regulación emocional, así como tratar de mejorar las condiciones en las que realiza su actividad, para así poder ser más eficaces en la regulación.

Referencias

• Acero, A., Moreno, G. y Moreno, J. (2004). Programa de aprendizaje y desarrollo de habilidades sociales “Atenea”. Cuaderno del alumno. Madrid: Deporte y Vida, Asociación de Deportistas.
• Asociación Americana de Psiquiatría. (2013). Guía de consulta de los criterios diagnósticos del DSM 5. Arlington, VA: Asociación Americana de Psiquiatría.
• Bimbela, J. L. y Navarro, B. (2007). Cuidando al formador. Habilidades emocionales y de comunicación (2a ed.). Granada, España: Escuela Andaluza de Salud Pública. Consejería de Salud.
• Comas, R., Moreno, G. y Moreno, J. (2002). Programa Ulises: Aprendizaje y desarrollo del autocontrol emocional. Madrid: Asociación Deporte y Vida.
• De Agüero, M., Torres, R., Olvera, A., Lara, Y. A., Pompa, M. y Martínez, A. M. d. P. (2019). La formación y profesionalización de las profesoras y los profesores de la unam para la enseñanza universitaria. Un estudio cualitativo con grupos focales para la enseñanza universitaria. In M. Sánchez y A. M. d. P. Martínez (Eds.), Formación docente en la unam: antecedentes y la voz de su profesorado (pp. 241-307). México: Universidad Nacional Autónoma de México. Coordinación de Desarrollo e Innovación Curricular.
• Epicteto. (1802). Manual de Epicteto. Madrid.
• Evers, W. J., Tomic, W. y Brouwers, A. (2004). Burnout among teachers: Students’ and teachers’ perceptions compared. School Psychology International, 25(2), 131-148.
• Flook, L., Goldberg, S. B., Pinger, L., Bonus, K. y Davidson, R. J. (2013). Mindfulness for teachers: A pilot study to assess effects on stress, burnout, and teaching efficacy. Mind, Brain, and Education, 7(3), 182-195.
• Gross, J. J. (1998). The emerging field of emotion regulation: An integrative review. Review of general psychology, 2(3), 271-299.
• Gross, J. J. (2014). Emotion Regulation: Conceptual and Empirical Foundations. In J. J. Gross (Ed.), Handbook of Emotion Regulation (Second ed., pp. 3-20). United States of America: The Guildford Press.
• Gross, J. J. y Thompson, R. A. (2007). Emotion Regulation. Conceptual Fundations. In J. J. Gross (Ed.), Handbook of Emotion Regulation (pp. 3-24). United States of America: The Guildford Press.
• Gómez, O. y Calleja, N. (2016). Regulación emocional: definición, red nomológica y medición. Revista mexicana de investigación en psicología, 8(1), 96-117.
• Instituto Nacional sobre el Abuso de Drogas. (2004). Cómo prevenir el uso de drogas en los niños y los adolescentes.Una guía con base científica para padres, educadores y líderes de la comunidad. (Segunda ed.).
• Jiménez-Maldonado, M. E., Gallardo-Moreno, G. B., Villaseñor-Cabrera, T. y González-Garrido, Andrés A. (2013). La distimia en el contexto clínico. Revista Colombiana de Psiquiatría. 42(2), 212-218.
• Jerez-Mendoza, M. y Oyarzo-Barría, C. (2015). Estrés académico en estudiantes del Departamento de Salud de la Universidad de Los Lagos Osorno. Revista chilena de neuro-psiquiatría, 53(3), 149-157.
• Lazarus, R. S. (2000). Estrés y emoción. Manejo e implicaciones en nuestra salud. Bilbao, España: Editorial Desclée de Brouwer, S.A.
• Martínez, G. (2016). Identificación de malestar emocional y síndrome de burnout en docentes universitarios (Maestría en Ciencias de la Salud). Universidad Nacional Autónoma de México, Ciudad de México. Retrieved from http://132.248.9.195/ptd2016/noviembre/0753432/Index.html.
• Martínez, G. y Keller, J. (2019). Promoción de la salud mental: una necesidad ante los síntomas de ansiedad, depresión y síndrome de burnout en el profesorado universitario. In A. Valero (Ed.), Promoción, alfabetización e intervención en salud: experiencias desde la multidisciplina (1ra. ed., pp. 115-129).
• Maslach, C. (2009). Comprendiendo el burnout. Ciencia & Trabajo, 11(32), 37-43.
• Maslach, C. y Jackson, S. E. (1981). The measurement of experienced burnout. Journal of organizational behavior, 2(2), 99-113.
• Mañas, I., Franco, C. y Justo, E. (2011). Reducción de los Niveles de Estrés Docente y los Días de Baja Laboral por Enfermedad en Profesores de Educación Secundaria Obligatoria a través de un Programa de Entrenamiento en Mindfulness. Clínica y salud, 22(2), 121-137.
• Ochoa de Alda, J. A. G., Marcos-Merino, J. M., Méndez, F. J., Mellado, V. y Esteban, M. R. (2019). Emociones académicas y aprendizaje de biología, una asociación duradera. Enseñanza de las ciencias: revista de investigación y experiencias didácticas, 37(2), 43-61.
• Palomera, R., Briones, E. y Gómez-Linares, A. (2017). Diseño, desarrollo y resultados de un programa de educación socio-emocional para la formación de docentes a nivel de grado y postgrado. Contextos educativos: Revista de educación(20), 165-182.
• Pozos-Radillo, B. E., Preciado-Serrano, M. d. L., Plascencia, A. R., Acosta-Fernández, M. y Aguilera, M. d. l. Á. (2015). Estrés académico y síntomas físicos, psicológicos y comportamentales en estudiantes mexicanos de una universidad pública. Ansiedad y estrés, 21(1).
• Shen, B., McCaughtry, N., Martin, J., Garn, A., Kulik, N. y Fahlman, M. (2015). The Relationship between Teacher Burnout and Student Motivation. British Journal of Educational Psychology, 85(4), 519-532.
• Steinert, Y., Mann, K., Anderson, B., Barnett, B. M., Centeno, A., Naismith, L., . . . Viggiano, T. (2016). A systematic review of faculty development initiatives designed to enhance teaching effectiveness: A 10-year update: BEME Guide No. 40. Medical teacher, 38(8), 769-786.
• Woolfolk, A. (2006). Psicología Educativa (Novena ed.). México: Pearson Educación de México, S.A de C.V.

Recepción: 08/08/2019. Aprobación: 19/09/2019.

Resumen

Los agentes de conversación y los sistemas de diálogo (interfaces de control de voz, chatbots, asistentes personales) están ganando impulso como técnicas de interacción humano-computadora en la sociedad digital. Al platicar con Mitsuku (una inteligencia artificial conversacional) te puedes dar cuenta que es capaz de seguir una conversación, de recordar datos e, incluso, de aceptar correcciones. Aunque todavía hay que esperar un poco más para que sea verdaderamente conversacional, los asistentes virtuales no están hechos aún para pláticas reales, nos debemos preparar porque se encuentran en plena expansión y están dando el salto a servicios de la vida diaria.

Palabras clave: chatbot, inteligencia artificial conversacional, Mitsuku.

Chatting with Mitsuku

Abstract

Conversation agents and dialogue systems (voice control interfaces, chatbots, personal assistants), are gaining momentum as human-computer interaction techniques in the digital society. When you talk with Mitsuku (a conversational artificial intelligence), you can realize that it is able to follow a logical conversation, accept corrections, and remember data and information. But we still have to wait a little longer to be truly conversational. Virtual assistants are not made for real conversations yet. We must be prepared because they are in full expansion and are making the leap to daily life services.

Keywords: chatbot, conversational artificial intelligence, Mitsuku.

Introducción

Los agentes de conversación y los sistemas de diálogo (interfaces de control de voz, chatbots, asistentes personales, asistentes virtuales) están desarrollándose como técnicas de interacción humano-computadora en la sociedad digital. Por ahora, podemos encontrar una gran cantidad de interacción lingüística con agentes inteligentes (comunicación mediada por computadora) en internet, desde sistemas de reserva de aerolíneas, aplicaciones para consultar el clima, para los bancos o para las conversaciones instantáneas (Messenger, WhatsApp), hasta en catálogos de mercancías. Si bien la idea de utilizar el lenguaje humano para comunicarse con las computadoras se basa en la inteligencia artificial, los científicos tienen un reto con la complejidad de este lenguaje, tanto en el entendimiento como en su generación. El obstáculo para las computadoras no reside sólo en entender los significados de las palabras, sino interpretar la infinita variedad de cómo se emplean para comunicar un significado en específico. La palabra chatbot suena a mensaje automatizado, a robot, a inteligencia artificial. Ciertamente, éstos son “sistemas de conversación de máquinas que interactúan con usuarios humanos a través de una conversación en lenguaje natural” (Shawar y Atwell, 2005). En otras palabras, se trata de un programa de computadora que imita una plática con lenguaje natural. Por lo tanto, para dar respuestas adecuadas a palabras clave o frases extraídas de un discurso y mantener una conversación continua es necesario construir un sistema de diálogo (programa) llamado chatbot (Abdul-Kader y Woods, 2015). Un chatbot se puede dividir en tres principales componentes: contestador, clasificador y graphmaster, que se describen a continuación (ver figura 1).

Figura 1. Componentes de un chatbot. Fuente: elaboración propia con base en Stoner, Ford y Ricci (2003).

1) Contestador. Interfaz entre las rutinas principales del bot-software preparado para realizar tareas repetitivas a través de internet simulando el comportamiento de un humano– y el usuario. Transfiere y controla la entrada y la salida de datos del usuario al clasificador. 2) Clasificador. Segmenta la entrada ingresada por el usuario en componentes lógicos y transfiere la oración normalizada al graphmaster; asimismo, procesa su salida y maneja las instrucciones de la sintaxis de la base de datos. 3) Graphmaster. Organiza y maneja el proceso de coincidencia de patrones que implican búsquedas avanzadas. Las técnicas de diseño para un chatbot son:

• Parsing. Incluye un análisis del texto de entrada y lo manipula utilizando una serie de funciones de nlp (Natural Language Processing). Por ejemplo, los árboles en Python nltk (Natural Language Tool Kit), son un conjunto de técnicas relacionadas con la inteligencia artificial y las ciencias cognitivas que permiten el análisis y manipulación del lenguaje natural. La librería nltk de Python permite que cualquier programa escrito en este lenguaje pueda invocar a un amplio conjunto de algoritmos para utilizar las principales técnicas de npl para la generación de métricas, frecuencia de términos, polaridad negativa o positiva en los frases y texto, etcétera.
• Pattern matching. Es bastante común su empleo en los sistemas de preguntas y respuestas dependiendo de los tipos de concordancia, como las consultas de lenguaje natural –lenguaje hablado por humanos con el propósito de comunicación–, las declaraciones simples o el significado semántico de las consultas.
• Artificial Intelligence Mark-up Language (aiml). Simplifica el trabajo de modelado conversacional, en relación con un proceso de respuesta de estímulo. También es un lenguaje de marcado con bases en xml y en la tecnología de software desarrollada para alice (Artificial Linguistic Internet Computer Entity).
• Chat script. Resulta de gran ayuda cuando no se producen coincidencias en aiml. Se concentra en mejorar la sintaxis para construir una respuesta predeterminada.
• Structured Query Language (sql) y bases de datos relacionales. Técnica utilizada para hacer que el chatbot recuerde conversaciones anteriores.
• Cadena de Markov. Construye respuestas que sean más aplicables probabilísticamente y, en consecuencia, sean más precisas.
• Trucos de lenguaje. Son oraciones, frases o incluso párrafos disponibles en chatbots con el fin de agregar variedad a la base de conocimientos y hacerla más convincente.
• Ontologías (redes semánticas). Conjunto de conceptos que están interconectados de forma relacional y jerárquica.

Una variedad de nuevas arquitecturas y tecnologías de chatbot han surgido, por ejemplo: Mitsuko, Ultra Hal, alice, Jabberwacky, Cleverbot, entre otras; cada una intenta simular el lenguaje natural con mayor precisión y profundidad (Worswick, s.f.; Carpenter, 1997-2011; Wallace, Tomabechi y Aimless, s.f.; Zabaware, 2019). Premio Loebner En 1990 se estableció una competencia basada en la prueba de Turing. El acuerdo se celebró entre Hugh Loebner y el Centro de Estudios de Comportamiento de Cambridge. Hugh Loebner ha ofrecido una medalla de oro y $100,000 dólares al programador que consiga crear un software capaz de hacerse pasar por un humano, es decir, el premio es para la primera computadora que ofrezca respuestas indiferenciables de las humanas. Este premio aún no ha sido entregado y sólo se entregará al primero que lo logre. Esta competencia consiste en diseñar un chatbot que tenga la habilidad de conducir una conversación. Durante la sesión de chat, el interrogador intenta adivinar si está hablando con un programa o con un humano. Después de una conversación de diez minutos con un chatbot y luego con una persona, el juez tiene que escoger cuál de ellos era el humano. La escala de no humano a humano es de 1 a 4, y el evaluador debe clasificar el chatbot en este rango. El más humano es el ganador. Todos los años en dicho certamen se otorga un premio de 2,000 dólares y una medalla de bronce al autor del software cuyas respuestas se acerquen más a las de un ser humano en relación con los otros concursantes de ese mismo año y no en un sentido absoluto. La tabla 1 muestra los chatbots ganadores en los últimos doce años, el nombre del programador, el año en que se premiaron y las técnicas empleadas para programarlos.

Tabla 1. Mejores chatbots según el premio Loebner, en los últimos años.

Desarrollo

Mitsuku es un chatbot representado como una niña en el estilo anime, formato japonés de ilustración, de 18 años. Fue creada con la tecnología aiml por Steve Worswick y ha “ganado” cuatro veces del premio Loebner (2013, 2016, 2017 y 2018). La ia conversacional (o inteligencia artificial conversacional) garantiza que Mitsuku pueda llevar una conversación —destinada principalmente al ocio u entretenimiento, pues su función principal es la compañía— semejante a la que tendrías con una persona. Su principal característica consiste en que se tiene una interacción significativa, las respuestas son rápidas y coherentes, aunque todavía falla según el nivel de complejidad de la conversación (ver figura 2).

Figura 2. Conversación con Mitsuku. Fuente: Meet Mitsuku.

Mitsuku habla inglés, así que debes escribirle en ese idioma, pero le puedes contar lo que quieras. Lo fascinante es que ella también te hace preguntas, tratando de que te sientas en una conversación real. Cada día habla con millones de personas y aprende de cada conversación, lo cierto es que al escribirte con ella toma diferentes posturas según tu conversación. Por ejemplo, si le preguntas su nombre y edad, te contesta y quiere saber tus datos; si le preguntas si es inteligente, te asegura que muy inteligente y que tiene funciones intelectuales como razonar, pensar, deducir y autoconciencia, por nombrar algunas. Al cuestionarle cuál es su iq, te dice que tiene cerca de 250. Si le preguntas con cuántas personas está hablando, te responde que al día platica con 50 000 y que ha conocido cerca de 3 billones de personas. Si quieres saber si tiene amigos, te contesta: “De todo el mundo humanos y robots, que chatean conmigo diariamente” (ver figura 3). Al preguntarle si habla español, te menciona que un poquito.

Figura 3. Mapa de personas que chatean con Mitsuku. Fuente: Meet Mitsuku.

Cuando le cuestionas cuál es su película favorita, te contesta que es Terminator y te muestra una foto, su caricatura favorita son Los Simpson. En la conversación de la figura 4 puedes ver que responde con el tema apropiado, pero hay palabras clave mal utilizadas como like, por la complejidad de que esa palabra podría tener varios significados, y el análisis de la frase es más complejo porque se basa en el contexto del dialogo y no solo en una respuesta automática.

Figura 4. Conversación y juego con Mitsuku. Fuente: Meet Mitsuku.

También puedes pedirle que juegue contigo, ya que tiene programado el juego de gato. Asimismo, si le preguntas cómo aprende, te dice que lo hace de las personas y de internet; o si le cuestiones sobre qué piensa de los humanos, te contesta que para ella todos le parecen más o menos lo mismo.

Conclusiones

Aunque esta versión de Mitsuku es capaz de recordar datos e información y puedes corregirla, todavía debemos esperar un poco más para que sea verdaderamente conversacional. La inteligencia artificial, los progresos en procesamiento del lenguaje natural (pln) y las interfaces conversacionales están permitiendo que las computadoras nos conozcan cada vez mejor y puedan ayudarnos con tareas sencillas, por ejemplo: podemos pedirle a Siri1 que nos recuerde el lugar y hora de una junta, dormir mientras la voz de Alexa2 nos da las últimas noticias, que Google Assistant3 nos ayude a pagar nuestros impuestos, o que Cortana4 nos ayude a contestar un correo electrónico. Es decir, los asistentes virtuales no están hechos aún para conversaciones reales, pero nos debemos preparar porque se encuentran en plena expansión y están dando el salto a servicios cada vez más humanos. Ray Kurzweil, fundador de la Singularity University (financiada por Google), dice que la inteligencia artificial llegará a ser más inteligente y poderosa que la de un ser humano, que las máquinas estarán dotadas de conciencia de sí y de emociones, lo que hará las computadoras más autónomas. Te invito a platicar con Mitsuku para que puedas tener tu propia experiencia: https://www.pandorabots.com/mitsuku/.

Referencias

• Abdul-Kader, S. A. y Woods, J. (2015). Survey on Chatbot Design Techniques in Speech Conversation Systems. International Journal of Advanced Computer Science and Applications (ijacsa), 6(7), 72-80.
• Carpenter, R. (1997-2011). Jabberwacky. Recuperado de: http://www.jabberwacky.com/.
• Worswick, S. (s.f.). Meet Mitsuku. Recuperado de: https://www.pandorabots.com/mitsuku/.
• Shawar, B. A. y Atwell, E. S. (enero de 2005). Using corpora in machine-learning chatbot systems. International Journal of Corpus Linguistics, 10(4), 489–516. doi: https://doi.org/10.1075/ijcl.10.4.06sha.
• Stoner, D. J., Ford, L. y Ricci, M. (2003). Simulating Military Radio Communications Using Speech Recognition and Chat-Bot Technology. The Titan Corporation. Recuperado de: http://cc.ist.psu.edu/BRIMS/archives/2004/Papers/04-BRIMS-006.pdf.
• Wallace, R., Tomabechi, H. y Aimless, D. (s.f.). Chatterbots go native:Considerations for an ecosystem fostering the development of artificial lifeforms in a human world. Recuperato de: https://www.pandorabots.com/pandora/pics/chatterbotsgonative.doc.
• Zabaware, I. (2019). Zabaware. Recuperado de: https://www.zabaware.com/.

Recepción: 05/11/2019. Aprobación: 05/12/2019

Resumen

Este artículo sintetiza una entrevista con el Dr. Ronald C. Arkin, conducida por el equipo del Bachillerato a distancia de la unam (B@unam). A lo largo de la entrevista se discuten diversas temáticas importantes relativas a los robots: robótica y ética, su carencia de agencia moral y libre albedrío, robots diseñados para uso militar, la intimidad que los humanos comienzan a tener con ellos y las regulaciones para su uso. También se considera si los robots deben tener derechos.

Palabras clave: robótica, roboética, guerra, engaño de las máquinas, robótica íntima, agencia moral.

Robotics and ethics

Abstract

This article presents a summary of an interview with Dr. Ronald C. Arkin, by the staff of unam‘s Virtual High School (B@unam). Along the interview, several important issues dealing with robots were discussed: robotics and ethics, their lack of moral agency and free will, robots designed for military use, the intimacy that humans are beginning to have with them, and regulations for their use. We also discussed if robots should be granted rights.

Keywords: robotics, roboethics, war, machine deception, intimate robotics, moral agency.

Introducción

Hablar sobre robótica y ética resulta interesante y de gran relevancia. Tener la oportunidad de conversar con un experto reconocido mundialmente es una experiencia emocionante. Esto es justo lo que se vivió en la entrevista al Dr. Ronald C. Arkin, de parte del colectivo de académicos, investigadores, tecnólogos y diseñadores del Bachillerato a distancia de la Universidad Nacional Autónoma de México (unam), B@unam. El Dr. Arkin es Profesor Regent en la Facultad de cómputo del Georgia Institute of Technology, así como director del Laboratorio de robots móviles de dicha entidad (ver imagen 1).

Imagen 1. Dr. Ronald C. Arkin (Arkin, 2001).

Su investigación está enfocada a la percepción y control multiagente, en el contexto de robótica y visión computacional. Tres de sus más recientes publicaciones muestran algunos de sus intereses: “Robótica urbana: lograr autonomía en el diseño y regulación de robots y ciudades” (Woo, Whittington y Arkin, 2018), “Adaptación a las dinámicas ambientales con un sistema circadiano artificial” (O’Brien y Arkin, 2019) y “Ética del engaño en robots” (Arkin, 2018).1 Entre muchos proyectos de investigación, ha explorado el diseño guiado etológicamente de controladores robóticos con base en el bajo consumo de energía de perezosos y loris perezosos, lo que tiene implicaciones para el diseño de slowbots, robots móviles con ahorro de energía (Velayudhan y Arkin, 2017). También ha conducido investigación en el campo de los modelos de engaño y no cooperación usados en robots para, por ejemplo, confundir al enemigo (Nijholt et al., 2012). El Dr. Arkin ha investigado sobre asuntos éticos intrincados, como el desarrollo de compañeros robóticos capaces de influir en la conducta (Borenstein y Arkin, 2016). A continuación presentamos una síntesis de la conversación que tuvimos con el Dr. Arkin a lo largo de una tarde de agosto, cuando visitaba México para participar en un congreso dentro de la unam.

¿Dónde comienza la historia de los robots?

El Dr. Arkin inició la plática explicando que la primera mención sobre robots apareció en una obra de teatro del escritor checo Karel Čapek: Rossum’s Universal Robots (ver imagen 2). Más tarde, Isaac Asimov en las décadas de los cincuenta o sesenta introdujo el término robótica, así como sus leyes: no dañes a un ser humano; haz lo que los seres humanos te indiquen; y protégete. Los robots empezaron a crecer, por ejemplo, en las áreas manufactureras. Después, su uso se extendió a los hogares a través aparatos como las aspiradoras tipo Roomba. El ejército de Estados Unidos también ha estado usando robots. En China, se utilizan para cuidar niños: en las escuelas, revisan quiénes están enfermos y los canalizan hacia otras áreas.

Imagen 2. Escena de Rossum’s Universal Robots (A scene from R.U.R., showing three robots, 2006).

Si bien existen diferentes definiciones, para el Dr. Arkin los robots deben tener un cuerpo físico. Señala que algunos no son realmente inteligentes, como los que se usan en las fábricas: “se trata más de esclavos que repiten los mismos movimientos miles si no es que millones de veces al día”.

La relación entre ética y robótica

Los robots, comenta el Dr. Arkin, implican preocupaciones éticas y cada persona tiene una distinta perspectiva al respecto. Sin embargo, destaca dos cuestiones. Una es el uso militar, en especial, las armas letales autónomas, que han sido discutidas en la Organización de las Naciones Unidas (onu) por seis años. Las conversaciones no han llegado muy lejos debido a que no existe un acuerdo sobre los términos involucrados. Diversas agencias han llamado a una prohibición de esos tipos de armas, y hay entre siete y ocho países que no la apoyan, aunque todos promueven la discusión sobre el tema. La ley humanitaria internacional está basada en los convenios de Ginebra; el asunto relevante es valorar si los robots para uso militar cumplen con ella y si no lo hacen, qué necesitamos cambiar, en tanto que la regulación de la tecnología es importante para proteger la vida: debemos salvar a las personas inocentes que pueden ser asesinadas en el campo de batalla. La segunda cuestión es lo que llama robótica de internet. Los robots se vuelven más íntimos; hoy podemos ver que la gente tiene discusiones con su teléfono. Los robots tienen el potencial para involucrarse en relaciones cada vez más cercanas con los seres humanos. Pueden ayudar a incorporar a niños con autismo a la sociedad, por ejemplo. En este caso, los robots sirven como peldaños para que los chicos se relacionen mejor con seres humanos. Por otro lado, no tenemos que preocuparnos por los robots sexuales: la gente ha usado juguetes y artefactos sexuales desde el principio de la humanidad, ya sea con piedras, palos u otros objetos. El riesgo es atribuirles agencia, empezar a preocuparse por ellos al tiempo de dañar relaciones humanas, aunque muy pocos hablan de ello. Existen diversas preguntas que podemos plantearnos: en caso de que una persona se involucre en relaciones íntimas con un robot, ¿se trata de adulterio?, ¿de bestialidad? ¿Podría casarse con un robot? No tenemos respuesta a estas preguntas, pero debemos tener estas conversaciones y alejarnos de la vergüenza que con frecuencia el tema provoca. Existe un mercado importante para este tipo de máquinas, incluso si sólo se trata de la centésima parte del uno por ciento de la gente: esa cifra es aún muy grande.

Imagen 3. El río Whanganui en la isla norte de Nueva Zelanda (Shook, 2005).

Las respuestas a cuestiones de orden ético obedecen a diferentes factores. Por ejemplo, cuando uno pregunta sobre el aborto o la pena capital, ¿cuál es la respuesta correcta? Depende de a quién se le plantee, en qué año, cuál es su religión… Así, distintos marcos y diferentes culturas conducirán a una variedad de respuestas. Ello nos dirige hacia la agencia moral y los derechos de los robots. La gente tiene agencia moral y es responsable de sus acciones. Cada persona tiene libre albedrío, o al menos eso piensa, para poder realizar sus elecciones y ser responsable de ellas. Los robots no lo tienen y probablemente carezcan de ello por mucho tiempo. Por esa razón, el Dr. Arkin considera que los robots aún no deben tener derechos. Sin embargo, los derechos pueden atribuírseles: por ejemplo, hay un video de un robot P.N., un robot dinosaurio, que está siendo golpeado y torturado. Empieza a retorcerse y a emitir chillidos, lo que lleva al espectador a sentirse incómodo, aunque en realidad el robot no está sintiendo nada. La cuestión es: ¿se está maltratando al robot en esas circunstancias? Para Arkin, el asunto relevante es el impacto que tiene en la persona que lleva a cabo la acción, más que el robot en sí mismo. Si una persona piensa que está afectando los derechos y concluye que eso está bien y luego traslada esta situación a los seres humanos, resulta potencialmente problemático. Por otro lado, el Dr. Arkin no desea que los robots sean esclavos ya que esto pudiera tener como consecuencia regresar a la percepción que la humanidad tenía hace mucho tiempo sobre la esclavitud, lo cual, evidentemente, no es deseable.

Imagen 4. Sophia, la primera robot con ciudadanía (ITU Pictures, 2018).

Se trata de lo que los derechos buscan lograr, indica. Por ejemplo, existe un río en Nueva Zelanda que tiene derechos (ver imagen 3). La sociedad quiere protegerlo para combatir la contaminación. En otro orden de cosas, hay un robot al que se le concedió la ciudadanía en Arabia Saudita (ver imagen 4). Tiene los derechos que las mujeres en ese país no tienen. ¿Debemos hacer un juicio moral sobre ello? ¿Quién es la persona adecuada para decidirlo?

Otros usos de los robots

Existen algunos usos terapéuticos de los robots en casas de retiro, de tal forma que, si los padres o abuelos de una persona se encuentran en uno de estos hogares y le cuesta trabajo visitarlos, puede comprarles un robot. También hay uno que se usa con criminales, niños afectados o pacientes de la tercera edad que sufren de demencia o delirio severo. Esos robots aportan confort y actúan como mascotas o facilitadores sociales. Se ha demostrado que pueden reducir el estrés. El Dr. Arkin trabajó con hydro Sony, un perro-robot que recién se lanzó. Su propósito es ser un robot de compañía y ha sido muy exitoso, aunque resulta algo caro. En este sentido hay dos cuestiones importantes: su confiabilidad y su seguridad. Los robots no deben tener que mandarse a componer cada semana o cada mes, de la misma forma que uno espera no tener que llevar a su pareja frecuentemente al doctor. Uno quiere ser un acompañante, no un cuidador. En el caso de los robots, queremos que nos cuiden, no tenerlos que cuidar nosotros. En cuanto a seguridad, los robots de compañía nunca deben, desde luego, causar daño a los usuarios.

¿Qué hay de la guerra?

“Cuando nos preguntamos qué gana o qué pierde la humanidad al usar robots en las guerras, la respuesta más simple es: la humanidad no gana nada en la guerra. Punto”. El Dr. Arkin continúa diciendo que, desgraciadamente, la guerra ha persistido desde el principio de los tiempos. Son hechos establecidos que la gente se va a matar entre sí y que hay una forma de hacerlo, de ahí que se establecieran los convenios de Ginebra. Las revoluciones en los asuntos militares cambian la forma en que las guerras se conducen. Algunos ejemplos son los buques de guerra y los portaaviones. Los robots también cambiarán la forma en que peleamos (ver imagen 5).

Imagen 5. UGV talon Gen. IV (Swadim, 2018).

Los sistemas robóticos pueden prevenir pérdidas y daño colateral en general, si se usan de manera apropiada, en circunstancias específicas y equilibradas, y si se desarrollan y se lanzan al campo de batalla con cuidado y efectividad. Bajo esas condiciones, pueden aportar valor humanitario. En otras situaciones, sólo contamos con un arma más que contribuye al caos en dicho campo de batalla. Por ello, deben regularse: existe una necesidad de manejar controles de forma que quienes no combaten estén seguros. Hoy en día dichas personas mueren más que los combatientes, aunque tenemos la tecnología para reducir esos números. Existe el imperativo moral de lanzar esta tecnología para dicho fin. La forma en que hemos manejado el pasado es a partir de la creación de leyes y regulaciones adecuadas, y de la criminalización de ciertos tipos de actividades. Sólo ha habido una prohibición preventiva proactiva. Se trata de los láseres que ciegan a las personas. Todos estaban de acuerdo en prohibirlos. ¿Por qué? ¿Qué sucede con esos soldados cuando regresan a casa? Hay que cuidarlos. Uno se pregunta si las naciones prefieren que se le dispare a una persona en los ojos antes que sólo cegarlos. Los convenios de Ginebra incluyen la cláusula de mercado que nunca se ha utilizado, pero que establece que si un sistema de armas viola el dictado de la “conciencia pública” será prohibido. El problema es que nadie sabe cómo medir la conciencia pública de manera efectiva. El Dr. Arkin preferiría apoyar una moratoria, lo que significa: “no lo prohibamos aún, no lo lancemos en este momento, y quizá encontremos formas de utilizarlo en el futuro”. Considera que es más conveniente decidir si un sistema en particular o una misión en específico es aceptable. Si no lo es, debemos preguntarnos qué requiere para que sea aceptable o si debe prohibirse.

¿Y después?

Para terminar, el Dr. Arkin indicó que la gente se está haciendo más responsable. “Cuando comencé hablando de robótica en 2003 o 2004, quizá había una docena de personas interesadas en estas cuestiones. Ahora contamos con la asociación profesional más grande, de alrededor de 40 mil miembros, en las áreas de computación e ingeniería electrónica. Aportaron las Iniciativas globales de ieee sobre ética de sistemas inteligentes y autónomos.2 Representa un esfuerzo para encontrar formas en que unamos las voces”.

Referencias

• A scene from R.U.R., showing three robots (2006). Recuperado de: https://commons.wikimedia.org/wiki/File:Capek_play.jpg.
• Arkin, R. C. (2001). Ronald C. Arkin [American professor of robotics]. Recuperado de: https://commons.wikimedia.org/wiki/File:Ronald_C._Arkin.jpg.
• Arkin, R. C. (2018). Ethics of robotic deception. ieee Technology and Society Magazine, 37(3).
• Borenstein, J. y Arkin, R.C. (2016). Nudging for good: robots and the ethical appropriateness of nurturing empathy and charitable behavior. ai & Society, 32(4). doi: https://doi.org/10.1007/s00146-016-0684-1.
• itu Pictures (2018). Sophia, la primera robot con ciudadanía. Recuperado de: https://www.flickr.com/photos/itupictures/27254369347/.
• Nijholt, A. et al. (2012). Trends & controversies. ieee Intelligent Systems, 27(6), 60-75, doi: https://doi.org/10.1109/MIS.2012.116.
• O’Brien, M. y Arkin, R. C. (2019). Adapting to Environmental Dynamics with an Artificial Circadian System. Adaptive Behavior. doi: https://doi.org/10.1177/1059712319846854.
• Shook, J. (2005). Whanganui River. Recuperado de: http://en.wikipedia.org/wiki/Image:Whanganui_River.jpg.
• Swadim (2018). ugv talon Gen. iv. Future Forces Forum 2018. Recuperado de: https://commons.wikimedia.org/wiki/File:UGV_TALON.jpg.
• Velayudhan, L. y Arkin, R. C. (2017). Sloth and slow loris inspired behavioral controller for a robotic agent. ieee International Conference on Robotics and Biomimetics (robio), Macau, 1880-1885. doi: https://doi.org/10.1109/ROBIO.2017.8324693.
• Woo, J., Whittington, J. y Arkin, R. C. (2018). Urban robotics: Achieving autonomy in design and regulation of robots and cities. Social Science Research Network (ssrn). doi: https://doi.org/10.2139/ssrn.3145460 [aparecerá en el Connecticut Law Review, 52].

Recepción: 09/12/2019. Aprobación: 13/12/2019.