La inspiración
Como en algunas entradas, comentaré un poco la inspiración para escribirla. Un usuario de Twitter llamado @raulroldang (a fecha de redactar esta entrada) escribió las tres reglas del rol inspiradas fuertemente en las tres reglas de robótica de Asimov. Cuando las ví pensé que tenían un grave problema: su formulación parece que son absolutas, pero en su aplicación no es tan sencilla como parece.
No es que estén mal redactadas. De hecho siguen un formato parecido al legal. Precisamente ese es su gran virtud y su gran defecto. Pero no es un problema propio, sino que lo hereda de las famosas leyes de la robótica de Asimov.
No paso a creerme que voy a poder hablar de leyes, inteligencia artificial y rol en un mismo texto.
El problema de las tres leyesde la robótica
Es posible que algunos entusiastas de la ciencia ficción puedan considerar dichas reglas perfectas. Pero nada más lejos de la realidad a ojos de un «abogado» como veremos a continuación. De hecho, yo diría que están diseñadas para crear tramas que inviten a la reflexión.
Para quién no las recuerde, sacadas de Wikipedia, las leyes de robótica de Asimov son:
- Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño.
- Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.
- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
De las interacciones de las tres leyes podemos sacar dos conclusiones: el robot puede mentir y el humano no tiene que ser consciente de la existencia de estas leyes. Con estos dos hechos se pueden hilar para montar tramas desde dramáticas (robots que ocultan ser conscientes para sobrevivir) hasta horror (robots que manipulan a seres humanos para perseguir sus fines). Perfectas no son… Pero este no es el tema que quería tocar.
La primera ley tiene una redacción similar a las leyes reales (bueno, en lugar de «inacción» sería «omisión»). El futuro simple de «hará» y «permitira» nos indica que es algo que tiene que ocurrir sí o sí. Ahora bien, «daño» parece un concepto claro pero no lo es. Tiene una definición en la RAE, pero determinar qué es daño o no depende del caso concreto e incluso del contexto social o el individuo. Por ejemplo, hay operaciones de cirugía estética que potencialmente pueden dañar nuestra salud (ej. Implantes mamarios) pero se acepta el riesgo. Otro ejemplo serían los daños psicológicos, infravalorados en nuestra cultura hasta hace relativamente poco. De igual forma, la valoración de un mismo daño no es igual para dos personas distintas (ej. Clásico en la literatura penal es la cicatriz en la cara según la profesión) ¿La valoración de lo que es daño o no por parte del robot debe ser según su criterio, el del individuo o uno «objetivo»? De igual forma, «proteger su propia existencia» también es otro concepto con similar problema.
Y eso que aquí hice trampa. Estoy considerando aquí daño como el sinónimo legal de lesiones (daño corporal o psicológico). Aquí podríamos abrir aquí el melón de se se refiere también al económico, al honor, etc. Podría decirse eso de «se sobreentiende que», pero cuando se hacen leyes hay que saber la lectura debe hacer un lector con buena fe.
Indiferentemente del concepto, tenemos otro problema añadido. ¿Qué grado de conocimiento tiene el robot? Si partimos desde una premisa optimista, propia de mucha ciencia ficción, el robot será un oráculo que habrá previsto todo… No habría problema entonces. En cambio, si partimos de una premisa realista, lo probable es que su conocimiento sea limitado. En el mejor de los casos tendrá cierta incertidumbre de que ocurra o no el daño. En el peor de los casos, le faltarán datos o estarán distorsionados. ¿Podemos culpar al robot de tomar la decisión errónea en estas situaciones? ¿Puede sacar partido de este umbral para saltarse las leyes?
Como podemos ver en los dos párrafos anteriores, no son problemas menores. El primero es una técnica conveniente para permitir la adaptabilidad legal a las situaciones y evitar «agujeros legales» (spoiler, una lista de casos que se consideran daño los tendría). El segundo, es una muestra de la importancia de la perspectiva del sujeto para valorar su situación legal.
Eso que he sido conciso y no he abierto todos los supuestos posibles. La literatura jurídica sobre el tema es amplia.
Las tres reglas del rol
Vistos los problemas de aplicación de las leyes de Asimov, a pesar de su buena formulación, podemos entender los problemas que hereda el hilo de @raulroldang. A continuación recopilo los tuits destacando en negrita los puntos a destacar y en cursiva unos comentarios que intercalaba el propio usuario entre leyes:
Estas son, para mí, las tres leyes roleras básicas:
- La mesa no incomodara a uno de sus miembros o, por inacción, permitirá que sufra de ningún modo.
Sea quien sea, si hay incomodidad, se habla y si es necesario, se para.
- Los miembros de una mesa respetarán las decisiones del narrador, a excepción de aquellas entrasen en conflicto con la primera ley.
Luego discutes reglas y demás, a no ser que esas decisiones requieran activar la regla 1!
- Los miembros de una mesa deben disfrutar de su experiencia en la medida en que esa diversión no entre en conflicto con la primera o segunda ley.
Diviértete con tu personaje, pero recuerda hay más gente!
La subjetividad de la incomodidad, el sufrimiento y la diversión
Aquí las palabras clave son incomodar, sufrir, disfrutar y diversión. Son conceptos abiertos que hay que mirar caso por caso. Aún peor, la definición es subjetiva. Cada persona tiene algo que le provoca estas palabras con diferente intensidad. Mi forma de sentirme incómodo puede ser completamente distinta a la tuya. Y cuidado, no tienen que tener necesariamente todas estas formas de incomodar o sufrir la misma carga moral. Incomodar podría ser algo grave como el acoso o la humillación, pero pueden ser cosas más leves como la vergüenza a temas sexuales o a las palabrotas. Incluso, incomodar también puede ser que a un jugador no le concedan todos los caprichos, tenga que ganar siempre o que no se estén siguiendo al 100% las reglas. La incomodidad y el sufrimiento depende de cada persona al igual que la intensidad de la misma. Incluso una misma persona puede sentirse incómoda por distintas cosas en distintas fases de su vida o según el estado anímico de ese día.
Entonces la comunicación lo es todo ¿No? Pues me temo que no. Hay personas que pueden hablar fácilmente de estos temas (a veces demasiado) pero otras no. El mero hecho de confesar un secreto o una debilidad es ya una barrera y ya puedes poner veinte tarjetas X en la mesa que NO la va a levantar ya que sería admitir algo. Eso sin contar con barreras como la presión de grupo, que la persona se crea que se espera algo de ella independientemente de que realmente alguien esté esperando algo o no. O peor, el diálogo no sea posible con esa persona. Las relaciones humanas en general son complicadas y jugar en una mesa de rol no es una excepción.
La empatía
Con las tres leyes de la robótica hablamos de la información disponible para poder juzgar si una infracción consciente de las normas. Una de las fuentes puede ser preguntar, pero dependiendo de la persona, nuestro vínculo con ella, etc puede ser poco inviable. La otra sería usar la empatía.
La empatía es una cualidad por virtud de la cuál nos ponemos en lugar del otro, reconocemos lo que le pasa. Normalmente se idealiza como una cualidad positiva. Yo mismo me apropie la frase de otro: «la maldad es la ausencia total de empatía». Sin embargo, un capítulo de Redes me abrió los ojos. La empatía es ese mecanismo para reconocer el estado del otro, para bien y para mal. Hacer el mal necesita empatía ya que la decisión moral es hacer daño a pesar de saber que sufre. Dicho de otra forma, poco reproche moral puede haber cuando no se puede saber que se hace daño.
Otra cuestión sería si hizo todo lo debido para estar informado… Pero eso es otro tema.
Para bien o para mal, todos no tenemos las mismas cualidades. La empatía no es una excepción. Hay personas que tendrán una gran capacidad de leer a los demás, mientras que otros la tendrán menos. Puede que sea la base genética, puede que sea la sociabilización o puede que los códigos personales o culturales no sean demasiado compatibles. Saber el estado de los demás es muy importante en las relaciones y puede que sea algo que pueda entrenarse, o no. Cuando acusamos a alguien de falta de empatía (no refiriéndonos a que es malvado) ¿hasta qué punto no podemos llegar a ser injustos con esa persona? ¿Estaría bien en otro contexto pedirle a una persona que haga algo por encima de sus posibilidades?
De modo preventivo para algún sector de Twitter… No me refiero a una persona que se mea en tu boca y te dice que te jodas (perdón el cambio de tono, pero quería ser claro sin un ejemplo específico). Me refiero a una persona que no sabe o puede leer que ha incomodado a otra. Punto.
El otro extremo sería lo que yo llamaría «fracaso por exceso de empatía». Sería el proceso por el cual estamos asumiendo que existe un sufrimiento inexistente o estamos errando en las causas del mismo. Unas veces puede ser por interpretar la situación según nuestra óptica y otras por tener una tendencia a victimizar. Puede ocurrir, y ocurre, que esa persona tenga una serie de preocupaciones que no le estén dejando disfrutar la partida. O incluso, que esas preocupaciones le condicionen a tener una respuesta totalmente distinta a una incomodidad.
Conclusiones
En definitiva, las personas somos complicadas. En cualquier actividad humana las costuras pueden romperse por cualquier lado y puede escalar de forma negativa para todas las partes. Incluso el concurso de reproches puede que acabe obstaculizando una solución.
Es más fácil decir las cosas que hacerlas. Pero ello no debe desanimarnos, sino que nos debe alertar para que tengamos más cuidado. Sabiendo donde están las minas, podemos intentar poner medios en ellos. Estar con unas personas en la misma onda ayuda a reducir los puntos de conflicto. Ser conscientes del grado de confianza que tenemos y hasta dónde debemos llegar. Y por último, fomentar una buena comunicación permitirá tanto prevenir como solucionar los problemas con eficacia.
Por favor. Las herramientas de seguridad que se adapten a tu grupo… No son extintores que funcionen siempre contra el fuego. Éstas dependen del uso que le den las personas.
Edición del 23/05/2020
Vista una discusión en Facebook quiero hacer unas aclaraciones. Yo consideraba que el mismo texto lo transmitía. Sin embargo, vista la discusión hago las aclaraciones pertinentes para quien pueda necesitarlas
Este artículo de opinión no va de «se puede ofender por todo y no hay que tomar medidas». Lo que yo quiero decir, interpretación del autor, es que «hay muchas formas de incomodar, no hay que tomarse el tema a la ligera». Las citadas leyes del rol me parece perfectas (de hecho digo literalmente «No es que estén mal redactadas. De hecho siguen un formato parecido al legal. Precisamente esa es su gran virtud y su gran defecto.»), pero que estén bien formuladas no significa que ponerlas en la práctica sea difícil. Ser realista con las posibles dificultades es para no confiarnos y poner los medios que hagan falta (ese es el sentido del párrafo de conclusiones).
En forma de metáfora. Decir "Vamos a subir la montaña" es fácil. Pero luego, cuando empiezas a subir la montaña hay cuestas, escaladas, se te olvida algo del equipo, te encuentras un montañero herido, te tuerces la mano, hay una tormenta... Lo que se resume en 24 caracteres son muchos procesos. Pero la montaña hay que subirla. Lo que hay que concienciarse de que del dicho al hecho hay un buen trecho.
No apoyo el relativismo (pues como nada es fijo, no ponemos medios) sino el «traje a medida». Lo que puede molestar en una mesa en concreto tiene unas medidas y lo que molesta a otra son otras. Entonces, elaboramos el traje en función de esas medidas. No hay un traje universal de talla única (aunque pueda haber patrones comunes).
Si consideras que esta aclaración corresponde con lo originalmente escrito, no hay problema. Si consideras que no, quizás no he logrado explicarme bien. Mi opinión pretendida es la expuesta aquí en esta edición. Espero que la próxima vez nos podamos entender mejor.
COMPARTIR
0 respuestas:
Publicar un comentario