Robots y Cyborgs: los modernos prometeos

Hace ya muchos años, cuando había manifestado mi intención de estudiar Derecho ante unos amigos, alguien me preguntó:

– “Oye, si el monstruo de Frankenstein mata a una persona… ¿el que va a la cárcel es el monstruo o el doctor Frankenstein?”

En ese momento, con cierta osadía de aspirante a jurista, contesté: “Depende, si al monstruo se le considera como un hijo independiente pues sería el monstruo, si se le considera una máquina dependiente de la voluntad de creador, pues sería el Doctor”.

Sirva esta anécdota para mostrar que, ante la situación hipotética de creación de una criatura similar a la imaginada por Mary Shelley en su famosa obra Frankenstein o el moderno Prometeo, surge la idea de que “un hecho nuevo merece una respuesta jurídica”.

Partiendo de lo básico, tenemos una definición del Derecho como un conjunto o sistema o de normas jurídicas, de carácter general, que se dictan para regir sobre una sociedad… Me detengo en este punto, en la definición, para resaltar la palabra “sociedad”. En este contexto, debe ser entendida como sociedad humana, es decir, normas hechas por humanos para regular el comportamiento de humanos.

Sin embargo, los humanos, al autorregularnos, vamos creando una serie de ficciones[1] que hacen necesario matizar la primera definición de persona de la Real Academia Española de la Lengua: “Individuo de la especie humana” pues la persona, una vez que interviene lo jurídico, va a ser un “Sujeto de derecho” un ser con personalidad jurídica; y va a ser necesario, al existir diferentes sujetos del derecho, diferenciar entre personas físicas y jurídicas… Es decir, creamos unos Entes ficticios, que van a tener derechos y responsabilidades, lo que llamamos personalidad jurídica,[2] y el concepto “persona” queda más en el ámbito de lo biológico que en lo jurídico.

En cuanto a las personas, nuestro Código Civil (CC) nos dice, en el artículo 29, que: “El nacimiento determina la personalidad” y añade el artículo 30 que: “La personalidad se adquiere en el momento del nacimiento con vida, una vez producido el entero desprendimiento del seno materno.”

Por su parte, respecto a las personas Jurídicas, su personalidad empieza desde el instante mismo en que, con arreglo a Derecho, hubiesen quedado válidamente constituidas (Art.. 37 CC).

Ahora al Derecho se le presenta un nuevo reto, “algo o alguien” nuevo, futuro, sí, pero que está más y más cerca: “los robots” o, como le gustaba denominarse al Androide Bishop, de la saga “Aliens”: “humanos sintéticos” y la pregunta es: ¿Van a ser una nueva forma de sujetos del derecho? ¿Van a necesitar una nueva forma de personalidad jurídica?

Veamos algunas consideraciones previas:

La palabra “robot” viene de la palabra eslava (checa, polaca, etc) “robota” que significa literalmente “trabajo o labor” y figuradamente «trabajo duro», (¡qué razón tiene Bishop al evitar que le llamen Robot!) y, hoy por hoy, hace referencia a un sistema electromecánico, normalmente conducido por un programa de una computadora o por un circuito eléctrico. Los brazos articulados que montan coches en una cadena de producción entran en este concepto y no parecen plantear más problemas jurídicos, más allá de implementarles alguna que otra norma ISO. En resumen: La idea de crear robots surge para que nos hagan trabajos pesados.

Y ¿qué dio miedo en ese momento? Pues la perdida de puestos de trabajo no cualificados: dado que las máquinas son más eficientes, más económicas, y menos conflictivas pues no son inteligentes.[3]

A este miedo de perdidas de puestos de trabajo se le añade otros cuando estas “máquinas” empiezan a “pensar”, a tomar decisiones más allá de parámetros de pregunta / respuesta prefijadas por el programador. Ahora, el miedo de pérdida de puestos de trabajo se expande también a los trabajos cualificados, y, además, nos surgen nuevos temores sobre ellos y sobre nuestra propia existencia como humanos:

¿Van a tener conciencia ética? ¿Su concepción del bien y el mal va a ser siquiera similar a la nuestra? Y, lo peor, ¿llegarán a tener conciencia de sí mismos (como se le sucede al Skynet en la saga de películas Terminator) y empezarán a solicitar derechos más allá de las obligaciones que habremos querido imponerles? «Quizá sea sintético, pero no soy estúpido», decía nuestro amigo Bishop.

Y este hecho da miedo:

  1. Por los puestos de trabajo[4] que se puedan perder; en este punto hay dos novedades:
    1. La primera es que ya no se van a perder puestos de trabajo no cualificados (aquellos que teóricamente nadie quiere, y son de semi-esclavitud) sino también puestos de trabajo cualificados (Son Inteligentes).
    2. La segunda es el miedo a la posibilidad de robots que van a crear robots; vamos, un robot “proletario”, palabra que deriva, literalmente, del que tiene “derecho a la prole”.
  2. Miedo al robot en sí mismo: a que su programación falle.
  3. Miedo de los conocimientos que tengan o a los datos que traten directamente.
  4. En definitiva, a que piensen y sean más listos que nosotros, y quieran controlar su destino, y quizá el nuestro. Miedo, haciendo del ser humano un ser de “obsolescencia programada”.

¿Esto es ciencia ficción futurista o el futuro ya está aquí?

Pues debe ya estar aquí cuando, ya en 2015, la Comisión de Asuntos Jurídicos de la Unión Europea redactó un Informe con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL) PE582.443v01-00.

Dicho texto adelanta en su introducción la consideración de que:

“Considerando que, ahora que la humanidad se encuentra a las puertas de una era en la que robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas parecen dispuestas a desencadenar una nueva revolución industrial —que va a afectar probablemente a todos los estratos de la sociedad—, resulta de vital importancia que el legislador tenga en cuenta todas las consecuencias que ello entraña”.

Para el miedo 1; la perdida de puestos de trabajo, básicamente, la solución propuesta va a ser que sean ellos los que coticen, los que paguen impuestos, cotizaciones a la Seguridad Social, etc, lo cual haría posible el sueño de la sociedad del ocio aunque, en mi opinión personal, eso si vendría a ser la involución, decadencia y fin del propio ser humano.

Para el miedo 2 y 3 la solución propuesta:

Y, aunque el Parlamento Europeo parte, (en el punto U), del hecho jurídico actual de que el robot no va a ser responsable, por sí mismo, de sus actos u omisiones si no su creador, programador, fabricante, etc., seres humanos que intervienen el proceso, sin embargo, el párrafo siguiente (V.) ya considera la posibilidad de que un robot pueda tomar decisiones autónomas, con lo que “la normativa tradicional no bastará para establecer su responsabilidad, ya que con ella no se puede ni determinar la parte que ha de hacerse cargo de la indemnización, ni exigir a dicha parte que repare el daño ocasionado”;

Finalmente, el punto S) ya abre el camino de que esto podría ser injusto desde el momento que el robot pueda tomar decisiones, (es decir, el programador ya no puede preveer qué va a pasar); y, cuanto más autónomos sean los robots, menos se los podrá considerar simples instrumentos en manos de otros agentes humanos (como el fabricante, el propietario, el usuario, etc.), sino más independientes.

En resumen: (y con ello vuelvo a la pregunta, sobre Frankenstein, que me habían hecho cuando yo iba a comenzar la carrera) se piensa que, al igual que un padre no siempre va a poder ser responsable de su hijo, un fabricante no va a poder responder siempre de un robot que aprende de sí mismo. La responsabilidad del “creador” será proporcional a las órdenes realmente dadas versus a la capacidad de aprendizaje o la autonomía, del robot.

En todo caso, se va a solicitar cierta conducta ética al programador, fabricante, creador, etc., empezando por un CÓDIGO DE CONDUCTA ÉTICA PARA LOS INGENIEROS EN ROBÓTICA y siguiendo por una serie de medidas a implementar en los robots que culminan el llamado “botón del Pánico”: desconectar al robot si algo va mal.

Aún estamos lejos de imaginar una sentencia dictada a máquina por un Juez-robot del que hablaba el profesor Pérez Luño, (“Cibernética, Informática y derecho” capaz de dar “sentencias, objetivas, neutras, elaborada por encima de pasiones e intereses[5]”. Pues, por ahora, se intuye que el juez-robot reflejaría la ideología del programador.

 

Me interesa abrir un campo más en la que planteo dudas para un futuro no tan lejano: Da la impresión de que, en todo momento, el legislador está pensando en “máquinas” que, por mucha imaginación que puedan tener, son máquinas: componentes, circuitos integrados chip o microchip, estructuras de silicio (nosotros somos de carbono, principalmente), con circuitos eléctricos.

Normalmente, la inteligencia de un programa se refiere a la posibilidad de manejar más datos para llegar a una solución favorable de forma estadística. Vamos, puras matemáticas.

¿Y los que tienen base biológica?:

  • Si tenemos en cuenta de que el cerebro humano no deja de ser un ordenador, aunque con variables que las máquinas, a priori, no tienen como, por ejemplo, los condicionantes internos (genéticos, la influencia de la Bioquímica en nuestro carácter) y condicionantes externos (las conductas aprendidas, traumas, etc.),
  • Si tenemos en cuenta que ya hacemos piel “artificial”[6], órganos artificiales, etc. de materia orgánica y de células madre,

 

¿Podremos llegar a Crear cerebros artificiales (de neuronas biológicas semejantes a las nuestras? 

Las neuronas creadas artificialmente, ¿admitirán programación o serán como hijos naturales aunque de laboratorio? ¿El Cyborg, y el robot, será, al igual que el humano, susceptible de modificar su programación por influencias externas, traumas, aprendizajes de la vida misma?

En resumen podemos especular si un “padre” de un Cyborg (o un robot) de base silicio, tendría tantos problemas para educar a su “hijo” como lo tendría un “padre” de un Cyborg (o un robot) de su “hijo de base” de carbono, y si esos problemas podrían ser solventados con una adecuada programación o estarían tan perdidos como cualquier padre biológico.

A día de hoy la realidad actual ya nos habla de las conexiones reales entre neuronas y chips[7]. El almacenaje de información no deja de ser similar en una neurona que en un chip. En un cerebro que en un ordenador. Los intercambios de información y las órdenes no dejan de ser ambos impulsos eléctricos. El propio cerebro humano ya transmite ordenes a brazos robóticos, a ordenadores con habla, ciegos que ya pueden ver[8], sordos oír, etc.… todo gracias a unos implantes que nos acercan cada día más a la realidad que tendemos: a ser Cyborgs[9].

Entrando ya puramente en el campo de los Cyborg, se plantean, a su vez nuevas cuestiones, entre ellas la del origen:

  • Los humanos de nacimiento pero con numerosos implantes (biológicos o de materia inorgánica) informáticos, ¿siguen teniendo personalidad jurídica? Pues, aunque hayan nacido y sean personas con personalidad desde su nacimiento, ¿el ser más máquina les haría dejar de serlo por tener un porcentaje de implantes muy elevado y ser más “máquina que persona”? O, si aún siendo pocos los implantes, lo son de tal relevancia (como implantes cerebrales, con su posible programación, para hacer, por ejemplo, una ampliación de memoria o de inteligencia) ¿se podría considerar que la “parte humana” es menor?; ¿se estimaría que ya ha perdido libertad por la programación que contenga el implante y, por tanto, se haría necesario el famoso botón de desconexión?
  • Y, la de seres “creados” biológicamente en un laboratorio que aún pudieran ser más humanos que los anteriores por número de implantes, o calidad de los mismos ¿estaría en el punto anterior o sería considerado más “máquina” aún en caso de que sus implantes no tuvieran programación extra?
  • ¿Habría discriminación por razón de origen, nacido de vientre materno vs. nacido de un laboratorio de desarrollo biológico artificial? O ¿habría que hacer un estudio “ad hoc” teniendo en cuenta ciertos parámetros, por ejemplo del nivel de autonomía de la voluntad, grado de aprendizaje, número o calidad de componentes, etc.? ¿Su nivel de racionalidad?[10]

Para terminar, una reflexión abierta y, así mismo, sin conclusión posible: En Battlestar Galactica (gran serie) las “máquinas” querían ser humanos, pero algo mejor que los humanos (también había las “máquinas que rechazaban haberse humanizado tanto). Biológicamente casi indiferenciables de los seres humanos pero no exentos de tener cierto grado de programación. Todo ello les hacía tener sus conflictos existenciales (a semejanza de los humanos que nos planteamos el sentido de la vida, de la misma existencia). En nuestra alma quizá exista un programa existencialista, o quizá Kierkegaard[11] era un Cylon ;-).

 

[1] El profesor y escritor Yuval Noah Harari, en su libro “De animales a dioses” ya, directamente y sin anestesia para los juristas, viene a señalar que todo el Derecho es una ficción.

[2] Someramente: el reconocimiento a una persona, entidad, asociación o empresa, para contraer obligaciones y realizar actividades que generan plena responsabilidad jurídica, frente a sí mismos y frente a terceros.

[3] Con la entrada de las máquinas en las industrias se producía una reducción de puestos de trabajo; una forma de protesta obrera era meter en las máquinas sus zuecos con el fin de estropear la máquina. En francés “zueco” es “Sabot” y de ahí deriva la palabra “sabotaje”.

[4] http://www.abc.es/economia/abci-averigua-si-robot-quitara-trabajo-aqui-cinco-anos-201612100115_noticia.html

[5] Realmente el profesor Pérez Luño ya ironizaba sobre esto

[6] Empleo artificial, hecho por el hombre, en oposición a natural, por la naturaleza sin plantear si el hombre en si mismo es artificial)

[7] http://tecnologia.elpais.com/tecnologia/2017/04/12/actualidad/1491992381_441332.html#?ref=rss&format=simple&link=link

[8] http://www.lavanguardia.com/vida/20160209/302026266844/los-tres-primeros-implantados-con-ojo-bionico-muestran-avances-en-su-vision.html

[9] https://es.wikipedia.org/wiki/Neil_Harbisson

[10] Aunque el ser humano se autodenomine “ser racional”, amante de la lógica, la verdad es que, como decía el escritor Ernesto Sabato: “nada de lo verdaderamente importante del hombre tiene que ver con su racionalidad” (el amor, las creencias…) y de hecho, el señor Spock, pretendido ser de lógica, resultaba ser más bien un ser muy extraño para sus colegas puramente humanos.

[11] Søren Aabye Kierkegaard: Filósofo; Padre del existencialismo, centra su filosofía en el individuo y la subjetividad; el ser humano ante su propia existencia le crea angustia, la única salida que ve es el salto (irracional) de fe; Algo semejante que los Cylon de Battlestar Galactica

.

 

es_ESEspañol