EL ROBOT INTELIGENTE Y SU CATEGORIZACIÓN JURÍDICA
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 29
EL ROBOT INTELIGENTE Y SU CATEGORIZACIÓN JURÍDICA
1
THE INTELLIGENT ROBOT AND ITS LEGAL CATEGORIZATION
Por Pablo E. MUGAS ACOSTA(*)
RESUMEN: La personalidad es un atributo normativo diseñado para satisfacer fines específicos
mediante la generación de un centro ideal de imputación de relaciones jurídicas. La personalidad depende
de un dato pre-normativo: solo puede ser predicada –como atributo– respecto de un ente activo, es decir,
capaz de desplegar conducta humana. Dicha cualidad excluye a los entes pasivos. El derecho es un
producto cultural destinado a regular conducta humana, por lo tanto, la pretensión de conferir
personalidad a un ente pasivo es arbitraria por ser inaptos para el obrar humano. La creciente utilización
de robots inteligentes autónomos o semiautónomos provoca la pérdida material de dirección y control
del hombre sobre el sistema y sus acciones. Ello se genera el interrogante respecto a la atribución jurídica
de las consecuencias causadas por el accionar del robot inteligente, particularmente: si debería
constituírselo como un centro de imputación jurídico diferenciado respecto del fabricante, programador,
usuario, etc. En respuesta se han formulado tres corrientes conceptuales: a) conferir personalidad
electrónica al robot inteligente; b) calificarlo como bien corporal o incorporal según su tipo; y c) aplicar
analógicamente el régimen del esclavo del Derecho Romano con las adaptaciones propias al hecho
tecnológico. Adherimos a la tesis que los califica como bienes corporales e incorporales –según sea su
especie– ya que constituyen entes pasivos incapaces de desplegar conducta humana, representando
únicamente instrumentos del obrar del hombre.
PALABRAS CLAVE: PERSONALIDAD – ROBOT INTELIGENTE – PÉRDIDA DE
DIRECCIÓN Y CONTROL MATERIAL – IMPUTACIÓN JURÍDICA.
ABSTRACT: Personality is a normative attribute designed to satisfy specific purposes by generating an
ideal center of imputation of legal relations. Personality depends on a pre-normative datum: it can only
be predicated -as an attribute- with respect to an active entity, i.e., capable of displaying human conduct.
This quality excludes passive entities. Law is a cultural product destined to regulate human conduct,
therefore, the pretension of conferring personality to a passive entity is arbitrary because it is unsuitable
for human action. The increasing use of autonomous or semi-autonomous intelligent robots causes the
material loss of human direction and control over the system and its actions. This raises the question as
to the legal attribution of the consequences caused by the actions of the intelligent robot, in particular:
whether it should be constituted as a distinct legal center of imputation with respect to the manufacturer,
programmer, user, etc. In response, three conceptual currents have been formulated: a) to confer
electronic personality to the intelligent robot; b) to qualify it as a corporeal or incorporeal good according
to its type; and c) to apply analogically the regime of the slave of Roman Law with the adaptations proper
1
Artículo recibido el 31 de agosto de 2022 y aprobado para su publicación el 12 de septiembre de 2022. El presente
es un trabajo final presentado en la Diplomatura 4T, en el año 2021, en la UCC, Argentina.
(*) Abogado, Facultad de Derecho y Cs. Ss., UNC. Egresado distinguido Facultad de Derecho y Cs. Ss. – UNC.
Magíster en Dirección de Negocios, Escuela de Graduados, Facultad de Cs. Económicas, UNC. Doctorando en
Derecho y Ciencias Sociales, Facultad de Derecho, UNC. Docente de la asignatura Derecho Privado II
(Obligaciones Civiles y Comerciales), Facultad de Derecho, UNC.
EL ROBOT INTELIGENTE Y SU CATEGORIZACIÓN JURÍDICA
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 30
to the technological fact. We adhere to the thesis that qualifies them as corporeal and incorporeal goods
-according to their type- since they constitute passive entities incapable of displaying human behavior,
representing only instruments of man's action.
KEY WORDS: PERSONALITY - INTELLIGENT ROBOT - LOSS OF MATERIAL DIRECTION
AND CONTROL - LEGAL IMPUTATION.
Artículo publicado bajo Licencia Creative Commons Atribución-No Comercial-Sin Derivar.
© Universidad Católica de Córdoba
DOI http://dx.doi.org/10.22529/rdm.2022(1)02
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 31
1. EL OBJETO DE NUESTRO ESTUDIO
Los avances tecnológicos del nuevo siglo impactan profundamente en la configuración social,
económica y política de la sociedad. El derecho –producto cultural– no resulta ajeno a esa realidad. Se
ponen en crisis categorías jurídicas clásicas promoviéndose su reexamen con el objetivo de lograr el
bienestar general y la tutela de los intereses de los ciudadanos.
Uno de los debates jurídicos tradicionales –todavía irresoluto– gira en torno a la noción de
personalidad en el derecho, viéndose reavivado en el último tiempo con la aparición del hecho
tecnológico de los robots inteligentes.
Los robots inteligentes se caracterizan por su creciente autonomía, autoaprendizaje y adaptación
al entorno, lo que genera una progresiva pérdida de control por parte del usuario y dificultan la
atribución material de las consecuencias jurídicas de su actuar.
A partir de ese problema fáctico, una importante corriente doctrinal –apoyada por la Resolución
del Parlamento Europeo (2017) con recomendaciones a la Comisión de Derecho Civil sobre robótica–
echando mano al concepto de personalidad, ha propuesto conferir subjetividad jurídica a los robots
inteligentes con la finalidad de constituirlos en centros de imputación jurídica diferenciados de sus
fabricantes, programadores, usuarios, dueños, etc.
Frente a tan categórica postura se encuentran aquellos que niegan terminantemente la
personalidad de los robots, por lo que resulta atrapante introducirnos en ese debate pretendiendo
realizar un aporte que contribuya encontrar una solución a la controversia que se adecúe al sentido del
derecho.
2. NOTAS SOBRE LA PERSONALIDAD EN EL DERECHO
Afirma Orgaz (1942) que uno de los elementos esenciales de toda relación jurídica, sea de
derecho privado o de derecho público, es la persona, es decir, el sujeto jurídico. El sujeto es el
presupuesto lógico de toda relación jurídica. Por dicho motivo, dilucidar el sentido y alcance de la
categoría persona es un asunto de preocupación para la doctrina.
La cuestión de la personalidad ha dado origen a un hondo debate entre los autores nacionales y
extranjeros, todavía vigente. En ese derrotero encontramos aquellas ideas que –siguiendo a Llambías
(1995)– se pueden agrupar en: 1°, la originada en el positivismo jurídico; y 2°, la derivada de la escuela
del derecho natural.
Para el positivismo jurídico persona y hombre son realidades diferentes, captadas por conceptos
también diversos: la expresión persona denota una noción jurídica construida por el derecho para la
obtención de su propios fines; por su parte, el vocablo hombre alude a una realidad natural, el ser
humano (Llambías, 1995).
La falta de identidad entre los conceptos justifica que por decisión del legislador, cualquiera sea
su sentido moral, podría investirse con personalidad a otras realidades naturales diversas del hombre
como los animales y los muertos, o bien, que se niegue personalidad a vastos sectores de la humanidad
tal como sucedía en el derecho romano con los esclavos (Llambías, 1995).
En ese sentido se afirma que una de las especies de persona reconocida por el ordenamiento
jurídico, la persona jurídica, constituye una ficción sin correlato con ninguna realidad natural.
Por tanto –señala Kelsen (1993)– persona no es algo concreto o externo al derecho, sino
simplemente un centro de imputación normativo. En la doctrina nacional Picasso (2015) afirma:
Desde esa perspectiva, cuando la ley dice que cierto ente es una "persona" no está diciendo que
realmente se trate de un ser humano, o de un sujeto con ciertas características naturales, sino que se
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 32
limita a caracterizar un centro de imputación de normas, un concepto auxiliar para la exposición de
hechos jurídicamente relevantes.
Contrariamente a lo propuesto desde el positivismo, el iusnaturalismo afirma que el concepto de
persona constituye una realidad ontológica que el derecho se limita a reconocer. Se parte de la premisa
que el derecho no es una creación arbitraria del legislador sino una disciplina instrumental de la
conducta al servicio de los fines humanos (Llambías, 1995).
De esto se deriva que el ordenamiento jurídico no puede dejar de admitir en todo hombre la
calidad de persona o sujeto de derecho. Rivera y Crovi (2016) partidarios de esta tesis, señalan que más
allá de lo acontecido en épocas pretéritas, desde la finalización de la Segunda Guerra Mundial la
condición de humano es el único requisito necesario para ser persona, agregando que “...el Derecho
se limita a reconocer una verdad impuesta por la naturaleza: el hombre es la persona, y siempre es
persona.” (p.209)
En relación a las personas jurídicas –una ficción según la tesis positivista– la escuela del derecho
natural afirma que encuentra su génesis en la realidad gregaria del humano, es decir, importa el
reconocimiento del hecho natural de que el hombre es un ser social y se agrupa con otros semejantes
con intereses afines (Llambías, 1995).
El derecho además de encontrarse compelido a reconocer al hombre individual, lo está en
relación a los sustratos compuestos por más de un individuo. En definitiva: se limita a “…reconocer
aptitud y personalidad a los grupos que real y efectivamente actúan en la sociedad” (Rivera & Crovi ,
2016, p. 452).
Planteada la discusión doctrinaria desde sus dos grandes líneas, consideramos que la escuela
cordobesa realiza un análisis adecuado de la institución gracias a los aportes de Orgaz (1942), León,
Richard y Junyent Bas (2009).
Comienza el análisis desde el axioma de que persona es quien tiene la aptitud jurídica para ser
titular de derechos y deberes. Esa categoría emana del derecho y solo tiene sentido y validez en ese
marco. En otros términos: la personalidad no es una cualidad natural que exista o pueda existir antes
de todo ordenamiento jurídico y con independencia de éste, por el contrario, es un atributo puramente
normativo que el hombre construye para satisfacer fines específicos.
Siguiendo ese temperamento, Orgaz (1942) expresa que: “La personalidad es, en consecuencia,
un procedimiento técnico, un expediente jurídico de unificación de derechos y deberes alrededor de
un centro. Ser persona es ser centro ideal de un conjunto de relaciones jurídicas actuales o solamente
posibles” (p. 139).
Así se concibe a la personalidad de modo indisoluble con la noción de capacidad jurídica y
representa una situación o estatus jurídico. León (1948) explica que “…persona es quién tiene
capacidad de derecho y se es persona por el solo hecho de tener la posibilidad de actuar jurídicamente”
(Junyent Bas & Richard, 2009).
Coincidiendo con estas ideas, el autor español Castán Tobeñas (2007) resalta que personalidad
siempre “…implica aptitud para derechos y obligaciones [entiéndase: deberes jurídicos], o lo que es
igual, para ser sujeto, activo o pasivo, de relaciones jurídicas”(p. 150)
Ahora bien, lejos de agotarse la exposición en el dato normativo que le confiere personalidad al
centro de imputación ideal, la doctrina comentada tiene la virtud de señalar que la idea de personalidad
tiene una vinculación necesaria con un dato pre-normativo (o meta jurídico) que el derecho no puede
ignorar. La personalidad reconoce una realidad fáctica previa.
Orgaz (1942) explica que el sustrato (asiento de la personalidad) debe siempre ser real, ya sea
individual (hombre) o social (grupos humanos), dado que tampoco el derecho tiene el poder de crear
una persona “…de la nada” (p. 147).
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 33
Profundizando esta idea, el autor parafraseado indica que si bien desde una perspectiva técnica
o formal el legislador podría conferir a cualquier ente la calidad de persona, lo real y cierto es que
existen limitaciones de hecho derivadas del mundo fenoménico (Orgaz, 1942).
El jurista citado (Orgaz, 1942) se ocupa de resaltar la posibilidad –material– de que “…el sustrato
se convierta en centro activo de relaciones jurídicas, verdadero término de imputación de derechos y
deberes, no mero centro pasivo, simple término de referencia o de alusión normativas…” (p. 148).
En suma: la tesis bajo análisis sin perjuicio de ratificar la calidad estrictamente jurídica del
concepto de personalidad (elemento normativo y no ontológico), reconoce que el legislador no puede
obrar arbitrariamente (exigencia de razonabilidad del ordenamiento jurídico) pues siempre se deberá
referir a un sustrato derivado de la realidad social respecto del cual predicar la calidad jurídica aludida
(elemento pre-normativo). La jurisprudencia de la Corte Suprema de Justicia de la Nación recoge sin
desviaciones la tesis comentada en el precedente "Sánchez Elvira Berta c/M° J Y DD HH - art. 6 Ley
24411 (Resol. 409/01) s/, del año 2007.
Comprendido lo anterior, nos parece importante abundar en el presupuesto fáctico de la
personalidad para fijar los límites materiales impuestos al legislador como condición de racionalidad
del sistema jurídico.
En esa inteligencia recordamos que personalidad es un atributo y como tal debe ser predicado
en relación a un ente. Por ente consideramos “lo que es, existe o puede existir” (Real Academia
Española, 2021)
2
en el campo natural. Como primera observación decimos que el ente es el sustrato
material de la personalidad.
Pero ello no es correcto si no se analiza la posibilidad de obrar. Dijimos –siguiendo a Orgaz
(1942)– que todo sustrato debe poder desempeñarse como un centro “activo” de imputación, lo que
implica su aptitud de acción. Por tal entendemos la posibilidad de modificar o mantener el estado
natural de cosas de un modo jurídicamente relevante.
Llegados a este punto subrayamos que el derecho es un mecanismo de control social y, como
tal, regula la conducta humana. Por ello aptitud de acción debe equipararse a posibilidad de conducta
humana, toda vez que ésta última constituye el objeto de regulación del sistema normativo.
Para ser sustrato del concepto jurídico persona el ente debe ser capaz de desplegar conducta
humana. Es por esa razón que el sistema jurídico concede personalidad al hombre actuando individual
o colectivamente en el mundo físico. Esto es consecuencia de la calidad de producto cultural del
ordenamiento jurídico, cuestión resumida en la sentencia romana hominum causa omne ius costitutum est.
3
Demuestra nuestra opinión las dos especies de persona tradicionalmente reglamentadas por el
derecho: persona humana –de existencia visible, física, etc.–(cfr. arts. 22, ss. y cc. CCyC) y persona
jurídica –de existencia ideal, ideal, etc. – (cfr. arts. 141, ss. y cc. CCyC). En todas ellas el sustrato material
(dato pre-normativo) es el hombre o grupos hombres capaces de desarrollar conductas humanas.
En contraposición tenemos los entes pasivos. Son aquellos inaptos para la conducta humana,
siendo una sub-especie aquellos entes que son objeto de la conducta, es decir, entidades materiales de
las que el hombre se vale para lograr sus fines existenciales (instrumentos).
Por su incapacidad de desempeñar conducta humana, el ordenamiento jurídico estructurado
sobre bases racionales ha negado personalidad a los vegetales y animales (cfr. art. 227, 233, 1759, ss. y
cc. CCyC), sin perjuicio del debate actual que –a nuestro modo de ver– no se encuentra fundado en
bases racionales.
En sintonía con lo que venimos exponiendo se ha excluido a los muertos, cuya protección de
honorabilidad y memoria tiene inmediatamente en miras la tutela de las personas físicas que podrían
sufrir a causa del ultraje.
2
Corresponde a la 1era acepción de la palabra “ente”.
3
D. 1, 5, 2
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 34
Finalmente, quedan comprendidos las cosas inanimadas, como así también los conjuntos de
bienes y cosas que constituyen patrimonios separados o especiales (vgr. sucesión hereditaria –arts.
2323, ss. y cc. CCyC–, fideicomiso –arts. 1701, ss. y cc. CCyC–, etc.).
Insistimos que pretender conceder personalidad a entes pasivos implica arbitrariedad o ausencia
de razonabilidad del ordenamiento. Vale la pena reiterar –porque retomaremos esta idea ut infra– que
el sistema jurídico se encuentra enderezado a regular la conducta humana a través de normas (de
permisión, obligación o prohibición), ergo es un sinsentido lógico hacer aplicable el contenido
normativo a agentes que naturalmente no pueden desarrollar conducta. Esta actitud legislativa es
irracional.
Para demostrar el absurdo: es inimaginable que un bosque o una animal conceda mandato a una
persona para hacer valer judicialmente su “derecho” a la vida. También sería imposible materialmente
que esos entes comprendieran las consecuencias legales del acto jurídico referido y, por ejemplo, su
obligación de restituir los gastos derivados del cumplimiento de la manda.
Compréndase, el derecho es un producto cultural y es imposible alegar su aplicación a la acción
no humana. Con esto no decimos que no corresponda, por ejemplo, la protección del ambiente, la
prevención de caza y/u otras formas de maltrato animal tal como expresamente prevén los
ordenamientos, pero –como señala Picasso (2015)– esas normas tiene por finalidad proteger
“…intereses económicos humanos –afectados por los abusos de prácticas deportivas o lucrativas– o
combaten prácticas consideradas inmorales o socialmente peligrosas o inconvenientes” siempre en
referencia al hombre y sus intereses.
3. EL ROBOT INTELIGENTE
El vocablo robot presenta una cierta carga de equivocidad por constituir un fenómeno
tecnológico en constante evolución. Explica García-Prieto Cuesta (2019) que la palabra comienza a ser
utilizada por el escritor checo Karel Capek (1890-1938) en su obra Rossum´s Universal Robot.
El término tiene su raíz en la palabra eslava robota que se refiere al trabajo realizado de manera
forzada, equiparándose al desempeñado por el esclavo. Desde ese momento y muy influenciada por
contribuciones llegadas desde la literatura de ciencia ficción, la palabra se emplea para describir este
tipo de máquinas, naciendo la disciplina de la robótica (García Prieto Cuesta, 2019).
Desde el lenguaje natural, el Diccionario de la Real Academia Española define a robot en su
primera acepción como “m. Máquina o ingenio electrónico programable que es capaz de manipular
objetos y realizar diversas operaciones.” (Real Academia Española, 2021). Sin embargo, esta
conceptualización se presenta incompleta en la hora actual.
Al respecto existe cierto consenso entre los juristas en definir tecnológicamente a robot como
“…un sistema que es capaz de percibir el entorno o contexto en el que se encuentra, que puede
procesar la información para planificar una determinada actuación y ejecutarla”
4
(Navas Navarro, 2016,
pp. 86-87). De esto se siguen las tres actividades básicas que debe realizar una máquina para ser
calificada como robot (Navas Navarro, 2016; Palmerini, 2017; Zurita Martin, 2020):
1° Percibir: Esto implica la posibilidad de acumular información del entorno, para lo cual el
robot utiliza un sistema de sensores. Por su parte, los algoritmos son los encargados de reconciliar toda
esa información para establecer un sistema completo y preciso que permita al robot ejecutar una tarea,
función o trabajo de forma eficiente.
2° Planificar: Supone el análisis y planificación de la acción. Concretamente, el algoritmo crea
una serie de acciones dirigidas a una o a varias finalidades concretas para las cuales ha sido programado.
4
En igual sentido Botello Hermosa (2020).
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 35
3° Actuar: Ello supone ejecutar el plan trazado, a cuyos efectos la máquina cuenta, usualmente,
con un sistema electrónico, mecánico o hidráulico. La acción produce una modificación en el entorno
o estado cosas que rodea al robot.
Esta conceptualización engloba tanto el denominado robot-máquina como las entidades dotadas
de inteligencia artificial. Explica Navas Navarro (2016) que el primer grupo abarca, por ejemplo, un
brazo mecánico que ensambla piezas en una línea de montaje, una aspiradora autónoma, etc.. Estos
objetos no representan mayores dificultades para el derecho siendo concebidos como bienes
(corporales e incorporales) en términos jurídicos por todos los ordenamientos.
En oposición, los robots o agentes dotados de inteligencia artificial (IA) son aquellos que ocupan
la preocupación del legislador en la época actual y son motivo del debate doctrinario relativo a su
personalidad. Para su descripción es necesario brindar una noción de IA en sus rudimentos.
Enseña Delgado de Molina Rius (2020) que la IA es el campo de estudio interdisciplinar que
versa sobre cómo hacer que las máquinas piensen o actúen con inteligencia. Comprende múltiples
sectores que incluyen la informática, matemáticas, neurociencia, psicología, lingüística y filosofía. El
vocablo IA se atribuye al hardware y el software que sea capaz de resolver problemas complejos, lo
que puede incluir la capacidad de actuar o pensar como un ser humano (Delgado de Molina Rius,
2020).
Desde las últimas décadas del siglo pasado, a causa del avance tecnológico, se introduce la noción
de aprendizaje automatizado o machine learning, como un sub-campo de la IA, y se refiere a las máquinas
que mejoran su rendimiento a través de la experiencia, sin estar expresamente programadas para ello
(Delgado de Molina Rius, 2020).
El aprendizaje profundo o deep learning es un subsector del machine learning que ha ganado un
impulso sobresaliente en los últimos años. Este es posible gracias a la creación de algoritmos basados
en redes neuronales profundas, es decir, con múltiples capas, diseñadas a imitación del cerebro humano
y el sistema nervioso (Delgado de Molina Rius, 2020).
Bajo el envión de los progresos tecnológicos se introduce el concepto de robot inteligente que
–enseña Navas Navarro (2016) citando a Karnow– es “…aquél que tiene capacidad de autoaprendizaje
de manera que el programa no sólo aplica la heurística humana suministrada, sino que la máquina
genera su propia heurística.”(p. 90)
Dentro de esta categoría se suele distinguir entre agentes de hardware y de software –softbot, bot,
etc.– (Ebers, 2016). Los primeros son aquellos dotados de expresión corporal. Creemos que la
denominación es equívoca ya que su soporte material se encuentra indisolublemente unido al lógico,
esto es, el software. Son ejemplos los automóviles autónomos, drones autónomos, entre otros.
Por su parte, el agente de software es un programa diseñado para actuar en el mundo virtual.
Son casos testigo los roboadvisors o los agentes electrónicos a través de los cuales se celebran contratos
en el entorno digital.
En el ámbito legislativo tiene un lugar preponderante la Resolución del Parlamento (2017) con
recomendaciones a la Comisión sobre normas de Derecho Civil sobre robótica. En esa disposición –
concretamente su Anexo– se sugiere la elaboración de una definición de robot inteligente para el
ámbito europeo que recoja los atributos que hemos venido desarrollando. Particularmente dispone:
Debe establecerse una definición europea común de robots autónomos “inteligentes”, cuando
proceda, incluidas las definiciones de sus subcategorías, teniendo en cuenta las siguientes
características:
– la capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de
datos con su entorno (interconectividad) y el análisis de dichos datos;
– la capacidad de aprender a través de la experiencia y la interacción;
– la forma del soporte físico del robot;
– la capacidad de adaptar su comportamiento y acciones al entorno.
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 36
Así concebidos, emplearemos el vocablo robot inteligente de manera indistinta, ya sea de
software –no corpóreo– o hardware –corpóreo–
5
.
En esta temática el doctrinario chileno Amunátegui Perelló (2020) resalta la aptitud del robot
inteligente para desenvolverse libremente en el mundo virtual o real, con potencialidad de incidir en
relaciones jurídicas (celebración de contratos, cumplimiento de obligaciones, etc.), con cierta
independencia de las personas, sean físicas o jurídicas, que se sirven de ellos. Esta situación trae a
debate su potencial personalidad electrónica, materia que examinaremos a continuación.
4. EL PROBLEMA FÁCTICO DE LA AUTONOMÍA DEL ROBOT INTELIGENTE Y EL
PROBLEMA JURÍDICO DEL CENTRO DE IMPUTACIÓN DE LAS CONSECUENCIAS
JURÍDICAS
Ebers (2016) pone de resalto la merma de control por parte del humano de los robots
inteligentes. Marca que bajo una perspectiva puramente real, fáctica, se constata de momento que la
creciente utilización de sistemas autónomos y semiautónomos conduce a una pérdida de dirección y
control de la persona sobre el sistema y sus acciones.
Con el incremento de la autonomía de los sistemas, descienden las posibilidades del hombre de
ejercer influencia en la técnica. Cuanto más complejas son las tareas que el ser humano transfiere a
robots particulares o a enteros sistemas de asistencia, tanto mayor es la probabilidad de que el resultado
suministrado por el sistema no coincida con las ideas y deseos del usuario.
Sobre la autonomía y pérdida de control, en el derecho nacional Valente expresa que el
“…autoaprendizaje y la excesiva autonomía pueden derivar en la imprevisibilidad y el consecuente
riesgo para las personas.” (Valente, 2019, p. 15)
De esta situación se ha hecho eco la Resolución del Parlamento Europeo (2017) comentada,
trasladando sus implicancias al campo de la responsabilidad jurídica. Particularmente se advierten los
siguientes aspectos:
a) Siendo crucial la cuestión de la responsabilidad jurídica por los daños que pueda ocasionar la
actuación de los robots, cabe decir que, cuanto más autónomos sean estos, más difícil será
considerarlos como simples instrumentos en manos de otros agentes –como el fabricante, el operador,
el propietario, el usuario, etc.– (cfr. Responsabilidad A.B.).
b) En el supuesto de que un robot pueda tomar decisiones autónomas, las normas tradicionales
no bastarán para generar responsabilidad jurídica por los daños ocasionados por el robot (cfr.
Responsabilidad A.F.).
c) La autonomía de los robots suscita la cuestión respecto a si pertenecen a una de las categorías
jurídicas existentes o si debe crearse una nueva con sus propia características jurídicas (cfr.
Responsabilidad A.C.).
A causa de la autonomía e imprevisión de actuación atribuida a los robots inteligentes, se ha
planteado el interrogante –jurídico– respecto a cuál debe ser el centro de imputación jurídica de las
consecuencias derivadas de su actuación.
En el tópico afirma Ebers (2016):
A partir de un determinado grado de automatización ya no resulta posible afirmar con seguridad
si las acciones que a través de un sistema así se desencadenan provienen del usuario de dicho sistema
y le son imputables. A la vista de esta evolución es cada vez más difícil distinguir concretos seres
humanos actuantes e identificarlos individualmente como responsables de lesiones jurídicas. (p. 7)
5
Este criterio sigue Barrio Andrés (2019).
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 37
Por ello el doctrinario afirma que es “…imaginable atribuir una subjetividad jurídica parcial a los
agentes inteligentes” (Ebers, 2016, p.16), que de origen a un centro de imputación diferenciado
respecto de su usuario, fabricante o distribuidor.
5. EXPOSICIÓN DE LAS POSTURAS RELATIVAS A LA CATEGORIZACIÓN
JURÍDICA DE LOS ROBOTS INTELIGENTES
Las posturas teóricas en relación al problema que nos ocupa se pueden sintetizar en tres: 1°,
aquella que estima conveniente conceder a los robots inteligentes una forma personalidad denominada
personalidad electrónica; 2°, la que considera que deben recibir la calificación de bien (corporal o
incorporal); y 3°, finalmente, la tesis que resalta la utilidad de aplicar analógicamente el régimen del
esclavo del derecho romano con las adaptaciones propias al hecho tecnológico.
5.1. Personalidad electrónica
Esta corriente de opinión propone la creación de una nueva categoría jurídica de persona, una
suerte tertium genus entre persona física y jurídica, denominada persona electrónica, con el objeto de
generar un centro de imputación jurídico diferenciado del fabricante, operador, propietario, usuario y
demás sujetos vinculados.
Estas ideas tomaron impulso en el último tiempo con la Resolución del Parlamento Europeo
sobre robótica que dispone en su N° 59 inciso f):
Se trata de crear a largo plazo una personalidad jurídica específica para los robots, de forma que
como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas
responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica
a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con
terceros de forma independiente.
En cuanto a los alcances de la personalidad no existe ninguna exposición profunda por implicar
–según esta tesis– cuestiones de política legislativa y de análisis de repercusión social. No obstante, los
doctrinarios que la apoyan parecen inclinarse hacia una suerte de principio de especialidad, tal como
sucede con las personas jurídicas, quedando la personalidad acotada a ciertos actos o hechos jurídicos.
En esa línea se expresa Valente (2019) afirmando que implica “…considerar a los robots como
una persona de derecho que tiene ciertos derechos y obligaciones de carácter meramente instrumental
para un interés económico específico de un ser humano.” (p. 13)
Siguiendo ese entendimiento Aransay Alejandre (2019) señala que “…la capacidad reconocida a
los robots y la admisión de su personalidad jurídica electrónica podría no ser plena, estableciéndose
límites al alcance de las consecuencias jurídicas producidas por sus actos” (p. 109). En igual sentido,
Ebers (2016) plantea que la personalidad a conceder es parcial (“subjetividad parcial”).
En defensa de esta posición se han formulado diversos argumentos que nos permitimos
sintetizar en los siguientes:
1° El primero se asienta en las cualidades técnicas del robot inteligente y la pérdida de control
sobre su actuación. Se indica que sus atributos (autonomía-autoaprendizaje-adaptación al entorno) y el
proceso de creciente automatización, provocan que las consecuencias de las actividades se desplacen,
paso a paso, del usuario al sistema robótico (Ebers, 2016; Valente , 2019; y Aransay Alejandre, 2019).
El autoaprendizaje y la progresiva autonomía derivan en imprevisibilidad de la acción del robot
–por pérdida de control–, con la consecuente imposibilidad (o dificultad) material de imputar sus
consecuencias a los fabricantes, usuarios o programadores. Estas circunstancias –se afirma– impiden
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 38
calificar a los robots inteligentes como simples instrumentos al servicio del humano y, por ello, el
régimen jurídico de las cosas resulta insuficiente
6
.
Se completa este argumento desde una perspectiva axiológica alegando que no resulta justo
atribuir las consecuencias a personas (humanas o jurídicas) por el actuar del robot inteligente cuando
se carece del control íntegro de sus acciones
7
.
2° Otro argumento parte de la necesidad de promover y evitar entorpecer o, directamente,
interrumpir el progreso tecnológico, considerado fuente indispensable para el desarrollo humano
(Palmerini , 2017).
Desde esa perspectiva la concesión de personalidad electrónica y patrimonio propio al robot
inteligente, constituye una solución de técnica jurídica adecuada para evitar que los costes de los
potenciales daños recaigan sobre los actores principales del progreso tecnológico: los fabricantes y
programadores.
Se sostiene que no admitir la asignación de responsabilidad al robot inteligente (como centro
diferenciado) generaría un desincentivo para el desarrollo de tecnologías que son innovadoras pero no
están exentas de riesgos, representado un lastre para el progreso tecnológico, económico y social.
3° Finalmente –bajo una concepción positivista– se medita que la noción de personalidad no
importa ninguna cualidad ontológica, constituyendo una construcción jurídica. Como cualidad
jurídico-formal que el derecho elabora para sus fines particulares no existe obstáculo para concederla
a los robots inteligentes.
En esa dirección, Barrio Andrés (2018) fundamenta que no existe ningún obstáculo legal para
conferir personalidad al robot inteligente agregando que “…no parece más anómalo que el considerar
que un ser humano es una “cosa” como sucedía en la esclavitud, o la segregación racial, o establecer
un sistema de protección para los animales que se usan en experimentos científicos” (p. 135).
5.2. El robot es un bien corporal o incorporal según su configuración
Para esta corriente de opinión los robots inteligentes son bienes corporales o incorporales (todo
lo singulares que se quiera) y no personas o sujetos de derechos. En vista de esa afirmación se
manifiesta que sólo constituyen objeto de derechos de las personas propietarias (Vide, 2018). Nosotros
participamos de esta opinión sin perjuicio de exponer más abajo otros argumentos en su aval.
Dentro de los fundamentos a favor de esta postura se indica:
1° La cualidad de autonomía no resulta innata al robot inteligente sino que es introducida por
sus creadores, de manera que existe un enlace material causal con el comportamiento humano y la
actuación del robot. Y si bien es cierto que ello requiere el dictado de normas específicas, no justifica
que reciban un tratamiento distinto a las cosas y demás bienes (Díaz Alabart, 2018).
2° En el campo específico de la responsabilidad civil, se indica que el hecho de que los robots
tengan cierta autonomía no justifica hacerlos responsables de los daños que puedan causar. Se
ejemplifica con el caso de los animales respecto de los cuales, pese a su autonomía e imprevisibilidad
de comportamiento, son sus propietarios y personas que se sirven de ellos los que responden por los
daños causados (Díaz Alabart, 2018) –cfr. art. 1759 y cc. CCyC–.
6
Este es el argumento que se desprende del acápite Responsabilidad apartado A.C., de la Resolución del Parlamento
Europeo sobre robótica (2017).
7
Amunátegui –quien no se pronuncia categóricamente respecto de la personalidad de los robots inclinándose por un
régimen cercano a los esclavos en Roma– comparte el argumento alegando que la imputación de responsabilidad al dueño
o usuario resulta artificiosa dada la creciente autonomía (Amunátegui Perelló, 2020) Sin embargo, advertimos que el autor
reconoce que la predicada autonomía es “diseñada” por el programador o fabricante, de manera que no creemos que resulte
desajustado el reproche axiológico a quién introduce al mercado la cosa riesgosa.
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 39
3° Por otro lado, se afirma que la potencialidad dañosa (derivada de la autonomía) no implica un
progreso para la humanidad si no se garantiza la indemnidad de las personas (Díaz Alabart, 2018).
Agregamos nosotros que frente al riesgo de daño que supone la introducción al mercado de
robots dotados de creciente autonomía, la limitación de la responsabilidad vía la creación de un sujeto
de derecho distinto a sus productores, programadores y dueños, no resulta una política legislativa
deseable.
Por el contrario, ante un mayor peligro, los principios de precaución
8
, prevención (cfr. arts. 1710
y ss. CCyC) y reparación plena (cfr. art. 1740 CCyC) deben inspirar la regulación legal y el criterio de
justicia exige que el resarcimiento sea asumido por quienes reciben el provecho económico de la
actividad del robot inteligente como cosa riesgosa (cfr. art.1757 y cc. CCyC).
Adicionamos que aún en la hipótesis que se procurara introducir limitaciones de responsabilidad
de los productores, programadores o usuarios, conferir personalidad electrónica al robot no resulta
una técnica jurídica apropiada por irrazonable. En efecto, figuras como la de los patrimonios
especiales
9
, tarifación de indemnizaciones
10
, entre otras; serían suficientes para producir el efecto
deseado. Por su parte, si lo que se persiguiera es la distribución de riesgos, bastaría con acudir a
mecanismos jurídicos-financieros tales como los seguros para lograrlo.
4° Finalmente –en argumento que no compartimos– se recurre a una explicación emparentada
con la corriente iusnaturalista de la personalidad con el objetivo de justificar el rechazo de la tesis
afirmativa sobre la base de diferencias ontológicas entre los entes.
Dentro de esta tesitura Vide (2018) se ocupa de plantear diferencias entre el robot y las personas
(entiéndase humanos), señalando entre otras: el funcionamiento por energía, ausencia de sentido
común, falta de cultura basada en valores, el cerebro humano es único en cambio la información
almacenada en un robot se pude reproducir, etc.
Siguiendo ese temperamento, Santos González (2017) describe la incompatibilidad material entre
las personas jurídicas y los robots inteligentes, haciendo especial hincapié en que las primeras se
encuentran conformadas por un grupo humano que por sus cualidades permiten conferirle
personalidad jurídica.
Profundizando en esa línea Lacruz Mantecón (2018) expresa que la pertenencia a la especie
humana –únicamente ese hecho– confiera la dignidad de humanos y por tanto conciencia (otros dirán
alma), y es sobre esa base que el derecho sólo confiere personalidad y, por ende, subjetividad a los
seres humanos sean individuales o colectivos.
Por estas razones se medita que no corresponde asignar personalidad a los robots inteligentes.
5.3. Propuesta de regulación bajo el régimen del esclavo del derecho romano
8
La Resolución del Parlamento Europeo sobre robótica propone un Código de Conducta Ética para los ingenieros en
robótica donde expresamente se recoge el Principio de Precaución en los siguientes términos: “Precaución. Las actividades
de investigación en el ámbito de la robótica deben llevarse a cabo de conformidad con el principio de precaución,
anticipándose a los posibles impactos de sus resultados sobre la seguridad y adoptando las precauciones debidas, en función
del nivel de protección, al tiempo que se fomenta el progreso en beneficio de la sociedad y del medio ambiente”. En el
ámbito nacional, la comisión de derechos de daños de las XXIII Jornadas Nacionales de Derecho Civil, celebradas en
Tucumán, en el año 2011, concluyó que el principio precautorio es un principio general del Derecho de Daños que impone
el deber de adoptar medidas adecuadas con el fin de evitar riesgos de daños potenciales a la vida, la salud y el ambiente.
9
Es fenómeno de los patrimonios de afectación es aceptado por nuestro derecho como expusimos más arriba.
10
Ciertas actividades económicas que entrañan riesgos han motivado la sanción de regímenes de responsabilidad limitados,
tal como sucede en el ámbito aeronáutico (cfr. arts. 145, 160 y cc. Código Aeronáutico –Ley 17.285–) o en la navegación
(cfr. arts. 145, 181 y cc. Ley de Navegación –Ley 20.094–).
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 40
Frente a las críticas formuladas a la tesis de la personalidad electrónica, una corriente autoral
ensaya aplicar a los robots inteligentes –quizás inspirados en la raíz eslava de la palabra y también en
algunas obras de ciencia ficción
11
– el régimen jurídico de los esclavos del derecho romano con ciertas
adaptaciones a la realidad del fenómeno analizado.
Coinciden con la doctrina de la personalidad en: 1° que la creciente autonomía de los robots
hace injusto o materialmente imposible atribuir las consecuencias jurídicas de los actos o hechos que
se ejecuten con esas máquinas al fabricante, operador, propietario, usuario, etc; y 2° que resulta
conveniente limitar la responsabilidad del fabricante y programador como estímulo para el progreso
tecnológico y social (Amunátegui Perelló, 2020). De otro lado, comparten la opinión de la doctrina
que califica a los robots como cosas o bienes, considerando inaplicable la categoría jurídica de persona
(Rojo Gallego Burín , 2020).
Como vía para conciliar esas premisas, los doctrinarios invocan la utilidad de encuadrar a los
robots inteligentes en la figura romana de la esclavitud. Fundamentan la analogía en los siguientes
aspectos:
a) En primer lugar, la institución de la esclavitud tomaba en cuenta la autonomía del objeto –
nada más autónomo que un humano aunque esté sometido a la esclavitud– cuestión que se compadece
con los atributos del robot inteligente.
b) Una de las propiedades más relevantes de la institución romana era considerar al esclavo como
una cosa –res– incorporada en el patrimonio del dominus, lo que es extensible a la situación del
propietario y el robot inteligente. Con esta cualidad se pretende superar todo debate en cuanto a la
personalidad.
c) Derivado de lo anterior, el esclavo estaba privado de capacidad jurídica constituyendo un
instrumento o agente del dueño (Rojo Gallego Burín , 2020)
12
. Esa característica predicada respecto
del robot inteligente termina de desterrar –a criterio de esta postura– toda equiparación con persona
en sentido jurídico.
d) Las consecuencias jurídicas del obrar del esclavo se imputaban al dueño, solución que puede
ser replicada en el caso de los robots inteligentes (Rojo Gallego Burín , 2020; y Lacruz Mantecón,
2020)
13
.
Ahora bien, tomando en consideración la finalidad de limitar la responsabilidad del dueño,
usuario e incluso el fabricante-programador, se propone conferir al robot inteligente un peculio o
patrimonio separado.
En esa línea, tergiversando la figura de la esclavitud donde el peculio era dado por el dueño al
esclavo para que fuera administrado por éste y percibiera los beneficios que de ello deriven
14
, el objetivo
en el caso de los robots inteligentes es que sirva como fondo para afrontar las obligaciones asumidas
por el robot, daños de fuente contractual o aquellas hipótesis en las cuales el robot hubiera obrado sin
seguir las instrucciones del dueño.
11
En un reciente trabajo Lacruz Mantecón (2020) adhiere a esta tesis y reconoce la inspiración en dicho vocablo.
12
Lacruz Mantecón (2020) –partidario de esta opinión– se pronuncia en contra de considerar al robot inteligente como un
mero instrumento. Considera que es recomendable concederle una subjetividad parcial para la específica tarea asignada sin
que ello implique personalidad. Particularmente señala, parafraseando Teubner, que son necesarias construcciones jurídicas
“…más sutiles que abandonen la alternativa entre personalidad jurídica o mero instrumento, y que otorguen al sistema
inteligente la subjetividad precisa para su concreta tarea, una subjetividad parcial, y no más: no es necesaria una subjetividad
general, ni por tanto una auténtica personalidad jurídica.” (p. 152).
13
Pero aquí corresponde hacer una consideración puesto que en los actos civiles al responsabilidad del dueño era limitada,
ya que el esclavo podría mejorar el patrimonio del dueño pero nunca empeorarlo; es por ello que con el propósito de
aminorar los perjuicios se permitió en Roma que contra el propietario del esclavo se ejercitaran las actiones adiecticiae
qualitatis, ejercitables en la medida que se hubiera enriquecido el esclavo por el negocio celebrado.
14
Es inimaginable que una máquina pueda disfrutar de esos beneficios.
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 41
Se agrega que el peculio puede estar conformado tanto por aportes del dueño como de un fondo
colectivo, a lo que se pueden adicionar sistemas de seguro (Amunátegui Perelló, 2020; y Lacruz
Mantecón, 2020).
e) Vinculando con lo anterior, se resalta la utilidad del régimen noxal para la regulación de los
robots inteligentes.
Es sabido que en el derecho romano los esclavos podían cometer delitos y el dominus era
civilmente responsable de los mismos. Ahora bien, ante la acción ejercida por el perjudicado, el dueño
podía optar entre pagar la indemnización o bien, liberarse entregando el esclavo, esto es, in noxam tradere
(Rojo Gallego Burín, 2020).
Reconociendo –implícitamente– los autores de esta tesis que difícilmente un robot defectuoso
pueda representar justa reparación del daño, insisten en la institución del peculio como un fondo para
hacer frente al resarcimiento de manera separada a su dueño (Amunátegui Perelló, 2020).
Expuestos los lineamientos centrales de esta corriente manifestamos nuestro disenso de la
siguiente forma:
1° El vicio congénito de esta opinión es procurar aplicar al supuesto de hecho de los robots un
régimen jurídico diseñado para una situación fáctica completamente distinta. Verdaderamente, entre el
esclavo (en definitiva: humano) y el robot (máquina con autonomía) no existe punto de contacto que
permita emparentarlos de modo que se pueda utilizar analógicamente su régimen.
Más aún, el contexto cultural, social y tecnológico entre ambas realidades es diverso, verifíquese
que en el caso del esclavo la sociedad se caracterizaba por ser agraria y técnicamente rudimentaria; por
el contrario, los robots inteligentes son producto de una sociedad tecnológica y económicamente
desarrollada.
2° Estas dificultades de base hacen que los doctrinarios no se pronuncien en relación a ciertos
aspectos jurídicos importantes de la regulación de le esclavitud en Roma claramente improcedentes
para el caso de los robots (vgr. manumissio) y que también deban hacer las rectificaciones en otros tal
como hemos hecho saber retro. En suma: terminan tergiversando el régimen primigenio para forzar su
estructura a una realidad para la cual no fue concebido.
3° Por otro lado, más allá del papel fundamental que ha revestido el derecho romano para la
construcción del sistema jurídico continental, en los casi 1500 años que han transcurrido desde que
viera la luz el Corpus Iuris Civilis el derecho ha evolucionado técnicamente de manera indiscutible, de
modo que no se justifica forzar una institución pretérita (esclavitud) para regular el hecho de los robots.
6. NUESTRA OPINIÓN
A la luz de la legislación vigente, participamos de la corriente doctrinal que califica a los robots
inteligentes como bienes corporales o incorporales, según sea su configuración –agente de hardware o
de software– (cfr. arts. 15, 16, 227, ss. y cc. CCyC).
En ese sentido, compartimos los argumentos expresados para negar su encuadramiento como
persona electrónica y damos por reproducidas las razones que expusiéramos ut supra que permiten
refutar la aplicación analógica del régimen jurídico de los esclavos. No obstante, dejamos de lado las
fundamentaciones de corte ontológico que meditamos innecesarias además de erróneas. Nos
explicamos:
El correcto engaste del caso analizado exige tener en claro la conceptualización de persona desde
el derecho. Afirmamos que la personalidad no es una cualidad natural que exista o pueda existir antes
de todo ordenamiento jurídico y con independencia de éste. Es un atributo puramente normativo que
el hombre construye para satisfacer fines específicos.
Sobre el tópico, coincidimos con los maestros de la escuela cordobesa en señalar que la
personalidad es un procedimiento técnico de unificación de derechos y deberes alrededor de un centro.
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 42
De manera que persona funge como centro ideal de imputación de relaciones jurídicas actuales o
posibles.
Sin embargo, esa noción normativa de la personalidad, en modo alguno implica habilitar la
categorización de los robots en general, y los inteligentes, en particular, como tal.
En efecto, además del dato normativo que confiere personalidad al sujeto, existe una realidad
fáctica que ineludiblemente debe observar el legislador bajo riesgo de incurrir en arbitrariedad o falta
de razonabilidad. Dicho dato meta-jurídico se asienta en el sustrato material de la persona que
identificamos con el vocablo ente. El ente debe poder desempeñarse como un centro “activo” de
imputación, lo implica la capacidad de desplegar conducta humana –objeto de regulación del derecho–
.
Así concebidas las cosas, es evidente que la actuación del robot no puede ser calificada como
conducta humana. Por lo tanto, es un sinsentido lógico pretender categorizar legalmente como persona
y aplicar las normas jurídicas (producto cultural destinado a reglar el comportamiento humano) al
robot, es decir, a un ente cuya acción u omisión en el mundo fenoménico no participa de esa cualidad.
Del mismo modo que fue irracional que Calígula revistiera de la calidad jurídico-política de Cónsul a
su corcel Incitato, lesiona toda razonabilidad atribuir personalidad a los robots inteligentes.
Por el contrario, los robots inteligentes, más allá de sus particularidades, constituyen entes pasivos
de conducta humana y, más específicamente, instrumentos al servicio de la conducta humana. Tal
como lo reconocen implícitamente algunos teóricos de la tesis de la personalidad electrónica, el enlace
entre la actuación de la máquina y la conducta humana siempre está presente: es el hombre (fabricante,
programador, etc.) quien diseña y produce el robot inteligente con todos sus atributos –incluyendo la
eventual imprevisión en su accionar–; también es él quien lo introduce al mercado y obtiene el
provecho económico o de otra índole derivado de su actuación.
De ello deducimos que la única categorización posible es la de bien corporal e incorporal según
sea su especie, debiendo quedar sometido a dicho régimen (cfr. arts. 15, 16, 227, 1757, ss. y cc. CCyC).
Esta posición no implica negar la necesidad de una regulación específica enderezada a
contemplar las peculiaridades de los robots inteligentes con el objetivo de lograr un equilibrio adecuado
entre el necesario avance tecnológico y la adecuada protección de la integridad de los humanos que se
benefician con ese progreso.
Pero ello sólo es posible si se parte de un entendimiento racional de las figuras, dejando de lado
propuestas de conceptualización que desconocen los cimientos lógicos del Derecho como producto
cultural destinado a regular conductas humanas y proteger intereses también humanos.
7. CONCLUSIONES
Estamos en condiciones de formular las siguientes conclusiones:
1° La personalidad no es una cualidad natural (ontológica) que exista antes de todo ordenamiento
jurídico y con independencia de éste; por el contrario, es atributo normativo que el hombre construye
para satisfacer fines específicos. Es un procedimiento técnico que permite constituir un centro ideal
de imputación de relaciones jurídicas actuales o posibles.
2° Más allá del dato normativo que confiere personalidad al ente, la noción de persona en sentido
jurídico tiene una vinculación necesaria con un dato pre-normativo (o meta-jurídico) que el derecho
no puede ignorar: la personalidad –como atributo– debe ser predicada en relación a un ente (sustrato)
activo, es decir, capaz de desplegar conducta humana. Por esa razón el derecho reconoce como sustrato
de la personalidad al hombre o al grupo de hombres que obran en el mundo fenoménico.
3° En contraposición, los entes pasivos que son aquellos inaptos para la conducta humana. Una
sub-especie son las entidades materiales de las que el hombre se vale para lograr sus fines existenciales
(instrumentos). Quedan incluidos los animales, los bienes o conjuntos de bienes, entre otros.
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 43
4° Partiendo del axioma que el derecho es un producto cultural del hombre destinado a regular
conducta humana, subrayamos que la pretensión legislativa de conferir personalidad a un ente pasivo
resulta arbitraria e irracional, toda vez que dicha entidad resulta inapta para desplegar conducta aunque
su acción produzca un cambio en el estado de cosas.
5° Por robot definimos a un sistema que es capaz de percibir el entorno o contexto en el que se
encuentra, que puede procesar la información para planificar una determinada actuación y ejecutarla.
Con el avance de la IA se introduce el concepto de robot inteligente que es aquél que tiene capacidad
de autoaprendizaje, de modo que no sólo aplica la heurística humana suministrada sino que genera su
propia heurística. Dentro de esta última categoría se distingue entre agentes de hardware (corporales)
y de software (incorporales).
6° La creciente utilización de robots inteligentes autónomos y semiautónomos provoca una
pérdida material de dirección y control del hombre sobre el sistema y sus acciones. Ese problema
fáctico introduce el interrogante jurídico respecto a la atribución de las consecuencias causadas por el
actuar del robot inteligente y, particularmente, si debe constituírselo como un centro de imputación
jurídica diferenciado respecto del fabricante, programador, usuario, etc.
7° En respuesta a la pregunta anterior se han formulado tres corrientes conceptuales: a) conferir
personalidad electrónica al robot inteligente; b) calificarlo como bien corporal o incorporal según su
tipo; y c) aplicar analógicamente el régimen del esclavo del Derecho Romano con las adaptaciones
propias del hecho tecnológico. Hemos descripto sus principales lineamientos retro, a donde remitimos.
8° La tesis de la personalidad electrónica debe ser rechazada por las siguientes razones: a) La
autonomía no resulta innata al robot inteligente sino que es introducida por sus creadores, existiendo
un enlace material causal entre el comportamiento humano y la actuación del robot; b) el hecho de que
los robots tengan cierta autonomía no justifica conferirle personalidad a los fines de hacerlos
responsables de los daños que puedan causar, del mismo modo que no se confiere personalidad a los
animales pese a su autonomía e imprevisibilidad reconocida (cfr. art. 1759 y cc. CCyC); c) la
potencialidad dañosa derivada de la autonomía –presupuesto material para conferir personalidad
electrónica– no implica un progreso para la humanidad si no se garantiza la indemnidad de los
hombres, razón por la cual debe procurarse el respeto de los principios de precaución, prevención y
reparación plena del daño, resultando axiológicamente acertado atribuir las consecuencias jurídicas al
sujeto (fabricante, programador, usuario, etc.) que se beneficia con su introducción al mercado y
funcionamiento (cfr. arts. 1710, 1740, 1757, ss. y cc. CCyC); y d) conferir personalidad al robot
inteligente implica una actitud arbitraria e irracional incompatible con el sentido del Derecho –ver ut
infra 11–.
9° La corriente que procura aplicar analógicamente el régimen del esclavo en el Derecho
Romano también debe ser descartada por los siguientes motivos: a) Resulta desacertado reglamentar
el hecho de los robots inteligentes a través de un régimen jurídico diseñado para una situación fáctica
completamente distinta: entre el esclavo (en definitiva: humano) y el robot (máquina con autonomía)
no existe punto de contacto que permita emparentarlos de forma que se pueda aplicar analógicamente
su régimen; b) el contexto cultural, social y tecnológico entre ambas realidades es diverso lo que
refuerza la conclusión anterior; c) las dificultades de base señaladas obligan a sus doctrinarios a
tergiversar el régimen primigenio para lograr su engaste a una realidad para la cual no fue concebido;
y d) el progreso técnico del derecho desde la época romana no justifica forzar una institución pretérita
(esclavitud) para regular el hecho nuevo de los robots.
10° La tesis que califica a los robots como bienes corporales e incorporales –según sea su
especie– resulta correcta y lógicamente coherente con el sentido del derecho como construcción
cultural destinada a regular la conducta humana. Por tanto debe aplicarse el régimen correspondiente
a esa categoría (cfr. arts. 15, 16, 227, 1757 ss. y cc. CCyC), sin perjuicio que la legislación futura pueda
contemplar ciertos aspectos específicos de esta realidad.
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 44
11° En apoyo de la posición referida en el párrafo anterior, concluimos que los robots
inteligentes, más allá de su aptitud (programada por el hombre) de modificar el estado de cosas,
constituyen entes pasivos dada su evidente incapacidad de desplegar conducta humana y, más
específicamente, instrumentos de la conducta del hombre. De tal modo, constituyendo el objeto del
derecho la regulación de la conducta humana resulta un sinsentido lógico (y por lo tanto: irracional)
conferirles personalidad para erigirlos en un centro de imputación de normas que –por definición– no
están dirigidas a ellos y son un producto cultural exclusivo del hombre.
8. BIBLIOGRAFÍA
Amunátegui Perelló, C. (2020). Arcana Technicae. El derecho y la inteligencia artificial. Valencia: Tirant lo
Blanch.
Aransay Alejandre, A. M. (2019). Antecedentes y propuestas para la regulación jurídica de los robots.
En M. Barrio Andrés , Derecho de los Robots (2da. ed., págs. 91-115). Madrid: Reus.
Barrio Andrés, M. (2018). Robots, inteligencia artificial y persona electrónica. (C. y. Ministerio de
Industria, Ed.) Sociedad digital y derecho, 113-136.
Barrio Andrés, M. (2019). Del derecho de internet al derecho de los robots. En M. Barrio Andrés,
Derecho de los Robots (2da. ed., págs. 65-92). Madrid: Wolters Kluwer.
Botello Hermosa , P. (2020). La responsabilidad civil extracontractual de los daños originados por
robots a terceros: ¿Por qué no una ley española sobre el régimen jurídico de la tenencia y uso de robots?
En D. Bello Janeiro (Coord.), Nuevas tecnologías y responsabilidad civil (págs. 301-323). Madrid: Reus.
Castán Tobeñas, J. (2007). Derecho civil español, común y foral. Tomo 1ro: Introducción y parte general (15ta ed.,
Vol. 2do). Madrid: Reus.
Delgado de Molina Rius, A. (2020). Inteligencia artificial, machine learning y deep learning. En A.
Gurrea Martínez , & N. Remolina, Fintech, Regtech y Legaltech: fundamentos y desafíos regulatorios (págs. 97-
115). Valencia: Tirant lo blanch.
Díaz Alabart, S. (2018). Robots y responsabilidad civil. En C. R. Vide (Coord.), Los Robots y el Derecho
(págs. 99-114). Madrid: Reus.
Ebers, M. (Julio de 2016). La utilización de agentes electrónicos inteligentes en el tráfico jurídico:
¿Necesitamos reglas especiales en el derecho de la responsabilidad civil? InDret(3/2016), 1-22.
García Prieto Cuesta , J. (2019). ¿Qué es un robot? En M. Barrio Andrés (Dir.), Derecho de los Robots
(2da. ed., págs. 29-64). Madrid: Wolters Kluwer.
Junyent Bas, F., & Richard, E. H. (septiembre de 2009). Acerca de la persona jurídica. A propósito de los
debates sobre su conceptualización y otros aspectos derivados de ello. Recuperado el 21 de 12 de 2021, de Academía
Nacional de Derecho y Ciencias Sociales de Córdoba:
http://secretarias.unc.edu.ar/acaderc/doctrina/articulos/acerca-de-la-persona-juridica.-a-proposito-
de-los
Kelsen, H. (1993). Teoría pura del derecho. (R. J. Vernego, Trad.) México: Porrúa.
Lacruz Mantecón, M. L. (2018). Potencialidades de los robots y capacidades de las personas. En C. R.
Vide (Coord.), Los Robots y el Derecho (págs. 25-77). Madrid : Reus.
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 45
Lacruz Mantecón, M. L. (2020). Robots y personas: una aproximación jurídica a la subjetividad cibernética.
Madrid : Reus.
Llambías , J. J. (1995). Tratado de Derecho Civil. Parte General (16ta ed., Vol. 1). Buenos Aires: Abeledo-
Perrot.
Navas Navarro, S. (2016). Smart robots y otras máquinas inteligentes en nuestra vida cotidiana. Revista
CESCO de Derecho de Consumo, I. Estudios y Consultas(20/2016), 82-109. Recuperado el 20 de Diciembre
de 2021, de https://revista.uclm.es/index.php/cesco/article/view/1249
Orgaz, A. (Marzo-Junio de 1942). De las personas en el derecho civil. Revista de la Universidad Nacional
de Córdoba, 29(1-4), 131-150.
Palmerini, E. (enero-junio de 2017). Robótica y derecho: sugerencias, confluencias, evoluciones en el
marco de una investigación europea. Revista de derecho privado(32), 53-97.
Parlamento Europeo. (16 de Febrero de 2017). Resolución del Parlamento Europeo, de 16 de febrero de 2017,
con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)).
Recuperado el 15 de Diciembre de 2021, de Parlamento Europeo Web site:
https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_ES.html
Picasso, S. (2015). Reflexiones a propósito del supuesto carácter de sujeto de derecho de los animales.
Cuando la mona se viste de seda. LA LEY, 2015-B, 950, Cita Online: AR/DOC/1144/2015.
Real Academia Española. (2021). Diccionario de la Lengua Española. Obtenido de dle.rae.es:
https://dle.rae.es/, recuperado el 20 de Diciembre de 2021.
Rivera, J. C., & Crovi , L. D. (2016). Derecho Civil. Parte General. Buenos Aires : Abeledo-Perrot.
Rojo Gallego Burín, M. (Octubre de 2020). Los fundamentos históricos del sistema jurídico verus la
personalidad electrónica de los robots. (J. d. León, Ed.) Revista Jurídica de Castilla y León(52), 7-30.
Sánchez Elvira Berta c/M° J Y DD HH - art. 6 Ley 24411 (Resol. 409/01) s/, S. 1091. XLI. REX
(Corte Suprema de Justicia de la Nación 22 de Mayo de 2007).
Santos González , M. J. (2017). Regulación legal de la robótica y la inteligencia artificial: retos de futuro.
Revista Jurídica de la Universidad de León(4), 25-50.
Valente, L. A. (2019). La persona electrónica. Revista Anales de la Facultad de Ciencias Jurídicas y Sociales,
Año 16(49-2019), 1-30.
Vide, C. R. (2018). Robots y personas. En C. R. Vide (Dir.), Robots y el Derecho (págs. 7-23). Madrid:
Reus.
Zurita Martin, I. (2020). La responsabilidad civil por los daños causados por los robots inteligentes como productos
defectuosos. Madrid: Reus.
REVISTA BLOCKCHAIN INTELIGENCIA ARTIFICIAL -nº 4–2022 pág. 46
