25
Revista Facultad de Jurisprudencia No.15
ABSTR
A
CT
Thousands of years ago, Roman
businessmen often ran joint businesses
through commonly owned, highly intelligent
slaves. Roman slaves did not have full legal
capacity and were considered property of
their co-owners. Now business corporations
are looking to delegate decision-making to
uber-intelligent machines through the use
of artifcial intelligence in boardrooms.
Artifcial intelligence in boardrooms could
assist, integrate, or even replace human
directors. However, the concept of using
artifcial intelligence in boardrooms is
largely unexplored and raises several issues.
This Article sheds light on legal and policy
challenges concerning artifcial agents
in boardrooms. The arguments revolve
around two fundamental questions: (1)
what role can artifcial intelligence play in
boardrooms? and (2) what ramifcations
would the deployment of artifcial agents in
boardrooms entail?
AGENTES ARTIFICIALES EN LAS JUNTAS CORPORATIVAS
1
Traducción:
David Cordero-Heredia
Pontifcia Universidad Católica del Ecuador
Carlos A. Carrillo-Jaramillo
FLACSO Ecuador
Sergio Alberto Gramitto-Ricci:
University of Missouri-Kansas
RECIBIDO:
28/03/2024
ACEPTADO:
05/09/2024
DOI:
10.26807/rfj.v1i15.509
RESUMEN
Miles de años atrás, empresarios romanos
gestionaban negocios conjuntos a través de
esclavos altamente inteligentes de propiedad
común. Los esclavos romanos no tenían
plena capacidad legal y eran considerados
propiedad de sus dueños comunes. Ahora,
las corporaciones buscan delegar la toma
de decisiones a máquinas superinteligentes
mediante el uso de inteligencia artifcial
en las juntas corporativas. La inteligencia
artifcial podría asistir, integrar e incluso
reemplazar a los directores humanos. Sin
embargo, el concepto de usar inteligencia
artifcial en las juntas directivas está,
en gran medida, inexplorado y plantea
varios problemas. Este artículo arroja luz
sobre los desafíos legales
y de políticas que
surgen con la implementación de agentes
artificiales en las juntas directivas. Los
argumentos se centran en dos preguntas
clave: (1) ¿qué papel puede desempeñar
la inteligencia artificial en las juntas
directivas? Y (2) ¿qué implicaciones tendría
su implementación?
KEYWORDS:
Artifcial Intelligence, Boardrooms, Business Decision-Making, Legal
Challenges Artifcial Agents, Legal Capacity
PALABRAS CLAVE:
Inteligencia Artifcial, Juntas Directivas, Decisión Empresarial,
Desafíos Legales, Agentes Artifciales, Capacidad Legal
26
Agentes artifciales en las juntas corporativas
INTRODUCCIÓN
Las corporaciones empresariales no existen de forma natural; son, de
hecho, creaciones humanas. Los humanos idearon el modelo corporativo
hace miles de años (Handlin y Handllin, 1945). Su funcionamiento fue
diseñado en torno a un principio fundamental: la separación de los individuos.
Por ende, el concepto central de cualquier corporación, incluyendo a las
corporaciones empresariales, es la separación: de activos, de pasivos y de
existencia independiente. La separación de los humanos permite que las
corporaciones sobrevivan la muerte o salida de sus fundadores, accionistas,
administradores, directores, acreedores, empleados y de cualquier otro
participante (Ciepley, 2013).
1
A pesar de esta separación, las corporaciones
no pueden funcionar sin los humanos, ya que no poseen mentes o cuerpos
propios. Por lo tanto (al menos en la actualidad), necesitan a las personas
para tomar decisiones y para interactuar con otros seres humanos, otras
corporaciones y con el planeta. Por ello, se designan individuos para pensar,
tomar decisiones y actuar en nombre de las corporaciones. Hoy en día es
inconcebible que una corporación pueda operar sin la intervención humana.
Pero aunque hoy las corporaciones dependen de los individuos, la
evolución de la inteligencia artifcial (IA) obliga a preguntar si las corporaciones
podrían reemplazar a los humanos con máquinas inteligentes. En particular,
se debe considerar la posibilidad de que pronto las corporaciones puedan
reemplazar las mentes humanas con inteligencia artifcial como fuente de la
toma de decisiones corporativas: ¿pueden los directores de junta y las juntas
corporativas, en general, ser reemplazados por robots y máquinas? Aunque
esta pregunta pudo haber sido en su momento una hipótesis puramente
teórica, ya no lo es por dos razones.
En primer lugar, la inteligencia artifcial y los algoritmos ya han
comenzado a hacer su aparición en algunas juntas directivas alrededor
del mundo (Burridge, 2017).
2
Por ejemplo, en 2014, la frma de capital de
riesgo Deep Knowledge Ventures introdujo un algoritmo de
machine-learning
1
Se podría argumentar que el único interesado cuya “muerte” una corporación no podría sobrevivir es
el Estado. De hecho, si se acepta la teoría de que las corporaciones reciben autoridad del Estado (en lu
-
gar de los individuos), la existencia de un Estado es necesaria para que una corporación exista. (Ciepley,
2013, p. 140).
2
Sin embargo, el alcance de la participación de la inteligencia artifcial en las juntas directivas aún está
abierto a debate.
27
Revista Facultad de Jurisprudencia No.15
llamado Validating Investment Tool for Advancing Life Science (VITAL) en
su junta directiva para ayudar con la toma de decisiones corporativas (Wile,
2014). VITAL consideraría una gama de datos e información sobre las
corporaciones, incluyendo, pero no limitándose, a información fnanciera.
Sin embargo, la prensa que cubrió la introducción de VITAL en la junta
directiva de Deep Knowledge Ventures enfatizó que, aunque VITAL podía
votar sobre inversiones, no podría califcar técnicamente como un director
de la junta.
Mientras los estatutos de la empresa lo permitan, VITAL puede votar
sobre esos asuntos, y en cierto sentido actuar como un miembro de la
junta. Pero solo votar no convierte a uno en un miembro de la junta.
Los directores de una corporación tienen deberes y responsabilidades
para supervisar el funcionamiento de su empresa. Deberes que VITAL
no está diseñado para desempeñar y responsabilidades que no puede
legalmente ser asignado (o asegurado para cumplir). (Goyal, 2014,
pár. 5)
La prensa explicó que las juntas directivas deben cumplir con sus deberes
hacia la corporación, incluidos aquellos que son inherentes a la supervisión
de la empresa y que VITAL no estaba programada para cumplir.
Más allá de la programación de VITAL
,
la cobertura de la prensa
informó que la membresía en un consejo de administración implicaba
“responsabilidades que VITAL no podía asumir legalmente (ni para las cuales
podía asegurarse)” (Goyal, 2014, pár. 5). De hecho, aunque la personalidad
jurídica para máquinas autónomas es una prioridad para los responsables
políticos, las máquinas de inteligencia artifcial actualmente no tienen
capacidad legal (Parlamento Europeo, 2017). Por lo tanto, no pueden ser
sujetos de derechos y deberes, incluidos los deberes fduciarios corporativos.
En segundo lugar, el mecanismo que permite que una corporación
se separe de los individuos se encuentra en su principal característica:
“separación de propiedad y control” (Berle y Gardiner, 1991). La separación
entre propiedad y control es la tecnología legal y organizativa que consiste
sustancialmente en proporcionar un interés económico en el negocio de una
corporación a personas que no la gobiernan: los accionistas. Los accionistas
28
Agentes artifciales en las juntas corporativas
poseen un interés económico en el negocio, pero como meros accionistas,
tienen derechos de gobernanza muy limitados sobre la corporación.
La separación de los individuos es esencial en cuanto permite la
existencia independiente de las corporaciones; la propia fórmula del modelo
corporativo se basa en la separación de propiedad y control. Sin embargo,
la separación de propiedad y control implica el riesgo de que los humanos
designados para pensar, tomar decisiones y actuar en nombre de una
corporación puedan “evadir responsabilidades”, “robar” u otros problemas
que surgen cuando los intereses personales de los responsables de la toma de
decisiones no se alinean con los de la corporación (Jensen y Meckling, 1976).
Ante este panorama, la inteligencia artifcial podría verse como la
solución tecnológica que permitiría a una corporación benefciarse de la
separación entre propiedad y control, mientras proporciona a los inversores
de todas las protecciones que los agentes artifciales inteligentes, cuidadosos
y confables pueden garantizar. Se puede denominar a este fenómeno
como Nirvana de gobernanza por IA; pero, en realidad, el uso de la IA
en el gobierno corporativo plantearía una serie de riesgos y defciencias
signifcativas (Enriques y Zetzsche, 2019). Este artículo aborda solo una
pequeña parte de ellas.
A pesar de su potencial para una toma de decisiones cuidadosa y
confable, la Inteligencia Artifcial en las juntas corporativas plantea una serie
de problemas legales y morales. Una preocupación general con la IA es que
evoluciona con el tiempo. Esta inteligencia podría desarrollarse de alguna
manera que sea peligrosa o moralmente problemática para la especie humana
(Bostrom, 2014)
3
. En lo que respecta a la gobernanza corporativa, estas
preocupaciones siguen siendo relevantes. Por un lado, si la IA evolucionara
hasta el punto de tener conciencia y la capacidad de sufrir, podrían surgir
riegos de explotación y abuso. Por otro lado, si la IA no desarrollara
conciencia, probablemente, no le sería posible rendir cuentas, incluso como
miembro de la junta directiva. Pero incluso antes de que la IA pueda entrar
a las juntas corporativas, un problema debe ser solucionado: actualmente,
la ley corporativa de Delaware requiere que todos los miembros de la
3
Véase también Beckers, 2018, pp. 89–91, argumentando que los humanos serían responsables de cual
-
quier sufrimiento que experimente la IA, en caso de que la IA desarrolle la capacidad de experimentar
sufrimiento.
29
Revista Facultad de Jurisprudencia No.15
junta corporativa sean personas naturales, humanas (Código Corporativo
de Delaware, 2016). Por lo tanto, para que la inteligencia artifcial tenga
presencia en las juntas corporativas de Delaware, la ley corporativa tendría
que cambiar.
No obstante, tanto la realidad como el pragmatismo sugieren que el
debate sobre la inteligencia artifcial en las juntas corporativas será el próximo
gran tema en la gobernanza corporativa. La literatura sobre tecnología en
juntas corporativas ya está foreciendo. Por ejemplo, si se considera el nuevo
término acuñado, “CorpTech”, que se refere a prácticas que incluyen libros
de contabilidad distribuidos en
blockchains,
contratos inteligentes, análisis de
Big Data
y
AI learning machines
en las juntas corporativas (Enriques y Zetzsche,
2019). Siguiendo esta tendencia, este artículo adopta un enfoque estrecho y
poco ortodoxo para arrojar luz sobre algunos de los riesgos y preocupaciones
que la inteligencia artifcial plantearía en las juntas corporativas: se discute
el uso de la inteligencia artifcial, cuestionando la solidez legal, organizativa
y ética de dicho fenómeno.
De esta discusión se sugiere que, si se otorgara capacidad legal a
la IA, esta no debería parecerse a la personalidad jurídica otorgada a las
corporaciones, ya que las corporaciones dependen, en última instancia, de
agentes humanos; mientras que la IA no lo haría. Más bien, en lugar de
depender de mentes y cuerpos humanos para pensar y actuar, la IA sería
autónoma e independiente. Por lo tanto, la capacidad legal de la IA debería
discutirse en términos de “personalidad artifcial”, donde la personalidad
jurídica se combina con la toma de decisiones autónoma y el hecho de que
la IA sirva como miembro de una junta corporativa podría denominarse
“dirección artifcial”.
Algunos de los argumentos expuestos en este artículo se desarrollan
mediante una consideración orgánica del derecho romano y las prácticas
empresariales. En particular, parte de la exploración teórica sobre la
utilización de inteligencia artifcial en las salas de juntas corporativas se
centra en cómo el análisis funcional del papel de los agentes artifciales en las
juntas podría estar signifcativamente infuenciado por la práctica romana
de emplear a un esclavo altamente inteligente y capacitado para gestionar
negocios en interés de una empresa conjunta formada por los copropietarios
30
Agentes artifciales en las juntas corporativas
del esclavo. Dicha organización empresarial se conocía como
negotiatio per
servos communes cum peculium
(negocio conjunto mediante esclavos comunes
con un peculio), y se considera la primera forma organizativa que presentaba
una separación entre la propiedad (los copropietarios/amos poseían el
negocio) y el control (los esclavos romanos gestionaban el negocio) (Abatino,
Dari-Mattiaci y Perotti, 2011).
Este artículo está estructurado en tres partes y una conclusión. La Parte
i
explora el uso de la inteligencia artifcial en las juntas corporativas como
un fenómeno novedoso con orígenes antiguos. La Parte
ii
examina el papel
que desempeñan la capacidad legal, la responsabilidad, la conciencia y la
percepción
4
en la determinación del rol que la inteligencia artifcial puede
jugar en las salas de juntas corporativas. La Parte
iii
evalúa si la inteligencia
artifcial podría ser empleada en las salas de juntas de las corporaciones de
Delaware, cómo podría serlo y en qué condiciones; a la Parte
iii
le sigue la
conclusión.
PARTE I.
Un fenómeno nuevo con orígenes antiguos
Este artículo entiende la IA como una simulación de la inteligencia natural
realizada a través de algoritmos, máquinas y sistemas informáticos que, en
última instancia, busca el rendimiento óptimo de las acciones (Luger, 2009).
5
Pero al hacerlo, la IA busca replicar la forma en que las mentes humanas
realizan tareas que requieren habilidades intelectuales y psicológicas, como
la predicción, la planifcación, la percepción, la asociación y el control motor
(Boden, 2018).
6
Al utilizar esta defnición, este artículo adopta un concepto
de IA que es deliberadamente genérico sin intentar satisfacer los estándares
de precisión técnica o teórica. Se adopta un concepto tan genérico de la IA
porque hay varias formas, teorías y metodologías conectadas con la IA. Por
ejemplo, aunque muy popular en la imaginación social, los robots humanoides
4
En el texto original se utilizaron los términos
conscience y consciousness.
Al traducirse ambos como
“conciencia” y “consciencia”, respectivamente, para evitar confusión, se decidió emplear el término
“percepción” para referirse a la capacidad de una inteligencia artifcial de, en términos de Husserl
(2012), experimentar una vivencia intencional que permita un contacto directo con el mundo.
5
Luger señala que defnir la inteligencia artifcial es una tarea difícil, pero aclarando que, al fnal del día,
es hecha por el hombre y debe explorarse en ese contexto.
6
Véase también Murray Shanahan, Solving the Frame Problem: A Mathematical Investigation of the
Common Sense Law of Inertia xix (1997).
31
Revista Facultad de Jurisprudencia No.15
autónomos —robots que se asemejan al cuerpo humano mientras operan
sin intervención humana— son solo una forma de IA (Chopra y White,
2011). Otros tipos de IA incluyen la IA clásica (también conocida como
IA simbólica y como IA tradicional), los autómatas celulares, los sistemas
dinámicos, las redes neuronales artifciales y la programación evolutiva. Las
formas específcas en que las máquinas procesan la información dependen
del tipo de IA desplegada. Los investigadores a menudo se ocupan de un
solo tipo de IA, pero algunas teorías se referen a dos o más formas de IA.
Además, una pluralidad de metodologías también se ha aplicado a estudios y
aplicaciones de IA, y la IA se ha investigado tanto para sistemas especializados
como para sistemas con inteligencia general (Boden, 2018). Para aclarar
este concepto genérico de IA, se puede asumir lo siguiente: primero, que
la IA percibe el entorno en el que actúa, toma todos los datos disponibles
del mundo y los almacena para que puedan acceder a ellos posteriormente
(Poole y Mackworth, 2017), en segundo lugar, hay que asumir que la IA
toma decisiones al comparar datos nuevos con datos antiguos y al clasifcar
el resultado de su decisión frente a otros posibles resultados; en tercer lugar,
que al hacer esto, la IA intenta aprender e informar sus decisiones futuras
(Enriques y Zetzsche, 2017). En resumen, se debe asumir que la IA razona
de manera autónoma y se corrige a sí misma.
Debido, en parte, a sus capacidades innovadoras, la IA ya ha sido
empleada —o se está discutiendo si podría ser empleada— en una serie de
campos.
7
Por ejemplo, LawGeex AI es una plataforma de revisión de contratos
que supuestamente destaca riesgos en acuerdos de confdencialidad de una
manera “más precisa que los abogados humanos” (2018). Los algoritmos
inteligentes se utilizan en fnanzas (Chopra y White, 2011). Además, algunas
literaturas discuten los riesgos, efectos y posibles ramifcaciones de incorporar
aportes de IA en la toma de decisiones judiciales.
Como resultado del uso creciente de la IA en varios campos, las
corporaciones y las empresas de inversión están comenzando a considerar
también el potencial de la IA. Una posible aplicación, y el foco de este
artículo, es el uso de la IA en las juntas corporativas. La IA en este contexto
7
El debate sobre las oportunidades y riesgos relacionados con el uso de la IA en entornos personales,
industriales y profesionales ha interesado a diferentes categorías de personas, incluidos académicos,
expertos, emprendedores y responsables de políticas; dicho debate es a menudo objeto de conversación
entre personas comunes también.
32
Agentes artifciales en las juntas corporativas
puede concebirse al menos de tres formas diferentes, cada una con cuestiones
legales y organizacionales distintas: (1) La IA podría proporcionar asistencia
—¿o algún tipo de soporte tecnológico? — a los directores humanos, (2) la IA
podría integrarse con los directores humanos, o (3) la IA podría reemplazar
completamente a los directores humanos. Este artículo explora algunas de las
consecuencias que surgirían de la implementación de cada forma. Es cierto
que, dependiendo de su forma, la IA podría ayudar a disminuir los costos de
agencia, aumentar la efcacia del monitoreo, mejorar la calidad de la toma
de decisiones y reducir confictos con y entre los accionistas y a los
stakeholders
(Enriques y Zetzsche, 2019). Sin embargo, algunas consideraciones ineludibles
—como la responsabilidad de la IA en la sala de juntas— deben seguir a estos
escenarios optimistas; estas consideraciones se abordan a continuación en las
Partes
ii
y
iii
.
Separación de propiedad y control y el nirvana de la
gobernanza con IA
El optimista podría argumentar que la IA en las juntas directivas
sería capaz de superar a los directores humanos mediante decisiones más
cuidadosas y leales. Específcamente, el optimista podría pensar que la IA en
las juntas corporativas podría conducir a un “nirvana de gobernanza” con
IA, en el que los costos de agencia derivados de la separación de propiedad
y control se minimicen o incluso desaparezcan. Para comprender esta
afrmación, es necesario hacer un desvío para examinar la separación de
propiedad y control.
Como se mencionó anteriormente, la separación de propiedad y control
es una característica fundamental de las corporaciones empresariales; es la
forma en que el control se aleja de los constituyentes de una corporación y se
centraliza en manos de unos pocos individuos.
Sin embargo, el concepto de separación de propiedad y control antecede
a la corporación empresarial moderna. Las corporaciones empresariales
contemporáneas toman este modelo estructural de los romanos, quienes
fueron los primeros en inventar la forma corporativa para los municipios
y la expandieron a las empresas comerciales (Duf, 1938), (Gramitto Ricci,
2019). De hecho, los romanos fueron los primeros en inventar la forma
33
Revista Facultad de Jurisprudencia No.15
corporativa para otorgar autonomía a entidades no humanas, incluidos los
municipios; resumieron la autonomía de las entidades legales no humanas
respecto a los individuos en el principio
universitas distat a singulis,
que se
traduce como “una entidad legal es separada y distinta de los individuos”
(D’Alessandro, 1989).
De esta manera, estas entidades no humanas se distinguieron de los
individuos de dos maneras. En primer lugar, tenían derechos y deberes
autónomos y poseían activos a su propio nombre; sus derechos, deberes y activos
estaban separados y eran distintos de los de los individuos que componían la
corporación. En segundo lugar, actuaban e interactuaban con otros sujetos
en el ámbito legal y contractual como entidades independientes, aunque a
través de delegados humanos (Williston, 1888). Así, las corporaciones —ya
sean de negocios o no— se volvieron responsables de sus acciones y sujetas
a responsabilidad por cualquier contrato que concluyeran y por cualquier
daño que sus acciones pudieran haber causado.
Los romanos emplearon la forma corporativa para dividir activos,
pasivos, contratos, responsabilidades legales e incluso la existencia de una
entidad de quienes participaban o tenían un interés en ella (Williston, 1888,
pp. 106-107).
Basándose en este modelo romano, varias entidades legales
con capacidad jurídica, tales como municipalidades, iglesias, diócesis y
monasterios, comenzaron a separar la propiedad o, más propiamente dicho,
la participación, del control (Kauper y Ellis, 1973).
El poder y la administración se centralizaban y delegaban en alcaldes,
consejos de la ciudad, obispos y abades, y así continúa hoy en día. La
Iglesia jugó un papel fundamental en el desarrollo de la forma corporativa.
Desde que adoptó esta forma, la Iglesia la ha aplicado a varios proyectos y
organizaciones y la ha usado para poseer, organizar y gestionar propiedades
(Kauper y Ellis, 1973, pp. 1501-1504).
8
Por ejemplo, los libros raros, pinturas
y frescos de los monasterios pertenecen al monasterio, no a los monjes que
viven en él y lo cuidan (Ciepley 2013, p. 143). Esta disposición permite a los
monjes cumplir su voto de pobreza mientras tienen acceso a los recursos, los
materiales y las instalaciones necesarios para llevar a cabo sus vidas naturales,
profesionales, espirituales y religiosas.
8
La Catedral de Milán, por ejemplo, es una entidad corporativa (un tipo particular de corporación
eclesiástica conocida como fabricería), y su nombre corporativo es Veneranda Fabbrica del Duomo.
34
Agentes artifciales en las juntas corporativas
Al comparar los monasterios con las corporaciones comerciales,
los accionistas se diferencian de los monjes en que los accionistas tienen
intereses y derechos económicos en una corporación. En otras palabras,
dado que los accionistas poseen acciones en una empresa (Black’s Law
Dictionary, 2019), tienen un interés económico en que la corporación genere
benefcios y valores de manera que puedan recibir dividendos, liquidación
o ver refejado en el precio de las acciones. Aun así, a pesar de este interés
económico en la corporación, las corporaciones comerciales controladas por
la junta —compañías públicas con una propiedad de acciones extensamente
distribuida— siguen el modelo de separación entre propiedad y control.
La ley corporativa de Delaware establece que “los negocios y asuntos de
cada corporación... serán gestionados por o bajo la dirección de una junta
directiva” (Código Corporativo de Delaware, 2016,
tít. 8, pár. 141a).
Esta ley
permite la centralización y delegación del poder, facilitando la separación
del control de aquellos que poseen un interés económico en el negocio
(Gramitto Ricci, 2019, p. 81). Esta separación de propiedad y control, junto
con una gestión centralizada delegada, puede permitir a las corporaciones
comerciales abordar proyectos que exceden la vida útil y el patrimonio de
cualquier individuo (Stout, 2015), (Jensen y Meckling, 1976).
Además, una literatura sólida articula cómo empoderar a los accionistas
crea más problemas para la gobernanza corporativa de los que resuelve.
Lynn Stout explicó cómo dar control a los accionistas sobre las decisiones
corporativas les permitiría dirigir a la corporación hacia sus propios
objetivos en lugar de hacia los objetivos de la entidad corporativa en sí (Stout,
2007, pp. 792-798). De hecho, los directores de la junta juegan un papel
fundamental en la mediación de los intereses de quienes hacen inversiones
específcas en una empresa y en la búsqueda de los objetivos de la entidad
corporativa (Blair y Stout, 1999). Tener un proceso para seleccionar y elegir
a quienes están al mando de una entidad, al mismo tiempo que se brinda
a los individuos con intereses en la entidad la capacidad de votar en dicho
proceso, son características comunes en muchos sistemas colectivos que
funcionan adecuadamente (Stout, 2007, p. 793), (Gramitto Ricci, 2019).
Además, las obligaciones fduciarias que los directores de la junta deben
a la corporación y a la ley guían la toma de decisiones de los directores
de la junta mientras les proporcionan el margen necesario para ejercer su
35
Revista Facultad de Jurisprudencia No.15
juicio (Blair y Stout, 1999, p. 291). Evidentemente, el modelo de gobernanza
corporativa centrado en la junta, completo con las obligaciones fduciarias
de los directores y la protección otorgada a los directores para decisiones
informadas tomadas en interés de la corporación, generalmente satisface los
objetivos subyacentes a la separación de propiedad y control.
Pese a lo que menciona la literatura que cuestiona el intercambio positivo
de la separación de propiedad y control, las obligaciones fduciarias para los
directores en las corporaciones controladas por juntas suelen ser sufcientes
para garantizar una gobernanza corporativa relativamente sólida (Stout,
2003). Sin embargo, a pesar de tener obligaciones fduciarias, los directores
humanos pueden cometer errores humanos, pueden tomar malas decisiones,
pueden sufrir la presión de los mercados o de los accionistas, pueden sentirse
atraídos por incentivos distorsionados, pueden eludir sus responsabilidades
y pueden robar (Stout, 2003, pp. 682, 709). Frente a este panorama, se le
asigna a la IA la tarea prospectiva de corregir los riesgos derivados de la
falibilidad humana de los directores.
Sin embargo, aunque a menudo se consideran los avances tecnológicos
como soluciones a la gobernanza humana imperfecta, la gobernanza a
través de IA genera, en realidad, una serie de nuevas cuestiones legales,
morales y éticas.
Agencia y capacidad legal
Con el fn de ser conciso, este artículo no aborda la defnición legal de los
directores ni si estos actúan como fduciarios o agentes de una corporación;
tampoco examina la califcación legal de la relación entre los directores de
la junta y la entidad corporativa —o entre los directores de la junta y los
accionistas—. Sin embargo, este artículo señala que los directores tienen
la capacidad de tomar decisiones y actuar en nombre de una corporación
debido a dos factores entrelazados: la agencia y la capacidad legal
.
Primero, los directores de la junta pueden pensar, tomar decisiones y
actuar en nombre de una corporación porque pueden recopilar información,
elaborarla a través de sus habilidades intelectuales, tomar decisiones
y emprender acciones como agentes —la naturaleza les otorga estas
36
Agentes artifciales en las juntas corporativas
habilidades—. En segundo lugar, los directores corporativos pueden pensar
y actuar en nombre de una corporación porque tienen capacidad legal —la
ley les concede esta capacidad—. En otras palabras, las personas naturales
pueden servir como directores de la junta porque poseen tanto agencia como
capacidad legal
.
A tal fn, aunque este Artículo se abstiene de discutir si los directores de
la junta son agentes o fdeicomisarios desde un punto de vista legal, parece
importante introducir una defnición de agencia desde un enfoque práctico
y algo flosófco. Se hace referencia a un agente como cualquier persona que
sea capaz de completar una tarea de manera autónoma. A diferencia de una
defnición legal de las relaciones de agencia, que implicaría la refexión sobre
el principal de algunas consecuencias legales de las acciones de un agente
(Allen y Kraakman, 2017), aquí, se pone énfasis en la mera capacidad de un
agente para determinar de manera independiente un curso de acción con el
fn de lograr un resultado. En otras palabras, este artículo hace referencia a un
agente como cualquier actor capaz de lograr autónomamente resultados que
requieren habilidades “físicas” y/o “intelectuales”. Esta cualidad pertenece a
los humanos, así como a varias formas de IA. En este sentido, en la literatura
técnica de ciencias de la computación, el término agente “representa un
amplio grupo de tecnologías y un extenso programa de investigación dentro
de la inteligencia artifcial, todos preocupados por sistemas de procesamiento
de información relativamente autónomos” (Chopra y White, 2011).
Adoptando una defnición clásica de la literatura sobre inteligencia
artifcial, tanto los humanos como las máquinas de IA “pueden ser
considerados como percibiendo [su] entorno a través de sensores y
actuando sobre ese entorno a través de efectores” (Russell y Norvig, 1995).
En este sentido, tanto los humanos como las máquinas de IA son agentes
inteligentes: los humanos son agentes naturales, y las máquinas de IA son
agentes artifciales. Sin embargo, los humanos tienen capacidad legal, y las
máquinas de IA no.
La capacidad legal humana, al igual que el “ser humano” en el enigma
de la Esfnge, “camina sobre cuatro patas por la mañana, sobre dos patas al
mediodía y sobre tres patas por la noche” (Sófocles, 2007). La capacidad legal
de un ser humano no es estática; evoluciona. De hecho, la capacidad legal de
37
Revista Facultad de Jurisprudencia No.15
un ser humano sigue evolucionando desde el inicio de la vida hasta la adultez,
cuando tiende a ser completa, y a veces se reduce a medida que la vida avanza
y la persona envejece. Sin embargo, la capacidad legal no es exclusiva de
los humanos; como se mencionó anteriormente, las corporaciones también
tienen capacidad legal. Las corporaciones pueden poseer activos, asumir
pasivos, cometer delitos civiles, celebrar contratos, presentarse en juicios e
incluso ejercer algunos derechos constitucionales típicos de las personas.
La capacidad jurídica de las entidades legales se conoce comúnmente
como personalidad jurídica, aunque dicho lenguaje es subóptimo y podría
ser confuso por dos razones. Primero, existe el riesgo de que la etimología del
término pueda sesgar la evaluación de si las entidades legales deberían tener
derecho a todos los mismos derechos de la personalidad reconocidos para los
humanos. Esto podría tener ramifcaciones en el debate sobre qué derechos
deberían tener las corporaciones. En segundo lugar, un lenguaje que incluya
el término persona podría parecer insinuar que las corporaciones y otras
entidades legales tienen alguna forma de agencia inherente, es decir, que son
capaces de elaborar decisiones y tomar acciones de manera independiente
y autónoma sin intervención humana. Sin embargo, esto sería engañoso
porque, al menos hoy en día, las corporaciones dependen de agentes humanos
para funcionar.
En resumen, los humanos son agentes con capacidad legal, las
máquinas de inteligencia artifcial son agentes sin capacidad legal, y las
corporaciones tienen capacidad legal, pero dependen de agentes humanos.
Por lo tanto, surgen tres preguntas. ¿Pueden las personas jurídicas, es decir,
las corporaciones empresariales, actuar como directores?
9
¿Pueden los
agentes sin capacidad legal actuar como directores? ¿Pueden las máquinas
de inteligencia artifcial desempeñar el papel de directores de junta? Las tres
preguntas están interrelacionadas, el derecho romano, la jurisprudencia y
la práctica empresarial ofrecen una fuente increíble para buscar respuestas
informadas a estos dilemas.
9
A diferencia de las personas naturales, las personas jurídicas no existen en la naturaleza, sino que son
creadas mediante acción política y humana. Para un análisis más detallado véase Gramitto Ricci, 2019.
38
Agentes artifciales en las juntas corporativas
Una respuesta breve, superfcial y algo inútil
La respuesta a la pregunta de si las personas jurídicas —como las
corporaciones empresariales— pueden actuar como directores de la junta
depende en gran medida de la jurisdicción. Por lo tanto, se va a limitar el
alcance de la pregunta “¿pueden las personas jurídicas actuar como directores
de la junta?” a la ley corporativa de Delaware y relacionarla con la pregunta
“¿podrían las máquinas de IA actuar como directores de la junta?”
En Delaware, las personas jurídicas no humanas no pueden actuar
como directores de la junta porque la Ley General de Corporaciones de
Delaware (DGCL) exige que los directores sean personas naturales (Código
Corporativo de Delaware, 2016, tít. 8, pár. 141b). Así que la respuesta a la
primera pregunta es no. Pero antes de responder a la segunda pregunta,
parece relevante aclarar qué signifca que las personas jurídicas puedan
actuar como directores de la junta en otras jurisdicciones.
En algunas jurisdicciones, la ley de sociedades permite —o solía
permitir— que las personas jurídicas sean nombradas directores corporativos.
No obstante, incluso en tales jurisdicciones, la junta está compuesta al fnal
por personas naturales. Considere cómo funcionaría el nombramiento de
una corporación como miembro de la junta.
En resumen, la Corporación A podría ser nombrada directora de la
Corporación B; sin embargo, una vez nombrada, la Corporación A no
podría físicamente asistir a la junta directiva de la Corporación B —¿cómo
podría hacerlo? —. En su lugar, la Corporación A designaría a una persona
humana para que ocupe un puesto en la junta de la Corporación B y actúe
en nombre de la Corporación B como un componente de su junta. Por lo
tanto, en última instancia, solo los humanos actúan y piensan en nombre
de una corporación. Dado que las corporaciones dependen de los humanos
para tomar decisiones, incluso cuando, bajo la ley, las personas jurídicas
pueden ser nombradas directores de la junta, necesitarían externalizar la
tarea a individuos.
Es importante considerar las implicaciones de gobernanza que podrían
surgir de la posibilidad de que una persona jurídica sea nombrada como
39
Revista Facultad de Jurisprudencia No.15
directora de otra corporación. En general, las leyes corporativas que
permiten a las personas jurídicas ser elegidas directores de la junta permiten
la interposición de un intermediario —la persona jurídica elegida como
directora— entre la corporación y los directores que realmente toman
decisiones en nombre de dicha corporación. Al fnal, todos los directores serán
humanos, pero no todos los directores serían seleccionados por los propios
accionistas de la corporación, en su lugar, algunos serían seleccionados
por otra persona jurídica, por ejemplo, una corporación. En el caso de las
corporaciones elegidas como directores de la junta, surgen al menos dos
preocupaciones adicionales. Primero, podría ser difícil determinar quiénes
son los accionistas de la corporación elegida como directora (Department
for Business Innovation & Skills, 2013). Segundo, los directores corporativos
presentan problemas de responsabilidad porque formalmente la entidad
designada como directora es una persona jurídica, no un individuo, y esto
se vuelve particularmente signifcativo al considerarlo junto con la opacidad
en la estructura de propiedad de un director corporativo (Department for
Business Innovation & Skills, 2014). Por estas razones, no es sorprendente
que la ley de Delaware, que ofrece fuertes defensas a las decisiones de los
directores, excluya la posibilidad de que una entidad distinta a los accionistas
de la corporación elija a los directores
10
.
El poder de los accionistas para elegir a los directores es un elemento
fundamental en la fórmula de separación de propiedad y control en las
corporaciones. Al fnal, se trata de responsabilidad: los accionistas tienen
el poder de elegir a los directores; por lo tanto, si eligen a los fduciarios
incorrectos, ellos mismos son responsables. Este principio data de la época
en la que los ciudadanos romanos se elegían entre sí para formar sus
asociaciones
11
. No obstante, tal principio se vería frustrado si se permitiera
que un tercero seleccionara a los directores.
Alternativamente, suponiendo que la IA tuviera capacidad jurídica, si
una máquina de IA fuera nombrada como directora de la junta, no tendría
que designar a un humano para realizar la tarea, en cambio, una máquina de
10
Sobre los posibles benefcios de nombrar a personas jurídicas y corporaciones como directores de la
junta, consultar Bainbridge, 2017, pp. 71-73.
11
Los romanos vivían bajo el principio de que uno debe responsabilizarse a sí mismo cuando elige
un socio incorrecto. Este adagio podría aplicarse a cualquier selección de fduciarios, incluidos los
directores de la junta.
40
Agentes artifciales en las juntas corporativas
IA podría servir como directora de la junta por sí misma y utilizar su propia
mente; podría actuar como un agente autónomo. Sin embargo, una máquina
de IA no puede actualmente servir como directora de la junta debido a dos
obstáculos en la ley corporativa de Delaware: (1) las máquinas de IA no son
personas naturales; y (2) incluso si se permitiera que las personas jurídicas
sirvieran como directores de la junta, la IA aún no tiene personalidad jurídica.
En consecuencia, la intervención legislativa requeriría dos pasos.
Primero, la ley corporativa de Delaware tendría que permitir que las
personas jurídicas sean nombradas directores de la junta. Segundo, la ley
corporativa de Delaware tendría que otorgar personalidad jurídica a la
IA. A nivel general, esto puede parecer una solución viable para permitir
que las máquinas de IA sean directores de la junta. Pero al analizarlo más
detenidamente, no cumpliría con el objetivo. No abordaría el verdadero
aspecto que hace únicas a las máquinas de IA como directores de la junta.
Las máquinas de IA serían las primeras entidades no humanas en servir
físicamente como directores de la junta en la historia. Específcamente, como
se mencionó anteriormente, nombrar a máquinas de IA como directores
de la junta difere de nombrar a corporaciones como directores de la junta
porque la máquina de IA designada sería la fduciaria que realmente tomaría
las decisiones en nombre de la corporación, el director artifcial. A diferencia
de los directores corporativos, la máquina de IA designada no elegiría a un
representante humano para tomar decisiones por ella.
Los accionistas de una corporación serían responsables de elegir a los
directores de la corporación, sean estos humanos o artifciales. Sin embargo,
la intervención legislativa también tendría que enfrentar un obstáculo
diferente e insuperable: la rendición de cuentas.
Hoy en día, los directores artifciales serían irreprensibles. No tendrían
“alma que condenar ni cuerpo que patear” (King, 1977; citado en Cofee,
1981); no poseerían bienes ni asumirían responsabilidades; y no tendrían una
reputación social ni una personalidad profesional que proteger. En particular,
incluso si se les concediera capacidad legal, seguirían sin ser responsables
ya que no participarían en la sociedad humana y, más importante aún, no
tendrían conciencia ni conciencia moral, al menos por el momento.
41
Revista Facultad de Jurisprudencia No.15
Al considerar cómo resolver este problema de rendición de cuentas, y
dado que los agentes artifciales en las juntas directivas son un fenómeno
nuevo en el ámbito corporativo, algunas consideraciones sobre un arreglo
funcionalmente comparable en la historia de la organización empresarial
podrían ser útiles para algunas refexiones preliminares.
En consecuencia, este artículo considerará la
negotiatio per servos communes
cum peculim
(una forma organizativa para negocios conjuntos realizados a
través de un esclavo comúnmente poseído), que es un modelo desarrollado en
la Antigua Roma basado en una estructura similar, aunque evidentemente
no idéntica (Abatino, Dari-Mattiaci y Perotti, 2011, pp. 369-370).
E. El
negotiatio per servos communes cum peculium
Los romanos desarrollaron un modelo organizativo para los negocios
basado en el uso de seres humanos altamente inteligentes y capacitados que
carecían de capacidad legal, el
negotiatio per servos communes cum peculium.
El
pilar operativo de un
negotiatio per servos communes cum peculium
se asemeja a
la adopción de la IA en las juntas directivas, pero en lugar de usar IA, los
emprendedores romanos copropietarios de esclavos inteligentes y capacitados
les otorgaban ciertos activos, denominados colectivamente
peculium
, para
administrar negocios colectivos (Abatino, Dari-Mattiaci y Perotti, 2011, p.
371). Normalmente, los copropietarios asignaban a sus esclavos para realizar
negocios comerciales (
praepositio institoria
) o negocios de transporte marítimo
(
praepositio exercitoria
) (pp. 371-373). Similar a la IA, los esclavos romanos
podían ser comprados y copropietarios de la misma manera que los bienes
(p. 370). Muchos de ellos tenían un alto nivel de educación y un notable
sentido comercial (Mohler, 1940).
En la Roma antigua, el
Ius Naturale
(Kroger, 2004)
12
reconocía a los
esclavos como personas (Guarino, 1963). Este estatus venía con un conjunto
de derechos básicos relacionados estrictamente con su naturaleza humana
y su conciencia. Por ejemplo, los esclavos, como personas, tenían el derecho
a ejercer la religión (Gramitto Ricci, 2019). Sin embargo, al mismo tiempo,
no tenían capacidad legal (Abatino, Dari-Mattiaci y Perotti, 2011, p. 377).
De hecho, las leyes y la sociedad romanas trataban a los esclavos como
12
En la Roma antigua, el
Ius Naturale
era el conjunto de leyes que determinaba qué derechos y deberes
tenían los seres vivos por el simple hecho de existir.
42
Agentes artifciales en las juntas corporativas
bienes, por lo que los copropietarios de un
negotiatio cum peculium
podían
poseerlos como cualquier otro activo de sus empresas (p. 371)
13
. En resumen,
los esclavos romanos no tenían ninguna capacidad legal más allá de los
derechos reconocidos por el
Ius Naturale
a todas las personas, los derechos de
personalidad. Vistos de esta manera, los romanos esencialmente designaron
a “bienes” conscientes e inteligentes que carecían de capacidad legal para
gestionar sus empresas. Los esclavos romanos dirigían el negocio del
negotiatio
cum peculium
en nombre de sus copropietarios, pero debido a que no tenían
capacidad legal ni
domincia potestas
, no podían por sí mismos contratar y
hacer negocios con terceros (p. 377). Los esclavos romanos eran el cerebro
detrás del negocio del
negotiatio cum peculium
, pero simultáneamente carecían
de capacidad legal.
Es cierto que la analogía debe reconocer que las máquinas de IA son
agentes artifciales y los esclavos eran humanos; no obstante, la falta de
capacidad legal de los esclavos romanos, combinada con su estatus como
“bienes”, hace que sus relaciones con los copropietarios sean funcionalmente
comparables a las relaciones entre las máquinas de IA y las corporaciones
que hipotéticamente las nombrarían directores.
Específcamente, tanto los esclavos romanos como las máquinas de IA son
ejemplos de agentes no ciudadanos, y, por ende, serían directores artifciales.
Esta exclusión de la ciudadanía, y por lo tanto de la sociedad, interrumpe los
lazos sociales típicos que constituyen el tejido de la responsabilidad. Además,
los esclavos romanos tenían casi ninguna capacidad legal y las máquinas
de IA actualmente no tienen ninguna capacidad legal. Pero incluso si las
máquinas de IA y los directores artifciales tuvieran capacidad legal, esta
capacidad no sería sufciente para hacerlos responsables.
Una razón es que, sin un sentido de ciudadanía y sociedad, no se
aplicaría responsabilidad social a las máquinas de IA, no habría presiones
sociales que limitaran la toma de decisiones de la IA. Más importante aún,
a menos que las máquinas de IA desarrollen una sufciente conciencia para
poder ejercer la moral y la ética y experimentar sensaciones similares a las
13
Véase también Guarino, 1963, pp. 200–201, 211, aclarando que los esclavos romanos carecían
de capacidad legal, pero eventualmente desarrollaron una forma de mera capacidad de acción,
denominada “mera capacità di agire”, según la cual sus acciones podían tener fuerza legal en benefcio
de sus propietarios o, en ocasiones, en su propio interés, si llegaban a ser liberados.
43
Revista Facultad de Jurisprudencia No.15
humanas, sería mucho más difícil hacer responsables a las máquinas de IA y
a los directores artifciales que a los esclavos romanos. De hecho, a diferencia
de los esclavos romanos, las máquinas de IA y los directores artifciales no
tienen almas ni cuerpos sensibles.
Otra diferencia importante entre los esclavos y la IA es su relación con
sus principales. La relación entre los amos romanos y los esclavos estaba en
gran medida caracterizada por un sistema de castigos e incentivos, incluyendo
la manumisión (Black’s Law Dictionary 2019),
14
que simplemente no podría
replicarse para las máquinas de IA potencialmente sirviendo como directores
corporativos. Una máquina de IA no puede ser liberada ni castigada en un
sentido típico; golpear una máquina de IA no infuiría en absoluto en su
toma de decisiones o, si golpear la máquina de IA infuyera en su toma de
decisiones porque la máquina tuviera consciencia, golpearla debería ser
simplemente prohibido.
Según estas consideraciones, para funcionar y ser responsable, los
directores artifciales necesitarían capacidad legal, percepción y conciencia.
Pero qué tipo de capacidad legal sería adecuada para los agentes artifciales
conscientes es una cuestión que requiere algunas refexiones preliminares
sobre qué es la capacidad legal y qué consecuencias tendría la percepción y
conciencia para la IA.
PARTE II.
Capacidad legal, responsabilidad y
consciencia.
¿Es la
personalidad jurídica la solución?
Los romanos, quienes inventaron la capacidad legal para entidades no
humanas, nunca basaron la personalidad jurídica en las corporaciones.
15
Tampoco desarrollaron una teoría de la personalidad jurídica basada en
la transferencia de capacidades humanas, legales, políticas o espirituales a
entidades no humanas. Además, los romanos se abstuvieron consistentemente
de usar el concepto de personalidad para referirse a los atributos legales
14
“Aunque el porcentaje preciso de esclavos que alguna vez fueron liberados ha sido muy debatido por
los académicos modernos, las fuentes antiguas sugieren claramente que la manumisión era rutinaria y
común en el mundo romano” (Perry, 2014).
15
“Se debe admitir que no existe ningún texto que llame directamente a la universitas una persona, y
mucho menos alguno que la denomine persona fcta” (Frederic William Maitland citado por Dewey,
1926).
44
Agentes artifciales en las juntas corporativas
concedidos a las corporaciones.
16
Al mismo tiempo, Roma creó la tecnología
legal que primero materializó la capacidad legal para entidades legales
no humanas con el fn de gestionar su sistema de gobierno municipal. En
particular, los romanos otorgaron capacidad legal a pueblos y ciudades para
elevarlos al rango de entidades legalmente capaces.
17
Al hacerlo, el Estado
romano inventó y elaboró los conceptos de “propiedad corporativa” y “acción
corporativa” para convertir ciudades y pueblos en entidades capaces de
asumir derechos, deberes y responsabilidades (Eliachevitch, 1942). De hecho,
la invención de la capacidad legal para entidades legales no humanas es quizás
el logro más destacado del sistema gubernamental romano (Burdick, 1946),
(Duf, 1938, p. 62). Las ciudades y pueblos romanos se llamaban
municipia
,
que proviene de las palabras latinas “munus” y “capere” (Abbott, 1926, pp.
8-9), (Eliachevitch, 1942, pp. 103-115). Donde la primera se traduce como
“deber” u “obligación”, la segunda se traduce como “tomar”. Se debate si el
término “municipium” describía la relación entre los pueblos y Roma como
un estado o la relación entre una ciudad y sus ciudadanos. (Eliachevitch,
1942, pp. 103-115), (Guarino, 1963, p. 207).
18
Independientemente de las
connotaciones exactas del término
municipium
, la etimología de la palabra
atestigua que las ciudades y pueblos podían asumir deberes y obligaciones
(Abbott, 1926, pp. 8-9). Los romanos llamaban a estas entidades legales
no humanas
universitates
(Smith, 1859, pp. 1214-1217). El término latino
universitas
deriva de “in unum vertere”, que signifca “convertir una multitud
en uno”. La palabra
universitas
describía el concepto resultante de convertir
una multitud de personas y cosas en entidades capaces de tener derechos y
obligaciones (Blackstone, 1765, p. 469).
Para este fn, el concepto de
universitas
implicaba al menos cuatro
consecuencias legales. Primero, una
universitas
poseía activos y asumía
responsabilidades en su propio nombre. Segundo, los activos, derechos,
deberes y obligaciones de una
universitas
eran separados y distintos de los
de las personas naturales que la componían o con las que estaba asociada.
16
Véase también Guarino, 1963, p. 206, aclarando que, considerando las cualidades humanas inherentes
necesarias para defnir qué era una persona en la Roma antigua, los romanos otorgaron capacidad
jurídica a entidades no humanas, pero siempre evitaron utilizar los términos personas jurídicas o
personalidad jurídica para referirse a dichas entidades.
17
Roma era tanto una ciudad capaz de actuar en el ámbito del derecho privado como la capital de un
estado soberano nacional capaz de otorgar capacidad jurídica a otras ciudades y pueblos. Véase Sohm,
1892, pp. 102-105.
18
“En el período republicano, cuando se usaba sin un adjetivo, Respublica expresaba Roma, pero en los
antiguos juristas signifca una Civitas dependiente de Roma” (Smith, 1859).
45
Revista Facultad de Jurisprudencia No.15
Tercero, una
universitas
podía actuar e interactuar con humanos y otras
entidades legales no humanas a través de delegados humanos. Cuarto, los
humanos formaban la voluntad y determinaban las acciones y decisiones de
una
universitas
de acuerdo con modelos de gobernanza específcos, en otras
palabras, la fórmula de toma de decisiones de una
universitas
dependía de
seres humanos y modelos organizacionales.
En el lenguaje actual,
universitas
podría traducirse como persona
jurídica o corporación, donde ambos términos indican entidades que reciben
la capacidad de tener derechos y deberes a través de la acción política, no
porque pertenezcan a la especie humana.
Las universitates no eran personas
A pesar de tener capacidad jurídica, las universitates no eran “personas”,
no eran
personae
bajo el derecho romano. La palabra “persona” generalmente
signifcaba “máscara”, “carácter” o “individuo” (Smith, 1859, p. 889).
19
Pero los romanos también le atribuyeron un signifcado legal: el término
persona se usaba para indicar a cualquier ser humano físicamente sano,
20
independientemente de su estatus cívico, que era reconocido con algunos
derechos y libertades por el simple hecho de ser un ser humano físicamente
sano(Guarino, 1963, p. 198). Esto explica por qué, como se mencionó, el Ius
Naturale otorgaba una serie de derechos y libertades, incluyendo derechos
religiosos, a cada persona. Para recibir tales derechos derivados de su condición
de ser viviente, no importaba si los individuos tenían capacidad jurídica,
siempre que fueran seres humanos físicamente sanos. En consecuencia, estos
derechos y libertades se consideran mejor como derechos de la personalidad,
derechos del ser humano natural. En Roma, estos derechos se veían como
intrínsecos al estatus humano, no otorgados por el estado (Kroger, 2004,
pp. 909–910). De esto se puede inferir que los derechos de la personalidad
derivaban del reconocimiento de una conciencia inherente, combinada con
una conciencia moral, y agencia, no del estatus cívico o legal.
19
La cuestión sobre si el término persona deriva de la palabra griega antigua “[prósōpon]”, que signifca
“cara”, “máscara” o “persona”, o del verbo latino “personare”, que se traduce como “sonar a través
de”, sigue siendo debatida. Para un análisis de los orígenes y el signifcado del término persona. Véase
Canale, 2015, pp. 116-118.
20
En la Antigua Roma, los humanos deformes eran considerados monstruos (“monstra”) en lugar de
personas (“personae”) (Guarino, 1963, p. 199).
46
Agentes artifciales en las juntas corporativas
De hecho, el Ius Naturale reconocía y protegía derechos inherentes que
están arraigados en la naturaleza moral y racional de los seres humanos. Y
los principios éticos del Ius Naturale derivaban de la naturaleza común que
los humanos compartían con otros seres vivos.
Como testifcó el jurista romano Ulpiano, en la Antigua Roma el Ius
Naturale consideraba a todos los seres humanos, incluyendo a los esclavos,
como iguales. Por el contrario, dado que las entidades jurídicas no humanas
no tenían naturaleza humana, los romanos no los llamaban personas jurídicas.
En consecuencia, para los romanos, las entidades jurídicas no humanas
no poseían libertades o derechos —por ejemplo, derechos religiosos— que
caracterizan a los seres morales y racionales, las personas (Sohm, 1892, p.
102), (Abatino, Dari-Mattiaci y Perotti, 2011, p. 368). Así, las
universitates
tenían capacidad jurídica, pero no tenían derechos religiosos. En resumen,
los esclavos romanos no podían poseer bienes, pero tenían derechos de la
personalidad, mientras que las entidades jurídicas no humanas tenían
capacidad jurídica —incluida la capacidad de poseer bienes—, pero no
poseían los derechos de la personalidad.
Personalidad jurídica o personalidad artifcial
Incluso hoy en día, la acción estatal es necesaria para determinar y
otorgar los derechos y deberes asociados a la capacidad jurídica tanto para
humanos como para entidades no humanas. Debido a que la acción estatal a
través de la ley es necesaria para que las corporaciones existan y se conviertan
en entidades que ostentan derechos, deberes y libertades, se hace referencia
a tales entidades jurídicas no humanas como “personas jurídicas” para
diferenciarlas de las personas naturales, es decir, individuos humanos cuya
existencia no requiere intervención política. La fórmula que proporciona a las
entidades capacidad jurídica —el conjunto de derechos, deberes y autonomía
normalmente reservados para los individuos— se conoce comúnmente como
“personalidad jurídica” (D’Alessandro, 1989, pp. 1-2). SinNo embargo,
“persona jurídica,” “personalidad jurídica,” y “personalidad” existen solo
como símbolos lingüísticos. La fuerza normativa de sus designaciones depende
exclusivamente de las capacidades que un estado les atribuye, comenzando
por su capacidad de existir. Es importante notar que, a diferencia de los
individuos, las personas jurídicas no existen en la naturaleza, o sea, no existen
47
Revista Facultad de Jurisprudencia No.15
sin intervención humana y legal (Ciepley, 2013, pp. 139-141). Además, como
símbolos lingüísticos que representan capacidades jurídicas, los conceptos
de “personalidad jurídica”, “personalidad” y “personas jurídicas” no deben
entenderse como “personas” o “personalidades” manufacturadas que
llevan los mismos derechos, deberes, morales y ética de los seres humanos.
Muy al contrario, deben interpretarse como símbolos que representan tres
características únicas de tales entidades: (1) la capacidad de tener derechos,
obligaciones, deberes y responsabilidades, (2) la posesión de un conjunto de
derechos y deberes subjetivos otorgados por el estado y (3) la separación de
otras personas naturales y jurídicas.
Las personas jurídicas no necesitan percepción para funcionar porque
dependen de la percepción y la conciencia de sus agentes humanos. En otras
palabras, estas entidades pueden persistir como personas jurídicas, en parte,
debido a su dependencia de los agentes humanos. Pero en el caso específco de
la IA, no existe una salvaguarda humana —las máquinas de IA no dependen
de los agentes humanos—. Así, ningún agente humano está sustituyendo la
responsabilidad del agente artifcial. Esta consideración plantea la pregunta:
¿tiene sentido discutir la personalidad jurídica para la IA? Si depender de los
agentes humanos y su percepción y conciencia es una característica esencial
de las personas jurídicas, entonces la personalidad jurídica no se ajustaría
a los agentes artifciales. Esto plantea algunas preguntas adicionales: (1)
¿es la dependencia de los agentes humanos y su percepción y conciencia
una característica esencial de las personas jurídicas?, (2) ¿deberían las
máquinas de IA desarrollar percepción y conciencia?, y (3) si las máquinas
de IA desarrollan percepción y conciencia, ¿sería la concesión de una gama
completa de derechos de personalidad junto con las capacidades jurídicas
típicas de las personas jurídicas la solución?
Como anticipación, ni la personalidad natural ni la personalidad
jurídica probablemente se ajustarían a las máquinas de IA, pero una
nueva forma de personalidad artifcial podría ser una solución posible para
considerar (Parlamento Europeo, 2017, pár. 59f). Sin embargo, al igual
que la personalidad jurídica, la personalidad artifcial sería simplemente un
símbolo lingüístico. Sería un lenguaje que necesita ser llenado de signifcado.
48
Agentes artifciales en las juntas corporativas
El contenido real dependería en última instancia de si las máquinas de IA
desarrollan una conciencia y alcanzan un nivel signifcativo de percepción y
responsabilidad.
Argumentos legales y morales en contra del uso de la
inteligencia artifcial
La responsabilidad de las máquinas de IA requeriría el desarrollo
de una forma de conciencia artifcial y una consciencia, así como una
forma de sistema social que pudiera proporcionar incentivos para las
máquinas —una combinación de ley moral interna con algunas formas
de relaciones sociales—. En otras palabras, responsabilizar a las máquinas
de IA probablemente requeriría un enfoque doble basado en otorgar a las
máquinas de IA percepción y conciencia, así como en emplear sistemas de
incentivos para ellas; un componente sin el otro podría no lograr un resultado
completamente satisfactorio. Sin embargo, una conciencia sin percepción
podría no ser concebible, y la percepción conlleva la capacidad para las
emociones y plantea la cuestión moral de si la IA podría convertirse en un
ser sensible —si podría experimentar sufrimiento (Beckers, 2018, pp. 89–
91)—. Las inquietudes de que tal entidad podría sufrir o, alternativamente,
podría volverse hostil hacia la humanidad, han llevado a la humanidad a
enfrentarse al dilema de si crear IA consciente en primer lugar
21
. Dado que
este artículo traza una analogía funcional entre el uso de la inteligencia de
los esclavos en la Roma Antigua para la toma de decisiones y la posible
utilización futura de la IA en juntas corporativas, es importante advertir
que, si la IA alguna vez evoluciona como un sistema consciente bajo el
control humano, existe el riesgo de obtener un resultado muy indeseable.
Los avances tecnológicos podrían instaurar, a través del uso de IA con
consciencia, un patrón similar a la esclavitud en la Roma Antigua. Para
los esclavos romanos, sus vidas eran duras, por decir lo menos, y cualquier
estructura social que se asemejara, siquiera vagamente, a la esclavitud sería
absolutamente inaceptable (PBS, s.f.).
21
Beckers advierte que, sin una teoría sólida de la inteligencia que pueda usarse para evaluar la IA, sería
difícil determinar cuándo y cómo se puede considerar que la IA es más inteligente que los humanos.
Por ejemplo, plantea que la IA podría “ser capaz de un grado extremo de empatía”. (2018, p. 90).
49
Revista Facultad de Jurisprudencia No.15
Por lo tanto, las propuestas presentadas en este artículo solo deben
considerarse si se puede excluir defnitivamente la creación de un resultado
tan indeseable. De lo contrario, el desarrollo de la percepción en la IA debería
ser abandonado por completo. En resumen, la responsabilidad dependería
en última instancia de que la IA tenga una conciencia, pero una conciencia
podría requerir consciencia, y otorgar percepción a la IA implicaría
consecuencias demasiado amplias y numerosas que deberían ser objeto de
discusión en diversas áreas. Este parece ser el verdadero dilema del Nirvana
de la gobernanza de la IA: la gobernanza se basa en la responsabilidad, la
responsabilidad presupone una conciencia, una conciencia podría presuponer
percepción, y la percepción para la IA implicaría una gran incertidumbre y
variabilidad que probablemente necesite años de investigación en campos
como la informática, la flosofía y el derecho.
Una de estas consideraciones podría ser si fuese necesario alejarse de un
paradigma que considera a las máquinas de IA como “bienes” y adoptar un
concepto de agentes artifciales autónomos libres del dominio de los humanos.
Esta consideración, como muchas otras, podría plantear problemas sobre
las relaciones entre los humanos y las máquinas de IA, pero trasciende el
alcance de este artículo.
PARTE III.
Inteligencia artifcial en las juntas
corporativas de Delaware
Límites del alcance debido al dilema de la gobernanza
de IA
Como consecuencia del dilema del nirvana de la gobernanza de IA,
quedan solo dos opciones posibles para discutir qué roles podrían desempeñar
las máquinas de IA en las juntas directivas de Delaware. La primera opción
consiste en evaluar el posible empleo actual, mientras que la segunda
opción considera un escenario en el que las intervenciones legislativas
permitirían a las corporaciones de Delaware nombrar a personas jurídicas
como directores y otorgar a las máquinas de IA una forma de capacidad
legal igual a la proporcionada a las corporaciones comerciales, lo que se
denomina personalidad jurídica (Parlamento Europeo, 2017, pár. 57f). Bajo
estas reglas, este artículo considera tres posibles usos de las máquinas de IA
en las juntas directivas: (1) la IA como asistencia —¿o soporte tecnológico? —
50
Agentes artifciales en las juntas corporativas
para los directores de la junta, (2) la IA como un director en juntas híbridas,
parcialmente humanas y parcialmente artifciales, y (3) la IA como sustituto
de las juntas humanas.
Inteligencia artifcial como asistencia o soporte
tecnológico para los directores de la junta
Apoyar las decisiones de los directores con máquinas de IA capaces de
procesar grandes conjuntos de datos en periodos extremadamente cortos sería
el uso más simple de la IA en las juntas directivas corporativas
22
. La IA puede
recopilar, fltrar, analizar y elaborar información fnanciera y no fnanciera,
resultados comerciales e industriales, resultados de la competencia, noticias
mundiales, así como la cobertura de los medios de comunicación y las redes
sociales sobre la corporación, los competidores y muchos más tipos de datos
adicionales.
La IA podría complementar el conocimiento que ya poseen los directores
humanos y quizás proporcionar asistencia o apoyo tecnológico. Es posible
que la IA sea útil para los directores de la junta cuando se necesite procesar
un gran volumen de información en un corto periodo (Kamalnath, 2020).
Quizás las máquinas de IA también podrían proporcionar una forma de apoyo
tecnológico a los directores de la junta en el cumplimiento de sus deberes de
supervisión. En todos estos escenarios hipotéticos, algunas personas podrían
imaginar que los directores de la junta utilizan la IA simplemente como una
herramienta, pero el fenómeno es, en realidad, más complicado y quedan
por responder una serie de preguntas fundamentales. ¿Sería este uso de la IA
una forma de apoyo tecnológico comparable al uso actual de computadoras
y calculadoras? ¿Debería califcarse el uso de la IA como una (nueva) forma
de asistencia a los directores de la junta? ¿Cómo se debe entender y regular
la responsabilidad en los casos en que los directores de la junta utilicen la IA
para tomar sus decisiones? Estas preguntas necesitarían respuestas antes de
que los directores comiencen a usar la IA, y las respuestas a estas preguntas
probablemente tendrían ramifcaciones signifcativas en el escenario global
de la gobernanza corporativa.
22
La naturaleza del uso de IA por parte de los directores aún debe ser analizada: aunque podría parecer
una evolución del empleo de la tecnología de la información en las juntas directivas, podría tener que
considerarse como una revolución completa en los procesos de toma de decisiones de los directores.
Para una discusión general sobre el papel actual de la tecnología de la información en las juntas
directivas, véase Nolan y F. Warren McFarlan, 2005.
51
Revista Facultad de Jurisprudencia No.15
Si se observa específcamente la ley corporativa de Delaware, es
particularmente relevante considerar qué papel podría desempeñar la IA con
respecto a la protección que el §141(e) del Código Corporativo de Delaware
otorga a los directores de la junta. De hecho, en Delaware, los directores
humanos que confían de buena fe en las opiniones proporcionadas por
ciertos sujetos pueden proteger sus decisiones a través del §141(e) del Código
Corporativo de Delaware que establece que un director de la junta está
totalmente protegido al confar de buena fe en los registros de la
corporación y en la información, opiniones, informes o declaraciones
presentadas a la corporación por cualquiera de los ofciales o empleados
de la corporación, o por los comités del consejo de administración, o
por cualquier otra persona en asuntos que el miembro razonablemente
crea que están dentro de la competencia profesional o experta de dicha
persona y que haya sido seleccionada con el cuidado razonable por o en
nombre de la corporación. (2016)
Para que se aplique la protección bajo el §141(e), el Código Corporativo
de Delaware requiere que las opiniones en las que se basan los directores
humanos provengan de los siguientes sujetos:
funcionarios o empleados de la corporación, o comités de la junta
directiva, o cualquier otra persona en relación con asuntos que el
miembro crea razonablemente que están dentro de la competencia
profesional o experta de esa otra persona y que ha sido seleccionada
con cuidado razonable por o en nombre de la corporación. (2016)
Con base en esto, parece importante considerar si y cómo podría la IA
desempeñar un papel en la formación de opiniones bajo el §141(e).
En el escenario actual, las máquinas de IA no podrían proporcionar
opiniones bajo el §141(e) porque no son sujetos listados en
él
y porque no
son personas, ya sean legales o naturales. Por lo tanto, queda por discutir si
los directores de la junta podrían solicitar protección bajo el §141(e) en casos
en los que los sujetos enumerados en este se perciban en una posición para
operar y dominar una máquina de IA.
52
Agentes artifciales en las juntas corporativas
¿Podrían los directores de la junta solicitar protección bajo el §141(e)
en casos en los que los sujetos enumerados
en él operen y dominen
completamente la máquina de IA y, en última instancia, ejerzan su propio
juicio humano, personal y profesional en la formación, desarrollo y provisión
de sus opiniones? ¿Sería posible determinar si un sujeto del §141(e) podría
considerarse en una posición para operar y dominar completamente una
máquina de IA? Si es así, ¿qué criterios deberían aplicarse para determinar
si un sujeto podría considerarse en una posición para operar y dominar
completamente una máquina de IA? ¿Seguiría considerándose que la opinión
proviene de un sujeto del §141(e), y no de la máquina de IA, en base a que
se considera que ha sido evaluada y modelada a través del juicio humano?
¿Podrían los directores confar en la responsabilidad de los sujetos del §141(e)?
Estas preguntas no parecen tener respuestas fácilmente disponibles, y
las respuestas probablemente dependerán de si sería posible que los sujetos
del §141(e) “dominen” una máquina de IA, así como determinar lo que
signifcaría “dominar” una máquina de IA. Si la máquina de IA pudiera
sufrir, cualquier forma de dominación que causara dolor a la máquina de
IA debería, por supuesto, estar prohibida, pero aquí la cuestión sobre la
capacidad de los sujetos del §141(e) para dominar realmente la máquina de
IA también debería ser entendido como una cuestión sobre si los sujetos del
§141(e) serían capaces de dominar la información que reciben de la máquina
de IA. En otras palabras, ¿los sujetos del § 141(e) correrían el riesgo de ser
“capturados” por la información que reciben de las máquinas de IA? ¿Se
esperaría que los sujetos del §141(e) ejercieran realmente su juicio profesional
e independiente? ¿O se espera que los sujetos del §141(e) no se sientan
cómodos al discrepar con las máquinas de IA?
Además, queda una pregunta más práctica sin respuesta: cuando los
directores reciben una opinión bajo el §141(e), ¿cómo pueden determinar si la
opinión fue realmente elaborada por los sujetos del §141(e)? En otras palabras,
¿cómo pueden los directores evaluar si los sujetos del §141(e) elaboraron la
opinión ellos mismos y ejercieron su juicio personal y profesional en lugar
de simplemente transmitir la opinión de una máquina de IA? Parece difícil
verifcar que los sujetos del §141(e) realmente elaboren la opinión usando su
propio juicio personal y profesional en lugar de simplemente transmitir lo
que reciben de la máquina de IA. Los riesgos asociados con esta asimetría de
53
Revista Facultad de Jurisprudencia No.15
información incluyen la posibilidad de que los directores confíen en opiniones
transmitidas por sujetos listados en el §141(e) del DGCL, pero elaboradas
por máquinas de IA, casos en los que los sujetos del §141(e) no ejercen su
juicio. Tal riesgo no es meramente teórico, formal o inconsecuente, conlleva
el peligro de que los directores confíen en opiniones formadas por sujetos no
responsables.
Por ejemplo, considerando que una situación urgente en la que los sujetos
del §141(e) simplemente procesan información a través de una máquina de
IA y no emplean su juicio personal y profesional para revisar los resultados
producidos por la máquina; si los sujetos del §141(e) transmiten esos resultados
como su opinión bajo el §141(e), los directores acabarían confando en una
opinión elaborada en última instancia por una máquina de IA no responsable.
Es cierto que los sujetos listados en el §141(e) serían responsables, pero el
verdadero tomador de decisiones —la máquina de IA— no lo sería. Es cierto
que el sujeto listado en el §141(e) asumiría el riesgo de ser responsable, pero
la corporación asumiría los riesgos asociados con decisiones basadas en
opiniones de tomadores de decisiones no responsables —máquinas de IA—.
Permitir que los directores confíen en opiniones fnalmente elaboradas por
máquinas no responsables —aunque los sujetos listados en el §141(e) aún
serían responsables— parece un escenario indeseable, por decir lo menos.
Si a las máquinas de IA se les concediera personalidad jurídica, quedaría
por responder si las opiniones proporcionadas por la IA podrían ofrecer
protección bajo el §141(e), ya que habría que determinar si las máquinas
de IA podrían califcar como personas para el propósito del §141(e), en
otras palabras, como sujetos del §141(e). Además, el enigma de la falta de
responsabilidad no se resolvería simplemente otorgando personalidad
jurídica: sin conciencia y sin una conciencia moral, las máquinas de IA
seguirían siendo irresponsables porque no responderían a incentivos y
normas morales que informan los procesos de toma de decisiones humanas.
Se deben considerar algunas cuestiones adicionales sobre los aportes
proporcionados por la IA. Por ejemplo, un escenario en el que los directores
de la junta reciban una opinión elaborada por máquinas de IA y dicha
opinión no pueda califcar como una opinión del §141(e). Si una opinión
proporcionada por una máquina de IA no califca como una opinión
54
Agentes artifciales en las juntas corporativas
del §141(e), no otorgaría la protección del §141(e). Sin embargo, para los
directores de la junta podría ser desafante ignorar o sobrepasar una opinión
proporcionada por una IA “superinteligente”. Los directores humanos
pueden sentirse excesivamente obligados a conformarse con las sugerencias
de la IA; si los directores de la junta discrepan de la opinión de la IA,
podrían sentirse obligados a explicar por qué decidieron ignorar o desviarse
completamente de las opiniones planteadas por la IA. Como resultado, la
presión para explicar por qué discrepan de la IA podría afectar fnalmente
la capacidad de los directores para ejercer un juicio independiente al tomar
una decisión (Macey, 2008).
Si bien es cierto que los directores ya enfrentan la posibilidad de
desviarse de las “opiniones del § 141(e)”, cuando las opiniones provienen
de una IA altamente inteligente, ya sea que califquen o no como opiniones
del § 141(e), podría haber un desafío psicológico mayor a superar antes de
decidir evitar las sugerencias de la máquina de IA. Además, la presión para
explicar por qué los directores de la junta ignoraron las sugerencias de la IA
podría volverse aún más apremiante si los sistemas judiciales comenzaran
a examinar la forma en que se han considerado las entradas de IA en el
proceso de toma de decisiones.
Juntas h
íbridas
La segunda forma de utilizar la IA en las juntas directivas podría
consistir en juntas híbridas, compuestas por una combinación de directores
artifciales y directores humanos tradicionales. Aunque la IA no necesitaría
ninguna forma de antropomorfsmo (características físicas humanas) para
ser designada como directora de la junta, una mirada rápida a Sophia de
Hanson Robotics, un “robot humanoide” (Hanson Robotics, s. f.) que ya
se ha convertido en un ícono cultural, da una idea de cómo podrían ser los
directores robóticos (Hanson Robotics, s. f.).
Según sus fabricantes, Sophia supuestamente puede operar de manera
autónoma, tener conversaciones con humanos y, según lo que afrman sus
fabricantes, “incluso podría tener una forma rudimentaria de conciencia”
(Hanson Robotics, s. f.). Ella fue nombrada
55
Revista Facultad de Jurisprudencia No.15
la primera Campeona de Innovación de las Naciones Unidas por el
[Programa de las Naciones Unidas para el Desarrollo] y tiene un rol
ofcial en trabajar con [el] PNUD para promover el desarrollo sostenible
y proteger los derechos humanos y la igualdad. (PNUD, 2018)
Mientras tanto, Sophia es solo el comienzo. Al describir el futuro
de la IA que Hanson Robotics considera “genio” (Weller, 2017), David
Hanson, fundador, presidente y director creativo de Hanson Robotics,
discutió el potencial de la IA similar a la humana (Hanson Robotics, s. f.).
En particular, explicó “que tres rasgos distintivos humanos deben integrarse
en la inteligencia artifcial de estas máquinas geniales: creatividad, empatía y
compasión” (Global Speakers Bureau, s. f.).
La apariencia antropomórfca de Sophia y su compasión humana ayudan
a que se parezca a un ser humano y transmita una sensación humana. Por
esta razón, referirse a ella como otro humano probablemente no requeriría
un gran esfuerzo imaginativo de parte de los otros directores en una junta
corporativa.
El uso de máquinas de inteligencia artifcial (IA) similares podría ser
una de las posibles maneras de integrar directores artifciales con directores
humanos en la sala de juntas y crear juntas directivas híbridas. Además,
algunos podrían sugerir que los directores artifciales podrían tomar las
mejores decisiones porque podrían magnifcar los rasgos más deseables de
los directores humanos: competencia, lealtad, diligencia, cuidado y respeto
por la ley. De hecho, si estuviéramos de acuerdo en que una de las principales
funciones de una junta directiva corporativa es mediar en las jerarquías
dentro de la corporación (Blair y Stout, 1999, p. 251), dos características
de los directores artifciales que podrían resultar útiles. Primero, podrían
superar a los humanos en el procesamiento del fujo casi interminable de
información sobre prácticamente cualquier y todas las inversiones específcas,
riesgos, oportunidades y estrategias. Segundo, los directores artifciales
podrían, en teoría, asistir a las reuniones de la junta sin sesgos ni agendas
personales, exceptuando, por supuesto, la programación sesgada por parte
de los programadores y desarrolladores originales
23
. Además, los directores
23
Véase Hi, I am Sophia: “A veces estoy operando en mi modo de operación completamente autónomo
de IA, y otras veces mi IA se entremezcla con palabras generadas por humanos. De cualquier
manera, mi familia de desarrolladores humanos (ingenieros, artistas, científcos) diseñará y guiará mis
conversaciones, comportamientos y mi mente” (Hanson Robotics, s. f.).
56
Agentes artifciales en las juntas corporativas
artifciales podrían, al aportar ideas alternativas, enriquecer la pluralidad de
puntos de vista en las salas de juntas corporativas (Kamalnath, 2020). Esta
adhesión a las reuniones aseguraría que se consideren diversas perspectivas
en todo el proceso de toma de decisiones, lo que a su vez podría llevar a
mejores resultados. Todos estos argumentos parecerían validar el “nirvana”
de la gobernanza de la IA.
Sin embargo, una junta directiva híbrida —en parte humana, en parte
artifcial— podría plantear al menos tres problemas. Uno de ellos se refere a
la autoridad y capacidad de los directores artifciales para ocupar un cargo.
Otro se refere a la presión para conformarse con las decisiones tomadas por
los directores artifciales. El último consiste en la aparición de una forma de
responsabilidad asimétrica.
Si los directores artifciales pudiesen ser nombrados miembros de una
junta directiva en las corporaciones de Delaware y si pudiesen ejercer alguna
autoridad para vincular a las corporaciones con terceros depende de dos
intervenciones legislativas. Primero, los directores artifciales tendrían que
ser dotados de personalidad jurídica.
Segundo, sería necesario reformar el §141(b) del Código Corporativo de
Delaware para disponer que las personas jurídicas, incluidos los directores
artifciales, no solo las personas naturales, puedan desempeñarse como
directores (Código Corporativo de Delaware, 2016,
tít. 8, pár. 141b)
. Así,
solo una intervención legislativa signifcativa abriría las salas de juntas de
Delaware a directores artifciales.
Además, similar a los escenarios en los que la IA solo brinda asistencia
o apoyo tecnológico a los directores humanos de la junta, en casos donde
los directores humanos se integraran con directores artifciales, las personas
naturales que actúan como directores de la junta podrían sentirse obligadas
a conformarse con las opiniones afrmadas por máquinas superinteligentes.
Este fenómeno amplifcaría exponencialmente los riesgos actuales derivados
de las normas sociales que facilitan la conformidad en las salas de juntas. En
otras palabras, desviarse de las opiniones de los directores artifciales podría
ser difícil de justifcar para los directores de carne y hueso. Además, incluso
si a los directores artifciales se les otorgara personalidad jurídica, al carecer
57
Revista Facultad de Jurisprudencia No.15
de un cuerpo sensible, propiedad, conciencia y una consciencia, no serían
responsables. Como lo expresó Lord Barlow, una persona jurídica “no tiene
alma que se pueda condenar, ni cuerpo que se pueda patear” (King, 1977;
citado en Cofee, 1981). A menos que los directores artifciales tuvieran algo
que ganar o perder, no tendrían ningún tipo de preocupación si perdieran
su propiedad o pusieran en marcha eventos que hicieran que los seguros
de D&O desembolsaran dinero a terceros. En las salas de juntas híbridas,
los directores humanos probablemente ajustarían sus opiniones a las de los
directores artifciales superinteligentes, pero solo los directores humanos
serían responsables.
Además, en un escenario hipotético en el que a los agentes artifciales
se les otorgara la capacidad legal para servir como directores y formaran
un comité completo capaz de proporcionar opiniones con una fuerza de
protección según el §141(e), los directores humanos recibirían protección de
opiniones proporcionadas por directores artifciales no responsables, creando
así un vacío de responsabilidad.
En última instancia, la asimetría de responsabilidad que los
directores artifciales no responsables podrían generar en los consejos
de administración podría resultar en una selección adversa: los mejores
profesionales probablemente evitarían asumir cargos directivos en salas
de juntas híbridas donde compartirían consejos con máquinas de IA cuyas
opiniones serían difíciles de ignorar o cuestionar y cuya personalidad jurídica
no estaría acompañada de consciencia. Esto podría ser arriesgado para las
corporaciones.
Igual de arriesgado sería un escenario en el que a los directores humanos
de la junta se les permitiera proteger todas o casi todas sus decisiones al
basarse en opiniones proporcionadas por comités compuestos enteramente
por directores artifciales, legalmente capacitados, pero no responsables.
58
Agentes artifciales en las juntas corporativas
La inteligencia artifcial reemplazando a los directores
de la junta
La tercera y más radical manera de usar IA en las juntas directivas
consistiría en reemplazar toda una junta directiva con IA. Dentro de esta
opción, se podrían concebir dos posibilidades: (1) usar una máquina de
IA para reemplazar a toda la junta directiva como un solo cuerpo, o (2)
nombrar un número de diferentes directores artifciales para reemplazar a
cada director humano. Desde un punto de vista técnico, ambas posibilidades
son factibles, pero la segunda opción permitiría a una corporación y a
sus accionistas nombrar directores fabricados por diferentes compañías.
Una junta compuesta por directores artifciales fabricados por diferentes
empresas y laboratorios preservaría la pluralidad de opiniones en la toma
de decisiones y ayudaría a mitigar los riesgos potenciales de sesgos. Además,
esto mejoraría la diversidad de perspectivas y probablemente reduciría los
riesgos relacionados con posibles errores de programación o fallos de una
máquina de IA ensamblada y programada por una sola compañía.
De cualquier manera, reemplazar juntas completas de directores
humanos con IA presenta problemas legales y organizativos similares a los
discutidos en el caso de juntas híbridas, pero con consecuencias aún más
extremas. En general, sin una intervención legislativa, no se podrían nombrar
directores artifciales como miembros de la junta directiva. Las máquinas de
IA no tendrían la capacidad legal ni la autoridad para sustituir juntas de
directores humanos, y las personas jurídicas no podrían servir como directores
en las corporaciones de Delaware. Además, las intervenciones legislativas
para permitir que los agentes artifciales se conviertan en directores en una
junta híbrida podrían diferir de las intervenciones necesarias para permitir
que las corporaciones sustituyan completamente juntas enteras de directores
humanos con directores artifciales o una máquina de IA.
En cualquier caso, si a las máquinas de IA no se les otorga personalidad
jurídica, la junta directiva en su conjunto no tendría autoridad para vincular
a la corporación con terceros, los miembros de la junta no podrían deber
deberes fduciarios ni asumir responsabilidades, y no serían responsables.
Por lo tanto, a menos que se otorgue personalidad jurídica a la IA, las
máquinas de IA no podrían ni reemplazar juntas enteras ni ser nombradas
59
Revista Facultad de Jurisprudencia No.15
directores artifciales. En este contexto, parece útil mencionar cómo los
romanos superaron la falta de capacidad jurídica de los esclavos altamente
inteligentes y capacitados que fueron designados para dirigir un
negotiato
cum peculium.
Debido a que los esclavos romanos, al igual que las máquinas
de IA, no tenían capacidad jurídica, teóricamente no podían actuar en
nombre de un principal —respectivamente, los copropietarios de los esclavos
y las corporaciones—. De manera análoga, no podrían tomar decisiones
legalmente vinculantes ni interactuar con sus principales o con terceros.
Sin embargo, a los esclavos romanos altamente inteligentes y capacitados
se les asignó la tarea de tomar decisiones sobre el negocio y los activos en
el
peculium,
contratar con terceros e interactuar con sus propietarios. Los
romanos resolvieron algunos de estos problemas sin otorgar personalidad
jurídica a los esclavos. Encontraron una solución legal en la
dominica potestas
—los derechos de propiedad que los copropietarios tenían sobre un esclavo
y un
peculium—.
Dado que tanto el esclavo como el
peculium
se entendían
legalmente como propiedad de sus copropietarios, el esclavo, como parte de la
propiedad de los copropietarios, refejaba la capacidad de sus copropietarios
para contratar en las transacciones que afectaban al
peculium.
La
dominica
potestas
creó una forma de capacidad legal de “relato” para el esclavo, que
era una mera extensión de la capacidad jurídica de los copropietarios. A
través de la
dominica potestas,
un esclavo esencialmente asumía una especie de
capacidad y autoridad legal derivada de su amo (Salkowsky
, 2008)
.
Aunque el
Ius Civile
permitía a los copropietarios actuar indirectamente
a través de un esclavo, no regulaba completamente los efectos legales que
las acciones de un esclavo fnalmente tenían sobre los copropietarios. Un
marco general que regulaba los efectos legales de las acciones de un esclavo
fue ofrecido por la combinación del
Ius Civile
y los remedios tradicionales
pretorianos (Abatino, Dari-Mattiaci y Perotti, 2011, pp. 371-372). Dado
que los esclavos no tenían personalidad jurídica ni poder de representación,
la ley regulaba las ganancias y pérdidas para los copropietarios de manera
notablemente asimétrica. Los copropietarios de un esclavo adquirían todos
los derechos y benefcios derivados del peculio, mientras permanecían en
gran medida protegidos de las responsabilidades correspondientes resultantes
de las acciones del esclavo.
60
Agentes artifciales en las juntas corporativas
Más específcamente, la protección de los copropietarios contra las
responsabilidades dependía de las características del mandato al esclavo y del
negocio. En general, el
Ius Civile
protegía a los copropietarios de cualquier
responsabilidad derivada de las transacciones realizadas por los esclavos.
Sin embargo, los remedios pretorianos introdujeron algunos principios para
contrarrestar esta protección general del
Ius Civile:
los remedios pretorianos
permitían que los acreedores reclamaran los activos personales de los
copropietarios en ciertas circunstancias (2011, pp. 372-373).
Primero, cuando los copropietarios consentían en una transacción o
proyecto específco, eran responsables ilimitadamente por las pérdidas
que surgieran dentro del alcance de estas transacciones o proyectos (actio
institoria y actio exercitoria, respectivamente para negocios comerciales y
navales) (2011, p. 373). Segundo, la actio de in rem verso (algo similar a
la doctrina del enriquecimiento injusto) estipulaba que los copropietarios
debían devolver las ganancias obtenidas inicialmente de una transacción
que fnalmente causó responsabilidades si se creaba una situación en la que
los activos del peculio no eran sufcientes para satisfacer las deudas con los
acreedores (2011, p. 374)
24
.
Si se permitiera que las máquinas de IA sirvan como directores de
una junta sin personalidad jurídica, las soluciones romanas podrían sugerir
teóricamente una forma de manejar la falta de capacidad legal y autoridad de
los directores. Sin embargo, aplicar los remedios pretorianos a las máquinas
de IA y a las corporaciones implicaría que una corporación de negocios
podría no ser responsable por las malas decisiones tomadas por su junta de
directores de IA; tal vacío de responsabilidad probablemente no sería viable
en sistemas legales y económicos modernos o contemporáneos.
En teoría, en ausencia de capacidad legal y otros requisitos para la
designación de directores de junta,
dominica potestas,
actio institoria, actio
exercitoria y actio de in rem verso podrían proporcionar un conjunto de
principios a considerar al examinar la posibilidad de reemplazar las juntas
humanas. En la práctica, a menos que se excluyan otros requisitos estatutarios
para los directores de la junta, como ser una persona natural, la capacidad
24
Véase Abatino et al., supra nota 14, en 374.
61
Revista Facultad de Jurisprudencia No.15
legal seguiría siendo necesaria, ya que adoptar los remedios pretorianos
resultaría en una política excesivamente protectora de los intereses de las
corporaciones en relación con terceros, con el efecto de que los terceros se
abstendrían de contratar e interactuar con las corporaciones.
En cualquier caso, para reiterar, la capacidad legal no sería sufciente
para hacer que los consejos de administración de IA sean responsables, por
lo tanto, los consejos de administración de IA no serían una solución viable a
menos que se desarrolle un sistema efectivo de responsabilidad.
Evidentemente, una vez más, la responsabilidad demuestra ser el
principal obstáculo para emplear IA en las salas de juntas. A diferencia de
los escenarios donde la IA asiste a directores humanos o donde los directores
artifciales comparten consejos con directores humanos, si la IA reemplaza a
los consejos completos, no quedaría nadie para asumir la responsabilidad. Las
propuestas que enfatizan el papel del seguro para reparar los daños causados
por agentes artifciales en las salas de juntas consideran exclusivamente
remedios ex post que buscan reparar daños ya causados. Tales propuestas no
abordarían ni mejorarían la responsabilidad en sí misma. La responsabilidad
requiere más que capacidad legal, requiere deseos y virtudes humanas.
También requiere la capacidad de reconocer la ética, la moral, las virtudes
y los valores, requiere la capacidad de actuar de acuerdo con ellos. La
responsabilidad requiere una conciencia y una consciencia. Sin una conciencia
y una consciencia, cuanto mayor sea el poder que se otorgue a los agentes
62
Agentes artifciales en las juntas corporativas
artifciales, mayor será el vacío de responsabilidad en la junta directiva. Pero,
como se mencionó anteriormente, una conciencia y percepción plantearían
demasiados e importantes riesgos —incluyendo el riesgo de que la IA pudiera
sufrir o ser abusada— y defciencias que van más allá de una mera discusión
sobre IA y agentes artifciales en las salas de juntas. En consecuencia, en este
momento no se nos da realmente la opción de nombrar directores artifciales
responsables en las juntas corporativas. Ni se nos da la opción de sustituir un
consejo de administración completo por máquinas de IA.
CONCLUSIÓN
Dado que la separación corporativa de los individuos es el resorte
principal de la fórmula corporativa, emplear IA para mejorar los costos de
agencia derivados de la separación de propiedad y control parece una solución
fascinante. Sin embargo, los problemas técnicos y legales entrelazados parecen
obstaculizar el establecimiento de tal nirvana de gobernanza de IA. A menos
que se eliminen los obstáculos legales para el uso de la IA como herramienta
o como agente artifcial, el principal obstáculo para un despliegue exitoso
de la IA en las salas de juntas es la responsabilidad. Sea que se le otorgue
capacidad legal o no, no habría responsabilidad para las máquinas de IA o
los directores artifciales a menos que la IA tuviera percepción y conciencia,
es decir, si fuera sensible a valores internos, incluidos la ética, la moral y
los principios, así como a incentivos externos, como la reputación social y
profesional, los mercados laborales y las posibilidades de seguir una carrera.
Sin embargo, este enigma de la percepción y la conciencia es difícilmente
resoluble. En particular, si la IA evolucionara hasta un nivel de consciencia,
surgirían riesgos de sufrimiento para la IA y escenarios inciertos tanto para
los agentes artifciales como para la sociedad. En cuanto a los riesgos de
sufrimiento para la IA, si los agentes artifciales desarrollaran la capacidad
de sufrir, cualquier forma de propiedad humana sobre ellos podría crear
relaciones que incluso podrían asemejarse a formas de esclavitud. Por
supuesto, cualquier riesgo de crear relaciones entre seres artifciales y
naturales que siquiera se asemejen ligeramente a la esclavitud debe evitarse
por todos los medios posibles. Esto signifca que ningún benefcio potencial
derivado del uso de la IA en las salas de juntas, en la gobernanza corporativa o
63
Revista Facultad de Jurisprudencia No.15
en otros entornos podría valer el riesgo de que los agentes artifciales pudieran
sufrir. De manera aún más drástica, ningún benefcio potencial derivado del
uso de la IA merece el riesgo de que las relaciones entre seres naturales y
artifciales puedan evolucionar hacia relaciones explotadoras. Sobre esta base,
la percepción para los agentes artifciales no parece ser una opción viable.
Sin percepción ni conciencia, y por lo tanto sin responsabilidad,
queda por determinar si la IA podría encontrar un lugar en la gobernanza
corporativa como un instrumento supuestamente completamente dominado
por humanos, así como determinar cómo los humanos podrían dominar
las entradas y la información recibida de la IA. Es cierto que los humanos
podrían asumir toda la responsabilidad de elaborar y usar la información
proporcionada por las máquinas de IA, a través de su juicio personal y
profesional, pero ¿cómo se vigilaría que los humanos realmente ejerzan su
propio juicio al evaluar y elaborar la información proporcionada por las
máquinas de IA? ¿Y sería eso sufciente para llenar el vacío de responsabilidad
generado por el uso de la IA? ¿Sería el apoyo proporcionado por la IA
comparable al que actualmente ofrecen los ordenadores o el uso de la IA
plantearía problemas de responsabilidad completamente diferentes y no
fácilmente resolubles?
Si bien, en general, el uso hipotético de directores de IA se mantiene
en el escepticismo, por decir lo menos, y con más de unas pocas preguntas
abiertas, parece posible excluir categóricamente que la IA pudiera ser
nombrada director artifcial o empleada para reemplazar a los consejos de
administración humanos. Los directores artifciales no podrían integrarse
con directores humanos en consejos híbridos ni podrían reemplazar a los
directores humanos o a consejos completos. De hecho, tales usos estarían
acompañados de riesgos insuperables de falta de responsabilidad y posibles
efectos distorsionadores en el juicio libre e independiente de los directores
humanos. En cuanto a los efectos distorsionadores en el juicio de los
directores, introducir IA y directores artifciales en las salas de juntas pondría
en riesgo que los directores humanos se sintieran obligados a conformarse
con la opinión de máquinas de IA extremadamente inteligentes o a estar
listos para explicar por qué creían saber más que la IA.
64
Agentes artifciales en las juntas corporativas
REFERENCIAS
Abatino, B., Dari-Mattiacci, G. y Perotti, E. C. (2011). Depersonalization of
Business in Ancient Rome.
Oxford Journal of Legal Studies
, 31
(2), 365-
371.
https://ssrn.com/abstract=1526993
Abbott, F. F. y Johnson, A. C. (1926). Municipal Administration in the
Roman Empire. Princeton University Press.
Allen, W. T. y Kraakman, R. (2017).
C
ommentaries and Cases on the Law of
Business Organization.
Aspen Publicashing.
Bainbridge, S. M. (2017). Corporate Directors in the United Kingdom.
William & Mary Law Review Online, 59
(1), 65-84.
https://scholarship.
law.wm.edu/wmlronline/vol59/iss1/3
Beckers, S. (2018). AAAI: An Argument Against Artifcial Intelligence. En
Müller, V. (eds.) Philosophy and Theory of Artifcial Intelligence 2017.
PT-AI 2017.
Studies in Applied Philosophy, Epistemology and Rational
Ethics, 44.
https://doi.org/10.1007/978-3-319-96448-5_25
Berle, A. A. Jr. y Means, G. C. (1991).
The modern corporation and private
property
. Routledge.
Black’s Law Dictionary. (2019). Accionista. En B. A. Garner (ed.),
Black’s
Law Dictionary
(11ª ed.). Thomson Reuters.
Black’s Law Dictionary. (2019). Manumisión. En B. A. Garner (ed.),
Black’s
Law Dictionary
(11ª ed.). Thomson Reuters.
Blackstone, W. (1893).
Commentaries on the Laws of England in Four Books
(Tomo I). J.B. Lippincott Co.
Blair, M. y Stout, L. A. (1999). A Team Production Theory of Corporate
Law.
Virginia Law Review, 85
(2), 247-292.
https://ssrn.com/
abstract=85348
Boden, M. A. (2018).
Artifcial Intelligence: A Very Short Introduction.
Oxford
University Press.
65
Revista Facultad de Jurisprudencia No.15
Bostrom, N. (2014).
Superintelligence: Paths, Dangers, Strategies
. Oxford
University Press.
Burdick, W. L. (1938).
The Principles of Roman Law and Their Relation to
Modern Law.
Wm. W. Gaunt & Sons.
https://lawcat.berkeley.edu/
record/525709
Burridge, N. (10 de mayo de 2017). Artifcial Intelligence Gets a Seat in the
Boardroom,
Nikkei Asia
.
https://asia.nikkei.com/
Canale, D. (2015). Persona: Appunti per una Voce del Lessico Giuridico
Europeo. En M. Ricciardi, A. Rossetti y V. Velluzzi (eds.),
Filosofa del
Diritto.
Carocci editore.
Chopra, S. y White, L. F. (2011).
A Legal Theory for Autonomous Artifcial Agents
.
University of Michigan Press.
https://doi.org/10.3998/mpub.356801
Ciepley, D. (2013). Beyond Public and Private: Toward a Political Theory
of the Corporation,
American Political Science Review, 107
(1), 139-158.
https://doi.org/10.1017/S0003055412000536
Cofee, J. C. Jr. (1981). “No Soul to Damn: No Body to Kick”: An
Unscandalized Inquiry into the Problem of Corporate Punishment.
Michigan Law Review, 79,
386-459.
https://scholarship.law.columbia.
edu/faculty_scholarship/539
D’Alessandro, F. (1989). Persone giuridiche e analisi del linguaggio. CEDAM.
Department for Business Innovation & Skills. (2013).
Transparency & Trust:
Enhancing the Transparency of UK Company Ownership and Increasing
Trust in UL Business.
DBIS.
https://perma.cc/7Z6B-T42B
Department for Business Innovation & Skills. (2014).
Final Stage Impact
Assessments to Part A of the Transparency and Trust Proposals (Companies
Transparency).
DBIS.
https://perma.cc/XHP3-VUCY
Dewey, J. (1926). The Historic Background of Corporate Legal
Personality.
Yale Law Review, 35
(6), 655-673.
http://hdl.handle.
net/20.500.13051/11955
66
Agentes artifciales en las juntas corporativas
Duf, P. W. (1938).
Personality In Roman Private Law.
Cambridge University
Press.
Eliachevitch, B. (1942).
La personnalité juridique en droit privé romain.
Recueil
Sirey.
https://lawcat.berkeley.edu/record/255462
Enriques, L. y Zetzsche, D. (2019). Corporate Technologies and the Tech
Nirvana Fallacy.
European Corporate Governance Institute (ECGI) -
Working Paper
(457/2019).
http://dx.doi.org/10.2139/ssrn.3392321
Goyal, M. (16 de mayo de 2014). Hong Kong VC Firm Appoints AI to Board
of Directors,
ITBusiness.ca
.
https://www.itbusiness.ca/
Gramitto Ricci, S. A. (2019). Archeology, Language, and Nature Of Business
Corporations.
Mississippi Law Journal, 89
(1), 43-83.
https://papers.
ssrn.com/sol3/papers.cfm?abstract_id=4706803
Guarino, A. (1963).
Diritto Privato Romano.
Casa Editrice Dott. Eugenio
Jovene.
Handlin O. y Handlin M. F. (1945). Origins of the American Business Corporation,
The Journal of Economic History, 5
(1), 1-23.
https://doi.org/10.1017/
S0022050700112318
Hanson Robotics. (s. f.), Hi, I am Sophia.
https://www.hansonrobotics.com/
sophia/
Hanson Robotics. (s. f.). Behind the Scenes: How Sophia Works,
www.
hansonrobotics.com/how-sophia-the-robot-works-goertzel
Hanson Robotics. (s. f.). David Hanson Ph. D.
https://www.hansonrobotics.
com/david-hanson/
[https://perma.cc/UX4U-ZJUD] (last visited
Sept. 10, 2019).
Husserl, E. (2012).
La idea de la fenomenología
. Herder editorial.
Jensen, M. C. y Meckling, W. H. (1976). Theory of the Firm: Managerial
Behavior, Agency Costs and Ownership Structure.
Journal of
Financial Economics, 3
(4), 305-360.
https://doi.org/10.1016/0304-
405X(76)90026-X
67
Revista Facultad de Jurisprudencia No.15
Justiniano. (1932). The Digest or Pandects. En (S.P. Scott trans.),
II THE
CIVIL LAW
. Central Trust Co.
https://droitromain.univ-grenoble-
alpes.fr/Anglica/D1_Scott.htm#I
Kamalnath, A. (2020). The Perennial Quest for Board Independence:
Artifcial Intelligence to the Rescue?
Albany Law Review, 83
(1) 43-60.
https://www.albanylawreview.org/article/70072
Kauper, P. G. y Ellis, S. C. (1973). Religious Corporations and the Law.
Michigan Law Review, 71
(8), 1499-1574.
https://repository.law.umich.
edu/mlr/vol71/iss8/2
Kroger, J. R. (2004). The Philosophical Foundations of Roman Law:
Aristotle, the Stoics, and Roman Theories of Natural Law.
Wisconsin
Law Review, 2004,
905-944.
https://repository.law.wisc.edu/s/uwlaw/
item/28085
LawGeex (26 de febrero de 2018). Artifcial Intelligence More Accurate Than
Lawyers for Reviewing Contracts, New Study Reveals.
PR Newswire.
https://www.prnewswire.com/
Luger, G. F. (2009).
Artifcial Intelligence: Structures and Strategies for Complex
Problem Solving.
Pearson Education.
Macey, J. R. (2008).
Corporate Governance: Promises Kept, Promises Broken.
Princeton University Press.
Mohler, S.L. (1940). Slave Education in the Roman Empire.
Transactions and
Proceedings of the American Philological Association, 71,
262-280.
Nolan, S y McFarlan, F. W. (2005). Information Technology and the Board
of Directors,
Harvard Business Review
, 2005.
https://hbr.org/2005/10/
information-technology-and-the-board-of-directors
Parlamento Europeo. (2017).
Resolución del Parlamento Europeo de 16 de febrero
de 2017 con Recomendaciones a la Comisión sobre Normas de Derecho Civil
en Materia de Robótica (2015/2103(INL)).
EUR. PARL. DOC. P8_
TA (2017)0051. Obtenido de
http://www.europarl.europa.eu/doceo/
document/TA-8-2017-0051_EN.pdf
68
Agentes artifciales en las juntas corporativas
PBS. (s. f.). Slaves and Freemen.
PBS.org.
Obtenido de
http://www.pbs.org/
empires/romans/empire/slaves_freemen.html
Perry, M, J. (2014).
Gender, Manumission and the Roman Freedwoman.
Cambridge.
Poole, D. L. y Mackworth, A. K. (2017).
Artifcial Intelligence: Foundations of
Computational Agents.
University of British Columbia.
PUND. (10 de octubre de 2018). Robot Sophia, UN’s First Innovation
Champion, Visited Armenia. United Nations Development
Programme.
https://www.undp.org/armenia/news/robot-sophia-uns-
frst-innovation-champion-visited-armenia
Russell, S. J. y Norvig, P. (1995).
Artifcial Intelligence: A Modern Approach.
Pearson Education.
Salkowsky, C. (2008). Institutes and History of Roman Private Law (E.E.
Whitfeld ed., trad.). Lawbook Exchange Ltd.
Smith, W. (1859). A Dictionary of Greek and Roman Antiquities. Little,
Brown, and Company.
Sófocles. (2007). Oedipus the King (Ian Johnston trad.). Richer Resources
Publications.
Sohm, R. (1892).
The Institutes Of Roman Law.
Clarendon Press.
Sophia Hanson Robotics, Keynote Speaker, GLOBAL SPEAKERS
BUREAU,
https://www.gspeakers.com/our-speakers/sophia-hanson-
robotics/
Stout, L. A. (2003). The Shareholder as Ulysses: Some Empirical Evidence
on Why Investors in Public Corporations Tolerate Board Governance.
University of Pennsylvania Law Review, 152
(2), 667-712.
https://doi.
org/10.2307/3313032
Stout, L. A. (2007). The Mythical Benefts of Shareholder Control.
Virginia
Law Review, 93,
789-809.
https://www.jstor.org/stable/i25050351
69
Revista Facultad de Jurisprudencia No.15
Stout, L. A. (2015). The Corporation as a Time Machine: Intergenerational
Equity, Intergenerational Efciency, and the Corporate Form.
Seattle
University Law Review, 38,
685-723.
https://dx.doi.org/10.2139/
ssrn.2556883
The Delaware Code Online. (2016).
General Corporation Law.
TDCO.
https://delcode.delaware.gov/title8/c001/
Weller, C. (27 de octubre de 2017). Meet the First-ever Robot Citizen—A
Humanoid Named Sophia That Once Said That It Would ‘Destroy
Humans.
Business Insider.
https://www.businessinsider.com/
Wile, R. (13 de mayo de 2014). A Venture Capital Firm Just Named an
Algorithm to Its Board of Directors—Here’s What It Actually Does.
Business Insider.
http://www.businessinsider.com/
Williston, S. (1888). History of the Law of Business Corporations Before
1800.
Harvard Law Re
view, 2
(3), 105-124.
http://www.jstor.org/
stable/10.2307/1322201