Versión audio y resumen del trabajo (Link):
https://drive.google.com/file/d/1MPQoaJNUA0lc6yzKjVf2Z9r_6U3d7Ay2/view?usp=sharing
Introducción.
En el dinámico campo del derecho actual, las
prácticas y costumbres de los usuarios a menudo anteceden y modelan la creación
de normativas. Esta realidad se intensifica en el entorno digital, donde los
hábitos de los deudores —aquellos que interactúan con plataformas
tecnológicas para obtener financiamiento— evolucionan a una velocidad
vertiginosa. La rapidez con la que estas plataformas transforman los
comportamientos de consumo y endeudamiento supera con creces los lentos ritmos
del proceso legislativo, obligando al marco jurídico a una adaptación y respuesta
mucho más ágiles.
Hoy, obtener un crédito es tan simple como un
toque en una pantalla. Pero ¿somos realmente conscientes del poder que los
algoritmos ejercen sobre estas decisiones financieras? Como bien advierte Joan
Cwaik, el punto no es culpar a la tecnología en sí, sino entender que cada
interacción digital puede, sin que lo notemos, moldear nuestras elecciones de
formas insospechadas.[1] Desde la
perspectiva del derecho concursal, resulta excluyente examinar la profunda
relación entre el deudor en la era digital y su endeudamiento. Debemos
comprender cómo la intervención algorítmica incide en sus decisiones
económicas, así como en la naturaleza y el momento en que se contraen estas
deudas.[2]
Los algoritmos pueden ser conceptualizados
tanto como "armas de destrucción matemática"[3] que
reorganizan la información, o simplemente como sofisticadas herramientas de
"búsqueda de patrones a partir de datos."[4] La cuestión crítica en el
contexto del sobreendeudamiento no es solo qué hacen los algoritmos con
los deudores, sino qué impacto tienen en su capacidad de discernir y
proyectar alternativas. Su influencia va más allá de lo que se muestra en
la pantalla; permea lo que creemos y los contenidos que consumimos,
configurando un entorno que dista mucho de ser neutral.
Esta inherente falta de transparencia en la valoración crediticia y la compleja interconexión del sistema digital son factores determinantes en la opacidad de las operaciones de toma de crédito. Esto dificulta la visibilidad real de los riesgos asumidos y enmascara la verdadera situación financiera de los deudores usuarios digitales, a menudo revelándose demasiado tarde.
I. Interfaz del crédito
digital: buena fe y empujones (nudges)[5]
Los algoritmos empleados en las plataformas de
crédito son el resultado del trabajo de equipos multidisciplinarios que
combinan ingeniería de software, ciencia de datos y finanzas. Su objetivo es
diseñar modelos de aprendizaje automático capaces de analizar un vasto conjunto
de parámetros, incluyendo historial y datos financieros, para determinar la
elegibilidad de los solicitantes.[6] No obstante, estos sistemas pueden generar
preocupaciones sobre posibles sesgos o discriminación, dado que su
funcionamiento depende directamente de los datos con los que han sido
entrenados.
En el
ámbito concursal, un juez tiene la potestad de cuestionar la validez de un
crédito si considera que su otorgamiento no derivó de una elección plenamente
libre e informada del deudor, sino que fue inducido por estrategias
comerciales algorítmicas que afectaron su discernimiento. Dos elementos
cobran aquí una importancia primordial: el principio de buena fe y la necesaria
revisión de los algoritmos.
La buena fe se mantiene como un pilar
fundamental en la evaluación de estos casos. Un proveedor que diseñe su
plataforma para explotar vulnerabilidades cognitivas de los usuarios podría ver
seriamente comprometida la legitimidad de los créditos concedidos. Respecto al
segundo punto, resulta relevante la realización de peritajes mediante equipos
forenses informáticos, para determinar si los algoritmos[7] empleados
por el acreedor impulsaron el endeudamiento sin una evaluación adecuada de la
capacidad de pago del deudor.
Los
magistrados, como intérpretes principales del derecho, tienen un amplio margen
para evaluar la legalidad de las conductas ante la realidad económica donde lo
digital y la economía del comportamiento tienen un rol clave. Además de basarse
en la norma, deben considerar los principios jurídicos para tomar sus
decisiones.[8]
Como bien se señala, los algoritmos van más allá de
la mera interpretación de nuestro comportamiento; tienen la capacidad de
escribirlo, moldearlo y condicionarlo.[9] Esta realidad genera un
desafío fundamental para los principios jurídicos universales, en particular la
buena fe, que históricamente ha operado como un criterio esencial de
interpretación, integración y vinculación en las relaciones jurídicas.
La buena fe, entendida como la exigencia de un
comportamiento honesto y leal en las relaciones jurídicas, se ve directamente
interpelada por la arquitectura de las plataformas. Al moldear la percepción y
las decisiones del usuario mediante "empujones" sutiles (nudges)
o "patrones oscuros" (dark patterns), se erosiona la esencia
de este principio. Esto dificulta que el deudor actúe con pleno conocimiento y
libertad, impactando así la validez y exigibilidad del crédito que el acreedor
busca verificar.
Una investigación forense digital, enfocada en
la interfaz[10]
—ya sea una página web o una aplicación móvil—, es esencial para
desvelar cómo la presentación de la información, el flujo de la contratación,
la disposición estratégica de los elementos y el lenguaje empleado pudieron
haber viciado el consentimiento del deudor.
II. Transparencia y consentimiento en el entorno digital.
La falta
de información[11]
clara, precisa y veraz sobre las condiciones del préstamo, los costos totales -incluidos
intereses, comisiones y seguros-, las consecuencias del incumplimiento y las
opciones de cancelación, es una vulneración directa del deber de información. Si se utilizan técnicas que dificultan la
comprensión del alcance del compromiso (ej: letra pequeña, hipervínculos
ocultos), se vulnera la transparencia.
El
consentimiento, pilar de todo contrato, debe ser otorgado con discernimiento,
intención y libertad. Sin embargo, los sesgos cognitivos y los
"nudges" pueden viciar este consentimiento al manipular la percepción
y voluntad del deudor. Si el usuario no tiene la oportunidad real de comprender
todas las implicaciones de su decisión, o si es inducido a tomarla bajo presión
o engaño, su consentimiento no es plenamente libre e informado. Esta situación
podría incluso dar lugar a la anulabilidad del contrato por vicios en el
consentimiento.
Si el diseño de la plataforma lleva a que el deudor
acepte cláusulas desfavorables o excesivamente onerosas sin una comprensión
real, estas cláusulas podrían ser declaradas abusivas.[12] Ese diseño, no es meramente una cuestión estética o
funcional; se convierte en un factor determinante en la configuración de la
voluntad del usuario, especialmente en entornos de concesión de crédito. Aquí
emerge con fuerza el concepto de soberanía digital, un campo explorado por
autores como Benjamin Bratton.[13]
Bratton sugiere que el software,
más que ser una herramienta neutral, actúa como un mecanismo de
gobierno y control que transforma la interacción humana y las estructuras con
las cuales el usuario digital se relaciona. En otras palabras, aplicado a la verificación
de créditos, esto implica que el diseño de las plataformas digitales no solo
facilita transacciones, sino que ejerce una forma de soberanía algorítmica
sobre el deudor, delineando sus opciones y, en última instancia,
condicionando su autonomía financiera.
Ante
esta situación, la
responsabilidad del acreedor digital
toma una importancia significativa. No se
trata solo de cumplir con las normativas existentes, sino de asegurar que la
construcción de la plataforma garantice la transparencia, la comprensión real
de las condiciones contractuales y la ausencia de manipulación. La verificación
de créditos, por tanto, no puede limitarse a una evaluación algorítmica de la
solvencia; debe incorporar una revisión de la equidad del proceso contractual
digital, examinando si el diseño de la plataforma realmente promueve una
decisión informada y libre del deudor, o si, por el contrario, subyuga su
voluntad a través de una arquitectura prediseñada que menoscaba su
soberanía y explota sus vulnerabilidades.
En
el entorno concursal actual, los términos disponibles no permiten evaluar
adecuadamente el impacto distorsionado que ciertos servicios pueden generar al
analizar operaciones dentro de ecosistemas digitales. La falta de un
vocabulario jurídico adecuado para abordar estas transacciones a nivel global
dificulta la explicación de cuestiones legales y técnicas, ya que se utilizan
términos existentes sin considerar las interferencias que dichos servicios
introducen en la interpretación normativa.
Pensar
con herramientas y trabajar con el capital fijo de las tecnologías es algo
positivo,[14]
es la forma en que el derecho evoluciona porque el software necesita de una
teoría, tanto como la teoría necesita el software. La tecnología no solo
redefine el patrimonio del concursado y las relaciones con sus acreedores, sino
que también ofrece métodos sofisticados para la detección de irregularidades,
la reconstrucción de operaciones financieras y la identificación de activos
digitales, abren un capítulo inédito en la administración de aspectos tales como
la demanda verificatoria y la responsabilidad del acreedor en la concesión de créditos
digitales.
Conclusión: redefiniendo la deuda digital en la era
algorítmica
El vertiginoso avance de la tecnología digital ha
transformado radicalmente la dinámica del endeudamiento, posicionando al deudor
usuario digital en una encrucijada sin precedentes. Este trabajo ha puesto de
manifiesto cómo los algoritmos, lejos de ser herramientas neutrales, operan
como armas de destrucción matemática o complejos sistemas de patrones
que no solo interpretan, sino que activamente moldean y condicionan el
comportamiento financiero.
La figura del juez y del síndico, al abordar la cristalización
del pasivo en este nuevo escenario, debe ir más allá de la mera evaluación
formal de los créditos. Es imperativo que la buena fe conserve su rol central
como principio rector, permitiendo cuestionar la legitimidad de créditos
obtenidos mediante sesgos cognitivos o "nudges" diseñados en
la interfaz de las plataformas. Si el diseño de estas interfaces conduce a la
aceptación de cláusulas abusivas sin una comprensión real, se compromete la
autonomía del deudor.
En definitiva, aspectos como la verificación de
créditos en la era digital demanda una revisión profunda de la responsabilidad
del acreedor, que debe garantizar no solo la solvencia, sino la equidad del
proceso contractual. Esto implica pasar de una evaluación meramente financiera
a un análisis que integre la comprensión tecnológica de cómo se gestó la deuda.
Es en esta intersección entre el derecho de la insolvencia y la tecnología
donde se forjarán las nuevas herramientas y teorías necesarias para tutelar el
crédito, proteger al deudor vulnerable y asegurar la justicia en un futuro
donde la deuda es, ineludiblemente, digital.
Carlos Alberto
Ferro
Mendoza - junio
2025
[1] Cwaik, J. (2025). El algoritmo: ¿Quién decide por nosotros?
Editorial Planeta.
[2]
Este artículo presenta una reflexión
y síntesis de las ideas principales de una investigación más extensa del autor
sobre los desafíos del endeudamiento digital, que se aborda en profundidad en
el trabajo:” Endeudamiento en la era digital: El rol de los algoritmos en la
cristalización de pasivos concursales', Doctrina Societaria y Concursal
N° Julio de 2025 (en prensa).
[3] O'Neil, C. (2018). Armas de
destrucción matemática: Cómo el big data aumenta la desigualdad y
amenaza la democracia. Ver https://info-biblioteca.mincyt.gob.ve/wp-content/uploads/2024/11/Armas-de-destruccion-matematica-Cathy-ONeil.pdf
[4] Domingos,
P. (2015). The master algorithm: How the quest for the
ultimate learning machine will remake our world. Basic Books/Hachette Book
Group.
[5] Un nudge es cualquier estrategia usada por los arquitectos de
decisiones para modificar el comportamiento de las personas de manera
predecible, no agresiva, sin prohibir ninguna de las opciones ni cambiando de
manera significativa sus incentivos económicos.
Citado por Arellano Gault, D., & Barreto Pérez, E. F. (2016). Gobierno
conductual: Nudges, cambio de comportamiento inconsciente y opacidad. Foro
Internacional, 56(4), 903-940. https://www.scielo.org.mx consultada el 12 de junio de 2025.
[6] ICCSI, 2025; ver
https://iccsi.com.ar/algoritmo-inteligencia-artificial-prestamo-banco
[7] Los algoritmos de inteligencia
artificial funcionan a través del procesamiento de grandes cantidades de
datos para identificar patrones y relaciones. Para ello, suelen basarse en
técnicas de aprendizaje automático, que les permiten «aprender» a partir de
ejemplos y datos de entrenamiento. Ver KeyTrends. (2023, 31 de mayo). Algoritmo
de Inteligencia Artificial - Glosario de KeyTrends. https://keytrends.ai/es/academy/glosario/inteligencia-artificial/algoritmo-de-inteligencia-artificial, consultada el 26 de mayo de 2025
[8] Morea, A. O. (2024, agosto 30). Los
deberes secundarios de conducta derivados del principio de buena fe. SAIJ. https://www.saij.gob.ar
[9] Cwaik, J. ob. cit.,
[10] La interfaz de una plataforma digital es el espacio visual e interactivo a través
del cual los usuarios pueden acceder y utilizar sus funciones. Es el puente
entre el usuario y el sistema, diseñado para facilitar la navegación y la
ejecución de tareas de manera intuitiva. Ver https://nuevaescuelamexicana.org/interfaz consultada el 1/6/2025
[11]
Deber de Información
(Artículos 1100 y 1101 CCCN, y Artículo 4 Ley 24.240 de Defensa del Consumidor
- LDC).
[12] Cláusulas Abusivas (Artículos 988, 1117 a 1122 CCCN y Artículo 37 Ley Defensa
de la Competencia
[13] Bratton, B. (2025). The Stack: Sovereignty and Software. Adriana
Hidalgo Editora.
[14] Bratton, B. H. ob., cit.
