Blanca es madre soltera de un niño diagnosticado con trastorno del espectro autista (TEA), sin empleo estable y en condición de pobreza extrema (clasificación A4 del Sisbén). No obstante lo anterior, la EPS no los exoneró de copagos y cuotas moderadoras. Además, la EPS les negó los recursos para cubrir el transporte interurbano necesario para asistir a las citas médicas. Blanca presentó una acción de tutela, y tanto el juez de primera instancia como el juez de segunda instancia ampararon los derechos fundamentales del niño.
Esta sentencia habría sido como cualquiera de las muchas otras que se emiten a diario por parte de los jueces en Colombia, pero el juez de segunda instancia incluyó en su sentencia que, para reforzar su argumentación, recurrió a ChatGPT 3.5. Formuló preguntas concretas sobre el derecho a la exoneración de copagos para menores con discapacidad, sobre la procedencia de la acción de tutela, y sobre el precedente jurisprudencial en Colombia. ChatGPT respondió, y el juez transcribió esas respuestas dentro de su sentencia.
La Corte decidió revisar el caso en la medida que el uso de inteligencia artificial en decisiones judiciales abría un debate nacional urgente sobre el debido proceso, la ética judicial y el papel de la IA en la administración de justicia. Es decir, la Corte tenía que establecer si la sentencia fue emitida por un juez de la República o, en efecto, por ChatGPT 3.5.
Guías para el uso IA en la administración de justicia
A partir de este caso, la Corte Constitucional, con el objeto de evitar la transgresión del debido proceso estableció unas directrices para el uso de la IA en la administración de justicia, reglas que posteriormente fueron acogidas por el Consejo Superior de la Judicatura. A continuación, se enumeran las reglas que consideramos de mayor trascendencia:
- Transparencia, entendida como la obligación de evidenciar con claridad y precisión el uso, alcances y ubicación en las actuaciones o decisiones de los resultados obtenidos por la utilización de tales herramientas, que permita a los usuarios e interesados su pleno conocimiento y la posibilidad efectiva de contradicción.
- Responsabilidad, comprendida como aquella obligación que existe de que el usuario de la herramienta de IA se encuentre capacitado y comprenda los impactos del uso de estas tecnologías, para a su vez dar cuenta del origen, idoneidad y necesidad del uso de la IA y la información suministrada por la misma, la cual debe ser verificada.
- Privacidad, es aquel deber de custodiar y proteger la reserva de los datos personales y sensibles que se ponen en conocimiento de la administración de justicia para cumplir con los fines propios de la Rama Judicial.
- No sustitución de la racionalidad humana, como expresión de la imposibilidad ética y jurídica de sustituir la acción y la responsabilidad del individuo de la especie humana en la gestión de las actuaciones y decisiones judiciales.
- Igualdad y equidad, en cuanto se erradiquen todas las formas de discriminación relacionadas con la aplicación de sesgos derivada del uso de tales tecnologías y su impacto negativo en la eficacia de los derechos humanos.
- Control humano, en tanto considerando los anteriores criterios, siempre se permita la realización efectiva de escrutinios sobre las actuaciones y decisiones en que se usen herramientas de IA, mediante el acceso a la debida información y el uso de recursos que deban ser resueltos por autoridades humanas.
Por su parte, el Acuerdo PCSJA24-12243 del 16 de diciembre de 2024, emitido por el Consejo Superior de la Judicatura, determina los criterios para el uso IA por parte de funcionarios de la Rama Judicial. Se permiten usos administrativos y de apoyo, como redacción asistida, organización de documentos y búsqueda de jurisprudencia, pero se prohíbe emplear IA para valorar pruebas o tomar decisiones judiciales. En efecto, este Acuerdo prevé expresamente que los sistemas de IA no deben suplantar, en ningún caso, las actividades de motivación de las providencias y decisiones, valoración de hechos, análisis de pruebas, aplicación normativa, interpretación y toma de decisiones.
Guías para el uso IA por abogados – Internacional
Tanto en Estados Unidos de América como en Inglaterra, distintas asociaciones han revisado los aspectos fundamentales a considerar en el uso de IA por parte de abogados consultores y litigantes. Los principales aspectos identificados que los abogados deben observar son los siguientes:
- Comprender razonablemente el funcionamiento, las capacidades y limitaciones de la IA.
- Mantener la confidencialidad y eventualmente obtener el consentimiento del cliente para el uso de estas herramientas.
- Determinar la forma de comunicar al cliente sobre el uso de IA cuando esté relacionado con decisiones importantes.
- Revisar los resultados generados por la IA para evitar información falsa o errónea.
- Contar con guías institucionales para el uso de IA por parte de los miembros de las firmas.
- Finalmente, establece principios para determinar cuándo los costos asociados al uso de la IApueden cobrarse al cliente, remarcando que los honorarios deben ser razonables y reflejar los costos reales, sin generar beneficios ocultos para el abogado.
Guías para el uso de IA por abogados – Colombia
La pregunta que surge de lo anterior es si en Colombia existen guías para el uso de IA por parte de abogados. Haciendo una revisión general de la Ley 1123 de 2007 (Código Disciplinario del Abogado), encontramos que muchas de las directrices anteriormente listadas se encuentran previstas en el Código Disciplinario del Abogado que además tienen la connotación de obligaciones legales.
Guías Internacionales | Correspondencia en el Código Disciplinario |
|---|
Competencia (Deber de ser competente y actualizado, incluyendo competencia tecnológica) | Artículo 28: Deber de actualizar los conocimientos inherentes al ejercicio de la profesión. Esto debe incluir el uso de tecnología. |
Confidencialidad (Proteger la información del cliente) | Artículo 28: Deber de guardar el secreto profesional, incluso después de terminados los servicios. |
Comunicación con el cliente (Deber de informar razonablemente sobre los medios para alcanzar los fines del cliente) | Artículo 28: Obrar con lealtad y honradez en sus relaciones profesionales. Eventualmente implica la revelación y aceptación por parte del cliente del uso de IA. |
Supervisión de subordinados (Deber de supervisar el trabajo de empleados y terceros) | Artículo 28: Extiende la diligencia a abogados suplentes, dependientes y asociados en contratos, pero no regula de forma expresa la supervisión de tecnologías o asistentes virtuales como lo hace el ABA. |
Veracidad ante los tribunales (transparencia en los tribunales) | Artículo 32 y 33: Prohibición de afirmaciones maliciosas, citas inexactas o uso de pruebas falsas. |
Cobro de honorarios razonables | Artículo 28 y 35: Deber de fijar honorarios equitativos, justificados y proporcionales; prohibición de cobros desproporcionados. |
Ahora bien, considerando que las decisiones judiciales deben ser tomadas por seres humanos provistos de competencia y jurisdicción, y que esa facultad no es delegable a otro ser humano ni a un sistema de IA, se debe tener en cuenta igualmente que quienes están habilitados para representar judicialmente a una parte y quienes pueden dar consejo legal son abogados titulados con tarjeta profesional. Por lo tanto, esa función no puede ser delegada ni atribuida a un sistema de IA.
Conclusiones y recomendaciones
- Se debe estar atento al uso de IA por parte de funcionarios judiciales ya que un uso inadecuado puede conllevar violaciones al derecho fundamental al debido proceso, resultando en nulidades.
- Las firmas de abogados deberían establecer guías para el uso de IA en la prestación de los servicios, acogiendo criterios internacionales y observando el Código Disciplinario del Abogado.
- Se debe estar atento al uso de IA por abogados en escenarios de representación judicial en la medida en que un uso inadecuado puede implicar objeciones en cuanto a si la representación judicial fue desarrollada por un abogado titulado o por IA, lo que podría generar riesgos de nulidades.
No dude en contactar a Jorge Castaño, socio de Brick Abogados ([email protected]) si tiene alguna inquietud o si desea ampliación sobre el tema anteriormente expuesto.
****
Este documento es meramente informativo y no constituye asesoramiento legal, ni compromete la responsabilidad ni la opinión profesional de Brick Abogados.