Contexto y antecedentes del caso

La Corte Suprema de Justicia examinó un recurso extraordinario de revisión presentado ante la Sala de Casación Civil, Agraria y Rural, cuyo apoderado judicial invocó incorrectamente causales de revisión basadas en el artículo 250 del Código General del Proceso (CGP), norma relacionada exclusivamente con aspectos probatorios y sin numerales aplicables a la controversia planteada. Además, se incorporaron seis sentencias de casación inexistentes y dos sentencias de la Corte Constitucional a las que se atribuyó contenido falsamente. Tras advertir las irregularidades, la Corporación requirió al abogado la subsanación del escrito, oportunidad en la que se corrigió la remisión normativa al artículo 355 del CGP, pero con alteraciones sustanciales en el texto que correspondía a los numerales invocados. Asimismo, se sumaron cuatro nuevas citas jurisprudenciales apócrifas, totalizando diez referencias falsas. Posteriormente, el apoderado reconoció que las imprecisiones provinieron del uso de un programa de inteligencia artificial generativa, empleado para agilizar la elaboración de los escritos.

Análisis técnico y jurídico de las irregularidades

La providencia describe con detalle las características técnicas de los modelos de lenguaje a gran escala (LLM), como ChatGPT o similares, que generan textos mediante predicción estadística y carecen de mecanismos internos para verificar la veracidad del contenido que producen. Este fenómeno, denominado "alucinación", implica la generación de información falsa con apariencia de veracidad, fenómeno especialmente crítico en el ámbito jurídico debido a la naturaleza normativa y vinculante de las fuentes del derecho. El auto destaca que la citación de fuentes jurídicas implica una aserción implícita sobre la existencia y contenido fiel de dichas fuentes, lo que impone un deber...