Incorporar jurisprudencia falsa en los escritos, producto de “alucinaciones” de la Inteligencia Artificial (IA), puede conducir a que un caso termine mal.
Un tribunal confirmó el rechazo de una demanda por daños y perjuicios y advirtió que en el escrito de apelación se usaron precedentes inexistentes, “alucinaciones” de inteligencia artificial (IA).
La Cámara de Apelaciones de General Roca confirmó el rechazo de una demanda por daños y perjuicios iniciada por una motociclista a raíz de un siniestro vial y puso el foco en el “uso indebido” de herramientas de IA en la presentación judicial, que derivó en la cita de fallos inexistentes de la Corte Suprema y del Superior Tribunal de Justicia de Río Negro.
Las “alucinaciones” de la IA
El tribunal de segunda instancia avaló la decisión de la magistrada que había desestimado la acción por la falta de claridad y por contradicciones en el relato de los hechos.
Pero además realizó un expreso llamado de atención a las letradas por haber incorporado en la apelación jurisprudencia falsa, generada por lo que técnicamente se conoce como “alucinaciones” de la IA.
El caso
El siniestro ocurrió en Villa Regina, en Rio Negro. La demandante, que circulaba en una motocicleta, accionó contra el conductor de un automóvil y sostuvo que el vehículo realizó un giro intempestivo. Sin embargo, las pericias indicaron que la moto intentó sobrepasar al auto justo antes de llegar a la esquina.
En la sentencia de primera instancia, la jueza ya había rechazado la demanda al considerar que la exposición de los hechos resultaba “contradictoria e imprecisa”.
Incluso, señaló que no quedaba claro si la mujer era conductora o acompañante del rodado, que se mencionaban calles inexistentes en la zona del hecho y que la descripción de los daños no coincidía con las constancias periciales.
Jurisprudencia inexistente
Al analizar la apelación, la Cámara detectó que el escrito citaba doctrina y precedentes judiciales que no existían.
Tras verificar los datos en los buscadores oficiales, el tribunal comprobó que los fallos atribuidos tanto a la Corte Suprema como al Superior Tribunal de Justicia provincial no figuraban en ningún registro.
Según la resolución, las letradas utilizaron herramientas de Inteligencia Artificial Generativa (IAGEN) “sin el debido control humano“, lo que derivó en la incorporación de citas falsas.
El tribunal explicó que se trató de un caso típico de “alucinaciones” de la IA y remarcó que el uso de estas tecnologías como apoyo no exime a los profesionales de su responsabilidad.
La Cámara formuló un “llamado de atención” a las abogadas y recordó que, conforme a la Acordada 22/2025 del STJ, el uso inadecuado de inteligencia artificial en el ámbito judicial puede dar lugar a sanciones correctivas.