Testimonios completamente inventados, nombres falsos e informes policiales que nunca fueron redactados. Un abogado penalista de Santa Fe, en Nuevo México, citó a testigos inexistentes en la documentación presentada para defender a su cliente, acusado de asesinato. Cuando el Tribunal Supremo descubrió los múltiples errores, el letrado culpó a ChatGPT de haber generado los falsos testimonios y aseguró que lo ocurrido había sido simplemente "un error de buena fe".
Ante las preguntas del juez, el abogado Stephen Aarons afirmó que desconocía los riesgos y las llamadas "alucinaciones" de la inteligencia artificial, es decir, la generación de información falsa o inventada, pero presentada de una manera convincente.
Una explicación que no convenció al juez. Según este, resulta difícil ignorar hoy los riesgos asociados al uso de la inteligencia artificial, especialmente cuando se trata de un profesional.
Aarons se encargaba del recurso de Oscar Renee Sandoval, condenado el año pasado a cadena perpetua por el asesinato de la madre de sus hijos. El acusado se declaró no culpable y su caso será ahora llevado por un abogado de oficio.
Multa De 5.000 Dólares Y Comunicación Al Colegio De Abogados
El Tribunal Supremo de Nuevo México declaró a Aarons culpable de desacato al tribunal por no haber comprobado la exactitud de la documentación presentada. Según la corte, el recurso contenía "testimonios falsos realizados por testigos completamente inventados" y Aarons "demostró falta de arrepentimiento y de interés por su cliente".
El abogado ha sido condenado a pagar una multa de 5.000 dólares y el caso ha sido remitido al Colegio de Abogados de Nuevo México, que deberá examinar lo ocurrido y determinar si procede adoptar medidas disciplinarias.
"Estoy Arrepentido, Fue Un Error De Buena Fe"
Aarons se defendió explicando que había utilizado ChatGPT, de OpenAI, y que no era consciente de los errores que puede generar el chatbot. El abogado explicó a Reuters que utilizó ChatGPT para resumir los documentos del proceso y que no comprendió hasta qué punto la IA podía distorsionar los hechos.
"Estoy arrepentido, pero espero que el consejo disciplinario tenga en cuenta que se trató de un error de buena fe", afirmó. "Es una lección para todos los profesionales que confían en esta tecnología potente, pero en ocasiones inestable".
Durante una vista celebrada el 21 de agosto, explicó que había introducido en ChatGPT una transcripción generada por ordenador y otro material relacionado con el caso, suponiendo que el sistema produciría "un resumen infalible".
Los jueces, sin embargo, recibieron la explicación con escepticismo.
"Abogado, ¿ve las noticias? ¿Escucha la radio? ¿Lee algo sobre lo que ocurre en el mundo?", preguntó durante la vista la jueza C. Shannon Bacon. "Porque el problema de los abogados que confían en las 'alucinaciones' de la IA aparece en las portadas prácticamente todos los días".
Sentencias Y Referencias Jurídicas Incorrectas
El uso de sistemas de inteligencia artificial por parte de los abogados lleva tiempo en el centro del debate. La abogacía es una de las profesiones más expuestas a los cambios introducidos por esta tecnología, pero también una de aquellas en las que se han producido numerosos casos de uso incorrecto de la IA.
Decenas de abogados han sido sancionados por presentar documentos elaborados con ayuda de inteligencia artificial en los que aparecían referencias jurisprudenciales incorrectas.
En marzo de este año, en Siracusa, un abogado citó cuatro precedentes jurisprudenciales atribuidos al Tribunal Supremo italiano para respaldar sus argumentos. Sin embargo, una comprobación realizada por el juez descubrió que ninguna de esas sentencias era pertinente para el caso. Las sentencias existían, pero trataban cuestiones diferentes y, por tanto, no podían utilizarse para respaldar las argumentaciones presentadas.
El problema tampoco afecta únicamente a profesionales individuales. En Nueva York, el prestigioso bufete Sullivan & Cromwell tuvo que disculparse ante un juez federal después de presentar en los tribunales un escrito que contenía citas y referencias erróneas o inexistentes generadas por inteligencia artificial.
Los errores fueron detectados por la parte contraria y el bufete tuvo que admitir que la IA había sido utilizada de forma incorrecta.
En todos estos casos aparece un elemento común: faltó la comprobación humana de la información generada por la inteligencia artificial.