Con la evolución que está presentando la inteligencia artificial es inevitable que muchas más personas la utilicen en su día a día y también para trabajar, pero confiar ciegamente en lo que te genera esta tecnología puede causarte problemas si se aplica en profesiones delicadas. Precisamente, esto es lo que le ha ocurrido a un abogado de Utah, Estados Unidos, que ha sido sancionado por presentar ante un tribunal un documento con referencias legales generadas íntegramente por ChatGPT.
Tal y como informan desde el medio ABC4, el letrado en cuestión es Richard Bednar quien presentó una apelación judicial en nombre de un cliente que incluía referencias a varios casos anteriores que reforzaban su argumento. Al ser revisado por la parte contraria, se descubrió que la cita no aparecía en ningún registro legal oficial y lo que había ocurrido es que ChatGPT inventó todos los datos.
El problema de no contrastar ni comprobar la información de una IA
Este texto no fue redactado por el abogado sino por un joven ayudante que recientemente se licenció en Derecho y fue quien utilizó el chatbot de OpenAI para preparar el documento. Una vez escrito, Bednar no lo revisó, lo firmó y lo presentó como válido. Al no comprobar si todas las informaciones reflejadas eran reales, el tribunal confirmó el error y convocó una audiencia para investigar lo ocurrido.
Tras la investigación, el tribunal determinó que, aunque entendió que no hubo intento de engaño, sí que considero que el abogado no fue todo lo profesional que se espera en un proceso judicial. Como castigo, el tribunal ordenó pagar los honorarios de la parte contraria, devolver a su cliente los gastos del recurso y donar unos 1.000 dólares a una organización legal sin ánimo de lucro.
Bednar no fue inhabilitado, pero el juez dejó claro que el uso de la inteligencia artificial no exime a los profesionales de verificar toda la información. Otra prueba más de que, a pesar de que la IA sea una herramienta útil, no sustituye al trabajo humano y menos en trabajos en los que se tiene tanta responsabilidad, y sobre todo si no se coteja de forma correcta todos los datos que se reflejan.