Las conversaciones que millones de personas mantienen con herramientas de inteligencia artificial ya no se quedan únicamente en el ámbito digital. En Estados Unidos, estos registros han comenzado a aparecer como elementos dentro de investigaciones criminales y procesos civiles.
Una investigación de The Washington Post y el portal Infobae identificó al menos 12 casos públicos durante los últimos dos años en los que chats con sistemas de IA fueron utilizados en procedimientos judiciales. La cantidad real podría ser superior, debido a que existen expedientes que no son de acceso público.
El fenómeno plantea interrogantes sobre la privacidad de quienes utilizan estos servicios. Los usuarios pueden recurrir a los chatbots para hablar sobre asuntos personales, problemas legales, situaciones familiares, salud o pensamientos que quizá no compartirían con otras personas. Lea: ChatGPT Work: cuando la IA comienza a hacer la vuelta
Los chats de IA pueden llegar a un expediente judicial
Una de las principales discusiones gira en torno al nivel de protección que tienen estas conversaciones. A diferencia de determinadas comunicaciones entre abogados y clientes, médicos y pacientes o terapeutas y pacientes, los intercambios con un chatbot no necesariamente cuentan con los mismos privilegios legales.
Un caso involucró a un adolescente identificado como RKC, cuyo historial de conversaciones con ChatGPT fue consultado durante un proceso judicial por abogados de compañías tecnológicas demandadas.
El joven había utilizado la herramienta para intentar comprender una conversación con su padre relacionada con una posible indemnización.
Mike Morgan, abogado del adolescente, explicó al Washington Post que los menores pueden contarle a un chatbot aspectos que no revelarían a personas de su entorno. Esos mensajes, posteriormente, pueden quedar bajo revisión de abogados o expertos involucrados en un proceso.
Una conversación con ChatGPT terminó alertando al FBI
Otro episodio ocurrió en Florida y tuvo una dimensión penal. Darren Zhou, de 25 años, utilizó ChatGPT para expresar amenazas y describir planes dirigidos contra su expareja.
El contenido fue detectado por OpenAI y reportado al FBI. La intervención de las autoridades ocurrió antes de que el ataque se concretara.
Posteriormente, Zhou se declaró culpable y recibió ocho años de libertad condicional.
El caso también muestra que los chats pueden tener una función distinta a la de una prueba obtenida posteriormente. Determinadas interacciones pueden activar mecanismos de seguridad de las plataformas cuando se identifican amenazas graves.
OpenAI ha señalado que dispone de mecanismos para revisar determinadas conversaciones y que, cuando existe un riesgo inminente y creíble de daño a terceros, puede informar a las autoridades.
La policía también puede acceder a chats guardados
Las conversaciones no necesariamente tienen que ser solicitadas directamente a una compañía tecnológica para terminar en manos de investigadores.
Si los mensajes permanecen almacenados en el teléfono de una persona investigada, las autoridades pueden encontrarlos cuando tienen acceso al dispositivo.
Michael Price, director de litigios del Centro de la Cuarta Enmienda de la Asociación Nacional de Abogados de Defensa Penal, advirtió al Washington Post que algunas personas permiten voluntariamente que los agentes revisen sus teléfonos, incluso en situaciones en las que podrían negarse si no existe una orden judicial.
Esto convierte al propio dispositivo en otra posible fuente de información sobre las interacciones mantenidas con herramientas de inteligencia artificial.
Los chats también aparecen en demandas civiles
El fenómeno no se limita a investigaciones relacionadas con delitos. Las conversaciones con ChatGPT también han sido utilizadas en disputas entre particulares y empresas.
En Michigan, un antiguo empleador presentó mensajes de un trabajador con el chatbot dentro de un litigio relacionado con la captación de clientes.
El empleado había consultado a ChatGPT sobre la posibilidad de recuperar correos electrónicos eliminados. La compañía consideró que esas consultas podían ser indicio de un intento por ocultar pruebas.
El juez permitió que las conversaciones fueran incorporadas al proceso y además impuso al demandado el pago de honorarios legales.
Privacidad y evidencia: un debate que crece
La aparición de estos registros en los tribunales abre una discusión sobre los límites de la privacidad digital y el acceso a información generada durante conversaciones con sistemas de inteligencia artificial.
El dilema adquiere mayor importancia a medida que los usuarios utilizan los chatbots para abordar asuntos cada vez más personales.
Los casos conocidos muestran que un intercambio aparentemente privado puede convertirse en parte de una investigación cuando contiene información relacionada con posibles conductas, intenciones o intentos de ocultar pruebas.
Por ahora, la expansión de estas herramientas plantea una pregunta cada vez más relevante para los usuarios: ¿qué nivel de privacidad pueden esperar cuando escriben información personal en un chatbot?