Qué no ingresar nunca en una herramienta de IA
Suponga que la primera preocupación de un cliente es si una herramienta llega hasta la aplicación de las leyes migratorias. Proteja su información en consecuencia y comience con una declaración clara sobre los datos.
Clasifíquenlas en montones, y acuerden el montón de nunca
- Escriban ocho tareas de su propia semana en tarjetas, una por tarjeta.
- Sepárenlas en tres montones: se puede dar a un chatbot, nunca, y no estoy seguro.
- Lean en voz alta el montón de "no estoy seguro" y decidan en equipo cuáles pasan a "nunca". Escriban esa lista: es la que su agencia tiene que poder defender ante un cliente.
¿Qué queda todavía en "no estoy seguro", y quién en su agencia decide eso?
- Cuando usted escribe en ChatGPT, Claude, Gemini o Microsoft Copilot, el texto sale de su pantalla. Va a la empresa que administra la herramienta, queda almacenado en sus servidores y puede conservarse durante mucho tiempo. En muchas cuentas de uso cotidiano, también puede utilizarse para entrenar futuras versiones de la herramienta.
- Nunca pegue nada que pueda identificar a un cliente. Eso incluye nombres, números A, números de caso o de recibo, direcciones, números de teléfono, fechas de nacimiento, estatus migratorio, y los detalles médicos o legales de su situación.
- No suba los documentos, capturas de pantalla o formularios de un cliente a una herramienta de IA de uso general. Una carta de beneficios o un aviso migratorio está lleno de datos identificables, y una vez que se sube, usted ya no controla adónde va.
- Elimine los detalles antes de usar una herramienta. Pida la regla general o el proceso general y deje fuera el expediente específico del cliente. Una pregunta como qué documentos necesita alguien para renovar un permiso de trabajo le da la respuesta sin exponer a nadie.
- Suponga que la primera preocupación del cliente es si la herramienta llega hasta la aplicación de las leyes migratorias. Proteja su información como si la respuesta pudiera importar para su seguridad, porque para algunos clientes, así es.
- Exponer el estatus migratorio es peligroso. Las agencias gubernamentales y los corredores comerciales de datos recopilan y comparten información personal, así que mantenga el estatus y los identificadores fuera de cualquier herramienta que usted no controle.
- Comience cada reunión con una declaración clara sobre los datos. Dígale al cliente, en una frase corta y sin tecnicismos, que usted nunca introduce su nombre ni su caso en ninguna herramienta externa. Una práctica de datos visible es parte de cómo se gana la confianza, y una de las pocas cosas que pueden reducir el miedo del cliente en la sala.
Todo lo que usted escribe en una herramienta de IA pública sale de su dispositivo y va a la empresa que la administra, donde puede almacenarse. Los modelos de lenguaje grandes también pueden memorizar fragmentos de sus datos de entrenamiento y reproducirlos palabra por palabra, incluidos nombres, números de teléfono y direcciones (Carlini y colaboradores, 2021). Cuando un proveedor usa las entradas de la cuenta para entrenar un futuro modelo, los datos de un cliente ingresados hoy podrían reaparecer más adelante.
El miedo a la aplicación de las leyes migratorias reduce el uso de los servicios incluso entre personas que están legalmente presentes (Herring y Barnow, 2025). El efecto también alcanza a los niños. Las visitas de atención médica de los hijos pequeños de inmigrantes disminuyeron después de la elección de 2016 y de la propuesta de la regla de carga pública (Ettinger de Cuba y colaboradores, 2023).
Pacientes latinos hospitalizados por COVID-19 relataron que retrasaron la atención en parte por miedo relacionado con su estatus migratorio y con el costo (Cervantes y colaboradores, 2021). Un trabajador que muestra una práctica de datos cuidadosa y visible elimina una razón más para que un cliente se mantenga alejado.
El estatus migratorio es sensible por buenas razones. Las cuentas de IA de consumo no están cubiertas por leyes de privacidad de salud como HIPAA, y las agencias de control migratorio han obtenido información personal sobre comunidades inmigrantes a través de corredores comerciales de datos y registros administrativos (Data and Society, Poverty Lawgorithms). Mantener el estatus y los identificadores fuera de las herramientas que usted no controla es la opción segura por defecto.
Cómo se mueven realmente sus datos, y quién puede verlos
Cuando usted usa un chatbot de IA, sus palabras viajan mucho más lejos que su pantalla. Conocer el camino que recorren, y dónde están las protecciones reales, es lo que le permite decidir qué es seguro escribir. Nada de esto requiere conocimientos técnicos.
Un chatbot comercial no funciona en su computadora. Cuando usted presiona enter, su texto se envía por internet a los servidores de la empresa, a menudo llamados la nube (cloud), que son centros de datos que la empresa opera. El modelo lee su texto allí y le envía una respuesta. Su instrucción (prompt) ha salido de su dispositivo y ha llegado a una empresa que usted no controla.
Las herramientas que usa la mayoría de las agencias, como ChatGPT, Claude, Gemini y Microsoft Copilot, son modelos comerciales que funcionan en la nube (cloud). Son potentes, y todo lo que usted escribe va al proveedor. Un modelo local (local model) funciona en su propia computadora o en el servidor de su propia agencia, de modo que los datos nunca salen del edificio. Los modelos locales existen y siguen mejorando, pero son más difíciles de instalar y por lo general menos capaces, así que la mayoría de las herramientas cotidianas son modelos en la nube. Una prueba aproximada: si una herramienta necesita conexión a internet para responder, está enviando su información hacia afuera.
Esto depende de la herramienta y del plan, así que vale la pena verificarlo. En muchas cuentas gratuitas y personales, el proveedor puede usar lo que usted escribe para mejorar o entrenar futuros modelos, a veces con una opción para excluirse (opt-out) en la configuración, como un interruptor de entrenamiento o la opción de desactivar el historial de chat. Los planes empresariales (business), de empresa (enterprise) y de equipo, y la mayoría del acceso mediante la API, suelen venir con una promesa por escrito de no entrenar con su contenido, a menudo dentro de un acuerdo de procesamiento de datos (data processing agreement). Ese contrato es la protección real, su redacción varía, y una agencia debería leerlo antes de confiarle a una herramienta cualquier información sensible.
La API es el conducto que otro software usa para enviar texto a un modelo detrás de escena. Muchos proveedores no entrenan con los datos de la API por defecto y firmarán acuerdos para información regulada, lo cual es una razón por la que una aplicación que su agencia ha verificado puede ser más segura que la cuenta personal de un miembro del personal. Los datos igual viajan hasta el proveedor, así que quién tiene el acuerdo, y qué dice, sigue importando.
Las herramientas confiables cifran sus datos en tránsito y en reposo, lo cual los codifica para que alguien externo no pueda leerlos en el camino ni en el almacenamiento. Eso protege contra la interceptación. No oculta nada de la propia empresa, cuyos sistemas, y a veces su personal o subcontratistas, todavía pueden acceder a lo que usted envió. El cifrado no es una razón para introducir los datos identificables de un cliente.
Incluso una herramienta que promete no entrenar con su información puede almacenarla durante un período, por ejemplo para vigilar el uso indebido o para responder a una solicitud legal. Borrar una conversación en la aplicación no garantiza que el registro desaparezca de inmediato en todas partes. Para información que pudiera llegar a la aplicación de las leyes migratorias, suponga que puede quedar una copia en algún lugar al que usted no tiene acceso.
Como normalmente usted no puede confirmar los términos exactos de una herramienta en el momento en que tiene a un cliente enfrente, la regla segura no depende del plan. Mantenga los nombres, los números A, las direcciones, las fechas de nacimiento, el estatus migratorio y los detalles del caso fuera de cualquier herramienta que usted no controle, y en su lugar haga preguntas generales y sin datos identificables.
Una navegadora de beneficios recurre a un chatbot en plena cita
- Una navegadora de recursos está ayudando a la Sra. Okonkwo, titular de una tarjeta de residencia permanente (green card), a determinar si su familia califica para asistencia alimentaria. La navegadora abre ChatGPT y empieza a escribir el nombre completo de la clienta, su número A, su dirección, los ingresos de su hogar, y el hecho de que es residente permanente legal.
- Antes de enviarlo, la navegadora se detiene. Todo eso saldría de la agencia, quedaría en los servidores de un proveedor, y podría usarse para entrenar un futuro modelo. Nada de eso es necesario para obtener la respuesta.
- La navegadora elimina los identificadores y hace la pregunta general: cuáles son los límites de ingresos para la asistencia alimentaria de una familia de cuatro personas, y si el estatus de residente permanente legal afecta la elegibilidad. La respuesta que recibe es la misma, y no se expone la información de nadie.
- La navegadora verifica esa respuesta con la página oficial de beneficios del estado antes de decirle nada a la Sra. Okonkwo, y comienza la siguiente cita diciendo claramente que ella nunca introduce el nombre ni el caso de un cliente en ninguna herramienta externa.
Reescriba un prompt para quitar los datos del cliente
Tome un prompt que incluya el nombre, el número A y la dirección de un cliente. En grupo, reescríbanlo para pedir la regla general sin ningún dato identificable. Comparen los dos prompts y confirmen que el reescrito sigue obteniendo la respuesta que necesita el trabajador de casos.
Escriba la frase que le dirá a los clientes sobre los datos
Por su cuenta, escriba una o dos frases claras que podría decir al comenzar una reunión para explicarle al cliente qué introduce y qué no introduce en ninguna herramienta externa. Manténgala breve y sin tecnicismos. Léasela a un compañero que responda como un cliente con miedo a la aplicación de las leyes migratorias, y revísela hasta que realmente reduzca ese miedo.