Trate cada respuesta de IA como un borrador
Una respuesta de IA es un borrador inicial que usted verifica, nunca la última palabra. Este módulo construye el hábito de comparar la respuesta con lo que ya sabe.
Intenten engañarlo, y después escriban la lista de verificación
- Cada persona elige una pregunta sobre una norma local, una oficina o un plazo, y se la hace a un chatbot.
- Durante cinco minutos, cambien la forma de preguntar y traten de sacarle una respuesta que suene segura, detallada y esté equivocada. Compartan las que funcionaron.
- Mirando lo que los engañó, escriban entre todos cinco líneas: qué revisa el equipo antes de que una respuesta de IA llegue a un cliente. Guarden esas cinco líneas.
¿Cuáles de esas respuestas equivocadas habrías enviado si un colega te la hubiera pasado?
- Existe un hábito bien documentado llamado sesgo de automatización, por el cual las personas siguen la respuesta de una máquina incluso cuando es errónea y aunque lo que tienen delante indique lo contrario. Saber que usted es propenso a esto es su primera línea de defensa.
- Formule su propia respuesta, o recuerde la regla, antes de leer la versión de la IA. Cuando se compromete primero con una suposición, está comparando dos respuestas en lugar de absorber una sola, y ese hábito es el que ha demostrado reducir la dependencia excesiva.
- Una explicación segura y bien redactada no es prueba de que la respuesta sea correcta. La IA escribe con el mismo tono fluido y seguro tanto si acierta como si no, de modo que una justificación pulida puede hacer que una respuesta equivocada resulte más convincente sin hacerla más verdadera.
- Trate cada detalle específico como no confirmado hasta que lo verifique. Los números de teléfono, los horarios de atención, los plazos, las cifras en dólares y las reglas de elegibilidad son los datos que la IA inventa con más frecuencia o presenta desactualizados, así que confírmelos con una fuente oficial o un colega antes de transmitirlos a un cliente.
- Preste atención a lo que la respuesta omite. Un resumen fluido puede eliminar silenciosamente la única condición que importa, como un límite de ingresos o una fecha límite de solicitud, así que verifique que las condiciones importantes sigan presentes y no se hayan diluido.
- Cuando una IA dice que no está segura, trate eso como información útil y una señal para ir más despacio. Las personas confían menos en las respuestas con reservas y aciertan más con ellas, y la ausencia de una reserva nunca es prueba de que una respuesta sea segura.
- Recuerde que la IA aprendió de datos pasados y puede repetir la injusticia que contienen. Una respuesta puede estar equivocada de maneras que dependen de quién es el cliente, así que un tono autoritario no garantiza que el sistema esté tratando a su cliente con justicia.
El sesgo de automatización, la tendencia a seguir la salida de una máquina incluso cuando es errónea, está documentado en entornos de salud y seguridad (Goddard y colegas, 2012). Añadir una explicación a una sugerencia de IA no lo soluciona. Cuando se les muestra una respuesta equivocada con seguridad y una justificación adjunta, las personas tienden a seguirla de todos modos, y pedirles que formen primero su propia respuesta es lo que realmente reduce la dependencia excesiva (Bucinca y colegas, 2021).
Incluso los profesionales capacitados siguen malos consejos de la IA. Clínicos que leían radiografías de tórax hicieron diagnósticos peores después de ver sugerencias de IA inexactas, y quienes tenían menos experiencia en la tarea fueron los más influidos (Gaube y colegas, 2021). En un ejemplo de salud mental, cuando una herramienta recomendó el antidepresivo equivocado, las propias decisiones de los clínicos empeoraron, y añadir una explicación a la recomendación no los protegió (Jacobs y colegas, 2021). Un razonamiento fluido no es una salvaguarda.
La forma en que se redacta una respuesta cambia cuánto confían en ella las personas. Cuando una IA expresó incertidumbre en primera persona, con frases como "no estoy segura, pero", las personas confiaron menos en ella y acertaron más en sus respuestas (Kim y colegas, 2024). El riesgo silencioso también corre en sentido contrario, porque una respuesta fluida y segura puede omitir la parte que importa. Cuando los modelos de lenguaje grande (large language model) simplificaron textos de consentimiento médico, a veces eliminaron la información sobre riesgos sin ninguna señal de que faltaba algo (Oh y colegas, 2025). Verifique que las condiciones clave sigan presentes.
La IA puede equivocarse con total seguridad de maneras que siguen las desigualdades existentes. Un algoritmo de salud muy usado resultó sesgado porque se construyó para predecir el costo en lugar de la enfermedad, lo que subestimó las necesidades de los pacientes negros y alejó la atención de ellos (Obermeyer y colegas, 2019). Un tono autoritario no garantiza que el sistema esté tratando a su cliente con justicia.
Cuando la IA se equivoca: falsas alarmas y omisiones
Cuando una respuesta de IA, una herramienta de cribado o cualquier prueba se equivoca, lo hace en una de dos direcciones. Saber cuál tiene delante le indica dónde verificar con más rigor.
Cada respuesta cae en una de cuatro casillas
Falsa alarma
Dice sí cuando la verdad es no. Esto también se llama falso positivo (false positive), o error de Tipo I (Type I error).
Dice que un cliente califica para un beneficio cuando no es así.
Omisión
Dice no cuando la verdad es sí. Esto también se llama falso negativo (false negative), o error de Tipo II (Type II error).
Dice que un cliente no califica cuando sí lo hace, o no señala que alguien está en crisis.
- Una falsa alarma (un falso positivo) dice sí cuando la respuesta real es no. Por ejemplo, dice que un cliente califica para un beneficio cuando no es así, o marca un documento corriente como un problema.
- Una omisión (un falso negativo) dice no cuando la respuesta real es sí, o no advierte algo que sí está presente. Por ejemplo, dice que un cliente no califica cuando sí lo hace, o no se da cuenta de que alguien está en crisis.
Cuál error es peor depende de lo que está en juego, y la IA no conoce lo que está en juego. Usted sí.
- En beneficios y elegibilidad, una omisión suele ser el mayor daño: decirle a una familia que no califica cuando sí lo hace puede dejarla sin alimentos, vivienda o atención a los que tiene derecho.
- En seguridad y crisis, una omisión puede costar una vida, así que pasar por alto un riesgo real es mucho peor que una falsa alarma. Ante la duda aquí, trátelo como real y derívelo a una persona.
- En lo legal y migratorio, una falsa alarma puede ser el mayor daño: decirle a alguien que califica para un alivio migratorio cuando no es así puede llevar a una solicitud que perjudique su caso.
Antes de actuar según una respuesta de IA, pregúntese qué error haría más daño a su cliente en esta situación, y verifique con más rigor ese error.
Cómo verificar una respuesta segura sobre beneficios
- Una navegadora le pregunta a un chatbot si el hogar de un cliente califica para un programa de asistencia alimentaria. El chatbot responde que sí, con una explicación clara y un límite de ingresos específico.
- Antes de decirle nada al cliente, la navegadora anota lo que ya sabe sobre la regla. La cifra de ingresos que dio el chatbot parece más alta que la que ella usó el mes pasado.
- Verifica la cifra en la página oficial estatal del programa y descubre que el límite cambió. La familia en realidad está justo por encima del tope para ese programa.
- Trata la respuesta del chatbot como un borrador que la orientó hacia la pregunta correcta, y busca para qué programa sí califica la familia.
- Le explica la regla correcta al cliente y le pide que repita qué traerá a la cita, para asegurarse de que el mensaje quedó claro.
Respóndalo usted primero
Dé al grupo una pregunta real de elegibilidad o beneficios. Cada persona escribe primero su propia respuesta. Luego lea una respuesta de IA a la misma pregunta. Cada persona marca qué afirmaciones concretas verificaría y dónde lo comprobaría. Comenten cómo formular una respuesta primero hizo más fácil cuestionar la respuesta de la IA.
Verifique una respuesta contra la fuente
Tome una respuesta real de IA a una pregunta común de un cliente e imprímala. Trabajando en parejas, subrayen cada afirmación específica que contenga: los números de teléfono, las direcciones, las cifras en dólares, los plazos y las reglas de elegibilidad. Para cada elemento subrayado, indiquen la única fuente oficial con la que lo verificarían, y luego búsquenla de verdad y comparen lo que encuentren. Observen cuán segura sonaba la respuesta en el punto que resultó ser incorrecto o estar desactualizado, y comenten cuáles de esos detalles habrían llegado a un cliente si nadie los hubiera verificado.