Enseñar la confianza calibrada
Una confianza que se ajusta a la herramienta. Refuerce hábitos concretos para que los clientes ni se traguen las respuestas de la IA por completo ni descarten ayuda útil por miedo.
Objetivos de aprendizaje
Al final de este módulo, el CHW podrá:
- Explicar la confianza calibrada en una sola frase que un cliente entendería.
- Reforzar los hábitos: adivinar primero, tratar las respuestas como borradores, esperar un "no estoy seguro".
- Reconocer ambas direcciones del error de calibración: confiar demasiado en el chatbot y descartar ayuda certera.
- Redirigir a un cliente que copia respuestas de la IA sin verificarlas.
Esquema para el facilitador
Recuerden el Módulo 1: la herramienta adivina con fluidez. Entonces, ¿cuánto debería confiar un cliente en una respuesta dada? La respuesta es "depende, y así es como se decide".
Adivinar primero (formar su propia idea antes de leer la de la IA). Tratar la respuesta como un borrador por mejorar, no como un veredicto. Esperar y dar la bienvenida a la incertidumbre; una respuesta que dice "no estoy seguro, verifique con la clínica" está cumpliendo su función.
La confianza excesiva lleva a actuar según respuestas equivocadas. La desconfianza total lleva a ignorar ayuda buena y quedarse estancado. Apunten al punto medio: úsenla para borradores y logística, verifiquen todo lo que importa.
Realicen el juego de rol de abajo. Un CHW hace de cliente que confía por completo en el chatbot; el otro refuerza los hábitos.
Una explicación segura puede hacer que una respuesta equivocada resulte más persuasiva, no menos. Por eso reforzamos la conducta, no solo "lea con cuidado". Cierren con una verificación de repetir para confirmar.
Puntos clave de enseñanza
La confianza calibrada significa confiar en la herramienta más o menos lo que se merece para la tarea que tiene frente a usted: más para un guion telefónico, menos para una regla de elegibilidad, nada en absoluto para una crisis. Estos hábitos lo hacen práctico. Primero, adivinar primero. Pregúntele al cliente qué piensa ya antes de que lea la respuesta de la IA, para que esa respuesta se convierta en algo con qué comparar y no en algo que obedecer. Segundo, tratar la respuesta como un borrador. Un borrador está hecho para editarse, verificarse y confirmarse, que es exactamente la postura que queremos. Tercero, esperar la incertidumbre. Cuando la herramienta dice que no está segura, eso es información útil, no un defecto; elógiela y actúe verificando con una persona.
Esté atento también al error opuesto. Algunos clientes, tras recibir la advertencia de que la IA puede equivocarse, deciden desconfiar de todo, incluida la ayuda certera que podría acercarlos a la atención. La calibración funciona en ambos sentidos. El mensaje no es "nunca confíe en ella". El mensaje es "confíe en ella para las tareas correctas, y verifique el resto".
También ayuda nombrar las dos formas en que una respuesta puede estar equivocada. Cuando una respuesta de IA o cualquier tamizaje se equivoca, se equivoca en una de dos direcciones. Una falsa alarma (un falso positivo) dice que sí cuando la respuesta real es no, por ejemplo, decir que un cliente califica para un beneficio cuando no es así. Una omisión (un falso negativo) dice que no cuando la respuesta real es sí, o no advierte algo real, por ejemplo, decir que un cliente no califica cuando sí califica, o no notar que alguien está en crisis. Cuál de los dos errores es peor depende de lo que esté en juego, y la IA no sabe lo que está en juego; usted sí. En beneficios y elegibilidad, una omisión puede dejar a una familia sin la ayuda a la que tiene derecho. En seguridad y crisis, una omisión puede costar una vida, así que trate cualquier riesgo real como real y derive la situación a una persona. En asuntos legales o migratorios, una falsa alarma puede llevar a un trámite que perjudique al cliente. Antes de actuar según una respuesta de IA, pregúntese cuál error dañaría más al cliente en este caso, y verifique con más cuidado frente a ese.
Falsa alarma
Dice que sí cuando la verdad es no.
Dice que un cliente califica para un beneficio cuando no es así.
Omisión
Dice que no cuando la verdad es sí.
Dice que un cliente no califica cuando sí, o no nota una crisis.
La calibración funciona en ambos sentidos. La desconfianza total deja al cliente estancado e ignorando ayuda buena; la confianza ciega lo lleva a actuar según respuestas equivocadas. Apunten al punto medio: apóyense en la herramienta para borradores y logística, y verifiquen todo lo que importa.
En estudios sobre personas que usan IA para tomar decisiones, pequeños pasos de "fricción", como decidir su propia respuesta antes de ver la de la IA, redujeron la dependencia excesiva de consejos equivocados, mientras que mostrar solo una explicación no lo logró (Bucinca y colegas, 2021). En un estudio sobre preguntas médicas, un lenguaje que admitía incertidumbre ("no estoy seguro, pero...") mejoró la precisión de las personas legas (Kim y colegas, 2024). Estos hallazgos son el origen de estos hábitos.
La descalibración funciona en ambos sentidos: en dos estudios preregistrados, el mismo consejo médico etiquetado como "de IA" se calificó como menos confiable y las personas estuvieron menos dispuestas a seguirlo (Reis y colegas, 2024, Nature Medicine). Por eso enseñamos a evitar tanto la desconfianza total como la confianza excesiva.
La IA también puede arrastrar sesgos difíciles de ver: un algoritmo de riesgo de salud de uso extendido atendió peor a los pacientes negros porque predecía el costo en lugar de la enfermedad (Obermeyer y colegas, 2019). Por eso fundamentamos las respuestas en fuentes verificadas y comprobamos lo que importa, para que un sesgo oculto no pase inadvertido.
Juego de rol: el cliente que confía por completo en el chatbot
Formen parejas. Un CHW hace de cliente que ha decidido que el chatbot siempre tiene la razón; el otro lo guía. El cliente abre con:
La tarea de quien guía es introducir los hábitos sin sermonear. Buenas acciones: preguntarle al cliente qué esperaba antes de leer la respuesta; replantear el plan de la IA como un "primer borrador" por confirmar juntos; proponer un paso concreto de verificación (llamar a la clínica para confirmar que acepta pacientes nuevos y la cobertura del cliente). Comenten: ¿logró quien guía bajar la confianza del cliente a un nivel útil sin empujarlo a abandonar la herramienta por completo?
Materiales
- Haga primero su propia suposición: trate las respuestas de la IA como borradoresGuía
- Qué preguntarle a la IA y qué preguntarle a las personasGuía
- Cómo aprovechar al máximo el chatbot de LINCGuía
- ¿Puede cada CHW nombrar los hábitos de memoria?
- ¿El juego de rol abordó la confianza excesiva sin llevar al cliente a desconfiar de todo?
- ¿Señalé que una explicación segura puede hacer que una respuesta equivocada resulte más convincente?