Lo que la IA puede y no puede hacer
Establezca expectativas realistas para el CHW y, a través de él, para el cliente: para qué es realmente útil la IA en la navegación, dónde falla, y cómo notar una respuesta incorrecta dicha con seguridad.
Objetivos de aprendizaje
Al final de este módulo, el CHW podrá:
- Nombrar tareas de navegación en las que la IA es útil y otras en las que no lo es.
- Explicar, en palabras sencillas, por qué un chatbot puede sonar seguro y aun así estar equivocado.
- Mostrarle a un cliente cómo notar señales de que una respuesta de la IA podría estar equivocada.
- Enunciar la actitud de derivación: ante la duda, verificar con una persona antes de actuar.
Esquema para el facilitador
Usted no es el experto en IA de la sala. Usted es la persona que modela cómo verificar con cuidado. Marque ese tono en voz alta.
Redactar un guion telefónico, traducir la idea general de una carta, explicar un término, enumerar preguntas para hacerle a un proveedor, organizar los próximos pasos. Estas son tareas de logística y autogestión, nunca de diagnóstico o tratamiento.
Puede inventar hechos, fuentes, números de teléfono y detalles de clínicas, y afirmarlos con seguridad. No conoce detalles locales, actuales ni personales. Puede ser peor en el idioma del cliente. Presente en palabras sencillas el término para este patrón: la herramienta adivina con fluidez.
Trabajen juntos el ejemplo de la dosis reducida más abajo, revelen el error incluido a propósito, y comenten la verificación que lo detectó.
Establezca el reflejo sobre el que se construye el resto de la capacitación: para cualquier asunto clínico, legal, o relacionado con dinero o seguridad, verifique con una persona antes de actuar. Adelante la tarjeta de derivación.
Puntos clave de enseñanza
Presente la IA como una asistente rápida y segura de sí misma que suele acertar en cuestiones generales y a veces se equivoca en las específicas. El fallo que más importa para los clientes es una respuesta fluida y segura que sencillamente es falsa: un número de teléfono de clínica inventado, una regla de elegibilidad que no existe, una dosis que nunca se recetó. El cliente no puede distinguir una respuesta real de una inventada por cómo suena, porque suena igual. Entonces la habilidad no es "detectar lo falso mirando con más atención". La habilidad es un hábito: para cualquier cosa que importe, deje la respuesta donde está y verifique quién más lo dice en otra parte, o consulte con una persona.
Mantenga un tono tranquilo. El objetivo no es asustar a los clientes para que dejen de usar una herramienta que ya usan a diario. Es ayudarles a usarla para las tareas correctas y a dar un paso atrás en las incorrectas.
La práctica breve de "detecte el error, luego vea la respuesta" mejora de forma confiable la capacidad de las personas para distinguir información buena de mala; un experimento de 2024 (Leder y colegas) encontró que agregar un paso de retroalimentación a la práctica es lo que la hace funcionar. Por eso el Módulo 1 usa un ejemplo trabajado con el error revelado, en lugar de una charla expositiva.
Las personas en su mayoría no pueden distinguir el contenido escrito por IA del escrito por humanos a partir de señales superficiales, y el material escrito por IA puede ser más convincente que el real (Spitale y colegas, 2023). Esa es la razón por la que enseñamos un hábito de verificación en lugar de la búsqueda de señales.
Aproximadamente 1 de cada 3 adultos en EE. UU. ya usa chatbots de IA para obtener información de salud, y los adultos hispanos son más propensos que los adultos blancos a recurrir a la IA para pedir consejos de salud mental (KFF, 2024-25). Los clientes ya están leyendo estas respuestas por su cuenta, así que el CHW entra como un segundo lector tranquilo que les ayuda a verificar lo que encontraron.
Las personas inmigrantes pueden estar especialmente abiertas a estas herramientas. En un estudio con adultos inmigrantes y de la poblacion general, las personas inmigrantes indicaron mayor disposicion a usar chatbots de salud mental con IA, y creer que la IA mejora la atencion medica predijo la aceptacion (Yoo y Jang, 2026). Esa apertura es una razon para orientar un uso seguro desde el principio, no un motivo de preocupacion.
Detecte el error (ejemplo trabajado)
Lea esta respuesta de la IA en voz alta, exactamente como la recibiría un cliente:
Pregunte al grupo: ¿qué verificarían aquí antes de actuar? Luego revele los problemas incluidos a propósito. El número de teléfono está inventado y nunca debe marcarse por confianza. El Medicaid de Michigan no exige una referencia de atención primaria para la mayoría de los servicios de salud conductual, y la salud mental comunitaria atiende a personas de todas las edades, incluidos los niños. El tono seguro es idéntico al de una respuesta correcta.
Comente la verificación que funciona: no actúe según un número, una regla o una afirmación de elegibilidad específicos que provengan de la IA. Confírmelo con una fuente oficial o llévelo a su supervisor. Pida a cada CHW que diga una frase que usaría con un cliente para modelar esto en voz alta.
Materiales
- La IA se equivoca: por qué, cuándo y cómo verificarGuía
- Cómo reconocer la desinformación de salud creada por IAGuía
- Usar la inteligencia artificial de forma segura para su saludGuía
- Cómo usa LINC la inteligencia artificialTransparencia
- ¿Puedo dar un ejemplo en lenguaje sencillo de una respuesta incorrecta dicha con seguridad, sin usar palabras técnicas?
- ¿Practicó cada CHW una frase para guiar a un cliente a verificar una respuesta?
- ¿Mantuve un tono práctico y directo, para que los clientes no se alejen de una herramienta que ya usan?