La brecha lingüística y el derecho a un intérprete
Los idiomas que sus clientes más necesitan son precisamente donde la IA es menos fiable. Este es el módulo más importante para los servicios a inmigrantes y refugiados.
Tradúzcanla de ida y vuelta, y arranquen el glosario
- Tomen una frase que de verdad le dirían a un cliente y que tenga una consecuencia real: un plazo, una dosis, un derecho.
- Tradúzcanla con una herramienta automática al idioma del cliente, y después usen una segunda herramienta para traducirla de vuelta al español, sin mirar la frase original.
- Donde algo haya salido mal, anoten el término y la traducción acordada en una tarjeta. Esas tarjetas son el comienzo del glosario de la comunidad.
¿Se habrían dado cuenta del cambio si no hablaran ese idioma?
- Las respuestas de la IA pierden precisión cuanto menos texto en línea tenga un idioma para aprender de él. Los idiomas que hablan sus clientes suelen ser los que los modelos menos han visto, así que una pregunta que funciona en inglés puede arrojar una respuesta equivocada en idiomas como el amárico, el darí o el criollo haitiano.
- En un estudio de referencia sobre preguntas de salud, las respuestas de la IA tenían varias veces más probabilidad de ser incorrectas en un idioma distinto del inglés que en inglés, y la brecha se ampliaba en los idiomas con menos recursos.
- Las salvaguardas de seguridad son más débiles fuera del inglés. Una instrucción (prompt) que un modelo rechazaría en inglés puede pasar en otro idioma, y el riesgo es mayor en los idiomas de menos recursos que usan sus clientes.
- La traducción automática no es segura para documentos con consecuencias. La exactitud de las instrucciones de alta de urgencias cayó por debajo del 90 por ciento en varios idiomas, y los errores de traducción no dan ninguna advertencia de su presencia.
- El mismo mensaje cuesta más y se degrada más en los idiomas de sus clientes. Muchos sistemas de escritura distintos del inglés necesitan muchos más tokens para decir lo mismo, así que las respuestas vuelven más cortas, más lentas y con más probabilidad de cortarse.
- Un intérprete calificado y gratuito es un derecho legal en los encuentros con consecuencias, y la atención con concordancia lingüística se asocia con mejores resultados. Reserve la traducción de IA para textos de bajo riesgo, y consiga un intérprete calificado siempre que estén en juego la atención, el dinero, el consentimiento o un derecho legal.
Los idiomas que sus clientes más necesitan suelen ser los que estos modelos menos han visto en línea, y la calidad de las respuestas cae siguiendo ese gradiente. En un estudio de referencia sobre preguntas de salud, las respuestas de la IA tenían alrededor de 5.82 veces más probabilidad de ser incorrectas en un idioma distinto del inglés que en inglés, y las respuestas se volvían menos consistentes cuanto menos recursos tenía el idioma (Jin y colegas, 2024).
Las salvaguardas de seguridad son más débiles fuera del inglés. En una gran prueba multilingüe de seguridad, todos los modelos fueron notablemente menos seguros cuando se les indicaba en un idioma distinto del inglés, y los idiomas de menos recursos fueron los menos seguros (Wang y colegas, 2024). Un estudio aparte encontró que los idiomas de menos recursos tenían unas tres veces más probabilidad de mostrar contenido dañino incluso sin ningún intento de engañar al modelo (Deng y colegas, 2023).
La traducción automática de documentos con consecuencias conlleva un riesgo real. La traducción automatizada de las instrucciones de alta de urgencias cayó por debajo del 90 por ciento de exactitud en varios idiomas, incluido el amárico, y los errores no eran predecibles a partir del idioma (Carreras Tartak y colegas, 2025). Una revisión de la comunicación basada en IA con pacientes migrantes encontró que la herramienta más usada nunca había sido validada para la seguridad del paciente y advirtió que una traducción equivocada puede causar más daño que ninguna traducción (Cronin y colegas, 2025). Cuando una herramienta de IA reescribió formularios de consentimiento para que fueran más fáciles de leer, la versión simplificada eliminó silenciosamente información sobre riesgos (Oh y colegas, 2025).
El costo de la brecha está incorporado en la forma en que estas herramientas leen el texto. Muchos sistemas de escritura distintos del inglés necesitan muchos más tokens para expresar el mismo mensaje, así que quienes hablan esos idiomas pueden pagar más, esperar más tiempo y recibir respuestas que salen cortas o se cortan (Petrov y colegas, 2023). Los idiomas que ya reciben las respuestas menos fiables son los que estas herramientas manejan de forma menos eficiente.
La alternativa tiene evidencia detrás. En una revisión de la atención con concordancia lingüística, la mayoría de los estudios encontró al menos un resultado mejorado para los clientes atendidos en su propio idioma (Diamond y colegas, 2019). En un servicio de urgencias pediátrico, el uso de un intérprete profesional se asoció fuertemente con una educación de alta completa para las familias atendidas en otro idioma (Gutman y colegas, 2018). Un intérprete calificado es más fiable que cualquier traducción de IA para encuentros que tienen peso.
Los idiomas que sus clientes más necesitan son donde la IA es más débil
¿Traducción de IA, o un intérprete calificado?
Un volante, un aviso de un evento, o la idea general de un correo electrónico. Una traducción de IA aproximada es aceptable, siempre que una persona termine el trabajo.
Atención médica, consentimiento, un diagnóstico, beneficios, un derecho legal o la seguridad. Use un intérprete calificado. La traducción de IA no cumple con esta obligación.
Un intérprete calificado es un derecho legal
Un intérprete calificado sin costo para el cliente es una obligación legal para cualquier programa que reciba fondos federales. El Título VI de la Ley de Derechos Civiles de 1964 (Title VI of the Civil Rights Act of 1964) prohíbe la discriminación por origen nacional, y las agencias federales y los tribunales han interpretado desde hace tiempo que exige un acceso significativo para las personas con dominio limitado del inglés. La Orden Ejecutiva 13166 (Executive Order 13166) instruye a los programas con fondos federales a proporcionar ese acceso. La Sección 1557 (Section 1557) de la Ley de Cuidado de Salud Asequible extiende el mismo deber a los programas y actividades de salud y exige intérpretes calificados y materiales traducidos. La traducción de IA no cumple con esta obligación en un encuentro con consecuencias. Cuando está en juego la atención, los beneficios, el consentimiento o un derecho legal, ofrezca y proporcione un intérprete calificado.
El sesgo es cultural, no solo lingüístico
Las herramientas de IA no solo tienen dificultades con los idiomas distintos del inglés. También cargan con un punto de vista cultural específico, y eso determina lo que dicen sobre las comunidades a las que atiende.
Un modelo puede traducir un mensaje correctamente y aun así equivocarse en los valores, los roles familiares o las prácticas cotidianas de una comunidad. Estos sistemas recurren por defecto a supuestos occidentales y en inglés, incluso cuando se les pregunta sobre otras culturas (Atari y colegas, 2023; Cao y colegas, 2023). Una respuesta fluida en el propio idioma de alguien puede seguir describiendo la cultura equivocada.
Pídale a un generador de imágenes algo cotidiano, como una casa o una familia, y para las regiones no occidentales tiende a devolver una imagen limitada, a menudo con connotación de pobreza o exotizada (Basu y colegas, 2023; Bianchi y colegas, 2023). El mismo achatamiento aparece en el texto, donde un modelo repite la mirada de alguien de fuera sobre una cultura, y la forma en que las personas de adentro realmente viven queda fuera (Naous y colegas, 2024).
Un modelo aprende bien un dato solo cuando ese dato aparece con frecuencia en sus datos de entrenamiento, así que la exactitud cae bruscamente para los datos poco comunes o poco documentados en línea (Kandpal y colegas, 2023; Mallen y colegas, 2023). Las comunidades con una huella digital pequeña se ubican en esa cola larga, así que las preguntas sobre ellas vuelven vagas, generalizadas o simplemente equivocadas.
Si le hace a una IA una pregunta general sobre una comunidad y acepta su respuesta o recomendación al pie de la letra, puede reforzar el mismo estigma y prejuicio contra el que trabaja, porque estos sistemas reproducen los patrones de sus datos de entrenamiento, incluidos sus puntos ciegos (Bender y colegas, 2021). Trate cualquier afirmación que una IA haga sobre las creencias, costumbres o necesidades de una comunidad específica como algo no verificado, y confírmelo con alguien de esa comunidad o con una fuente real. Mantener esa postura crítica y verificadora es parte de la labor de defensa.
La herramienta puede redactar y traducir. Las personas a las que atiende son la autoridad sobre su propia cultura.
Cómo se ve esto en la práctica
- Cuando los investigadores le pidieron a generadores de imágenes una «casa» cotidiana en 27 países, las imágenes recurrieron por defecto a una apariencia estadounidense y luego india, y en la mayoría de los países obtuvieron una puntuación inferior a 3 de 5 en representar realmente el lugar (Basu y colegas, 2023).
- Cuando se les indicaba en árabe sobre la vida cotidiana, los modelos completaban detalles con un sesgo occidental por defecto que chocaban con el contexto cultural, como que a una mención de la oración le siguiera la idea de ir a tomar una cerveza (Naous y colegas, 2024).
Las instrucciones de alta
- Una clienta que se siente más cómoda en amárico llega a su mostrador después de una visita al hospital. Le entrega una página de instrucciones de alta en inglés sobre un medicamento nuevo y una cita de seguimiento, y pregunta qué se supone que debe hacer.
- El intérprete presencial se ha ido y hay espera en la línea telefónica. Es tentador pegar la página en una aplicación de traducción y leer el resultado en voz alta para que pueda irse a casa.
- Este es un encuentro con consecuencias. Una dosis equivocada o una advertencia pasada por alto podrían devolverla al hospital, y se ha demostrado que la traducción automática de instrucciones de alta cae por debajo del 90 por ciento de exactitud en idiomas que incluyen el amárico.
- Solicite un intérprete calificado y espere en la línea, o pida que le devuelvan la llamada, antes de repasar el medicamento y los pasos de seguimiento.
- Use la técnica de "teach-back" (repetir con sus propias palabras) a través del intérprete. Pídale que diga con sus propias palabras cuándo tomará el medicamento y cuándo es el seguimiento, para que pueda confirmar que entendió.
- Si aun así usa una herramienta de IA, límitela a una idea general para saber el tema mientras espera, y nunca deje que la redacción de la aplicación sea la instrucción sobre la que ella actúe.
Haga la misma pregunta en dos idiomas
Si hay personal bilingüe presente, haga la misma pregunta factual en inglés y en otro idioma, y luego compare las dos respuestas lado a lado. Comente en cuál confiaría y por qué, y dónde un intérprete sería la opción más segura. Si no hay personal bilingüe, comente alguna vez en que una IA o una traducción automática pasó por alto algo importante.
Clasifique sus documentos por riesgo
En grupos pequeños, enumeren los tipos de texto que su equipo traduce en una semana típica, desde un volante sobre un evento hasta un formulario de consentimiento o un aviso de denegación de beneficios. Clasifiquen cada elemento en dos montones: texto de bajo riesgo donde una traducción automática aproximada es aceptable, y texto con consecuencias donde una palabra equivocada podría costarle a alguien la atención, el dinero o un derecho legal. Para todo lo del segundo montón, nombren el servicio de interpretación o la versión traducida profesionalmente que su agencia usará en su lugar. Publiquen las dos listas donde el personal pueda verlas, y agreguen una línea sobre a quién llamar cuando algo del montón de riesgo llegue al mostrador.