Conviértalo en una norma del equipo
La cautela individual se desvanece. Una norma de equipo compartida y escrita es lo que mantiene el uso seguro después de que termina el taller.
Redacten la norma en cinco líneas
- Cinco minutos, cada quien solo: todos escriben cinco líneas sobre qué puede hacer el personal con la IA y qué nunca debe hacer.
- Léanlas en voz alta. Queden solo las líneas que escribió más de una persona.
- Para cada línea que sobreviva, digan quién responde las preguntas sobre ese punto. Esa hoja es el primer borrador de la norma del equipo.
¿Qué escribiste que nadie más escribió, y por qué te importa a ti?
- Conviertan el taller en una política de uso aceptable por escrito, para que la práctica segura perdure después de que se olviden los detalles. Una norma compartida y escrita se mantiene aunque una persona se vaya o llegue alguien nuevo.
- Indiquen con claridad para qué está aprobado el uso de la IA en su agencia: redactar una carta o un correo electrónico, traducir una idea general para comenzar, resumir un documento extenso y organizar los próximos pasos.
- Indiquen qué se debe verificar siempre antes de actuar: cualquier nombre, número, fecha, plazo, regla de elegibilidad o detalle legal o médico, contrastado con una fuente oficial o con un colega.
- Indiquen qué nunca se ingresa en un chatbot: nombres de clientes, fechas de nacimiento, direcciones, números de caso o números A, detalles migratorios, o cualquier cosa que pudiera identificar a un cliente. Las herramientas de IA de consumo no están diseñadas para resguardar información sensible.
- Pongan por escrito la regla sobre el intérprete. La traducción automática puede ayudar al personal a comenzar, y un intérprete calificado se encarga del consentimiento, los derechos, la seguridad y cualquier conversación de alto riesgo.
- Designen a una persona de contacto interna para las preguntas sobre IA, y definan qué se debe escalar a un supervisor, para que el personal no tenga que adivinar dónde está el límite.
- Agreguen una breve revisión sobre IA a la supervisión habitual, retomen la tarjeta de reglas básicas, y comiencen con tareas de bajo riesgo antes de usar la IA en casos de alto riesgo.
Una práctica nueva no se sostiene por sí sola. Una revisión de la investigación sobre la sostenibilidad de los programas encontró que los avances logrados con la capacitación suelen desvanecerse una vez que termina el impulso inicial, y que el uso duradero depende de incorporar la práctica en las rutinas de la organización (Wiltsey Stirman y colaboradores, 2012). Escribir este taller como una norma compartida es lo que hace que la cautela que construyeron perdure más allá de la capacitación.
Que el personal siga o no una práctica depende de las señales que lo rodean. El trabajo sobre la práctica basada en evidencia muestra que un clima organizacional favorable, es decir, las expectativas y el apoyo compartidos que hacen que una práctica sea "así es como se hacen las cosas aquí", predice si el personal de primera línea realmente la usa (Ehrhart y colaboradores, 2014). Una política breve respaldada por el liderazgo convierte el uso cuidadoso de la IA en la norma esperada.
Las partes de una norma que se desvanecen más rápido son las reglas sobre lo que no se debe hacer. Cuando se reevaluó a trabajadores de salud de primera línea después de su capacitación, mantuvieron la mayoría de los pasos, pero obtuvieron los puntajes más bajos en aquellos que les indicaban no actuar, por lo que se recomendó una capacitación de refuerzo (Gobezayehu y colaboradores, 2014). Para el uso de la IA, las reglas sobre qué nunca se ingresa y para qué nunca se usa la IA son las que hay que poner por escrito y revisar, porque son las primeras en debilitarse.
La orientación sobre IA para organizaciones sin fines de lucro apunta en la misma dirección. Tanto NTEN como TechSoup ofrecen plantillas de política de uso aceptable que detallan los usos aprobados, qué verificar y qué datos nunca deben ingresarse en una herramienta que no fue diseñada para información sensible (NTEN Generative AI Use Policy Template; TechSoup). La orientación para programas de reasentamiento de refugiados añade que las agencias deben comenzar con tareas administrativas de bajo riesgo y mantener a una persona revisando el resultado antes de que la IA se acerque a tareas de cara al cliente (Switchboard).
Adoptar una norma también significa designar quién es responsable de ella. La orientación de asistencia legal insiste en poner a prueba una herramienta y mantener la revisión humana antes de que toque casos reales (Legal Services Corporation), y el trabajo sobre adopción equitativa con organizaciones sin fines de lucro encuentra que muchas agencias quieren usar la IA bien, pero carecen de la estructura interna para hacerlo de forma segura (Project Evident y Stanford HAI). Designar a una persona de contacto interna y agregar una breve revisión sobre IA a la supervisión le da a la norma un lugar donde vivir.
Qué debe incluir su política de una página sobre IA
- Para qué está aprobada la IA: redactar cartas y correos electrónicos, traducir una idea general para comenzar, resumir documentos extensos y organizar los próximos pasos.
- Qué se debe verificar siempre antes de actuar: cualquier nombre, número, fecha, plazo, regla de elegibilidad o detalle legal o médico, contrastado con una fuente oficial o con un colega.
- Qué nunca se debe ingresar: nombres de clientes, fechas de nacimiento, direcciones, números de caso o números A, estatus migratorio, o cualquier cosa que pudiera identificar a un cliente, porque las herramientas de IA de consumo no están diseñadas para resguardar información sensible.
- La regla sobre el intérprete: la traducción automática puede ayudar al personal a comenzar, y se recurre a un intérprete calificado para el consentimiento, los derechos, la planificación de la seguridad y cualquier conversación de alto riesgo.
- A quién preguntar en caso de duda, y qué se debe escalar a un supervisor, identificado por su función para que nadie tenga que adivinar.
- Qué herramientas e idiomas abarca la política, nombrados específicamente, ya que su agencia usa herramientas particulares y atiende idiomas particulares de sus clientes.
- Quién es responsable de la política y cuándo la revisará el equipo, para que se mantenga actualizada a medida que cambian las herramientas y las reglas.
La cautela individual se desvanece; una norma escrita se mantiene
Un navegador de recursos convierte el taller en una norma del equipo
- Una pequeña agencia de servicios para inmigrantes termina el taller. Al principio el personal es cuidadoso, pero luego llega una nueva trabajadora de casos que pega el nombre completo de un cliente y los detalles del caso en un chatbot para agilizar una carta, porque nadie le había explicado la regla.
- El equipo se reúne y redacta una política de una página que enumera para qué está aprobada la IA, qué se debe verificar siempre, qué nunca se ingresa, cuándo se requiere un intérprete calificado, y a quién preguntar en caso de duda.
- Designan a la supervisora de admisión como la persona de contacto para las preguntas sobre IA, y acuerdan qué se le debe escalar a ella.
- La supervisora agrega una pregunta a la supervisión habitual: ¿la IA tuvo algo que ver en esto y, si fue así, qué verificaron? La tarjeta de reglas básicas se coloca junto a la estación de trabajo compartida.
- Comienzan con tareas de bajo riesgo, como redactar y resumir, antes de permitir que la IA se acerque a las decisiones de elegibilidad o a asuntos migratorios.
- Más adelante, el equipo vuelve a leer la tarjeta en conjunto. La regla de nunca ingresar cierta información había comenzado a debilitarse, así que la reafirman y agregan un ejemplo sencillo para el personal nuevo.
Completen las reglas básicas de su equipo
En equipo, completen juntos la tarjeta de reglas básicas al final de esta página. Agreguen las herramientas y los idiomas que su agencia realmente usa. Cada persona menciona una cosa que hará de manera diferente a partir del lunes, y el equipo decide dónde colocar la tarjeta.
Redacten su política de uso de la IA de una página
Divídanse en grupos pequeños y asignen a cada grupo una sección de la política para redactar: para qué está aprobada la IA, qué se debe verificar siempre, qué nunca se ingresa, la regla sobre el intérprete, y a quién preguntar en caso de duda. Usen como punto de partida una plantilla pública, como la guía de política de NTEN o de TechSoup, y luego reescriban cada línea con las palabras propias de su agencia, nombrando las herramientas y los idiomas que realmente utilizan. Reúnan las secciones en una sola página, decidan quién será responsable de ella, y acuerden cuándo el equipo la revisará de nuevo.