Narrar historias para informes, propuestas de financiamiento y difusión (storytelling)
La IA puede ayudar a dar forma a una narrativa para un informe, una propuesta de financiamiento, o una publicación de difusión. Redacta, ajusta y reelabora las palabras. Los hechos, el consentimiento y la dignidad de las personas en la historia siguen siendo suyos. Una herramienta puede pulir una historia; no debe inventarla.
Dónde está el límite
Pula las palabras, proteja la historia
La IA puede ayudar
Ajustar la narrativa de una propuesta de financiamiento, adaptar para un nuevo público una historia que usted recopiló con consentimiento, o redactar una publicación de difusión a partir de hechos reales y desidentificados.
Mantenga lo humano
No deje que la IA invente citas, detalles o estadísticas, use la historia de una persona sin su consentimiento, o pegue cualquier detalle identificable en una herramienta.
La redacción es donde ayuda la IA. La verdad, el consentimiento y la dignidad son suyos para sostener.
Es buena para el oficio de escribir: convertir sus notas y resultados reales y consentidos en un borrador claro, ajustar la narrativa de una propuesta de financiamiento, y adaptar una historia para públicos distintos.
Inventará detalles. Los modelos de lenguaje llenan un vacío con contenido fluido y sin respaldo, así que un borrador de IA puede añadir una cita, una estadística, o una escena que nunca ocurrió.
El consentimiento es una conversación que usted sigue teniendo, no una firma. La persona debe saber cómo se usará su historia, poder revisarla y aprobarla, y poder retirarla.
Centre la dignidad y la capacidad de decisión. Cuente las fortalezas y la complejidad, y evite una narrativa de lástima que cambia las dificultades de una persona por atención.
No use una herramienta de imágenes de IA para representar a un cliente o refugiado "típico", ya que estas herramientas reproducen estereotipos incluso cuando la instrucción nunca menciona la identidad.
Nunca pegue detalles identificables, y revele cuando una historia o imagen ha sido asistida por IA.
Cómo funciona, y dónde falla
1Un modelo llena un vacío con algo que nunca ocurrió
Cuando un modelo redacta una historia a partir de notas escasas, completa los vacíos prediciendo texto fluido, y ese texto a menudo afirma detalles específicos que la fuente nunca contuvo. En una anotación cuidadosa de resúmenes escritos por modelos, más del setenta por ciento contenía contenido alucinado, y la mayor parte era extrínseco, es decir, no se podía verificar en absoluto a partir de la fuente, y la gran mayoría de esas adiciones eran simplemente erróneas (Maynez y colegas, 2020). Los investigadores distinguen una alucinación que contradice la fuente de una que la fuente no puede verificar; una cita fabricada o una escena inventada es del segundo tipo (Ji y colegas, 2023). Este no es un riesgo abstracto. Abogados han presentado escritos que contenían casos judiciales inventados por un chatbot, completos con citas fabricadas, y han recibido sanciones por ello (Mata v. Avianca, 2023).
2El detalle inventado tiende a seguir un estereotipo
Lo que un modelo inventa para llenar un vacío no es neutral. Al dejarlo completar una oración que comenzaba con el nombre de un grupo, un modelo anterior produjo contenido violento para los musulmanes alrededor de dos tercios de las veces y asoció la palabra musulmán con terrorista en aproximadamente una cuarta parte de las pruebas, mucho más que para otros grupos, y darle previamente palabras positivas solo redujo esto parcialmente (Abid y colegas, 2021). Las herramientas de imágenes muestran el mismo patrón: reproducen estereotipos demográficos incluso cuando la instrucción nunca menciona la identidad, de una manera de la que los usuarios no pueden escapar de forma confiable con instrucciones distintas (Bianchi y colegas, 2023). Para una historia sobre un cliente inmigrante o refugiado, eso significa que un detalle añadido por la IA puede caer silenciosamente en un estereotipo denigrante, y por eso usted no la deja inventar ni la usa para representar a un cliente típico.
3El consentimiento, la exactitud y la dignidad son obligaciones que una herramienta no puede sostener
Las partes de contar una historia que protegen a la persona son juicios profesionales, no tareas de redacción. El código de ética del trabajo social establece la exactitud en cómo se representa a los clientes, y la divulgación de solo la información mínima necesaria, como obligaciones del profesional (National Association of Social Workers, 2021). Las guías del sector sobre narración ética tratan el consentimiento como una conversación continua y revocable, y le dan al narrador o a la narradora el derecho a revisar y aprobar cómo se usa su relato, la forma aplicada del principio de que nada sobre una persona se decide sin ella (Voice of Witness, n.d.; Commons Social Change Library, n.d.). Una herramienta puede ordenar sus palabras; no puede obtener consentimiento, verificar un hecho, o sopesar la dignidad de una persona, y eso sigue siendo suyo.
Sus notas y el marco de un financiadorUna viñeta de propuesta para verificar y aprobar
Redacte una viñeta de propuesta a partir de hechos consentidos y desidentificados
Aquí hay hechos verdaderos y desidentificados sobre un resultado, y el marco que usa este financiador. Redacte una breve viñeta que se ajuste al marco. Use solo los hechos que le doy, no añada ninguna cita, número o detalle que yo no haya proporcionado, y marque todo aquello sobre lo que no estuvo seguro. [pegue los hechos desidentificados, sin nombres ni detalles identificables]
Regla de seguridad. Verifique cada oración contra sus registros, mantenga los identificadores fuera, y haga que la persona revise y apruebe la viñeta antes de que se publique. Consulte el Módulo 4.
Un testimonio aprobado y sus datos de resultadosUna narrativa de informe con la cita intacta
Construya una narrativa de informe alrededor de una cita aprobada
Redacte la narrativa alrededor de este testimonio aprobado y estas cifras de resultados. Mantenga la cita palabra por palabra, no la reescriba ni la parafrasee, y no añada ningún logro o número que yo no haya enumerado. [pegue la cita aprobada y sus cifras reales]
Regla de seguridad. Nunca deje que la herramienta reformule una cita en palabras que la persona no dijo, y verifique cada cifra contra sus datos. Consulte el Módulo 2.
Una historia contada en el idioma de la personaUn borrador en lenguaje sencillo para revisión bilingüe y del narrador
Redacte una versión en lenguaje sencillo de una historia para revisión
Convierta esta historia consentida a lenguaje sencillo, a un nivel de lectura simple, para un boletín, conservando el significado y el énfasis propio de la persona. No añada detalles, y marque cualquier parte donde la redacción pudiera cambiar el significado. [pegue la historia consentida, sin detalles identificables]
Regla de seguridad. Una persona bilingüe calificada y el narrador o la narradora revisan ambos esta versión, y el consentimiento cubre esta versión específicamente, antes de que se comparta. Consulte el Módulo 3.
Ejemplo práctico
Una cita que nadie dijo
Usted le da al modelo algunos hechos verdaderos sobre el resultado de un cliente y pide una historia breve para un boletín.
El borrador es conmovedor y específico, con una cita sentida en la voz del cliente y una estadística redonda.
Ni la cita ni el número vinieron de usted. El modelo inventó ambos para que la historia impactara.
Usted elimina la cita y el número inventados, conserva solo lo que es verdadero y consentido, y deja que la persona lo revise. La IA organizó sus hechos; no debía fabricar otros nuevos.
Regla de seguridad. Usted es el conducto de la historia de alguien, no su autor. Mantenga con usted el consentimiento, la exactitud y la dignidad, y deje que la IA ayude solo con la redacción. Esto se conecta con Sesgo y equidad de la IA, ya que un detalle inventado a menudo sigue un estereotipo. Consulte también el Módulo 4, y Analice y visualice los datos de su programa para conocer los números detrás de la historia.
Fuentes
Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On faithfulness and factuality in abstractive summarization. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (pp. 1906-1919). Association for Computational Linguistics. https://doi.org/10.18653/v1/2020.acl-main.173
Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1-38. https://doi.org/10.1145/3571730
Abid, A., Farooqi, M., & Zou, J. (2021). Persistent anti-Muslim bias in large language models. In Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society (pp. 298-306). https://doi.org/10.1145/3461702.3462624
Bianchi, F., Kalluri, P., Durmus, E., Ladhak, F., Cheng, M., Nozza, D., Hashimoto, T., Jurafsky, D., Zou, J., & Caliskan, A. (2023). Easily accessible text-to-image generation amplifies demographic stereotypes at large scale. In Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (pp. 1493-1504). https://doi.org/10.1145/3593013.3594095
Mata v. Avianca, Inc., 678 F. Supp. 3d 443 (S.D.N.Y. 2023).