Antes de que su equipo adopte una herramienta de IA, sométala a una breve lista de verificación y obtenga respuestas claras antes de que cualquier información del cliente se acerque a ella.
Cómo elegir
Ajuste la tarea a la herramienta, y luego a la regla de datos
La tareaUna herramienta adecuadaUn borrador rápido o un resumen sencilloUn chatbot gratuito y ligero está bienRazonamiento cuidadoso o un documento largoUn modelo pagado más potente se gana su lugarCualquier cosa con datos sensibles del clienteNinguna herramienta de consumo, en absoluto
La herramienta correcta sigue a la tarea y a la sensibilidad de los datos, no al nombre de la marca; nada que pueda identificar a un cliente entra en una herramienta de consumo en ningún nivel.
Política de datos: pregunte qué recopila la herramienta, dónde lo almacena, y con quién lo comparte, y obtenga la respuesta por escrito.
Entrenamiento: pregunte si se entrena con lo que usted ingresa y si puede desactivarlo, y busque un acuerdo empresarial que diga que no lo hará.
Aprobación de la organización: confirme que la herramienta esté permitida bajo la política de su agencia antes de que alguien acerque información del cliente a ella.
Costo: calcule el precio real a su escala, incluyendo las tarifas por usuario y por uso que se mantienen pequeñas en una demostración y crecen con todo un equipo.
Idiomas y accesibilidad: verifique que funcione para los idiomas y las necesidades de acceso de sus clientes y su personal, ya que una herramienta fuerte en inglés puede ser débil en los idiomas que usted atiende.
Portabilidad: asegúrese de poder exportar sus datos y llevárselos si deja la herramienta.
Una demostración impecable o una puntuación alta en un benchmark es una señal de venta, así que ponga a prueba la herramienta en trabajo de bajo riesgo y júzguela con sus propias tareas antes de confiar en ella.
Cómo funciona, y dónde falla
1Una puntuación de benchmark mide una prueba, y esa prueba puede no ser su trabajo
Las herramientas se clasifican según benchmarks, que son conjuntos fijos de preguntas con respuestas conocidas. Una puntuación alta significa que la herramienta funcionó bien en ese conjunto. Dos cosas impiden que una puntuación le diga lo que usted necesita saber. Las preguntas del benchmark pueden terminar dentro de los datos de entrenamiento de la herramienta, así que la herramienta efectivamente ya vio las respuestas y la puntuación está inflada. Y la tarea del benchmark puede no parecerse en nada a sus cartas de admisión o a sus preguntas de elegibilidad, así que una puntuación alta en ella dice poco sobre su trabajo. Lea una puntuación como una pista, y ponga a prueba la herramienta en tareas que usted realmente hace.
2Un resultado fluido puede estar equivocado con seguridad, así que una demostración prueba poco
Una herramienta puede producir una redacción fluida y profesional y aun así estar equivocada, porque leerse bien y tener razón son cosas separadas. Una demostración está preparada para mostrar la herramienta en su mejor momento con material que el proveedor eligió. La manera de saber si una herramienta le sirve es pasar sus propias tareas reales y de bajo riesgo por ella, con los detalles del cliente eliminados, y verificar los resultados contra la fuente. Haga las preguntas de datos y entrenamiento en la misma ronda, porque una herramienta que no las responda con claridad no debería recibir información del cliente sin importar cómo se vio la demostración.
3Una herramienta puede verse bien y aun así causar daño a gran escala
El desempeño superficial puede ocultar a quién le sirve mal una herramienta. Se encontró que un algoritmo de atención médica ampliamente usado remitía a los pacientes negros a atención adicional con menos frecuencia de la necesaria, porque usaba el gasto pasado como sustituto de la necesidad, y parecía estar funcionando correctamente durante todo el tiempo que estuvo en uso (Obermeyer y colegas, 2019). La lección para comprar una herramienta de IA es que un resultado que se ve limpio no revela cómo trata la herramienta a las personas a las que usted atiende. Pregunte sobre el manejo de datos y el entrenamiento, obtenga las promesas en un acuerdo empresarial, y ponga a prueba en trabajo de bajo riesgo donde un error sea barato de detectar.
Una herramienta que su equipo está evaluandoUna lista de verificación de adopción para revisar
Convierta la decisión en una lista de verificación de adopción
Estoy revisando si nuestra agencia debería adoptar la herramienta de IA que le indico. Construya una breve lista de verificación con una fila para el manejo de datos, el entrenamiento con las entradas, si existe un acuerdo empresarial, la aprobación de la organización, el costo real a nuestra escala, la cobertura de idiomas y accesibilidad, y la exportación de datos. Para cada fila, escriba la pregunta sencilla que debo hacerle al proveedor y deje un espacio en blanco para su respuesta. [indique la herramienta y aproximadamente cuántos miembros del personal la usarían]
Regla de seguridad. La herramienta no puede confirmar por usted las respuestas del proveedor, así que obtenga cada una por escrito antes de que entren los datos del cliente. Consulte el Módulo 4.
La página de datos o privacidad de un proveedorUna lectura sencilla de lo que promete y lo que no
Obtenga una lectura sencilla de los términos de datos de un proveedor
Aquí hay una página de datos o privacidad de un proveedor. Póngala en lenguaje sencillo: qué dice que ocurre con el texto que yo pego, si se entrena con mis entradas, si puedo desactivarlo, y si promete algo de esto en un acuerdo empresarial. Enumere cualquier cosa sobre la que la página sea vaga o que no responda, para que yo pueda preguntarle al proveedor directamente. [pegue el texto de datos o privacidad del proveedor]
Regla de seguridad. Una lectura sencilla es un punto de partida; confirme las promesas en un acuerdo firmado antes de que la información del cliente se acerque a la herramienta. Consulte el Módulo 4.
Ejemplo práctico
La demostración que se vino abajo en una tarea real
Un proveedor le muestra a su equipo una demostración impecable donde la herramienta reescribe un aviso de beneficios en lenguaje sencillo y limpio, y parece lista para comprarse.
Antes de decidir, usted la pone a prueba con diez de sus propios avisos reales con los detalles del cliente eliminados, y verifica cada resultado contra la fuente.
Con su propio material, la herramienta se lee igual de fluida, y en tres de los diez omite un plazo o cambia una regla de elegibilidad mientras suena completamente segura de sí misma.
Usted también pregunta por los términos de datos y se entera de que el plan que le mostraron se entrena con sus entradas sin un acuerdo empresarial para desactivarlo. Usted la descarta, o pasa a un nivel que responda las preguntas de datos por escrito. La demostración mostró a la herramienta en su mejor momento, y su propia prueba de bajo riesgo fue lo que mostró cómo se comporta en el trabajo que usted realmente hace.
Regla de seguridad. Si una herramienta no puede responder con claridad las preguntas sobre datos y entrenamiento, no ponga información del cliente en ella. Consulte el Módulo 4.
Fuentes
Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453. https://doi.org/10.1126/science.aax2342