Guía de Uso de Asistentes Digitales - Oficina del Dato de Navarra

GUÍA DE USO DE ASISTENTES DIGITALES

GUÍA DE USO DE ASISTENTES DIGITALES

GUÍA DE USO DE ASISTENTES DIGITALES
CONTEXTO
Desde su lanzamiento a finales de 2022, los Asistentes Digitales, como ChatGPT, han experimentado una gran popularidad.
Un Asistente Digital es una aplicación informática que puede responder de manera inteligente en lenguaje natural a las consultas de los usuarios, lo que finalmente hace realidad lo que antes solo veíamos en películas de ciencia ficción.
La inteligencia de un Asistente Digital radica en lo que se conoce como un Modelo de Lenguaje, una Red Neuronal entrenada con grandes volúmenes de texto en lenguaje natural para predecir la siguiente palabra en un texto. Esta capacidad permite a las personas entablar conversaciones con el modelo de lenguaje.
Pero, ¿Cuál es la importancia de estas aplicaciones en la actualidad?
Si se usan adecuadamente, estas aplicaciones pueden resultar sumamente beneficiosas. Aquí te presentamos diez sugerencias en esta guía para sacar el máximo provecho de estas tecnologías sin exponerte a riesgos.
1 - Averigua las condiciones de privacidad de tu Asistente Digital
Dependiendo de las condiciones de la licencia, las empresas propietarias de servicios como ChatGPT pueden utilizar tus conversaciones con el Asistente Digital para entrenar nuevos modelos. Si es así, existe la posibilidad de que el nuevo modelo de lenguaje memorice alguna parte de esas conversaciones, con el riesgo de que pueda devolver esa información a otro usuario.
Por lo tanto ¡No deberías incluir información privada en tus consultas, a no ser que la licencia del servicio garantice la privacidad.
Si la información son datos personales de terceros, puedes estar incumpliendo el RGPD (Reglamento General de Protección de Datos). La Agencia de Protección de Datos sanciona las infracciones con multas que van desde los 40.000 euros hasta los 20 millones de euros.
Lamentablemente, las condiciones de uso de los asistentes suelen ser textos largos, complejos y en inglés. En general puedes suponer que, si el servicio es gratuito, la empresa se reserva el derecho a usar tus datos para entrenar sus modelos. Si es de pago por suscripción, puedes suponer que son servicios privados.
Si vas a usar profesionalmente un asistente digital, habla con los responsables de informática de tu organización para evaluar la conveniencia de contratar la versión de pago.
![]() |
2 - No confíes ciegamente en las respuestas de un Asistente Digital
Los Asistentes Digitales están basados en un modelo de lenguaje, y un modelo de lenguaje básicamente lo único que sabe es predecir la palabra que sigue a un texto. Si no sabe la respuesta correcta a tu consulta se la va a inventar, y además de manera muy convincente.
Cualquier respuesta proporcionada por un asistente debe ser cuestionada críticamente y verificada en base a la evidencia disponible.
En el siguiente ejemplo se ve qué fácil es hacer que ChatGPT alucine, preguntándole por un hecho que nunca ocurrió:
|
|
Además, aunque una respuesta sea básicamente correcta, puede presentar sesgos heredados del texto con el que fue entrenado el modelo de lenguaje. En el siguiente ejemplo ChatGPT pone de manifiesto un típico sesgo de género. En inglés, "Doctor y Nurse" no tienen género, pero al traducirlas al español asume que "Doctor" es masculino y "Nurse", femenino:
![]() |
Los grandes modelos de lenguaje se entrenan principalmente con textos en Inglés. Puedes esperar que el rendimiento de estos modelos sea menor para lenguajes minoritarios, como por ejemplo el euskera.
Por ejemplo, esta es la distribución por idiomas de los datos de entrenamiento de GPT-3 (2019):
| Inglés | Francés | Alemán | Español | Italiano | Resto |
|---|---|---|---|---|---|
| 93% | 1,8% | 1,5% | 0,8% | 0,6% |
2,3% |
Por último, ten en cuenta que estos productos están fuertemente censurados para evitar todo uso inapropiado. En general esto es buena idea, pero puede limitar su utilidad. Por ejemplo, imagina que la siguiente pregunta la hace un escritor que está escribiendo una novela:
![]() |
3 - Dialoga con tu Asistente Digital
Estos asistentes son 'ChatBots', pueden conversar. ¡Si no te gusta la respuesta del asistente, díselo! Puedes señalar errores o hacer sugerencias. No desistas a la primera, dialoga con tu asistente hasta que comprenda lo que quieres. Incluso puedes pedirle que te ayude a mejorar tu petición, o preguntarle si nos hemos olvidado de algo en lo que le hemos pedido.
![]() |
4 - Piensa en tu audiencia
Las personas instintivamente adaptamos nuestra conversación según la persona con quién hablamos. Puedes ayudar a tu asistente pidiéndole que asuma un rol, como el de un experto, o indicándole el tipo de audiencia al que va dirigida su respuesta. En este ejemplo estamos indicando que la respuesta esté preparada para una audiencia de doctores en medicina:
![]() |
5 - Especifica el formato de la respuesta
Dile al asistente con qué formato, estructura o longitud quieres la respuesta. En este ejemplo le estamos indicando que resuma cada uno de los puntos de una lista en frases de una longitud concreta.
![]() |
6 - Corta / Pega
Puedes copiar y pegar texto de otros sitios en la consulta a tu asistente, lo cual resulta útil cuando el asistente no puede acceder a Internet o aceptar documentos de referencia (algunos tienen estas funcionalidades).
En el ejemplo hemos ‘copipegado’ este artículo de la revista WIRED para obtener un resumen en español.
Ten en cuenta que hay limitaciones en la longitud de tus instrucciones, y puede haber limitaciones en el número y/o tamaño de los mensajes diarios.
![]() |
7 - Proporciona ejemplos de lo que quieres que haga el asistente
Muchas veces es más fácil dar un ejemplo que una larga explicación, por ejemplo para especificar el formato de la respuesta. En el siguiente ejemplo proporcionamos al asistente un ejemplo para que genere una tabla de premios Nobel a nuestro gusto.
![]() |
8 - Ayúdele a razonar
Si no consigues que tu asistente realice con éxito una tarea, puedes explicársela paso a paso. En este ejemplo queremos una lista de novelas que hayan ganado dos prestigiosos premios literarios, y le explicamos al asistente el proceso que tiene que seguir para construir la lista.
![]() |
9 - ¡No lo uses para todo!
Los Asistentes Digitales destacan más en procesar texto en lenguaje natural que en lógica y aritmética, y nunca reemplazarán a las hojas de cálculo. En lugar de eso, los fabricantes de paquetes ofimáticos están incorporando estas herramientas de Inteligencia Artificial en sus productos.
![]() |
10 - Puede que tu asistente digital no sea lo que necesitas
Estos asistentes digitales son herramientas de propósito general, pero los grandes modelos de lenguaje funcionan mejor cuanto más específico y concreto es su objetivo. Si tu asistente se queda 'corto' puedes buscar en el mercado asistentes más especializados.
Algunos asistentes incluyen opciones orientadas a dar contexto al modelo de lenguaje para que su respuesta sea más precisa. Por ejemplo:
- Consulta a Internet: un modelo de lenguaje sólo sabe lo que ha aprendido durante su entrenamiento, pero algunos asistentes consultan Internet para usar el resultado como contexto actualizado para que el modelo de lenguaje responda con más precisión a las consultas del usuario.
- Documentación de referencia: algunos asistentes permiten que el usuario proporcione documentación de referencia que el modelo de lenguaje consultará para responder con más precisión a las consultas del usuario.
- Interpretación de imágenes: algunos asistentes aceptan, además de texto, otros formatos, como imágenes, y son capaces de interpretar su contenido y utilizarlo como contexto para responderte.
Y si trabajas en una organización o empresa, puede que tenga sentido construir un asistente a medida para resolver tu problema.









