Encuentra la respuesta que buscas

Funcionalidad de conocimiento autogenerado y la utilización del prompt

Este material tiene el objetivo de ser de ayuda para comprender el detrás de escena de la funcionalidad de conocimiento Autogenerado y el impacto del prompt.

⬇ Debajo abordaremos puntos clave sobre el tema que te sugerimos leer en el orden propuesto para comprender mejor todo el recorrido.

⏩ ¿Qué es un LLM?

  • Un LLM (Large Language Model) es un modelo de inteligencia artificial basado en aprendizaje profundo (deep learning), entrenado con enormes cantidades de texto para comprender, procesar y generar lenguaje natural. Su objetivo es interactuar con las personas de forma orgánica y resolver tareas que antes requerían intervención humana.
  • ¿Cómo funciona? Los LLM utilizan una arquitectura llamada Transformer, que les permite analizar el contexto completo de un texto y entender las relaciones entre palabras y conceptos. Funcionan prediciendo cuál es la siguiente palabra más probable en una secuencia, generando respuestas coherentes y adaptadas al contexto.
  • Además, pueden realizar tareas nuevas a partir de instrucciones (prompts).

⏩ ¿Qué es un prompt en un marco general?

"Un prompt es la instrucción o pregunta que le das a un sistema de inteligencia artificial para que genere una respuesta o realice una tarea. Es el "input" (entrada) que utilizas para guiarla, y puede incluir desde una frase simple hasta párrafos detallados".

⏩ ¿Cómo funciona el conocimiento Autogenerado?

Una vez que hayas incorporado contenido en la sección Autogenerado de Virtual Assistant, ya sea desde enlaces o documentos PDF, y habilitado la opción de utilizar ese contenido Autogenerado, cuando alguno de tus clientes escriba una consulta al asistente virtual, el proceso inicialmente buscará la información en la base de conocimiento Personalizado; en caso de no encontrar lo que se pregunta, pasará a buscar en el conocimiento Autogenerado.

📝 En esa etapa es cuando recién se activa la directriz que marca el prompt.

  • Se busca en enlaces o documentos.
  • Al encontrar piezas apropiadas para generar la respuesta de referencia, se pasan por la instrucción del prompt.
  • Se inserta la información como contexto, más los lineamientos del prompt.
  • Y se genera la respuesta que será entregada al cliente.

⏩ Prioridad del Prompt:

  1. El motor de conocimiento Personalizado tiene los lineamientos definidos, según la personalidad planteada para el asistente virtual. A este lo llamaremos Prompt oficial.
  2. La prioridad del modo en el que responde el asistente virtual es del prompt oficial (el que ya viene seteado en el motor de conocimiento Personalizado), ya que está configurado para proporcionar respuestas amplias y generales.
  3. Si es necesario un ajuste específico para un área de interés o contexto, podemos agregar un Prompt configurable.

⚠ Importante: El prompt configurable solo debe utilizarse para complementar al prompt oficial. No debe contradecir ni reemplazar información ya presente en el prompt oficial.

⏩  ¿Qué aspectos del prompt configurable se pueden ajustar?

1⃣ Indicarás los parámetros de cómo necesitas que sean la voz y el tono de las respuestas que brinde el asistente virtual con contenido Autogenerado por Generative AI. Definirás si será formal o amigable y la extensión estimada del texto que recibirá el usuario en la ventana de conversación.

ℹ Ten presente que debes procesar previamente el contenido en la base de conocimiento de Generative AI y habilitarlo.

  • Rol: Define cómo debe comportarse el asistente virtual (por ejemplo, "Asistente virtual oficial de MarcaX")
  • Voz y tono: establece el estilo de comunicación que se adapte a la experiencia que deseas ofrecer a tus usuarios. Por ejemplo, puede ser amigable, formal, cercano, profesional, etc. 
  • Máxima cantidad de caracteres estimada para la respuesta que recibirá el usuario: determina la longitud aproximada de las respuestas que recibirá el usuario en la ventana de conversación. Se sugiere elegir entre 200, 300, 400 y 500, considerando que son caracteres estimados. 
  • Texto que se utilizará en caso de tener que dar una respuesta evasiva: escribe el mensaje que el asistente mostrará cuando no encuentre información para responder la consulta o no logre interpretar la pregunta del usuario. Se recomienda que ese texto no supere los 400 caracteres. 

2⃣ Adicionalmente, es posible agregar lineamientos sobre derivaciones, integraciones, botones y otros complementos. ➡ Ver sección Datos clave. 

ℹ Los complementos se generan por medio de tags internas en HTML, que son reconocidas por nuestros servicios. Es decir, no se trata de un agente que por el momento ejecute tareas, sino que responde con tags que nuestro sistema interpreta y, a partir de ellas, ejecuta una acción.

⏩ ¿Cómo solicitar los parámetros a aplicar en tu prompt configurable para el conocimiento Autogenerado?

Vía requerimiento en nuestro Support Center.

 ✅ Datos clave:

  1. Si como cliente solicitas estos agregados específicos al equipo de Soporte, es necesario que conozcas que los LLMs son modelos no deterministas, es decir, no siempre generan la misma respuesta ante la misma entrada (a diferencia de un sistema tradicional basado en reglas fijas).
  2. Esto sucede porque el modelo elige cada palabra según probabilidades, no según una única respuesta "correcta" predefinida. Por eso, aunque una regla esté bien escrita en el prompt, no hay garantía de que el LLM la siga siempre de la misma forma, por lo que a veces puede no responder como se espera.
  3. El comportamiento se acentúa aún más en el agregado de derivaciones, integraciones, botones y otros complementos, debido a la naturaleza de los LLMs, ya que están hechos exclusivamente para responder con texto.
  4. Es fundamental evitar configurar prompts muy largos para garantizar que el rendimiento del modelo no se vea afectado.

‼ ¿Qué no debes hacer?

> No debes incorporar indicaciones de tipo prompt que señalen al asistente virtual el modo de resolver dentro de los documentos que agregas en la sección de conocimiento Autogenerado.

📌 ¿Por qué?
  • Eso cambia el comportamiento técnico de la funcionalidad, lo que impacta negativamente en la experiencia de tus usuarios al recibir una respuesta.
  • El objetivo real del conocimiento Autogenerado, en todo su alcance tanto al incorporar enlaces como documentos PDF, es la extracción masiva y sistemática de información mediante programas o herramientas informáticas, sin intervención manual. Es decir, obtener conocimiento para nutrir al asistente virtual de información que pueda resultar útil para que Generative AI formule posibles respuestas que requieran los usuarios.

📚 Revisa también Buenas prácticas para gestionar tu conocimiento Autogenerado por Generative AI

⚙ Por favor, si aún tienes dudas, consulta con tu CSM o contáctanos en nuestro Support Center.


Este sitio web almacena cookies en tu computadora. Estas cookies se utilizan para recopilar información sobre cómo interactúas con nuestro sitio web y nos permite recordarte. Utilizamos esta información para mejorar y personalizar tu experiencia de navegación y para obtener estadísticas y métricas sobre nuestros visitantes tanto en este sitio web como en otros medios. Para obtener más información sobre las cookies que utilizamos, consulta nuestra Política de privacidad.

Si rechazas, tu información no será rastreada cuando visites este sitio web. Se usará una sola cookie en tu navegador para recordar tu preferencia de no ser rastreado.