Este material tiene el objetivo de ser de ayuda para comprender el detrás de escena de la funcionalidad de conocimiento Autogenerado y el impacto del prompt.
Debajo abordaremos puntos clave sobre el tema que te sugerimos leer en el orden propuesto para comprender mejor todo el recorrido.
¿Qué es un LLM?
- Un LLM (Large Language Model) es un modelo de inteligencia artificial basado en aprendizaje profundo (deep learning), entrenado con enormes cantidades de texto para comprender, procesar y generar lenguaje natural. Su objetivo es interactuar con las personas de forma orgánica y resolver tareas que antes requerían intervención humana.
- ¿Cómo funciona? Los LLM utilizan una arquitectura llamada Transformer, que les permite analizar el contexto completo de un texto y entender las relaciones entre palabras y conceptos. Funcionan prediciendo cuál es la siguiente palabra más probable en una secuencia, generando respuestas coherentes y adaptadas al contexto.
- Además, pueden realizar tareas nuevas a partir de instrucciones (prompts).
- Los LLM son modelos no deterministas: una misma consulta puede generar respuestas distintas. Por eso, las instrucciones del prompt orientan el resultado, pero no garantizan que el modelo siga cada indicación exactamente igual en todos los casos.
Esta variabilidad también debe considerarse al configurar derivaciones, integraciones, botones y otros complementos. El modelo genera texto; luego, la plataforma interpreta determinados tags internos para ejecutar las acciones asociadas.
¿Qué es un prompt en un marco general?
Un prompt es la instrucción, el contexto o el conjunto de indicaciones que le damos a un sistema de IA para guiarlo en cómo generar una respuesta. Es el "input" (entrada) que utilizas para guiarla, y puede incluir desde una frase simple hasta párrafos detallados.
No es lo mismo que una pregunta: una pregunta busca una respuesta, mientras que un prompt diseña la interacción y orienta a la IA hacia un resultado esperado.
Prioridad del Prompt:
- El motor conversacional tiene los lineamientos definidos para el conocimiento Personalizado, según la personalidad planteada para el asistente virtual. A este lo llamaremos Prompt oficial.
- La prioridad del modo en el que responde el asistente virtual es del prompt oficial (el que ya viene seteado en el motor de conocimiento Personalizado), ya que está configurado para proporcionar respuestas amplias y generales.
- Si es necesario un ajuste específico para un área de interés o contexto, podemos agregar ajustes a un Prompt configurable.
Importante: El prompt configurable solo debe utilizarse para complementar al prompt oficial. No debe contradecir ni reemplazar información ya presente en el prompt oficial.
Lectura recomendada:
- Criterios que se pueden ajustar en el prompt configurable
- Diagnóstico de prompts en asistentes virtuales: antes de ajustar el prompt, identifica la capa
¿Cómo funciona el conocimiento Autogenerado?
Una vez que hayas incorporado contenido en la sección Autogenerado de Virtual Assistant, ya sea desde enlaces o documentos PDF, y habilitado la opción de utilizar ese contenido Autogenerado, cuando alguno de tus clientes escriba una consulta al Asistente Virtual, el proceso inicialmente buscará la información en la base de conocimiento Personalizado; en caso de no encontrar lo que se pregunta, pasará a buscar en el conocimiento Autogenerado.
Observa el proceso completo en el diagrama debajo:
- Busca primero en el Conocimiento Personalizado. Si encuentra una respuesta, la entrega y finaliza el recorrido.
- Si no encuentra una respuesta, busca en el Conocimiento Autogenerado, a partir de los sitios web o documentos incorporados.
- Al encontrar piezas apropiadas para generar la respuesta de referencia, se pasan por la instrucción del prompt.
- Se inserta la información como contexto. Generative AI utiliza como contexto los últimos 10 mensajes / interacciones del historial de la conversación (5 turnos), independientemente de si fueron intercambiados con el Asistente Virtual, un Agente humano de Live o un servicio externo integrado, como Genesys.
- Extrae la información relevante del contenido y Generative AI genera la respuesta.
El prompt configurable interviene en la generación de la respuesta basada en el Conocimiento Autogenerado.
La funcionalidad de conocimiento Autogenerado se encuentra disponible únicamente para el nuevo motor conversacional.
Lectura recomendada:
- Cómo habilitar el conocimiento Autogenerado
- Incorporar el contenido de archivos PDF al conocimiento autogenerado con Gen AI
- Nuevo motor conversacional
- Buenas prácticas para gestionar tu conocimiento Autogenerado por Generative AI
Por favor, si aún tienes dudas, consulta con tu CSM o contáctanos en nuestro Support Center.