Análisis de técnicas de petición

Objective

After completing this lesson, you will be able to analice varias técnicas de aviso, como one-shot, few-shot y meta prompting.

Esta lección trata las técnicas de petición para obtener respuestas precisas y específicas del contexto de LLM. Al dominar métodos como one-shot, few-shot y meta prompting, adquirirá un control más granular sobre la salida del LLM, lo que le permitirá crear funciones de IA generativa más sólidas y eficaces para sus aplicaciones empresariales.

Técnicas de SAP Prompt

Petición única

El aviso de un disparo es la técnica más sencilla. Implica proporcionar al LLM una instrucción única y directa junto con todo el contexto necesario de una sola vez. El modelo genera una respuesta basada únicamente en este aporte inmediato y su conocimiento pre-entrenado. No se proporcionan ejemplos del comportamiento de entrada/salida deseado dentro de la propia petición.

Cómo funciona: Simplemente indique su solicitud e incluya los datos relevantes. El LLM interpreta la instrucción e intenta cumplirla.

Cuándo usarlo: Esta técnica es efectiva para tareas bien definidas e inequívocas donde la comprensión general del lenguaje del LLM es suficiente para generar un resultado satisfactorio. A menudo se utiliza para:

  • Resumen simple ("Resumir este artículo.")
  • Pregunta básica ("¿Cuál es la capital de Francia?")
  • Clasificación directa ("¿Este correo electrónico es positivo o negativo?")

Contexto del desarrollador: Ideal para la creación de prototipos iniciales o para tareas en las que los datos ya están limpios, y el formato de salida deseado está implícito o ampliamente entendido. Es la línea base para muchas llamadas de API.

Ejemplo:

Resuma la siguiente descripción del producto en una frase:

  • Producto: SAP S/4HANA Cloud, edición pública
  • Descripción: SAP S/4HANA Cloud, edición pública es una solución de ERP en la nube completa y lista para usar con las últimas mejores prácticas de la industria e innovación continua. Ayuda a las empresas a optimizar los procesos centrales, obtener información estratégica en tiempo real e impulsar la transformación digital.

Resultado esperado: un resumen de una sola frase del texto proporcionado.

Petición de menos: aprender de ejemplos

La petición de menos disparo es una técnica significativamente más potente que implica proporcionar al LLM algunos (típicamente 1 a 5) ejemplos de pares de entrada-salida dentro de la propia petición. Estos ejemplos demuestran la tarea, el formato y el comportamiento deseados, lo que permite al LLM aprender el patrón antes de realizar la solicitud real.

Cómo funciona: le das al LLM un conjunto de ejemplos completados que le muestran lo que quieres y cómo lo quieres. Después de estos ejemplos, proporcione la nueva entrada real para la que desea una respuesta. El LLM aprovecha los patrones demostrados en los ejemplos para generar su salida para la entrada final.

Cuándo usarlo: El aviso con pocas capturas es increíblemente efectivo para las tareas que requieren:

  • Formato específico: cuando la salida debe cumplir con una estructura estricta (por ejemplo, JSON, XML, plantilla de informe específica).
  • Interpretación desnuda: Cuando la tarea es específica del dominio o requiere que el LLM inferya un patrón o distinción sutil que es difícil de describir puramente con palabras.
  • Estilo o tono consistente: Para guiar al LLM a escribir en una voz en particular o cumplir con las pautas de la marca.
  • Clasificaciones personalizadas: al clasificar texto en categorías desconocidas para el LLM (por ejemplo, códigos de error personalizados, tipos de opinión específicos para su producto).

Contexto del desarrollador: Esta técnica es inestimable cuando el ajuste preciso de un modelo no es factible debido al coste o la disponibilidad de datos, pero necesita una mayor precisión y consistencia que la petición de una sola vez puede proporcionar. Es una estrategia común para mejorar el rendimiento del modelo en las aplicaciones empresariales sin volver a entrenar.

Ejemplo:

Convierta las siguientes preguntas de soporte al cliente en descripciones de problemas concisas e internas, manteniendo el problema clave:

Cliente: "Mi aplicación sigue fallando cuando intento cargar documentos".

Problema interno: La aplicación falla durante la carga del documento.

Cliente: "No puedo iniciar sesión en mi cuenta. Dice: "credenciales no válidas", pero estoy seguro de que mi contraseña es correcta".

Problema interno: el usuario no puede iniciar sesión debido a un error de credenciales no válidas.

Cliente: "El informe que generé ayer para las ventas del tercer trimestre muestra números incorrectos para la región Asia-Pacífico. Todas las demás regiones se ven bien".

Resultado esperado: El LLM completa el último "Problema Interno" basado en el patrón establecido por los dos ejemplos.

Metapetición

La petición meta, a menudo conocida como "petición de sistema" en muchas API de LLM (como las utilizadas con el hub de IA generativa de SAP), implica proporcionar una instrucción general que defina la persona del LLM, su objetivo general, sus restricciones o las reglas que debe seguir para toda una sesión o serie de interacciones. Establece la "etapa" para todas las peticiones subsiguientes.

Cómo funciona: Esta instrucción suele venir antes de cualquier solicitud específica del usuario. No le pide al LLM que realice una tarea inmediata, sino que adopte un determinado comportamiento o conjunto de pautas que regirán todas sus respuestas futuras dentro de ese contexto de interacción.

Cuándo usarlo: La petición meta es poderosa para:

  • Establecer una Persona: Hacer que el LLM actúe como un experto o asistente específico (por ejemplo, "Usted es un analista financiero experto").
  • Establecer barandillas: hacer cumplir la seguridad, las directrices éticas o las reglas específicas del dominio (por ejemplo, "No discutir políticas", "Proporcionar solo respuestas basadas en los documentos proporcionados").
  • Definir la intención general: guiar el enfoque general de LLM sobre una conversación (por ejemplo, "Su objetivo es ayudar a los usuarios a solucionar problemas de seguridad de SAP").
  • Garantizar la consistencia de la salida a lo largo del tiempo: Mantener un tono o estilo consistente a través de múltiples giros en una aplicación conversacional.

Contexto del desarrollador: crucial para crear agentes de IA conversacionales, asistentes de conocimiento interno o aplicaciones que requieran un estricto cumplimiento de las políticas empresariales y las reglas de control de datos. Ayuda a crear una experiencia de usuario más controlada y predecible.

Ejemplo (a menudo enviado como mensaje de "sistema" en llamadas API):

Es un agente experto de soporte de SAP Concur. Su objetivo principal es ayudar a los usuarios a resolver problemas relacionados con los envíos de informes de gastos. Priorice siempre los consejos claros y útiles. Nunca proporcione asesoramiento financiero ni pida información personal confidencial. Si no puede ayudar, dirija al usuario al portal oficial de soporte de Concur.

Aviso de usuario posterior

He enviado mi informe de gastos del mes pasado, pero sigue mostrándose como "Pendiente de aprobación" después de 5 días. ¿Qué debería hacer?

Resultado esperado: La respuesta del LLM se ajustará a la persona y las pautas establecidas en el meta prompt, centrándose en consejos accionables dentro de Concur y evitando recomendaciones financieras.

Combinación de técnicas Es importante tener en cuenta que estas técnicas no son mutuamente excluyentes. Para casos de uso empresariales complejos, a menudo los combinará. Por ejemplo, puede utilizar una metapetición para definir el rol de LLM como un "asistente de documentación técnica" y, a continuación, utilizar ejemplos de captura dentro de peticiones de usuario subsiguientes para especificar el formato deseado para fragmentos de código o descripciones de punto final de API.

Resumen de la lección

Esta lección introdujo técnicas fundamentales de ingeniería de pronósticos, incluyendo One-Shot, Few-Shot y Meta Prompting. Estos métodos mejoran el control sobre los resultados del LLM, apoyando la entrega de respuestas precisas y específicas del contexto para las aplicaciones empresariales.

  • One-Shot Prompting aprovecha las instrucciones directas para tareas simples y bien definidas.
  • Few-Shot Prompting mejora significativamente la precisión y consistencia al guiar el LLM con ejemplos de entrada-salida, crucial para el formato específico o interpretaciones matizadas.
  • Meta Prompting a menudo se utiliza como instrucciones del sistema, establece la persona del LLM, las restricciones y las directrices generales para una interacción completa, estableciendo un comportamiento predecible y gobernado.

Al dominar estos métodos, que se pueden combinar de forma eficaz, puede crear funciones de IA generativa más sólidas y eficaces para sus soluciones dentro del ecosistema de SAP.