Capítulo 7: Memoria y Conversaciones de Varios Turnos
7.5 Comparación entre Chat Completions y Assistants API
Al desarrollar aplicaciones avanzadas con las herramientas de OpenAI, necesitarás elegir entre dos enfoques poderosos para implementar IA conversacional. Comprender estas opciones es crucial para construir aplicaciones efectivas de IA:
- La API de Chat Completions, que ofrece a los desarrolladores control granular sobre:
- Flujo y secuencia de mensajes
- Gestión de memoria y manejo de contexto
- Optimización del uso de tokens
- Implementación personalizada de estados de conversación
- La más reciente API de Asistentes, que proporciona un marco más estructurado que incluye:
- Sistema de memoria de conversación incorporado
- Gestión automatizada de hilos para conversaciones de larga duración
- Capacidades integradas de manejo de archivos
- Soporte nativo para llamadas a herramientas y ejecución de funciones
- Infraestructura backend gestionada por OpenAI
Si bien ambas APIs están diseñadas para permitir aplicaciones de IA conversacional, se adaptan a diferentes enfoques y casos de uso de desarrollo. La API de Chat Completions es ideal para desarrolladores que necesitan máxima flexibilidad y control, mientras que la API de Asistentes es perfecta para aquellos que prefieren un entorno más estructurado y rico en funciones con menos código repetitivo. En esta sección, exploraremos el funcionamiento detallado de cada API, examinaremos sus características distintivas y proporcionaremos orientación para elegir la herramienta adecuada para tus necesidades específicas.
7.5.1 ¿Qué es la API de Chat Completions?
La API de Chat Completions (openai.ChatCompletion.create()) es una interfaz fundamental que proporciona a los desarrolladores control completo sobre las interacciones de IA. Cuando realizas una solicitud, construyes una lista cuidadosamente ordenada de mensajes, cada uno etiquetado con roles específicos: los mensajes system establecen el comportamiento y las restricciones de la IA, los mensajes user contienen las consultas o entradas reales, y los mensajes assistant almacenan las respuestas previas de la IA. La API procesa estos mensajes en secuencia para generar respuestas contextualmente apropiadas.
Lo que hace que esta API sea particularmente poderosa es su diseño minimalista - está construida para velocidad y eficiencia, sin complejidad oculta. Esta elección de diseño otorga a los desarrolladores un control sin precedentes sobre cada aspecto de la conversación, desde cómo se mantiene el contexto hasta cómo se estructuran las respuestas. Puedes ajustar con precisión parámetros como la temperatura y el uso de tokens, haciéndola perfecta para aplicaciones donde cada detalle importa.
Mejor cuando quieres:
- Gestionar la memoria manualmente - Implementar tus propios sistemas sofisticados de memoria, desde pilas simples de mensajes hasta bases de datos vectoriales complejas. Esto te da control completo sobre cómo se almacena, recupera y procesa el historial de conversación. Puedes implementar estrategias personalizadas de caché, usar diferentes soluciones de almacenamiento para diferentes tipos de datos y optimizar el uso de memoria según tus necesidades específicas.
- Construir flujos de trabajo personalizados - Crear patrones únicos de conversación y comportamientos especializados de IA que van más allá de las interfaces de chat estándar. Esto te permite diseñar flujos de interacción complejos, implementar reglas de validación personalizadas, crear formatos de respuesta especializados y construir comportamientos avanzados de IA adaptados a los requisitos específicos de tu aplicación.
- Control ajustado del uso de tokens - Optimizar costos y tiempos de respuesta mediante la gestión precisa de cuánto contexto se incluye en cada solicitud. Esto te permite implementar estrategias sofisticadas de gestión de tokens, como el dimensionamiento dinámico de ventanas de contexto, la poda selectiva de mensajes y la sumarización inteligente de contexto para mantener un rendimiento óptimo mientras minimizas los costos de API.
- Un backend más liviano, perfecto para aplicaciones sin estado - Ideal para microservicios y arquitecturas serverless donde la sobrecarga mínima es crucial. Esta arquitectura permite mejor escalabilidad, latencia reducida y utilización más eficiente de recursos. Es particularmente beneficioso para aplicaciones de alto tráfico donde el rendimiento y la optimización de costos son preocupaciones principales.
Ejemplo:
response = openai.ChatCompletion.create(
model="gpt-4o",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Explain how an API works in simple terms."}
],
temperature=0.6,
max_tokens=150
)
print(response["choices"][0]["message"]["content"])Analicemos este ejemplo de código:
- Estructura de la llamada a la API:
- Usa
openai.ChatCompletion.create()para iniciar una solicitud de chat completion - Toma varios parámetros clave para configurar la generación de respuestas
- Parámetros clave:
model: Establecido como "gpt-4o" - especifica qué modelo de OpenAI usarmessages: Un array de objetos de mensaje, cada uno conteniendo:- Un mensaje de sistema que establece el rol de la IA
- Un mensaje del usuario que contiene la consulta actual
temperature: Establecido en 0.6 - controla la aleatoriedad/creatividad de la respuestamax_tokens: Establecido en 150 - limita la longitud de la respuesta
- Formato del mensaje:
- Utiliza un formato estructurado con "role" y "content" para cada mensaje
- El mensaje del sistema define el comportamiento del asistente: "You are a helpful assistant"
- El mensaje del usuario contiene la consulta de ejemplo: "Explain how an API works in simple terms"
- Manejo de la salida:
- Recupera la respuesta usando indexación de arrays: response["choices"][0]["message"]["content"]
- Imprime la respuesta generada en la consola
Esta es una implementación básica donde necesitas gestionar el historial de conversación y la memoria por tu cuenta.
7.5.2 ¿Qué es la API de Asistentes?
La API de Asistentes es una abstracción sofisticada de alto nivel introducida por OpenAI que simplifica el desarrollo de aplicaciones de IA manejando automáticamente varias tareas complejas:
- Almacenamiento y recuperación de conversaciones (vía hilos) - Esto permite a los desarrolladores mantener el historial de conversación sin construir soluciones personalizadas de almacenamiento. Cada hilo actúa como un contenedor único de conversación que persiste a través de las sesiones.
- Manejo de memoria persistente - La API gestiona automáticamente la retención y recuperación de contexto, asegurando que la información relevante de interacciones previas se mantenga sin intervención manual.
- Carga y lectura de archivos - Las capacidades integradas de manejo de archivos permiten una integración fluida de documentos, imágenes y otros tipos de archivos en las conversaciones, con análisis automático y extracción de contexto.
- Gestión de funciones (herramientas) y llamadas a herramientas de manera más fluida - La API proporciona un marco estructurado para integrar herramientas y funciones externas, manejando la complejidad de llamadas a funciones, validación de parámetros y procesamiento de respuestas.
Defines un asistente con capacidades e instrucciones específicas, inicias un hilo para comenzar una conversación, e interactúas con él usando mensajes. La infraestructura de OpenAI maneja todo el complejo manejo de memoria y unión de contexto entre bastidores, reduciendo significativamente la sobrecarga de desarrollo.
Mejor cuando quieres:
- Una gestión de memoria incorporada - La API se encarga de todo el seguimiento del historial de conversación y manejo de contexto automáticamente. Esto significa que no necesitas escribir código para almacenar mensajes, gestionar el estado de la conversación o implementar sistemas de memoria. La API mantiene inteligentemente el contexto de la conversación a través de múltiples interacciones, asegurando que la IA recuerde discusiones previas y pueda referirlas apropiadamente.
- Cargar archivos o usar herramientas como el intérprete de código - La API proporciona soporte nativo para el manejo de archivos e integración de herramientas. Puedes cargar fácilmente documentos, imágenes o archivos de código, y la API los procesará automáticamente para el contexto. El intérprete de código puede ejecutar fragmentos de código, generar visualizaciones y realizar cálculos complejos. Otras herramientas pueden integrarse para realizar tareas como análisis de datos, análisis de documentos o llamadas a API externas, todo gestionado sin problemas por la API.
- Conversaciones hiladas persistentes - La API mantiene hilos de conversación separados para cada usuario o tema. Estos hilos persisten a través de múltiples sesiones, lo que significa que un usuario puede volver días o semanas después y continuar su conversación donde la dejó. La API recupera automáticamente el contexto relevante y mantiene la continuidad de la conversación, haciéndola ideal para aplicaciones que requieren compromiso a largo plazo del usuario.
- Orquestación simplificada de API para flujos de trabajo de múltiples pasos - Las interacciones complejas que requieren múltiples pasos o puntos de decisión son manejadas elegantemente por la gestión de flujo de trabajo incorporada en la API. Puede coordinar secuencias de operaciones, gestionar transiciones de estado y manejar tareas de procesamiento paralelo. Esto es particularmente útil para aplicaciones que necesitan encadenar múltiples operaciones, como recopilar información en varios turnos, procesar entradas de usuario secuencialmente o coordinar entre diferentes herramientas y servicios.
Ejemplo:
import openai
# Step 1: Create an Assistant (once)
assistant = openai.beta.assistants.create(
name="Helpful Tutor",
instructions="You explain technical concepts clearly.",
model="gpt-4o"
)
# Step 2: Create a Thread (per user or session)
thread = openai.beta.threads.create()
# Step 3: Add a Message to the Thread
openai.beta.threads.messages.create(
thread_id=thread.id,
role="user",
content="What’s the difference between JSON and XML?"
)
# Step 4: Run the Assistant
run = openai.beta.threads.runs.create(
thread_id=thread.id,
assistant_id=assistant.id
)
# Step 5: Wait for the Run to Complete
import time
while True:
run_status = openai.beta.threads.runs.retrieve(run.id, thread_id=thread.id)
if run_status.status == "completed":
break
time.sleep(1)
# Step 6: Retrieve the Response
messages = openai.beta.threads.messages.list(thread_id=thread.id)
for message in messages.data:
if message.role == "assistant":
print("Assistant:", message.content[0].text.value)Analicemos este ejemplo de código que demuestra la implementación de la API de Asistentes:
- Creación del Asistente
- Crea un nuevo asistente con parámetros específicos:
- Establece un nombre ("Helpful Tutor")
- Proporciona instrucciones de comportamiento
- Especifica el modelo a utilizar (gpt-4o)
- Gestión de Hilos
- Crea un nuevo hilo para mantener el contexto de la conversación
- Los hilos están diseñados para manejar conversaciones persistentes a través de sesiones
- Creación de Mensajes
- Añade un mensaje del usuario al hilo
- Incluye parámetros de ID del hilo, rol y contenido
- Ejecución del Asistente
- Inicia la ejecución del asistente utilizando los IDs del hilo y del asistente
- Crea una conexión entre el hilo de conversación y las capacidades del asistente
- Monitoreo del Estado de Ejecución
- Implementa un bucle de sondeo para verificar el estado de la ejecución
- Espera hasta que el procesamiento se complete antes de continuar
- Recuperación de Respuestas
- Lista todos los mensajes en el hilo
- Filtra las respuestas del asistente
- Imprime la respuesta del asistente en la consola
Esta implementación demuestra cómo OpenAI gestiona automáticamente el encadenamiento, la memoria y el flujo de conversación, haciéndola particularmente efectiva para conversaciones a largo plazo.
7.5.3 Tabla Comparativa de Características
7.5.4 ¿Cuándo Deberías Usar Cada Una?
7.5.5 ¿Se Pueden Combinar?
¡Sí! Puedes aprovechar ambas APIs en tus aplicaciones combinando estratégicamente sus fortalezas. La API de Chat Completions sobresale en interacciones rápidas sin estado donde la respuesta inmediata es crucial, mientras que la API de Asistentes brilla en escenarios que requieren gestión sofisticada de memoria y contexto persistente. Aquí hay un desglose detallado:
Use la API de Chat Completions para:
- Sugerencias rápidas de código - Perfecto para completar código en tiempo real y verificaciones rápidas de sintaxis
- Proporciona sugerencias y consejos de código inmediatos
- Ayuda a identificar errores de sintaxis en tiempo real
- Asiste con el formateo de código y las mejores prácticas
- Consultas ligeras de usuario - Ideal para respuestas inmediatas que no requieren contexto histórico
- Perfecto para preguntas y respuestas de un solo turno
- Eficiente para aclaraciones o definiciones rápidas
- Útil para interacciones sin estado donde la velocidad es crucial
- Análisis rápido de texto - Excelente para el procesamiento rápido de fragmentos cortos de texto
- Análisis de sentimiento de mensajes cortos
- Extracción de frases clave de párrafos
- Detección y validación de idiomas
- Transformaciones simples - Ideal para conversiones rápidas de formato o modificaciones de texto
- Conversión entre formatos de datos (JSON a XML, etc.)
- Reformateo de texto y ajustes de estilo
- Traducción básica y localización de contenido
Use la API de Asistentes para:
- Agentes de soporte - Crea experiencias de servicio al cliente más naturales y conscientes del contexto
- Mantiene el historial de conversación a través de múltiples interacciones
- Recuerda las preferencias del cliente y problemas anteriores
- Proporciona soporte consistente al hacer referencia a interacciones pasadas
- Tutores con memoria a largo plazo - Mantiene el progreso del estudiante y el historial de aprendizaje entre sesiones
- Rastrea las rutas de aprendizaje individuales y niveles de comprensión
- Adapta el estilo de enseñanza basado en interacciones previas
- Hace referencia a lecciones anteriores para construir sobre el conocimiento existente
- Interacciones basadas en documentos - Maneja el procesamiento y análisis de documentos complejos de manera eficiente
- Procesa múltiples formatos de archivo sin problemas
- Mantiene el contexto entre diferentes documentos
- Permite referencias cruzadas inteligentes entre materiales
- Flujos de trabajo de múltiples pasos - Perfecto para tareas que requieren múltiples interacciones y estado persistente
- Gestiona árboles de decisión complejos y lógica ramificada
- Mantiene el contexto durante procesos extensos
- Maneja interrupciones y reanudaciones sin problemas
El verdadero poder radica en crear soluciones híbridas. Por ejemplo, puedes construir sistemas sofisticados donde la API de Chat Completions recupera y procesa rápidamente información de tu base de datos vectorial, y luego transfiere sin problemas a un Asistente cuando necesitas una gestión de memoria más compleja o manejo de archivos. Este enfoque combina la velocidad y eficiencia de Chat Completions con las características robustas de la API de Asistentes, creando aplicaciones más potentes y flexibles.
Ambas APIs son robustas y listas para producción, cada una sirviendo necesidades distintas en el ecosistema de desarrollo. La API de Chat Completions opera como una capa fundamental, dando a los desarrolladores control granular sobre cada aspecto de la interacción. Esto significa que puedes personalizar el manejo de memoria, definir ventanas de contexto precisas e implementar estrategias de tokenización personalizadas. La abstracción mínima permite una integración profunda con sistemas y bases de datos existentes, mientras que su flexibilidad permite patrones arquitectónicos únicos que podrían no ser posibles con APIs de mayor nivel.
La API de Asistentes, por otro lado, funciona como un marco sofisticado que maneja automáticamente muchas operaciones complejas. Abstrae las complejidades de la gestión de memoria, manejo de hilos y procesamiento de archivos, haciéndola particularmente adecuada para construir aplicaciones basadas en memoria. Esta API sobresale en escenarios que requieren conversaciones persistentes, análisis de documentos e interacciones complejas de múltiples turnos, todo mientras mantiene el contexto a través de sesiones sin sobrecarga de desarrollo adicional.
Al elegir entre estas APIs, la decisión debe guiarse por tu específico caso de uso más que por preferencia general. Si tu aplicación requiere control preciso sobre cada interacción, gestión de memoria personalizada o patrones de implementación únicos, la API de Chat Completions es tu mejor opción. Te permite construir aplicaciones rápidas y ligeras con exactamente las características que necesitas. Por el contrario, si estás desarrollando aplicaciones que necesitan gestión sofisticada de conversaciones, manejo de archivos o memoria persistente entre sesiones, la API de Asistentes ofrece estas características de fábrica. Esto te permite concentrarte en construir lógica de aplicación de alto nivel mientras OpenAI maneja la complejidad de la gestión de memoria e hilos por debajo.
7.5 Comparación entre Chat Completions y Assistants API
Al desarrollar aplicaciones avanzadas con las herramientas de OpenAI, necesitarás elegir entre dos enfoques poderosos para implementar IA conversacional. Comprender estas opciones es crucial para construir aplicaciones efectivas de IA:
- La API de Chat Completions, que ofrece a los desarrolladores control granular sobre:
- Flujo y secuencia de mensajes
- Gestión de memoria y manejo de contexto
- Optimización del uso de tokens
- Implementación personalizada de estados de conversación
- La más reciente API de Asistentes, que proporciona un marco más estructurado que incluye:
- Sistema de memoria de conversación incorporado
- Gestión automatizada de hilos para conversaciones de larga duración
- Capacidades integradas de manejo de archivos
- Soporte nativo para llamadas a herramientas y ejecución de funciones
- Infraestructura backend gestionada por OpenAI
Si bien ambas APIs están diseñadas para permitir aplicaciones de IA conversacional, se adaptan a diferentes enfoques y casos de uso de desarrollo. La API de Chat Completions es ideal para desarrolladores que necesitan máxima flexibilidad y control, mientras que la API de Asistentes es perfecta para aquellos que prefieren un entorno más estructurado y rico en funciones con menos código repetitivo. En esta sección, exploraremos el funcionamiento detallado de cada API, examinaremos sus características distintivas y proporcionaremos orientación para elegir la herramienta adecuada para tus necesidades específicas.
7.5.1 ¿Qué es la API de Chat Completions?
La API de Chat Completions (openai.ChatCompletion.create()) es una interfaz fundamental que proporciona a los desarrolladores control completo sobre las interacciones de IA. Cuando realizas una solicitud, construyes una lista cuidadosamente ordenada de mensajes, cada uno etiquetado con roles específicos: los mensajes system establecen el comportamiento y las restricciones de la IA, los mensajes user contienen las consultas o entradas reales, y los mensajes assistant almacenan las respuestas previas de la IA. La API procesa estos mensajes en secuencia para generar respuestas contextualmente apropiadas.
Lo que hace que esta API sea particularmente poderosa es su diseño minimalista - está construida para velocidad y eficiencia, sin complejidad oculta. Esta elección de diseño otorga a los desarrolladores un control sin precedentes sobre cada aspecto de la conversación, desde cómo se mantiene el contexto hasta cómo se estructuran las respuestas. Puedes ajustar con precisión parámetros como la temperatura y el uso de tokens, haciéndola perfecta para aplicaciones donde cada detalle importa.
Mejor cuando quieres:
- Gestionar la memoria manualmente - Implementar tus propios sistemas sofisticados de memoria, desde pilas simples de mensajes hasta bases de datos vectoriales complejas. Esto te da control completo sobre cómo se almacena, recupera y procesa el historial de conversación. Puedes implementar estrategias personalizadas de caché, usar diferentes soluciones de almacenamiento para diferentes tipos de datos y optimizar el uso de memoria según tus necesidades específicas.
- Construir flujos de trabajo personalizados - Crear patrones únicos de conversación y comportamientos especializados de IA que van más allá de las interfaces de chat estándar. Esto te permite diseñar flujos de interacción complejos, implementar reglas de validación personalizadas, crear formatos de respuesta especializados y construir comportamientos avanzados de IA adaptados a los requisitos específicos de tu aplicación.
- Control ajustado del uso de tokens - Optimizar costos y tiempos de respuesta mediante la gestión precisa de cuánto contexto se incluye en cada solicitud. Esto te permite implementar estrategias sofisticadas de gestión de tokens, como el dimensionamiento dinámico de ventanas de contexto, la poda selectiva de mensajes y la sumarización inteligente de contexto para mantener un rendimiento óptimo mientras minimizas los costos de API.
- Un backend más liviano, perfecto para aplicaciones sin estado - Ideal para microservicios y arquitecturas serverless donde la sobrecarga mínima es crucial. Esta arquitectura permite mejor escalabilidad, latencia reducida y utilización más eficiente de recursos. Es particularmente beneficioso para aplicaciones de alto tráfico donde el rendimiento y la optimización de costos son preocupaciones principales.
Ejemplo:
response = openai.ChatCompletion.create(
model="gpt-4o",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Explain how an API works in simple terms."}
],
temperature=0.6,
max_tokens=150
)
print(response["choices"][0]["message"]["content"])Analicemos este ejemplo de código:
- Estructura de la llamada a la API:
- Usa
openai.ChatCompletion.create()para iniciar una solicitud de chat completion - Toma varios parámetros clave para configurar la generación de respuestas
- Parámetros clave:
model: Establecido como "gpt-4o" - especifica qué modelo de OpenAI usarmessages: Un array de objetos de mensaje, cada uno conteniendo:- Un mensaje de sistema que establece el rol de la IA
- Un mensaje del usuario que contiene la consulta actual
temperature: Establecido en 0.6 - controla la aleatoriedad/creatividad de la respuestamax_tokens: Establecido en 150 - limita la longitud de la respuesta
- Formato del mensaje:
- Utiliza un formato estructurado con "role" y "content" para cada mensaje
- El mensaje del sistema define el comportamiento del asistente: "You are a helpful assistant"
- El mensaje del usuario contiene la consulta de ejemplo: "Explain how an API works in simple terms"
- Manejo de la salida:
- Recupera la respuesta usando indexación de arrays: response["choices"][0]["message"]["content"]
- Imprime la respuesta generada en la consola
Esta es una implementación básica donde necesitas gestionar el historial de conversación y la memoria por tu cuenta.
7.5.2 ¿Qué es la API de Asistentes?
La API de Asistentes es una abstracción sofisticada de alto nivel introducida por OpenAI que simplifica el desarrollo de aplicaciones de IA manejando automáticamente varias tareas complejas:
- Almacenamiento y recuperación de conversaciones (vía hilos) - Esto permite a los desarrolladores mantener el historial de conversación sin construir soluciones personalizadas de almacenamiento. Cada hilo actúa como un contenedor único de conversación que persiste a través de las sesiones.
- Manejo de memoria persistente - La API gestiona automáticamente la retención y recuperación de contexto, asegurando que la información relevante de interacciones previas se mantenga sin intervención manual.
- Carga y lectura de archivos - Las capacidades integradas de manejo de archivos permiten una integración fluida de documentos, imágenes y otros tipos de archivos en las conversaciones, con análisis automático y extracción de contexto.
- Gestión de funciones (herramientas) y llamadas a herramientas de manera más fluida - La API proporciona un marco estructurado para integrar herramientas y funciones externas, manejando la complejidad de llamadas a funciones, validación de parámetros y procesamiento de respuestas.
Defines un asistente con capacidades e instrucciones específicas, inicias un hilo para comenzar una conversación, e interactúas con él usando mensajes. La infraestructura de OpenAI maneja todo el complejo manejo de memoria y unión de contexto entre bastidores, reduciendo significativamente la sobrecarga de desarrollo.
Mejor cuando quieres:
- Una gestión de memoria incorporada - La API se encarga de todo el seguimiento del historial de conversación y manejo de contexto automáticamente. Esto significa que no necesitas escribir código para almacenar mensajes, gestionar el estado de la conversación o implementar sistemas de memoria. La API mantiene inteligentemente el contexto de la conversación a través de múltiples interacciones, asegurando que la IA recuerde discusiones previas y pueda referirlas apropiadamente.
- Cargar archivos o usar herramientas como el intérprete de código - La API proporciona soporte nativo para el manejo de archivos e integración de herramientas. Puedes cargar fácilmente documentos, imágenes o archivos de código, y la API los procesará automáticamente para el contexto. El intérprete de código puede ejecutar fragmentos de código, generar visualizaciones y realizar cálculos complejos. Otras herramientas pueden integrarse para realizar tareas como análisis de datos, análisis de documentos o llamadas a API externas, todo gestionado sin problemas por la API.
- Conversaciones hiladas persistentes - La API mantiene hilos de conversación separados para cada usuario o tema. Estos hilos persisten a través de múltiples sesiones, lo que significa que un usuario puede volver días o semanas después y continuar su conversación donde la dejó. La API recupera automáticamente el contexto relevante y mantiene la continuidad de la conversación, haciéndola ideal para aplicaciones que requieren compromiso a largo plazo del usuario.
- Orquestación simplificada de API para flujos de trabajo de múltiples pasos - Las interacciones complejas que requieren múltiples pasos o puntos de decisión son manejadas elegantemente por la gestión de flujo de trabajo incorporada en la API. Puede coordinar secuencias de operaciones, gestionar transiciones de estado y manejar tareas de procesamiento paralelo. Esto es particularmente útil para aplicaciones que necesitan encadenar múltiples operaciones, como recopilar información en varios turnos, procesar entradas de usuario secuencialmente o coordinar entre diferentes herramientas y servicios.
Ejemplo:
import openai
# Step 1: Create an Assistant (once)
assistant = openai.beta.assistants.create(
name="Helpful Tutor",
instructions="You explain technical concepts clearly.",
model="gpt-4o"
)
# Step 2: Create a Thread (per user or session)
thread = openai.beta.threads.create()
# Step 3: Add a Message to the Thread
openai.beta.threads.messages.create(
thread_id=thread.id,
role="user",
content="What’s the difference between JSON and XML?"
)
# Step 4: Run the Assistant
run = openai.beta.threads.runs.create(
thread_id=thread.id,
assistant_id=assistant.id
)
# Step 5: Wait for the Run to Complete
import time
while True:
run_status = openai.beta.threads.runs.retrieve(run.id, thread_id=thread.id)
if run_status.status == "completed":
break
time.sleep(1)
# Step 6: Retrieve the Response
messages = openai.beta.threads.messages.list(thread_id=thread.id)
for message in messages.data:
if message.role == "assistant":
print("Assistant:", message.content[0].text.value)Analicemos este ejemplo de código que demuestra la implementación de la API de Asistentes:
- Creación del Asistente
- Crea un nuevo asistente con parámetros específicos:
- Establece un nombre ("Helpful Tutor")
- Proporciona instrucciones de comportamiento
- Especifica el modelo a utilizar (gpt-4o)
- Gestión de Hilos
- Crea un nuevo hilo para mantener el contexto de la conversación
- Los hilos están diseñados para manejar conversaciones persistentes a través de sesiones
- Creación de Mensajes
- Añade un mensaje del usuario al hilo
- Incluye parámetros de ID del hilo, rol y contenido
- Ejecución del Asistente
- Inicia la ejecución del asistente utilizando los IDs del hilo y del asistente
- Crea una conexión entre el hilo de conversación y las capacidades del asistente
- Monitoreo del Estado de Ejecución
- Implementa un bucle de sondeo para verificar el estado de la ejecución
- Espera hasta que el procesamiento se complete antes de continuar
- Recuperación de Respuestas
- Lista todos los mensajes en el hilo
- Filtra las respuestas del asistente
- Imprime la respuesta del asistente en la consola
Esta implementación demuestra cómo OpenAI gestiona automáticamente el encadenamiento, la memoria y el flujo de conversación, haciéndola particularmente efectiva para conversaciones a largo plazo.
7.5.3 Tabla Comparativa de Características
7.5.4 ¿Cuándo Deberías Usar Cada Una?
7.5.5 ¿Se Pueden Combinar?
¡Sí! Puedes aprovechar ambas APIs en tus aplicaciones combinando estratégicamente sus fortalezas. La API de Chat Completions sobresale en interacciones rápidas sin estado donde la respuesta inmediata es crucial, mientras que la API de Asistentes brilla en escenarios que requieren gestión sofisticada de memoria y contexto persistente. Aquí hay un desglose detallado:
Use la API de Chat Completions para:
- Sugerencias rápidas de código - Perfecto para completar código en tiempo real y verificaciones rápidas de sintaxis
- Proporciona sugerencias y consejos de código inmediatos
- Ayuda a identificar errores de sintaxis en tiempo real
- Asiste con el formateo de código y las mejores prácticas
- Consultas ligeras de usuario - Ideal para respuestas inmediatas que no requieren contexto histórico
- Perfecto para preguntas y respuestas de un solo turno
- Eficiente para aclaraciones o definiciones rápidas
- Útil para interacciones sin estado donde la velocidad es crucial
- Análisis rápido de texto - Excelente para el procesamiento rápido de fragmentos cortos de texto
- Análisis de sentimiento de mensajes cortos
- Extracción de frases clave de párrafos
- Detección y validación de idiomas
- Transformaciones simples - Ideal para conversiones rápidas de formato o modificaciones de texto
- Conversión entre formatos de datos (JSON a XML, etc.)
- Reformateo de texto y ajustes de estilo
- Traducción básica y localización de contenido
Use la API de Asistentes para:
- Agentes de soporte - Crea experiencias de servicio al cliente más naturales y conscientes del contexto
- Mantiene el historial de conversación a través de múltiples interacciones
- Recuerda las preferencias del cliente y problemas anteriores
- Proporciona soporte consistente al hacer referencia a interacciones pasadas
- Tutores con memoria a largo plazo - Mantiene el progreso del estudiante y el historial de aprendizaje entre sesiones
- Rastrea las rutas de aprendizaje individuales y niveles de comprensión
- Adapta el estilo de enseñanza basado en interacciones previas
- Hace referencia a lecciones anteriores para construir sobre el conocimiento existente
- Interacciones basadas en documentos - Maneja el procesamiento y análisis de documentos complejos de manera eficiente
- Procesa múltiples formatos de archivo sin problemas
- Mantiene el contexto entre diferentes documentos
- Permite referencias cruzadas inteligentes entre materiales
- Flujos de trabajo de múltiples pasos - Perfecto para tareas que requieren múltiples interacciones y estado persistente
- Gestiona árboles de decisión complejos y lógica ramificada
- Mantiene el contexto durante procesos extensos
- Maneja interrupciones y reanudaciones sin problemas
El verdadero poder radica en crear soluciones híbridas. Por ejemplo, puedes construir sistemas sofisticados donde la API de Chat Completions recupera y procesa rápidamente información de tu base de datos vectorial, y luego transfiere sin problemas a un Asistente cuando necesitas una gestión de memoria más compleja o manejo de archivos. Este enfoque combina la velocidad y eficiencia de Chat Completions con las características robustas de la API de Asistentes, creando aplicaciones más potentes y flexibles.
Ambas APIs son robustas y listas para producción, cada una sirviendo necesidades distintas en el ecosistema de desarrollo. La API de Chat Completions opera como una capa fundamental, dando a los desarrolladores control granular sobre cada aspecto de la interacción. Esto significa que puedes personalizar el manejo de memoria, definir ventanas de contexto precisas e implementar estrategias de tokenización personalizadas. La abstracción mínima permite una integración profunda con sistemas y bases de datos existentes, mientras que su flexibilidad permite patrones arquitectónicos únicos que podrían no ser posibles con APIs de mayor nivel.
La API de Asistentes, por otro lado, funciona como un marco sofisticado que maneja automáticamente muchas operaciones complejas. Abstrae las complejidades de la gestión de memoria, manejo de hilos y procesamiento de archivos, haciéndola particularmente adecuada para construir aplicaciones basadas en memoria. Esta API sobresale en escenarios que requieren conversaciones persistentes, análisis de documentos e interacciones complejas de múltiples turnos, todo mientras mantiene el contexto a través de sesiones sin sobrecarga de desarrollo adicional.
Al elegir entre estas APIs, la decisión debe guiarse por tu específico caso de uso más que por preferencia general. Si tu aplicación requiere control preciso sobre cada interacción, gestión de memoria personalizada o patrones de implementación únicos, la API de Chat Completions es tu mejor opción. Te permite construir aplicaciones rápidas y ligeras con exactamente las características que necesitas. Por el contrario, si estás desarrollando aplicaciones que necesitan gestión sofisticada de conversaciones, manejo de archivos o memoria persistente entre sesiones, la API de Asistentes ofrece estas características de fábrica. Esto te permite concentrarte en construir lógica de aplicación de alto nivel mientras OpenAI maneja la complejidad de la gestión de memoria e hilos por debajo.
7.5 Comparación entre Chat Completions y Assistants API
Al desarrollar aplicaciones avanzadas con las herramientas de OpenAI, necesitarás elegir entre dos enfoques poderosos para implementar IA conversacional. Comprender estas opciones es crucial para construir aplicaciones efectivas de IA:
- La API de Chat Completions, que ofrece a los desarrolladores control granular sobre:
- Flujo y secuencia de mensajes
- Gestión de memoria y manejo de contexto
- Optimización del uso de tokens
- Implementación personalizada de estados de conversación
- La más reciente API de Asistentes, que proporciona un marco más estructurado que incluye:
- Sistema de memoria de conversación incorporado
- Gestión automatizada de hilos para conversaciones de larga duración
- Capacidades integradas de manejo de archivos
- Soporte nativo para llamadas a herramientas y ejecución de funciones
- Infraestructura backend gestionada por OpenAI
Si bien ambas APIs están diseñadas para permitir aplicaciones de IA conversacional, se adaptan a diferentes enfoques y casos de uso de desarrollo. La API de Chat Completions es ideal para desarrolladores que necesitan máxima flexibilidad y control, mientras que la API de Asistentes es perfecta para aquellos que prefieren un entorno más estructurado y rico en funciones con menos código repetitivo. En esta sección, exploraremos el funcionamiento detallado de cada API, examinaremos sus características distintivas y proporcionaremos orientación para elegir la herramienta adecuada para tus necesidades específicas.
7.5.1 ¿Qué es la API de Chat Completions?
La API de Chat Completions (openai.ChatCompletion.create()) es una interfaz fundamental que proporciona a los desarrolladores control completo sobre las interacciones de IA. Cuando realizas una solicitud, construyes una lista cuidadosamente ordenada de mensajes, cada uno etiquetado con roles específicos: los mensajes system establecen el comportamiento y las restricciones de la IA, los mensajes user contienen las consultas o entradas reales, y los mensajes assistant almacenan las respuestas previas de la IA. La API procesa estos mensajes en secuencia para generar respuestas contextualmente apropiadas.
Lo que hace que esta API sea particularmente poderosa es su diseño minimalista - está construida para velocidad y eficiencia, sin complejidad oculta. Esta elección de diseño otorga a los desarrolladores un control sin precedentes sobre cada aspecto de la conversación, desde cómo se mantiene el contexto hasta cómo se estructuran las respuestas. Puedes ajustar con precisión parámetros como la temperatura y el uso de tokens, haciéndola perfecta para aplicaciones donde cada detalle importa.
Mejor cuando quieres:
- Gestionar la memoria manualmente - Implementar tus propios sistemas sofisticados de memoria, desde pilas simples de mensajes hasta bases de datos vectoriales complejas. Esto te da control completo sobre cómo se almacena, recupera y procesa el historial de conversación. Puedes implementar estrategias personalizadas de caché, usar diferentes soluciones de almacenamiento para diferentes tipos de datos y optimizar el uso de memoria según tus necesidades específicas.
- Construir flujos de trabajo personalizados - Crear patrones únicos de conversación y comportamientos especializados de IA que van más allá de las interfaces de chat estándar. Esto te permite diseñar flujos de interacción complejos, implementar reglas de validación personalizadas, crear formatos de respuesta especializados y construir comportamientos avanzados de IA adaptados a los requisitos específicos de tu aplicación.
- Control ajustado del uso de tokens - Optimizar costos y tiempos de respuesta mediante la gestión precisa de cuánto contexto se incluye en cada solicitud. Esto te permite implementar estrategias sofisticadas de gestión de tokens, como el dimensionamiento dinámico de ventanas de contexto, la poda selectiva de mensajes y la sumarización inteligente de contexto para mantener un rendimiento óptimo mientras minimizas los costos de API.
- Un backend más liviano, perfecto para aplicaciones sin estado - Ideal para microservicios y arquitecturas serverless donde la sobrecarga mínima es crucial. Esta arquitectura permite mejor escalabilidad, latencia reducida y utilización más eficiente de recursos. Es particularmente beneficioso para aplicaciones de alto tráfico donde el rendimiento y la optimización de costos son preocupaciones principales.
Ejemplo:
response = openai.ChatCompletion.create(
model="gpt-4o",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Explain how an API works in simple terms."}
],
temperature=0.6,
max_tokens=150
)
print(response["choices"][0]["message"]["content"])Analicemos este ejemplo de código:
- Estructura de la llamada a la API:
- Usa
openai.ChatCompletion.create()para iniciar una solicitud de chat completion - Toma varios parámetros clave para configurar la generación de respuestas
- Parámetros clave:
model: Establecido como "gpt-4o" - especifica qué modelo de OpenAI usarmessages: Un array de objetos de mensaje, cada uno conteniendo:- Un mensaje de sistema que establece el rol de la IA
- Un mensaje del usuario que contiene la consulta actual
temperature: Establecido en 0.6 - controla la aleatoriedad/creatividad de la respuestamax_tokens: Establecido en 150 - limita la longitud de la respuesta
- Formato del mensaje:
- Utiliza un formato estructurado con "role" y "content" para cada mensaje
- El mensaje del sistema define el comportamiento del asistente: "You are a helpful assistant"
- El mensaje del usuario contiene la consulta de ejemplo: "Explain how an API works in simple terms"
- Manejo de la salida:
- Recupera la respuesta usando indexación de arrays: response["choices"][0]["message"]["content"]
- Imprime la respuesta generada en la consola
Esta es una implementación básica donde necesitas gestionar el historial de conversación y la memoria por tu cuenta.
7.5.2 ¿Qué es la API de Asistentes?
La API de Asistentes es una abstracción sofisticada de alto nivel introducida por OpenAI que simplifica el desarrollo de aplicaciones de IA manejando automáticamente varias tareas complejas:
- Almacenamiento y recuperación de conversaciones (vía hilos) - Esto permite a los desarrolladores mantener el historial de conversación sin construir soluciones personalizadas de almacenamiento. Cada hilo actúa como un contenedor único de conversación que persiste a través de las sesiones.
- Manejo de memoria persistente - La API gestiona automáticamente la retención y recuperación de contexto, asegurando que la información relevante de interacciones previas se mantenga sin intervención manual.
- Carga y lectura de archivos - Las capacidades integradas de manejo de archivos permiten una integración fluida de documentos, imágenes y otros tipos de archivos en las conversaciones, con análisis automático y extracción de contexto.
- Gestión de funciones (herramientas) y llamadas a herramientas de manera más fluida - La API proporciona un marco estructurado para integrar herramientas y funciones externas, manejando la complejidad de llamadas a funciones, validación de parámetros y procesamiento de respuestas.
Defines un asistente con capacidades e instrucciones específicas, inicias un hilo para comenzar una conversación, e interactúas con él usando mensajes. La infraestructura de OpenAI maneja todo el complejo manejo de memoria y unión de contexto entre bastidores, reduciendo significativamente la sobrecarga de desarrollo.
Mejor cuando quieres:
- Una gestión de memoria incorporada - La API se encarga de todo el seguimiento del historial de conversación y manejo de contexto automáticamente. Esto significa que no necesitas escribir código para almacenar mensajes, gestionar el estado de la conversación o implementar sistemas de memoria. La API mantiene inteligentemente el contexto de la conversación a través de múltiples interacciones, asegurando que la IA recuerde discusiones previas y pueda referirlas apropiadamente.
- Cargar archivos o usar herramientas como el intérprete de código - La API proporciona soporte nativo para el manejo de archivos e integración de herramientas. Puedes cargar fácilmente documentos, imágenes o archivos de código, y la API los procesará automáticamente para el contexto. El intérprete de código puede ejecutar fragmentos de código, generar visualizaciones y realizar cálculos complejos. Otras herramientas pueden integrarse para realizar tareas como análisis de datos, análisis de documentos o llamadas a API externas, todo gestionado sin problemas por la API.
- Conversaciones hiladas persistentes - La API mantiene hilos de conversación separados para cada usuario o tema. Estos hilos persisten a través de múltiples sesiones, lo que significa que un usuario puede volver días o semanas después y continuar su conversación donde la dejó. La API recupera automáticamente el contexto relevante y mantiene la continuidad de la conversación, haciéndola ideal para aplicaciones que requieren compromiso a largo plazo del usuario.
- Orquestación simplificada de API para flujos de trabajo de múltiples pasos - Las interacciones complejas que requieren múltiples pasos o puntos de decisión son manejadas elegantemente por la gestión de flujo de trabajo incorporada en la API. Puede coordinar secuencias de operaciones, gestionar transiciones de estado y manejar tareas de procesamiento paralelo. Esto es particularmente útil para aplicaciones que necesitan encadenar múltiples operaciones, como recopilar información en varios turnos, procesar entradas de usuario secuencialmente o coordinar entre diferentes herramientas y servicios.
Ejemplo:
import openai
# Step 1: Create an Assistant (once)
assistant = openai.beta.assistants.create(
name="Helpful Tutor",
instructions="You explain technical concepts clearly.",
model="gpt-4o"
)
# Step 2: Create a Thread (per user or session)
thread = openai.beta.threads.create()
# Step 3: Add a Message to the Thread
openai.beta.threads.messages.create(
thread_id=thread.id,
role="user",
content="What’s the difference between JSON and XML?"
)
# Step 4: Run the Assistant
run = openai.beta.threads.runs.create(
thread_id=thread.id,
assistant_id=assistant.id
)
# Step 5: Wait for the Run to Complete
import time
while True:
run_status = openai.beta.threads.runs.retrieve(run.id, thread_id=thread.id)
if run_status.status == "completed":
break
time.sleep(1)
# Step 6: Retrieve the Response
messages = openai.beta.threads.messages.list(thread_id=thread.id)
for message in messages.data:
if message.role == "assistant":
print("Assistant:", message.content[0].text.value)Analicemos este ejemplo de código que demuestra la implementación de la API de Asistentes:
- Creación del Asistente
- Crea un nuevo asistente con parámetros específicos:
- Establece un nombre ("Helpful Tutor")
- Proporciona instrucciones de comportamiento
- Especifica el modelo a utilizar (gpt-4o)
- Gestión de Hilos
- Crea un nuevo hilo para mantener el contexto de la conversación
- Los hilos están diseñados para manejar conversaciones persistentes a través de sesiones
- Creación de Mensajes
- Añade un mensaje del usuario al hilo
- Incluye parámetros de ID del hilo, rol y contenido
- Ejecución del Asistente
- Inicia la ejecución del asistente utilizando los IDs del hilo y del asistente
- Crea una conexión entre el hilo de conversación y las capacidades del asistente
- Monitoreo del Estado de Ejecución
- Implementa un bucle de sondeo para verificar el estado de la ejecución
- Espera hasta que el procesamiento se complete antes de continuar
- Recuperación de Respuestas
- Lista todos los mensajes en el hilo
- Filtra las respuestas del asistente
- Imprime la respuesta del asistente en la consola
Esta implementación demuestra cómo OpenAI gestiona automáticamente el encadenamiento, la memoria y el flujo de conversación, haciéndola particularmente efectiva para conversaciones a largo plazo.
7.5.3 Tabla Comparativa de Características
7.5.4 ¿Cuándo Deberías Usar Cada Una?
7.5.5 ¿Se Pueden Combinar?
¡Sí! Puedes aprovechar ambas APIs en tus aplicaciones combinando estratégicamente sus fortalezas. La API de Chat Completions sobresale en interacciones rápidas sin estado donde la respuesta inmediata es crucial, mientras que la API de Asistentes brilla en escenarios que requieren gestión sofisticada de memoria y contexto persistente. Aquí hay un desglose detallado:
Use la API de Chat Completions para:
- Sugerencias rápidas de código - Perfecto para completar código en tiempo real y verificaciones rápidas de sintaxis
- Proporciona sugerencias y consejos de código inmediatos
- Ayuda a identificar errores de sintaxis en tiempo real
- Asiste con el formateo de código y las mejores prácticas
- Consultas ligeras de usuario - Ideal para respuestas inmediatas que no requieren contexto histórico
- Perfecto para preguntas y respuestas de un solo turno
- Eficiente para aclaraciones o definiciones rápidas
- Útil para interacciones sin estado donde la velocidad es crucial
- Análisis rápido de texto - Excelente para el procesamiento rápido de fragmentos cortos de texto
- Análisis de sentimiento de mensajes cortos
- Extracción de frases clave de párrafos
- Detección y validación de idiomas
- Transformaciones simples - Ideal para conversiones rápidas de formato o modificaciones de texto
- Conversión entre formatos de datos (JSON a XML, etc.)
- Reformateo de texto y ajustes de estilo
- Traducción básica y localización de contenido
Use la API de Asistentes para:
- Agentes de soporte - Crea experiencias de servicio al cliente más naturales y conscientes del contexto
- Mantiene el historial de conversación a través de múltiples interacciones
- Recuerda las preferencias del cliente y problemas anteriores
- Proporciona soporte consistente al hacer referencia a interacciones pasadas
- Tutores con memoria a largo plazo - Mantiene el progreso del estudiante y el historial de aprendizaje entre sesiones
- Rastrea las rutas de aprendizaje individuales y niveles de comprensión
- Adapta el estilo de enseñanza basado en interacciones previas
- Hace referencia a lecciones anteriores para construir sobre el conocimiento existente
- Interacciones basadas en documentos - Maneja el procesamiento y análisis de documentos complejos de manera eficiente
- Procesa múltiples formatos de archivo sin problemas
- Mantiene el contexto entre diferentes documentos
- Permite referencias cruzadas inteligentes entre materiales
- Flujos de trabajo de múltiples pasos - Perfecto para tareas que requieren múltiples interacciones y estado persistente
- Gestiona árboles de decisión complejos y lógica ramificada
- Mantiene el contexto durante procesos extensos
- Maneja interrupciones y reanudaciones sin problemas
El verdadero poder radica en crear soluciones híbridas. Por ejemplo, puedes construir sistemas sofisticados donde la API de Chat Completions recupera y procesa rápidamente información de tu base de datos vectorial, y luego transfiere sin problemas a un Asistente cuando necesitas una gestión de memoria más compleja o manejo de archivos. Este enfoque combina la velocidad y eficiencia de Chat Completions con las características robustas de la API de Asistentes, creando aplicaciones más potentes y flexibles.
Ambas APIs son robustas y listas para producción, cada una sirviendo necesidades distintas en el ecosistema de desarrollo. La API de Chat Completions opera como una capa fundamental, dando a los desarrolladores control granular sobre cada aspecto de la interacción. Esto significa que puedes personalizar el manejo de memoria, definir ventanas de contexto precisas e implementar estrategias de tokenización personalizadas. La abstracción mínima permite una integración profunda con sistemas y bases de datos existentes, mientras que su flexibilidad permite patrones arquitectónicos únicos que podrían no ser posibles con APIs de mayor nivel.
La API de Asistentes, por otro lado, funciona como un marco sofisticado que maneja automáticamente muchas operaciones complejas. Abstrae las complejidades de la gestión de memoria, manejo de hilos y procesamiento de archivos, haciéndola particularmente adecuada para construir aplicaciones basadas en memoria. Esta API sobresale en escenarios que requieren conversaciones persistentes, análisis de documentos e interacciones complejas de múltiples turnos, todo mientras mantiene el contexto a través de sesiones sin sobrecarga de desarrollo adicional.
Al elegir entre estas APIs, la decisión debe guiarse por tu específico caso de uso más que por preferencia general. Si tu aplicación requiere control preciso sobre cada interacción, gestión de memoria personalizada o patrones de implementación únicos, la API de Chat Completions es tu mejor opción. Te permite construir aplicaciones rápidas y ligeras con exactamente las características que necesitas. Por el contrario, si estás desarrollando aplicaciones que necesitan gestión sofisticada de conversaciones, manejo de archivos o memoria persistente entre sesiones, la API de Asistentes ofrece estas características de fábrica. Esto te permite concentrarte en construir lógica de aplicación de alto nivel mientras OpenAI maneja la complejidad de la gestión de memoria e hilos por debajo.
7.5 Comparación entre Chat Completions y Assistants API
Al desarrollar aplicaciones avanzadas con las herramientas de OpenAI, necesitarás elegir entre dos enfoques poderosos para implementar IA conversacional. Comprender estas opciones es crucial para construir aplicaciones efectivas de IA:
- La API de Chat Completions, que ofrece a los desarrolladores control granular sobre:
- Flujo y secuencia de mensajes
- Gestión de memoria y manejo de contexto
- Optimización del uso de tokens
- Implementación personalizada de estados de conversación
- La más reciente API de Asistentes, que proporciona un marco más estructurado que incluye:
- Sistema de memoria de conversación incorporado
- Gestión automatizada de hilos para conversaciones de larga duración
- Capacidades integradas de manejo de archivos
- Soporte nativo para llamadas a herramientas y ejecución de funciones
- Infraestructura backend gestionada por OpenAI
Si bien ambas APIs están diseñadas para permitir aplicaciones de IA conversacional, se adaptan a diferentes enfoques y casos de uso de desarrollo. La API de Chat Completions es ideal para desarrolladores que necesitan máxima flexibilidad y control, mientras que la API de Asistentes es perfecta para aquellos que prefieren un entorno más estructurado y rico en funciones con menos código repetitivo. En esta sección, exploraremos el funcionamiento detallado de cada API, examinaremos sus características distintivas y proporcionaremos orientación para elegir la herramienta adecuada para tus necesidades específicas.
7.5.1 ¿Qué es la API de Chat Completions?
La API de Chat Completions (openai.ChatCompletion.create()) es una interfaz fundamental que proporciona a los desarrolladores control completo sobre las interacciones de IA. Cuando realizas una solicitud, construyes una lista cuidadosamente ordenada de mensajes, cada uno etiquetado con roles específicos: los mensajes system establecen el comportamiento y las restricciones de la IA, los mensajes user contienen las consultas o entradas reales, y los mensajes assistant almacenan las respuestas previas de la IA. La API procesa estos mensajes en secuencia para generar respuestas contextualmente apropiadas.
Lo que hace que esta API sea particularmente poderosa es su diseño minimalista - está construida para velocidad y eficiencia, sin complejidad oculta. Esta elección de diseño otorga a los desarrolladores un control sin precedentes sobre cada aspecto de la conversación, desde cómo se mantiene el contexto hasta cómo se estructuran las respuestas. Puedes ajustar con precisión parámetros como la temperatura y el uso de tokens, haciéndola perfecta para aplicaciones donde cada detalle importa.
Mejor cuando quieres:
- Gestionar la memoria manualmente - Implementar tus propios sistemas sofisticados de memoria, desde pilas simples de mensajes hasta bases de datos vectoriales complejas. Esto te da control completo sobre cómo se almacena, recupera y procesa el historial de conversación. Puedes implementar estrategias personalizadas de caché, usar diferentes soluciones de almacenamiento para diferentes tipos de datos y optimizar el uso de memoria según tus necesidades específicas.
- Construir flujos de trabajo personalizados - Crear patrones únicos de conversación y comportamientos especializados de IA que van más allá de las interfaces de chat estándar. Esto te permite diseñar flujos de interacción complejos, implementar reglas de validación personalizadas, crear formatos de respuesta especializados y construir comportamientos avanzados de IA adaptados a los requisitos específicos de tu aplicación.
- Control ajustado del uso de tokens - Optimizar costos y tiempos de respuesta mediante la gestión precisa de cuánto contexto se incluye en cada solicitud. Esto te permite implementar estrategias sofisticadas de gestión de tokens, como el dimensionamiento dinámico de ventanas de contexto, la poda selectiva de mensajes y la sumarización inteligente de contexto para mantener un rendimiento óptimo mientras minimizas los costos de API.
- Un backend más liviano, perfecto para aplicaciones sin estado - Ideal para microservicios y arquitecturas serverless donde la sobrecarga mínima es crucial. Esta arquitectura permite mejor escalabilidad, latencia reducida y utilización más eficiente de recursos. Es particularmente beneficioso para aplicaciones de alto tráfico donde el rendimiento y la optimización de costos son preocupaciones principales.
Ejemplo:
response = openai.ChatCompletion.create(
model="gpt-4o",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Explain how an API works in simple terms."}
],
temperature=0.6,
max_tokens=150
)
print(response["choices"][0]["message"]["content"])Analicemos este ejemplo de código:
- Estructura de la llamada a la API:
- Usa
openai.ChatCompletion.create()para iniciar una solicitud de chat completion - Toma varios parámetros clave para configurar la generación de respuestas
- Parámetros clave:
model: Establecido como "gpt-4o" - especifica qué modelo de OpenAI usarmessages: Un array de objetos de mensaje, cada uno conteniendo:- Un mensaje de sistema que establece el rol de la IA
- Un mensaje del usuario que contiene la consulta actual
temperature: Establecido en 0.6 - controla la aleatoriedad/creatividad de la respuestamax_tokens: Establecido en 150 - limita la longitud de la respuesta
- Formato del mensaje:
- Utiliza un formato estructurado con "role" y "content" para cada mensaje
- El mensaje del sistema define el comportamiento del asistente: "You are a helpful assistant"
- El mensaje del usuario contiene la consulta de ejemplo: "Explain how an API works in simple terms"
- Manejo de la salida:
- Recupera la respuesta usando indexación de arrays: response["choices"][0]["message"]["content"]
- Imprime la respuesta generada en la consola
Esta es una implementación básica donde necesitas gestionar el historial de conversación y la memoria por tu cuenta.
7.5.2 ¿Qué es la API de Asistentes?
La API de Asistentes es una abstracción sofisticada de alto nivel introducida por OpenAI que simplifica el desarrollo de aplicaciones de IA manejando automáticamente varias tareas complejas:
- Almacenamiento y recuperación de conversaciones (vía hilos) - Esto permite a los desarrolladores mantener el historial de conversación sin construir soluciones personalizadas de almacenamiento. Cada hilo actúa como un contenedor único de conversación que persiste a través de las sesiones.
- Manejo de memoria persistente - La API gestiona automáticamente la retención y recuperación de contexto, asegurando que la información relevante de interacciones previas se mantenga sin intervención manual.
- Carga y lectura de archivos - Las capacidades integradas de manejo de archivos permiten una integración fluida de documentos, imágenes y otros tipos de archivos en las conversaciones, con análisis automático y extracción de contexto.
- Gestión de funciones (herramientas) y llamadas a herramientas de manera más fluida - La API proporciona un marco estructurado para integrar herramientas y funciones externas, manejando la complejidad de llamadas a funciones, validación de parámetros y procesamiento de respuestas.
Defines un asistente con capacidades e instrucciones específicas, inicias un hilo para comenzar una conversación, e interactúas con él usando mensajes. La infraestructura de OpenAI maneja todo el complejo manejo de memoria y unión de contexto entre bastidores, reduciendo significativamente la sobrecarga de desarrollo.
Mejor cuando quieres:
- Una gestión de memoria incorporada - La API se encarga de todo el seguimiento del historial de conversación y manejo de contexto automáticamente. Esto significa que no necesitas escribir código para almacenar mensajes, gestionar el estado de la conversación o implementar sistemas de memoria. La API mantiene inteligentemente el contexto de la conversación a través de múltiples interacciones, asegurando que la IA recuerde discusiones previas y pueda referirlas apropiadamente.
- Cargar archivos o usar herramientas como el intérprete de código - La API proporciona soporte nativo para el manejo de archivos e integración de herramientas. Puedes cargar fácilmente documentos, imágenes o archivos de código, y la API los procesará automáticamente para el contexto. El intérprete de código puede ejecutar fragmentos de código, generar visualizaciones y realizar cálculos complejos. Otras herramientas pueden integrarse para realizar tareas como análisis de datos, análisis de documentos o llamadas a API externas, todo gestionado sin problemas por la API.
- Conversaciones hiladas persistentes - La API mantiene hilos de conversación separados para cada usuario o tema. Estos hilos persisten a través de múltiples sesiones, lo que significa que un usuario puede volver días o semanas después y continuar su conversación donde la dejó. La API recupera automáticamente el contexto relevante y mantiene la continuidad de la conversación, haciéndola ideal para aplicaciones que requieren compromiso a largo plazo del usuario.
- Orquestación simplificada de API para flujos de trabajo de múltiples pasos - Las interacciones complejas que requieren múltiples pasos o puntos de decisión son manejadas elegantemente por la gestión de flujo de trabajo incorporada en la API. Puede coordinar secuencias de operaciones, gestionar transiciones de estado y manejar tareas de procesamiento paralelo. Esto es particularmente útil para aplicaciones que necesitan encadenar múltiples operaciones, como recopilar información en varios turnos, procesar entradas de usuario secuencialmente o coordinar entre diferentes herramientas y servicios.
Ejemplo:
import openai
# Step 1: Create an Assistant (once)
assistant = openai.beta.assistants.create(
name="Helpful Tutor",
instructions="You explain technical concepts clearly.",
model="gpt-4o"
)
# Step 2: Create a Thread (per user or session)
thread = openai.beta.threads.create()
# Step 3: Add a Message to the Thread
openai.beta.threads.messages.create(
thread_id=thread.id,
role="user",
content="What’s the difference between JSON and XML?"
)
# Step 4: Run the Assistant
run = openai.beta.threads.runs.create(
thread_id=thread.id,
assistant_id=assistant.id
)
# Step 5: Wait for the Run to Complete
import time
while True:
run_status = openai.beta.threads.runs.retrieve(run.id, thread_id=thread.id)
if run_status.status == "completed":
break
time.sleep(1)
# Step 6: Retrieve the Response
messages = openai.beta.threads.messages.list(thread_id=thread.id)
for message in messages.data:
if message.role == "assistant":
print("Assistant:", message.content[0].text.value)Analicemos este ejemplo de código que demuestra la implementación de la API de Asistentes:
- Creación del Asistente
- Crea un nuevo asistente con parámetros específicos:
- Establece un nombre ("Helpful Tutor")
- Proporciona instrucciones de comportamiento
- Especifica el modelo a utilizar (gpt-4o)
- Gestión de Hilos
- Crea un nuevo hilo para mantener el contexto de la conversación
- Los hilos están diseñados para manejar conversaciones persistentes a través de sesiones
- Creación de Mensajes
- Añade un mensaje del usuario al hilo
- Incluye parámetros de ID del hilo, rol y contenido
- Ejecución del Asistente
- Inicia la ejecución del asistente utilizando los IDs del hilo y del asistente
- Crea una conexión entre el hilo de conversación y las capacidades del asistente
- Monitoreo del Estado de Ejecución
- Implementa un bucle de sondeo para verificar el estado de la ejecución
- Espera hasta que el procesamiento se complete antes de continuar
- Recuperación de Respuestas
- Lista todos los mensajes en el hilo
- Filtra las respuestas del asistente
- Imprime la respuesta del asistente en la consola
Esta implementación demuestra cómo OpenAI gestiona automáticamente el encadenamiento, la memoria y el flujo de conversación, haciéndola particularmente efectiva para conversaciones a largo plazo.
7.5.3 Tabla Comparativa de Características
7.5.4 ¿Cuándo Deberías Usar Cada Una?
7.5.5 ¿Se Pueden Combinar?
¡Sí! Puedes aprovechar ambas APIs en tus aplicaciones combinando estratégicamente sus fortalezas. La API de Chat Completions sobresale en interacciones rápidas sin estado donde la respuesta inmediata es crucial, mientras que la API de Asistentes brilla en escenarios que requieren gestión sofisticada de memoria y contexto persistente. Aquí hay un desglose detallado:
Use la API de Chat Completions para:
- Sugerencias rápidas de código - Perfecto para completar código en tiempo real y verificaciones rápidas de sintaxis
- Proporciona sugerencias y consejos de código inmediatos
- Ayuda a identificar errores de sintaxis en tiempo real
- Asiste con el formateo de código y las mejores prácticas
- Consultas ligeras de usuario - Ideal para respuestas inmediatas que no requieren contexto histórico
- Perfecto para preguntas y respuestas de un solo turno
- Eficiente para aclaraciones o definiciones rápidas
- Útil para interacciones sin estado donde la velocidad es crucial
- Análisis rápido de texto - Excelente para el procesamiento rápido de fragmentos cortos de texto
- Análisis de sentimiento de mensajes cortos
- Extracción de frases clave de párrafos
- Detección y validación de idiomas
- Transformaciones simples - Ideal para conversiones rápidas de formato o modificaciones de texto
- Conversión entre formatos de datos (JSON a XML, etc.)
- Reformateo de texto y ajustes de estilo
- Traducción básica y localización de contenido
Use la API de Asistentes para:
- Agentes de soporte - Crea experiencias de servicio al cliente más naturales y conscientes del contexto
- Mantiene el historial de conversación a través de múltiples interacciones
- Recuerda las preferencias del cliente y problemas anteriores
- Proporciona soporte consistente al hacer referencia a interacciones pasadas
- Tutores con memoria a largo plazo - Mantiene el progreso del estudiante y el historial de aprendizaje entre sesiones
- Rastrea las rutas de aprendizaje individuales y niveles de comprensión
- Adapta el estilo de enseñanza basado en interacciones previas
- Hace referencia a lecciones anteriores para construir sobre el conocimiento existente
- Interacciones basadas en documentos - Maneja el procesamiento y análisis de documentos complejos de manera eficiente
- Procesa múltiples formatos de archivo sin problemas
- Mantiene el contexto entre diferentes documentos
- Permite referencias cruzadas inteligentes entre materiales
- Flujos de trabajo de múltiples pasos - Perfecto para tareas que requieren múltiples interacciones y estado persistente
- Gestiona árboles de decisión complejos y lógica ramificada
- Mantiene el contexto durante procesos extensos
- Maneja interrupciones y reanudaciones sin problemas
El verdadero poder radica en crear soluciones híbridas. Por ejemplo, puedes construir sistemas sofisticados donde la API de Chat Completions recupera y procesa rápidamente información de tu base de datos vectorial, y luego transfiere sin problemas a un Asistente cuando necesitas una gestión de memoria más compleja o manejo de archivos. Este enfoque combina la velocidad y eficiencia de Chat Completions con las características robustas de la API de Asistentes, creando aplicaciones más potentes y flexibles.
Ambas APIs son robustas y listas para producción, cada una sirviendo necesidades distintas en el ecosistema de desarrollo. La API de Chat Completions opera como una capa fundamental, dando a los desarrolladores control granular sobre cada aspecto de la interacción. Esto significa que puedes personalizar el manejo de memoria, definir ventanas de contexto precisas e implementar estrategias de tokenización personalizadas. La abstracción mínima permite una integración profunda con sistemas y bases de datos existentes, mientras que su flexibilidad permite patrones arquitectónicos únicos que podrían no ser posibles con APIs de mayor nivel.
La API de Asistentes, por otro lado, funciona como un marco sofisticado que maneja automáticamente muchas operaciones complejas. Abstrae las complejidades de la gestión de memoria, manejo de hilos y procesamiento de archivos, haciéndola particularmente adecuada para construir aplicaciones basadas en memoria. Esta API sobresale en escenarios que requieren conversaciones persistentes, análisis de documentos e interacciones complejas de múltiples turnos, todo mientras mantiene el contexto a través de sesiones sin sobrecarga de desarrollo adicional.
Al elegir entre estas APIs, la decisión debe guiarse por tu específico caso de uso más que por preferencia general. Si tu aplicación requiere control preciso sobre cada interacción, gestión de memoria personalizada o patrones de implementación únicos, la API de Chat Completions es tu mejor opción. Te permite construir aplicaciones rápidas y ligeras con exactamente las características que necesitas. Por el contrario, si estás desarrollando aplicaciones que necesitan gestión sofisticada de conversaciones, manejo de archivos o memoria persistente entre sesiones, la API de Asistentes ofrece estas características de fábrica. Esto te permite concentrarte en construir lógica de aplicación de alto nivel mientras OpenAI maneja la complejidad de la gestión de memoria e hilos por debajo.