메인 콘텐츠로 건너뛰기
Try in Colab W&B OpenAI API 인테그레이션을 사용하여 파인튜닝된 모델을 포함한 모든 OpenAI 모델의 요청, 응답, 토큰 수 및 모델 메타데이터를 로그할 수 있습니다.
W&B를 사용하여 파인튜닝 실험, Models 및 Datasets을 트래킹하고 동료와 결과를 공유하는 방법은 OpenAI fine-tuning 인테그레이션 가이드를 참조하세요.
API 입력과 출력을 로그하면 서로 다른 프롬프트의 성능을 빠르게 평가하고, 온도(temperature)와 같은 다양한 모델 설정을 비교하며, 토큰 사용량과 같은 기타 사용량 메트릭을 추적할 수 있습니다.
OpenAI API 자동 로깅

OpenAI Python API 라이브러리 설치

W&B autolog 인테그레이션은 OpenAI 버전 0.28.1 이하에서 작동합니다. OpenAI Python API 버전 0.28.1을 설치하려면 다음을 실행하세요:
pip install openai==0.28.1

OpenAI Python API 사용하기

1. autolog 임포트 및 초기화

먼저 wandb.integration.openai에서 autolog를 임포트하고 초기화합니다.
import os
import openai
from wandb.integration.openai import autolog

# "gpt5" 프로젝트로 자동 로깅을 시작합니다.
autolog({"project": "gpt5"})
필요에 따라 wandb.init()이 허용하는 인수를 담은 사전을 autolog에 전달할 수 있습니다. 여기에는 프로젝트 이름, 팀 이름, Entity 등이 포함됩니다. wandb.init()에 대한 자세한 내용은 API 레퍼런스 가이드를 참조하세요.

2. OpenAI API 호출

이제 OpenAI API에 대한 각 호출이 W&B에 자동으로 로그됩니다.
os.environ["OPENAI_API_KEY"] = "XXX"

chat_request_kwargs = dict(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers"},
        {"role": "user", "content": "Where was it played?"},
    ],
)
response = openai.ChatCompletion.create(**chat_request_kwargs)

3. OpenAI API 입력 및 응답 확인

1단계autolog에 의해 생성된 W&B run 링크를 클릭하세요. W&B 앱의 프로젝트 Workspace로 이동합니다. 생성된 run을 선택하여 트레이스 테이블, 트레이스 타임라인 및 사용된 OpenAI LLM의 모델 아키텍처를 확인하세요.

autolog 비활성화

OpenAI API 사용을 마친 후에는 모든 W&B 프로세스를 종료하기 위해 disable()을 호출하는 것이 좋습니다.
autolog.disable()
이제 입력과 완성 결과가 W&B에 로그되어 분석하거나 동료들과 공유할 준비가 되었습니다.