내 Python 프로젝트에 OpenAI API를 활용하기 STEP.3

Step 2까지 성공적으로 마쳐서 AI의 답변을 확인하셨다면, 이제 단순히 대화하는 수준을 넘어 AI를 내 입맛대로 조절하고 실전 앱에 적용하는 법을 배울 차례입니다.

---

Step 3: 핵심 매개변수 이해 및 실전 활용 전략

API를 호출할 때 몇 가지 설정값(Parameter)만 바꿔도 AI의 답변 스타일이 완전히 달라집니다. 이를 조절하는 능력이 바로 개발자의 실력입니다.

1. 답변의 창의성 조절: temperature

• Temperature (0.0 ~ 2.0): 값이 0에 가까울수록 AI는 매우 일관되고 사실적인 답변을 합니다(데이터 분석, 코드 작성에 적합). 값이 1 이상으로 커질수록 훨씬 창의적이고 예측 불가능한 답변을 내놓습니다(소설 쓰기, 아이디어 브레인스토밍에 적합).
• 실무 팁: 보통 업무용으로는 0.5 ~ 0.7 사이를 가장 많이 사용합니다.

2. 역할 부여의 핵심: messages 구조 활용

OpenAI API는 세 가지 역할을 통해 대화를 제어합니다.

• System: AI에게 페르소나를 부여합니다. (예: "당신은 전문적인 데이터 사이언티스트입니다.")
• User: 사용자가 던지는 질문입니다.
• Assistant: 이전 대화에서 AI가 했던 답변입니다. (대화 맥락을 기억하게 하려면 이전에 나눈 대화 기록을 여기에 차곡차곡 쌓아서 보내야 합니다.)

3. 실전 응용: JSON 모드로 출력 받기

개발자에게 가장 중요한 기능입니다. AI의 답변을 일반 텍스트가 아닌 JSON 형식으로 받으면, 내 프로그램에서 바로 데이터로 활용할 수 있습니다.

Python

 

response = client.chat.completions.create(
    model="gpt-4o",
    messages=[
        {"role": "system", "content": "사용자의 입력을 분석해서 반드시 JSON 형식으로만 답변해줘."},
        {"role": "user", "content": "오늘 점심 메뉴로 비빔밥이랑 돈까스 중에 골라주고 이유도 알려줘."}
    ],
    response_format={ "type": "json_object" } # 답변을 JSON으로 강제함
)

print(response.choices[0].message.content)

4. 토큰(Token)과 비용 관리

• 토큰: AI가 글자를 읽는 단위입니다. 영어보다 한글이 토큰 소모가 더 큽니다.
• Max Tokens: 답변의 길이를 제한하여 예상치 못한 비용 발생을 막을 수 있습니다.
• 팁: 성능이 조금 낮아도 되는 작업은 gpt-4o-mini 같은 저렴한 모델을 사용하여 비용을 90% 이상 절감할 수 있습니다.

---

 

STEP4 바로가기