5. Tool

Tool

• LLM이 외부 세계와 상호작용하여 자체 기능 범위를 확장할 수 있도록 도와주는 외부 도구 또는 함수를 Tool이라고 부른다

• 즉, AI를 활용하여 인터넷 검색이나 데이터베이스 연결, 외부 api호출 등 LLM자체의 기능에서 벗어난 동작을 수행해야 하는 경우 Tool을 통해 해결할 수 있다.

• Tool 예시) 날씨 정보 조회, 데이터베이스 조회, API 호출 등

ToolCalling 방법

1. Tool정의

• Tool사용할 함수를 정의한다

• 이 함수의 스키마를 정의한다.

# 곱셈연산을 지원하는 함수.
def multiply(a: int, b: int) -> int:
    """
    두 정수 a와 b를 곱합니다. 이 도구는 복잡한 곱셈 계산에 사용됩니다.
    Args:
        a: 첫 번째 정수
        b: 두 번째 정수
    """
    return a * b

# 2. 도구 스키마 정의(Tool Schema)
tools = [
    {
        "type": "function",
        "function": {
            "name": "multiply",
            "description": "두 정수 a와 b를 곱합니다.",
            "parameters": {
                "type": "object",
                "properties": {
                    "a": {"type": "integer", "description": "첫 번째 정수"},
                    "b": {"type": "integer", "description": "두 번째 정수"}
                },
                "required": ["a", "b"]
            }
        }
    }
]

2. Tool Binding

# llm 요청시 tool을 함께 전달.
user_query = "137에 45를 곱하면 얼마야?"

response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[
        {"role": "user", "content": user_query}
    ],
    tools=tools,
    tool_choice="auto"  # 모델이 알아서 도구 쓸지 판단
)

message = response.choices[0].message
print("=== 1차 응답 ===")
print(message)

3. 도구 실행 및 결과 반환

import json

if message.tool_calls:
    tool_call = message.tool_calls[0]

    tool_name = tool_call.function.name
    tool_args = json.loads(tool_call.function.arguments)
    tool_call_id = tool_call.id

    print("\n=== 도구 실행 ===")
    print("도구:", tool_name)
    print("인자:", tool_args)

    if tool_name == "multiply":
        tool_result = multiply(**tool_args)

    print("결과:", tool_result)

4. 도구 호출 결과를 LLM에게 전달

second_response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[
        {"role": "user", "content": user_query},
        message,  # LLM의 tool_call 메시지
        {
            "role": "tool",
            "tool_call_id": tool_call_id,
            "content": str(tool_result)
        }
    ]
)

final_message = second_response.choices[0].message
print("\n=== 최종 응답 ===")
print(final_message.content)