GPT PlayGround

Intro

GPT Playground는 다양한 프롬프트를 테스트 해보기에 최적화된 플랫폼입니다.

PlayGround를 사용하여 프롬프트를 테스트할 때의 장점은 다음과 같습니다.

  1. 다양한 버전의 LLM모델들을 통해 테스트할 수 있다

  2. 실제 업무환경에서 사용할 수 있는 프롬프트 설계가 가능

  3. 실시간으로 테스트해보고 피드백을 적용할 수 있다

  4. 테스트 비용이 무료

이번 챕터에서는 PlayGround의 메뉴들과 옵션들의 역할과 사용방법에 대해 알아보는 시간을 가져보겠습니다.

GPT PlayGround

  • 회원가입 진행

1. PlayGround 구성요소

1. 좌측 대시보드

  • Chat ✔

    • 일반적인 Prompt 설계시 사용하는 메뉴. 다양한 버전의 gpt와 대화하여 프롬프트를 테스트하고 설계할 수 있다

  • RealTime

    • 대화형식으로 실시간으로 응답하는 AI를 테스트할 때 사용하는 메뉴

  • Assistansts

    • AI 도우미(Assistant)를 직접 만들고 설정할 수 있는 메뉴

    • 특정한 역할(ex) 번역가, 코딩 도우미, 고객 지원 AI)로 AI를 훈련하고 테스트할 수 있다

  • TTS(Text To Speech)

    • AI가 텍스트를 읽어주는 기능을 테스트 할 수 있는 메뉴

    • 음성 기반 AI 어플리케이션 개발시 사용

2. 중앙 대시보드

  • System message

    • AI의 기본 성격 및 행동을 설정하는 역할을 하는 공간

    • 기본값 : You are a helpful assistant.

  • user message

    • 사용자가 AI에게 질문을 입력하는 공간

    • 입력후 Run버튼 클릭시 AI가 응답을 생성

  • Generate

    • 원하는 시스템 메시지를 자동 생성하고자 할 때 사용.

  • Clear / Code / Compare / History

    • Clear : 대화기록을 삭제

    • Code : 실행한 프롬프트와 응답을 API 코드형식으로 변환하여 개발에 활용할 때 사용

    • Compare : 두 개 이상의 프롬프트를 실행하여 AI의 응답을 비교할 때 사용

    • History : 프롬프트의 이전 응답결과들을 확인할 때 사용

  • User / Assistant /+

    • User : 사용자 역할을 하는 프롬프트를 작성시 상태를 의미하며 기본값.

    • Assistant : AI가 응답한 것처럼 텍스트를 꾸밀때 사용한다. AI의 응답을 직접 수정하거나 미리 지정하고자 할 때 사용한다.

    • + : 복잡한 대화 흐름을 테스트 할 때 사용한다.

User / Assistant로 응답텍스트를 꾸며주지 않은 경우

User / Assistant로 응답텍스트를 꾸며준 경우

3. 우측 대시보드

  • Model

    • 응답을 생성할 AI 버전을 선택.

    • 최신 버전 일수록 높은 추론능력을 가지고 있으나 가격이나 응답속도에 차이가 있음

  • Response format

    • AI의 응답형식을 지정하는 옵션(JSON / TEXT)

  • Function

    • AI가 응답데이터 함수를 사용할 수 있도록 설정하는 메뉴

    • Function Calling 기능과 연계시 사용한다.

  • Model configuration

    • Temperature : 창의성 설정. 비율이 높을수록 창의적인 답변을 반환.

    • Max tokens : 최대 토큰수 설정

      • 토큰 : NLP처리시 사용되는 언어의 단위.

      • Tokenizer를 통해 내가 작성한 프롬프트의 토큰 수를 확인할 수 있다.

    • stop sequences

      • 특정 단어(EX) STOP, 종료)가 나오면 응답을 중지하도록 설정

      • 챗봇 개발시 대화를 종료하는 시퀀스를 만들 때 유용하다.

  • Top P

    • AI가 응답시 확률적으로 상위 P%에 해당하는 단어들만 사용하도록 설정

    • 비율이 낮을 수록 확률이 높은 답변만 채택하며, 비율이 높을수록 창의적인 응답이 가능하다.

    • Temperature와 비슷하지만, 보통 Temperature를 너무 높게 설정한 경우 AI가 잘못된 응답을 해줄것을 방지하기 위해 추가로 사용한다.

  • Frequency penalty

    • 동일한 단어나 문장이 반복되지 않도록 페널티 부여하는 옵션

    • 값이 높을수록 응답 생성시 중복된 단어를 사용하지 않는다.

  • Presence penalty

    • AI가 새로운 아이디어를 더 적극적으로 제시하도록 유도하는 옵션

    • 값이 높을수록 다양한 주제로 확장 가능

    • 채팅 AI처럼 다양한 주제로 대화를 이어가야 하는 앱을 만들고자 할때는 설정값을 높여준다.

    • 특정 도메인에 특화된 AI를 생성하고자 할때는 주제에 벗어나지 않게 끔 설정값을 낮춰준다.

  1. 사용을 위한 결제 방법 프로세스 알려주기(예전과 좀 바뀜)

  2. 순서를 작문 뒤로 미루기.

Previous프롬프트와 프롬프트 엔지니어링Next프롬프트 작문 유형

Last updated