GPT PlayGround
Last updated
Last updated
GPT Playground는 다양한 프롬프트를 테스트 해보기에 최적화된 플랫폼입니다.
PlayGround를 사용하여 프롬프트를 테스트할 때의 장점은 다음과 같습니다.
다양한 버전의 LLM모델들을 통해 테스트할 수 있다
실제 업무환경에서 사용할 수 있는 프롬프트 설계가 가능
실시간으로 테스트해보고 피드백을 적용할 수 있다
테스트 비용이 무료
이번 챕터에서는 PlayGround의 메뉴들과 옵션들의 역할과 사용방법에 대해 알아보는 시간을 가져보겠습니다.
회원가입 진행
Chat ✔
일반적인 Prompt 설계시 사용하는 메뉴. 다양한 버전의 gpt와 대화하여 프롬프트를 테스트하고 설계할 수 있다
RealTime
대화형식으로 실시간으로 응답하는 AI를 테스트할 때 사용하는 메뉴
Assistansts
AI 도우미(Assistant)를 직접 만들고 설정할 수 있는 메뉴
특정한 역할(ex) 번역가, 코딩 도우미, 고객 지원 AI)로 AI를 훈련하고 테스트할 수 있다
TTS(Text To Speech)
AI가 텍스트를 읽어주는 기능을 테스트 할 수 있는 메뉴
음성 기반 AI 어플리케이션 개발시 사용
System message
AI의 기본 성격 및 행동을 설정하는 역할을 하는 공간
기본값 : You are a helpful assistant.
user message
사용자가 AI에게 질문을 입력하는 공간
입력후 Run버튼 클릭시 AI가 응답을 생성
Generate
원하는 시스템 메시지를 자동 생성하고자 할 때 사용.
Clear / Code / Compare / History
Clear : 대화기록을 삭제
Code : 실행한 프롬프트와 응답을 API 코드형식으로 변환하여 개발에 활용할 때 사용
Compare : 두 개 이상의 프롬프트를 실행하여 AI의 응답을 비교할 때 사용
History : 프롬프트의 이전 응답결과들을 확인할 때 사용
User / Assistant /+
User : 사용자 역할을 하는 프롬프트를 작성시 상태를 의미하며 기본값.
Assistant : AI가 응답한 것처럼 텍스트를 꾸밀때 사용한다. AI의 응답을 직접 수정하거나 미리 지정하고자 할 때 사용한다.
+ : 복잡한 대화 흐름을 테스트 할 때 사용한다.
Model
응답을 생성할 AI 버전을 선택.
최신 버전 일수록 높은 추론능력을 가지고 있으나 가격이나 응답속도에 차이가 있음
Response format
AI의 응답형식을 지정하는 옵션(JSON / TEXT)
Function
AI가 응답데이터 함수를 사용할 수 있도록 설정하는 메뉴
Function Calling 기능과 연계시 사용한다.
Model configuration
Temperature : 창의성 설정. 비율이 높을수록 창의적인 답변을 반환.
Max tokens : 최대 토큰수 설정
토큰 : NLP처리시 사용되는 언어의 단위.
stop sequences
특정 단어(EX) STOP, 종료)가 나오면 응답을 중지하도록 설정
챗봇 개발시 대화를 종료하는 시퀀스를 만들 때 유용하다.
Top P
AI가 응답시 확률적으로 상위 P%에 해당하는 단어들만 사용하도록 설정
비율이 낮을 수록 확률이 높은 답변만 채택하며, 비율이 높을수록 창의적인 응답이 가능하다.
Temperature와 비슷하지만, 보통 Temperature를 너무 높게 설정한 경우 AI가 잘못된 응답을 해줄것을 방지하기 위해 추가로 사용한다.
Frequency penalty
동일한 단어나 문장이 반복되지 않도록 페널티 부여하는 옵션
값이 높을수록 응답 생성시 중복된 단어를 사용하지 않는다.
Presence penalty
AI가 새로운 아이디어를 더 적극적으로 제시하도록 유도하는 옵션
값이 높을수록 다양한 주제로 확장 가능
채팅 AI처럼 다양한 주제로 대화를 이어가야 하는 앱을 만들고자 할때는 설정값을 높여준다.
특정 도메인에 특화된 AI를 생성하고자 할때는 주제에 벗어나지 않게 끔 설정값을 낮춰준다.
사용을 위한 결제 방법 프로세스 알려주기(예전과 좀 바뀜)
순서를 작문 뒤로 미루기.
를 통해 내가 작성한 프롬프트의 토큰 수를 확인할 수 있다.
