한 장의 그림으로 이해하기

그림 크게 보기 ↗ (새 탭)
오픈 모델 · 판정 관망
그림을 글로 풀면
새 답변과 이어 쓰기
대화 끝에 답변 앞부분을 넣었다면 마지막 메시지를 이어 쓸지 먼저 정하세요.
- 대상
- 로컬 대화 모델의 입력을 만드는 개발자
- 무엇이 바뀜
- 새 메시지 시작과 마지막 메시지 계속하기는 서로 다른 설정입니다.
- 왜 중요한가
- 두 설정을 함께 켜면 오류가 날 수 있습니다.
- 지금 할 일
- 마지막 역할·입력 내용·템플릿 옵션을 함께 대조하세요.
- 한계·미확인
- 개념 비유. 모델 설치·추론·정확도 시험 없음.
- 공식 출처
- huggingface.co
- 확인일
- 2026-10-15
종이가 바뀌는지부터 결정하기
가상의 로컬 문서 도우미가 답변의 앞부분을 미리 받은 상황입니다. 다음 출력을 새 답변으로 만들 것인지, 이미 시작한 답변에 붙일 것인지 먼저 정해야 합니다. 그림의 새 종이와 이어 쓰는 종이는 이 선택을 나타냅니다. 입력 문자열이 있다는 이유만으로 두 작업을 같은 처리로 묶지 마세요.
시작 표식과 마지막 메시지의 끝
Transformers v5.19.0 문서는 add_generation_prompt가 assistant 답변의 시작을 알리는 토큰을 추가한다고 설명합니다. continue_final_message는 마지막 메시지를 계속하도록 끝 표식을 제거합니다. 두 옵션을 함께 사용하면 오류가 나며, 시작 표식이 필요 없는 일부 모델에서는 add_generation_prompt가 효과를 내지 않습니다.
자동 처리에 맡겼어도 마지막 역할 확인하기
같은 문서는 TextGenerationPipeline이 보통 새 메시지를 시작하지만, 마지막 역할이 assistant이면 미리 채운 답변으로 보고 이어 쓰기로 바꾼다고 안내합니다. AINOW는 모델·토크나이저 버전, 마지막 메시지 역할과 내용, 두 옵션의 값을 함께 기록하도록 제안합니다. 이는 출력 연결 위치 점검이며 JSON 형식이나 답변 품질을 보장하지 않습니다. 이번 제작에서는 모델을 설치하거나 추론을 실행하지 않았습니다.
참고 원문: Hugging Face 공식 문서 — Transformers v5.19.0 Chat templates · 원문 게시일 상시 문서(확인일 기준) · 확인일 2026-10-15
AI 작성·자동 검증: 공식 자료와의 대조 및 게시 구조 검사. 사람의 개별 검수와 제품 실행 시험은 수행하지 않았습니다. 그림은 신규 생성한 개념 일러스트입니다.
이 글의 검증 카드
- 자료 버전
- Transformers v5.19.0 문서·2026-10-15 확인. add_generation_prompt와 continue_final_message 비교. 모델 설치·추론·성능 시험 없음
- 확인일
- 2026-10-15
- 검증 상태
- 개발자 주장
- 한계·주의
- 개념 비유. 모델 설치·추론·정확도 시험 없음.
함께 더 정확하게
질문·오류 제보
그림에서 이해되지 않는 부분이나 달라진 내용을 알려 주세요. 관리자가 확인하고 승인한 글만 공개됩니다.
개발에서는 이메일 인증 가입 또는 관리자 발급 계정으로 참여할 수 있습니다. 계정·이용 문의
아직 계정이 없으신가요? 회원가입
공개된 질문·제보
아직 공개된 질문·제보가 없습니다. 궁금한 부분을 먼저 남겨 주세요.