오픈 모델에 답변 앞부분을 넣었다면 새 메시지와 이어 쓰기를 구분하기

한 장의 그림으로 이해하기

대화 템플릿의 출력 시작 지점을 글쓰기 작업장으로 옮긴 개념 비유다. 왼쪽 로봇이 끝난 종이 옆 새 종이에 쓰는 행동은 새로운 assistant 메시지 시작, 오른쪽 로봇이 같은 종이의 이미 쓴 부분에 이어 쓰는 행동은 마지막 메시지 계속하기에 대응한다. 종이는 메시지, 펜은 토큰 생성, 서로 다른 잉크는 기존 입력과 새 출력을 구분한다. 종이 위 선은 실제 응답이나 토큰 개수가 아니다. 두 장면은 선택 가능한 서로 다른 방식이며 함께 켜라는 뜻이 아니다. 새 메시지 시작 표식이 필요 없는 모델도 있고, 그림은 답변 정확도·형식 준수·성능을 보장하지 않는다.
내용의 흐름을 표현한 설명용 그림입니다. 실제 제품 화면이나 실행 결과가 아닙니다.
그림 크게 보기 ↗ (새 탭)

오픈 모델 · 판정 관망

그림을 글로 풀면

새 답변과 이어 쓰기

대화 끝에 답변 앞부분을 넣었다면 마지막 메시지를 이어 쓸지 먼저 정하세요.

대상
로컬 대화 모델의 입력을 만드는 개발자
무엇이 바뀜
새 메시지 시작과 마지막 메시지 계속하기는 서로 다른 설정입니다.
왜 중요한가
두 설정을 함께 켜면 오류가 날 수 있습니다.
지금 할 일
마지막 역할·입력 내용·템플릿 옵션을 함께 대조하세요.
한계·미확인
개념 비유. 모델 설치·추론·정확도 시험 없음.
공식 출처
huggingface.co
확인일
2026-10-15

종이가 바뀌는지부터 결정하기

가상의 로컬 문서 도우미가 답변의 앞부분을 미리 받은 상황입니다. 다음 출력을 새 답변으로 만들 것인지, 이미 시작한 답변에 붙일 것인지 먼저 정해야 합니다. 그림의 새 종이와 이어 쓰는 종이는 이 선택을 나타냅니다. 입력 문자열이 있다는 이유만으로 두 작업을 같은 처리로 묶지 마세요.

시작 표식과 마지막 메시지의 끝

Transformers v5.19.0 문서는 add_generation_prompt가 assistant 답변의 시작을 알리는 토큰을 추가한다고 설명합니다. continue_final_message는 마지막 메시지를 계속하도록 끝 표식을 제거합니다. 두 옵션을 함께 사용하면 오류가 나며, 시작 표식이 필요 없는 일부 모델에서는 add_generation_prompt가 효과를 내지 않습니다.

자동 처리에 맡겼어도 마지막 역할 확인하기

같은 문서는 TextGenerationPipeline이 보통 새 메시지를 시작하지만, 마지막 역할이 assistant이면 미리 채운 답변으로 보고 이어 쓰기로 바꾼다고 안내합니다. AINOW는 모델·토크나이저 버전, 마지막 메시지 역할과 내용, 두 옵션의 값을 함께 기록하도록 제안합니다. 이는 출력 연결 위치 점검이며 JSON 형식이나 답변 품질을 보장하지 않습니다. 이번 제작에서는 모델을 설치하거나 추론을 실행하지 않았습니다.

참고 원문: Hugging Face 공식 문서 — Transformers v5.19.0 Chat templates · 원문 게시일 상시 문서(확인일 기준) · 확인일 2026-10-15

AI 작성·자동 검증: 공식 자료와의 대조 및 게시 구조 검사. 사람의 개별 검수와 제품 실행 시험은 수행하지 않았습니다. 그림은 신규 생성한 개념 일러스트입니다.

이 글의 검증 카드

자료 버전
Transformers v5.19.0 문서·2026-10-15 확인. add_generation_prompt와 continue_final_message 비교. 모델 설치·추론·성능 시험 없음
확인일
2026-10-15
검증 상태
개발자 주장
한계·주의
개념 비유. 모델 설치·추론·정확도 시험 없음.

함께 더 정확하게

질문·오류 제보

그림에서 이해되지 않는 부분이나 달라진 내용을 알려 주세요. 관리자가 확인하고 승인한 글만 공개됩니다.

공개된 질문·제보

    아직 공개된 질문·제보가 없습니다. 궁금한 부분을 먼저 남겨 주세요.