정상 JSONL이어도 파인튜닝 데이터는 망가질 수 있다
ogram은 파인튜닝용 데이터를 검사하는 로컬 우선 도구다. 데이터 파일이 JSONL 형식으로는 맞아도, 실제 학습에는 문제가 있을 수 있다. 예를 들면 역할 순서가 틀리거나, 모델이 배워야 할 답변이 비어 있거나, 같은 예제가 반복되거나, 문맥 창을 넘거나, 이상한 문자 깨짐이 섞일 수 있다.
공개 전 점검에서 웹사이트 보안 신뢰 표시도 부족하다는 지적이 나왔다. HSTS는 있었지만 CSP, 화면 끼워넣기 방지, nosniff, Referrer-, , .txt 같은 기본 설정이 빠져 있었다. 지금은 엄격한 CSP, 끼워넣기 방지, nosniff, Referrer-, Permissions-, , 사이트맵, .txt, 저장소의 .md가 추가됐다.
브라우저 데모는 여전히 데이터 검사 중 외부 을 하지 않는다.
핵심 포인트
- JSONL 파일이 형식상 정상이어도 로는 잘못될 수 있다.
- 검사 대상에는 역할 순서, 빈 답변, 중복 예제, 문맥 창 초과, 문자 깨짐이 포함된다.
- ogram은 브라우저에서 데이터셋을 검사하면서 외부 을 하지 않는다.
- 웹사이트에는 CSP, Referrer-, .txt 등 기본 보안 신뢰 장치가 추가됐다.
- 는 기능뿐 아니라 보안과 신뢰 표시도 중요하다.