저가형 Tesla P100의 계산 오차를 막는 3줄 수정 공개
는 연산 속도를 높이기 위해 FP16 성능이 좋은 에서 자동으로 FP16 계산을 사용한다. GTX 10 시리즈와 P40은 오래전에 이 설정에서 제외됐지만, 같은 파스칼 세대인 Tesla P100은 빠른 FP16 장치를 갖췄다는 이유로 제외되지 않았다. 문제는 P100이 빠르게 계산하는 대신 결과에 불필요한 오차를 섞을 수 있다는 점이다.
이를 바로잡는 수정은 코드 3줄이며, 0.3.0과 두 관련 포크에 이미 반영됐다. 원본 를 관리하는 GGML에도 문제 번호 25593으로 수정을 요청했다.
핵심 포인트
- Tesla P100에서 FP16 계산을 선택하는 기존 설정이 불필요한 계산 오차를 만들 수 있다.
- 수정에 필요한 코드 변경은 3줄이다.
- 수정본은 0.3.0에서 바로 사용할 수 있다.
- 두 포크에는 수정이 병합됐다.
- 원본 GGML 프로젝트에는 문제 번호 25593으로 이 등록됐다.