TensorSharp, Qwen 이미지 편집 지원과 CUDA 속도 비교 공개
TensorSharp가 모델을 이용한 이미지 편집과 을 지원한다. 공개된 비교는 TensorSharp와 를 같은 입력 이미지, 문장 지시, 해상도, 단계 수, 설정값, 난수 기준으로 맞춰 실행한 결과다. 테스트는 CUDA 환경에서 544x1184 해상도와 4단계 설정으로 진행됐다.
이미 실행 중인 서버에서 처리한 따뜻한 요청 기준 총 시간은 TensorSharp가 40.44초, 가 48.16초였다. 한 단계당 샘플링 시간은 TensorSharp가 7.57초, 가 9.43초였다. 텍스트 인코딩은 TensorSharp가 7.45초로 더 느렸고, 는 4.47초였다.
이미지 인코딩과 디코딩은 TensorSharp가 각각 0.54초, 1.51초였고, 는 1.92초, 2.57초였다. TensorSharp는 새 서버에서 첫 요청을 처리할 때 구조 재구성과 비용이 추가되어 54.11초가 걸렸다.
핵심 포인트
- TensorSharp가 기반 이미지 편집과 생성을 지원한다.
- CUDA 테스트에서 TensorSharp의 따뜻한 요청 총 시간은 40.44초였다.
- 같은 조건의 는 총 48.16초로 더 느렸다.
- TensorSharp의 첫 요청은 추가 준비 과정 때문에 54.11초가 걸렸다.
- 에서는 CUDA 결과를 그대로 기대하기 어렵다.