libtorch serialize (RT Convert) 오류 1

728x90

inference library framework 변경 중 발생한 오류.

m_Engine_RTs 객체 초기화가 안되어 발생하였다.

해결 방법

* setDimensions 파라미터 순서 변경

-> 주석달린 TensorFlow의 경우에는 NHWC 순서, 주석이 없는 PyTorch의 경우에는 NCHW 순서 (N: 배치, H: 높이, W: 너비, C: 채널 순서)

* inputLayer, outputLayer 이름 변경

-> 아래 사진의 좌측은 tensorflow, 우측은 pytorch 이다. 같은 모델이더라도 layer 이름이 바뀌어서 맞춰줘야 한다.

RT convert 완료

728x90

ChatGPT API 사용을 위한 카드 등록 방법 설명 (0)	2024.10.25
ChatGPT API 발급 받는 방법 (python에서 사용) (0)	2024.10.25
libtorch classification inference , torch::jit::load fail (2)	2024.09.13
범주형 데이터의 종속변수와 모델링 기법들 (1)	2024.09.10