... 여태까지 텍스트 임베딩 배치사이즈 무서워서 1로 돌렸는데 32로 돌려도 멀쩡하네?
1 reply
@[email protected] · Reply to Woojin Kim
@me ollama는 임베딩 배치 API가 미지원인걸로 알고있습니다. 그거 때문에 (AI한테 짬때려서) 작성중이던 프로그램이 동작하지 않는 경우가 있더라구요... OpenAI 같은 클라우드는 아마 문제 없을거라고 봅니다.
... 여태까지 텍스트 임베딩 배치사이즈 무서워서 1로 돌렸는데 32로 돌려도 멀쩡하네?
@me ollama는 임베딩 배치 API가 미지원인걸로 알고있습니다. 그거 때문에 (AI한테 짬때려서) 작성중이던 프로그램이 동작하지 않는 경우가 있더라구요... OpenAI 같은 클라우드는 아마 문제 없을거라고 봅니다.