Woojin Kim's avatar
Woojin Kim

@[email protected] · Reply to Woojin Kim's post

그동안 호더에는 딥씩 70b를 써서 사소한 태그생성이나 요약에도 수십초가 걸렸는데 AnythingLLM에서 14B 수준의 모델을 사용해도 충분하다는걸 알게됨.

Woojin Kim's avatar
Woojin Kim

@[email protected] · Reply to Woojin Kim's post

퍼플렉시티 리밋 걸리고 나서 사용할 폴백으로 충분한거같다.