Woojin Kim
@[email protected] · Reply to Ch. :animal_feed_trickcal:'s post
@sftblw 도커 내부에선 gpu를 못쓰니 깝깝한데 도커 밖에서 도는 ollama만큼 아무데나 잘 붙는 도구가 별로 없더라구요
Ch. 
@[email protected] · Reply to Woojin Kim's post
@me GPT한테 물어봤는데 역시 macOS docker에서의 GPU 이용의 발목을 잡는 게 가상화군요. 아무래도 VM으로 돌아가는지라...
유일하게 VM 없이 돌아가는게 본가인 리눅스 docker인데 그 쪽은 nvidia 그래픽카드 연동이 가능합니다. 의외로 윈도우 WSL도 그래픽카드 연동을 지원하더라구요. 윈도우 WSL도 VM인데 이 쪽은 MS의 지원 의지가 있었던걸까요...
docker 외에도 애플이 VRAM이 많은 건 좋은데 호환성 문제가 있단말이죠... 당장 PaddleOCR-VL 도 ARM 아키텍처 자체를 지원 안 한다고 했던 것 같구요.