사람들이 맥미니가 오픈클로 돌리기 딱이라는데 ............ 뭘 어떻게 돌리는거지 ...... 맥미니로는 턱도없는데 ... 외부 API 쓰는 걸 기준으로 하는 이야기일까?

2 replies

@me

16GB 메모리 모델로 골랐어도 답변 돌아오는데 10초 추론 과정 요청하면 1분. PicoClaw 실행해도 메모리 30GB 정도.

사람들이 로컬에 꾸미려고 할 때는 이미지 프로세싱 수준인데요. 이상과 현실의 차카 크고, 커뮤니티에는 국지적 실행 결과의 확대 해석 및 허풍이 많아 보입니다.

매킨토시도 좋다는 이야기도 결국 랙 마운트할 때의 이야기지 싶습니다.

* linkedin.com/posts/katharina-l

de.linkedin.com

🚀 Mac mini im Rack bei der Sinabis GmbH: Update aus der Praxis Kurzes Infrastruktur-Update von uns: Wir betreiben inzwischen 12 Apple Mac minis (M4 / 16 GB) fest im Rack und das Fazit ist weiterhin… | Katharina Lechner | 49 comments

🚀 Mac mini im Rack bei der Sinabis GmbH: Update aus der Praxis Kurzes Infrastruktur-Update von uns: Wir betreiben inzwischen 12 Apple Mac minis (M4 / 16 GB) fest im Rack und das Fazit ist weiterhin eindeutig: Die Plattform liefert. Stabil, effizient und vorhersehbar. 🔧 Was sich im Betrieb bestätigt hat - sehr hohe Performance/Watt-Ratio, - gleichmäßiges Verhalten unter Dauerlast, - schneller Austausch & einfache Skalierung, - kaum operativer Overhead im Alltag. Gerade für klar abgegrenzte Services und horizontale Skalierung sind die Systeme weiterhin extrem angenehm zu betreiben. 🔍 Typische Workloads bei uns - OCR-Pipelines & Dokumentenverarbeitung, - Klassifizierung & Metadaten-Extraktion, - ETL-Jobs und Vorverarbeitung für KI-Systeme, - Vorbereitung / Entlastung vor GPU-Inference. 🧠 Architektur bleibt entscheidend - Nicht jeder Task braucht GPUs oder große x86-Server. - Für viele Workloads ist ein Verbund effizienter ARM-Nodes technisch sauberer, wirtschaftlicher und betrieblich deutlich entspannter. 👀 Ausblick - Morgen kommen die ersten Mac Studios ins Rack. Wir sind sehr gespannt, was dort performance-seitig im direkten Vergleich möglich ist, insbesondere bei CPU-lastigen und I/O-nahen Workloads. Unser Eindruck nach den bisherigen Systemen bleibt: Mac minis sind kein Experiment mehr. | 49 comments on LinkedIn