open webui 붙여서 로컬 모델 돌리기 시작하니 M4고 나발이고 이륙한다!!
Phanpy 클라이언트는 칼럼 뷰로 바꿀 수 있는데 칼럼에 프로필 뷰가 없는 거임. ... 음... 없으면 좀 불편한데 ... 싶어 아쉬워하다가 문득 '아니 서버에 나밖에 없으니 Local이 프로필 뷰랑 똑같잖아?' 라는 생각을 함. ... 그래서 프로필 뷰가 없지만 있음. 평화가 찾아옴. 역시 서버에 나 혼자밖에 없는게 최고다.
아니 마소형. 이건 좀 미친거같아요.
@[email protected] · Reply to Woojin Kim
그날 나같이 금요일에 출근한 상사의 상사의 상사와 평가면담 잡혀서 급휴가도 못씀 ㅠㅠ
@[email protected] · Reply to Woojin Kim
후회스럽다. ㅠㅠ
후...... 다음주 월요일에 출근하면 좀 심한가 싶어 금요일에 휴가 안냈다. ... 그래서 휴일 하루 남음.
내일 올리기 좋은 사진을 공유해드려요
하늘에서 법적으로 세금 문제가 없는 100억정도의 자산이 담긴 무엇인가가 떨어졌으면 좋겠어요 #아무말
아니근데 하드디스크는 헤드가 디스크 표면에 닿지도 않는데 그 드르르르륵 소리는 왜 나는거야
이 날씨에도 배달이 되다니 정말 대단하다. ... 나도 데스스트랜딩에서 피자 배달해봐서 아는데~ (???!!??)
@[email protected] · Reply to Woojin Kim
드륵드륵 드르르르르르르륵 드르르르르륵
@[email protected] · Reply to Woojin Kim
... 모델 파일을 하드에 넣으면 느리게 도는게 문제가 아니라 돌 때마다 시끄러운게 문제임.
@[email protected] · Reply to Woojin Kim
... 게임이 100기가 넘는다고 툴툴거렸는데 이런 세계가 와버리다니 ......
80% 축소해도 131기가여서 어차피 느리게 돌 거 SSD에 넣는걸 포기하고 하드에 넣어야 할 것 같음.
sns.lemondouble.com
geeknews_bot (@geeknews_bot)
**GN⁺: DeepSeek-R1 Dynamic 1.58-bit 모델 실행하기** ------------------------------ - DeepSeek-R1은 OpenAI의 O1 Reasoning 모델과 비교되는 성능을 보이는 오픈소스 모델임 - 원래 720GB의 모델을 131GB로 축소하여 80% 크기 감소를 달성함 - 동적 양자화 기법을 사용하여 일부 레이어는 높은 비트(예: 4bit)로 유지하고 대부분의 MoE(Mixture of Experts) 레이어는 1.58bit로 처리 # 주요... ------------------------------ https://news.hada.io/topic?id=18955&utm_source=googlechat&utm_medium=bot&utm_campaign=1834
GN⁺: DeepSeek-R1 Dynamic 1.58-bit 모델 실행하기
------------------------------
- DeepSeek-R1은 OpenAI의 O1 Reasoning 모델과 비교되는 성능을 보이는 오픈소스 모델임
- 원래 720GB의 모델을 131GB로 축소하여 80% 크기 감소를 달성함
- 동적 양자화 기법을 사용하여 일부 레이어는 높은 비트(예: 4bit)로 유지하고 대부분의 MoE(Mixture of Experts) 레이어는 1.58bit로 처리
# 주요...
------------------------------
https://news.hada.io/topic?id=18955&utm_source=googlechat&utm_medium=bot&utm_campaign=1834
news.hada.io
DeepSeek-R1 Dynamic 1.58-bit 모델 실행하기 | GeekNews
DeepSeek-R1은 OpenAI의 O1 Reasoning 모델과 비교되는 성능을 보이는 오픈소스 모델임원래 720GB의 모델을 131GB로 축소하여 80% 크기 감소를 달성함동적 양자화 기법을 사용하여 일부 레이어는 높은 비트(예: 4bit)로 유지하고 대부분의 MoE(Mixture of Experts) 레이어는 1.58bit로 처리주요 특징최소 사양:
Phanpy 인터페이스 예쁜데 그 뭐랄까... 운영체제 네이티브의 빠릿빠릿한게 전혀 없어 좀 아쉽다.
@[email protected] · Reply to 맹꽁이
@sunwoo1524 어딘가 로그를 볼 수 있다면 버튼 누르는 순간 뭔가에 실패하는 로그가 찍히고 있을 것 같아요.
@[email protected] · Reply to Woojin Kim
아니진짜 인터페이스를 영어로 설정했다고 내가 입력하는 언어가 영어가 아닐 수 있다고 ㅠㅠ
... 양인들이여. 인터페이스 언어와 컨텐츠 언어가 다를 수 있다는 상상을 좀 해라. 같은 사람이 타이핑하며 둘 이상의 언어를 전환할 수 있다는 것도 상상을 좀 해라. 인덱싱을 같은 언어로만 하면 안된다는 걸 좀 상상하라 좀 좀 좀 ㅠㅠ
@[email protected] · Reply to Woojin Kim
와 커피 못 마신 좀비들이 다 몰려옴... 배달주문 전부 중단
동네 카페 전부 다 문닫고 메가커피 하나만 문열어서 동네 전체 커피 급식소됨
@[email protected] · Reply to Woojin Kim
코딩애플이 애니프사들이 코딩 잘하는걸 조사한 영상을 만들었었어...
2025년이 시작된지 얼마 안된 것 같은데 벌써 새해라니... 시간 참 빠르네요 2026년 새해 복 많이 받으세요
@[email protected] · Reply to Woojin Kim
나쁜놈들. o&o shut up++ 출동!!
... 윈도우 11 초기상태는 정말 어떻게 하면 사용자를 엿 먹일지 연구한 결과가 아닐까 싶다. 이렇게까지 모든 작업을 적극적으로 방해한다고?
오늘은 드디어 윈도우를 밀고 자겠읍니다.
이제 너무 우려먹어서 질리는 것도 사실이기는 하지만 ...... 항상 매 시리즈마다 동기화 장면들을 참 좋아함.
유튭에서 이런게 된다는걸 봐서 알고는 있었는데 막상 깨작거려보니 생각보다 너무 심하게 간단해서 당혹스러움.
... 나 사기당한거시야???!??!??!?
아맞다! 내 글만 되는거지만 이제 검색 된다!!