#local LLMs

Magnitude의 2배 속도 주장에는 함정이 있다

거의 2배에 달하는 벤치마크 결과는 획기적으로 들리지만, 무엇을 측정했는지, 어떤 Mac에서, 어떤 설정과 비교했는지 살펴보면 이야기가 달라집니다. 더 중요한 점은 보편적인 속도 향상보다는 로컬 AI 도구를 구축하는 새로운 방식에 있을지도 모릅니다.