대규모 LLM 모델의 추론(Inference) 환경에서 비용을 절약하기 위한 다양한 방법들이 시도되는데, 최근 알게된 AIBrix 에서 추론 비용을 낮추기 위한 방법을 어떻게 접근하는지 살펴보았다.
2025-03-30
흔히 ‘빨리 가려면 혼자 가고 멀리 가려면 함께 가라’는 격언이 있다. 하지만 새로운 팀을 꾸리면서 빠른 시간 안에 목표를 달성해야 하는 미션 상황에서는 어떨까? 멀리 가는 것보다, 일은 함께 해야하는데 빠르게 결과를 내는 방법에 대해 고민하게 된다.
2025-03-02
Software Developer, I love code.
