로컬 환경에 Llama 3를 설치하는 작업을 시작했다.처음에는 도커로 설치할까 고민했는데,나는 딱히 환경 격리가 필요없는데 메모리를 더 많이 사용한다는 표를보고 네이티브 설치를 선택했다. 🖥 로컬(네이티브) 설치 vs 🐳 Docker 설치 메모리 비교실행 방식메모리 사용량 (RAM)추가적인 오버헤드로컬(네이티브) 실행모델 크기에 따라 다름 (예: 7B 모델은 최소 8GB, 13B 모델은 최소 16GB 필요)최소한의 시스템 리소스 사용Docker 실행네이티브 실행 + 약간의 추가 메모리 사용컨테이너 오버헤드 (약 200~500MB 추가)👉 결론: 성능이 중요하면 네이티브 설치, 환경 격리가 필요하면 Docker! 🚀 http://www.ollama.com/ OllamaGet up and ru..
