삽질로그

MCP란?MCP(Model Context Protocol)는 2024년 11월 Anthropic에서 발표한 표준화된 통신 프로토콜로, AI 모델이 외부 데이터나 서비스와 연결되도록 도와주는 방식이다. 왜 MCP가 주목받을까? • 표준화: AI와 외부 서비스를 연결하는 방식이 통일되어 있음 • 확장성: 실시간 데이터 활용 등 다양한 기능 확장이 가능 • 사용자 친화성: 개발 지식이 없어도 AI 기능 요청 가능 • 개발 효율성: 재사용 가능한 서버로 반복 작업 최소화 • LLM 독립성: 특정 LLM 제공업체에 종속되지 않음 • 산업 채택: Cursor에 이어 OpenAI도 MCP 지원 기존 AI Agent 방식 vs MCP 방식기존 방식MCP 방식플랫폼마다 연결 방식이 다름MCP 방식이면 한 번 만든 도구를..

로컬 환경에 Llama 3를 설치하는 작업을 시작했다.처음에는 도커로 설치할까 고민했는데,나는 딱히 환경 격리가 필요없는데 메모리를 더 많이 사용한다는 표를보고 네이티브 설치를 선택했다.   🖥 로컬(네이티브) 설치 vs 🐳 Docker 설치 메모리 비교실행 방식메모리 사용량 (RAM)추가적인 오버헤드로컬(네이티브) 실행모델 크기에 따라 다름 (예: 7B 모델은 최소 8GB, 13B 모델은 최소 16GB 필요)최소한의 시스템 리소스 사용Docker 실행네이티브 실행 + 약간의 추가 메모리 사용컨테이너 오버헤드 (약 200~500MB 추가)👉 결론: 성능이 중요하면 네이티브 설치, 환경 격리가 필요하면 Docker! 🚀   http://www.ollama.com/ OllamaGet up and ru..

1. 프롬프트 엔지니어링이란?프롬프트 엔지니어링은 인간이 생성형 AI에게 입력 값을 제공하여 원하는 결과를 생성하도록 안내하는 기술입니다.이는 공학적 접근 방식으로, 생성형 AI 모델의 기능을 최대로 활용하기 위한 프로세스라고 볼 수 있습니다.프롬프트 작동원리 토큰화(Tokenization): 입력 값을 작은 단위(토큰)로 분리.임베딩(Embedding): 토큰을 숫자 벡터로 변환하여 AI가 이해하도록 함.문맥 이해(Context Understanding): 문맥과 의도를 파악.답변 생성(Response Generation): 입력 값에 맞는 결과를 생성.2. 프롬프트 작성 방법론프롬프팅 기법Zero-shot: 추가 정보 없이 작업 수행.One-shot: 예시 하나를 제공하여 작업 수행.Few-shot:..