정보 기술 놀이터

본 포스팅은 테디님의 Git을 참고하여 작성되었습니다.https://github.com/teddylee777/langserve_ollama/tree/main Ollama 사용법은 이전 포스팅을 참고해주세요.LangServe 사용법은 이전 포스팅을 참고해주세요. 0. Ngrok로컬 개발 환경에서 인터넷을 통해 웹 애플리케이션에 접근할 수 있도록 도와주는 도구입니다.Ngrok을 이용하여, localhost에서 사용중인 LangServe 프로젝트를 누구나 사용할 수 있도록 해보겠습니다. 1. Ngrok 설치https://ngrok.com/download 2. Ngrok 회원 가입 및 Authtoken 가져오기 Copy 버튼을 클릭하여 Authtoken을 복사한 후 ngrok.exe가 설치된 경로로 이동하여 아..

본 포스팅은 테디님의 Git을 참고하여 작성되었습니다.https://github.com/teddylee777/langserve_ollama/tree/main Ollama 사용법은 이전 포스팅을 참고해주세요. 0. LangServeLangServe는 LLM 모델 관련 앱 빌드에 도움을 주는 프레임워크인 LangChain에서 도입된것으로,LLM 프로젝트를 REST API로 배포할 수 있도록 도와주는 역할을 합니다. 1. Ollama 설치(Windows)이전 포스팅에서 LangServe로 LLM을 사용할 때, 서버가 종료되는 현상이(?) 발생하여 Windwos에 다시 Ollama와 Python을 설치하고, 가상 환경을 만들어 진행하겠습니다.https://ollama.com/download Download Ol..

본 포스팅은 테디님의 Git을 참고하여 작성되었습니다.https://github.com/teddylee777/langserve_ollama/tree/main 0. OllamaLLM을 로컬 PC에서 쉽게 실행할 수 있게 해주는 도구입니다.Ollama를 이용하여 LLM을 직접 다운로드 받고 프롬프트로 실행하는 방법을 소개합니다. 1. WSL 설치(windows 기준)WSL(Windows Subsystem for Linux)으로 Windows에 리눅스 운영체제를 설치하여 사용할 수 있습니다. 1) 커맨드 관리자 권한 실행 후 다음 입력wsl --install 2) 재부팅 후 ID, PW 설정 2. Ollama 설치Ollama는 로컬 컴퓨터에서 개인 LLM 서버를 구성할 수 있게 도움을 주는 도구입니다. 1) ..