정보 기술 놀이터

본 포스팅은 테디님의 Git을 참고하여 작성되었습니다.https://github.com/teddylee777/langserve_ollama/tree/main Ollama 사용법은 이전 포스팅을 참고해주세요.LangServe 사용법은 이전 포스팅을 참고해주세요. 0. Ngrok로컬 개발 환경에서 인터넷을 통해 웹 애플리케이션에 접근할 수 있도록 도와주는 도구입니다.Ngrok을 이용하여, localhost에서 사용중인 LangServe 프로젝트를 누구나 사용할 수 있도록 해보겠습니다. 1. Ngrok 설치https://ngrok.com/download 2. Ngrok 회원 가입 및 Authtoken 가져오기 Copy 버튼을 클릭하여 Authtoken을 복사한 후 ngrok.exe가 설치된 경로로 이동하여 아..

본 포스팅은 테디님의 Git을 참고하여 작성되었습니다.https://github.com/teddylee777/langserve_ollama/tree/main Ollama 사용법은 이전 포스팅을 참고해주세요. 0. LangServeLangServe는 LLM 모델 관련 앱 빌드에 도움을 주는 프레임워크인 LangChain에서 도입된것으로,LLM 프로젝트를 REST API로 배포할 수 있도록 도와주는 역할을 합니다. 1. Ollama 설치(Windows)이전 포스팅에서 LangServe로 LLM을 사용할 때, 서버가 종료되는 현상이(?) 발생하여 Windwos에 다시 Ollama와 Python을 설치하고, 가상 환경을 만들어 진행하겠습니다.https://ollama.com/download Download Ol..

본 포스팅은 테디님의 Git을 참고하여 작성되었습니다.https://github.com/teddylee777/langserve_ollama/tree/main 0. OllamaLLM을 로컬 PC에서 쉽게 실행할 수 있게 해주는 도구입니다.Ollama를 이용하여 LLM을 직접 다운로드 받고 프롬프트로 실행하는 방법을 소개합니다. 1. WSL 설치(windows 기준)WSL(Windows Subsystem for Linux)으로 Windows에 리눅스 운영체제를 설치하여 사용할 수 있습니다. 1) 커맨드 관리자 권한 실행 후 다음 입력wsl --install 2) 재부팅 후 ID, PW 설정 2. Ollama 설치Ollama는 로컬 컴퓨터에서 개인 LLM 서버를 구성할 수 있게 도움을 주는 도구입니다. 1) ..

기업에서 자료 분석, 문서 요약, 보고서 작성 등의 업무는 많은 시간을 투자해야 합니다. 이에 대한 해결책으로 생성형 AI 기술이 주목받고 있으며, 다양한 업무에서 그 활용 가능성이 확인되고 있습니다. 따라서  많은 기업들이 생성형 AI를 업무에 도입하려는 움직임을 보이며, 특히 생성형 AI 기반 챗봇에 대한 관심이 크게 증가하고 있습니다. ChatGPT와 같은 생성형 AI 기반 챗봇이 등장하면서, 많은 직장인들이 업무에 효과적으로 활용하고 있습니다. 70% 이상이 챗봇을 경험해본 적이 있으며, 특히 정보 검색에서 높은 만족도를 보였습니다. 정보 검색 이외에도 데이터 요약, 해석 등 다양한 방식으로 생성형 AI 기반 챗봇을 활용하고 있습니다. 그렇다면 사내 업무 지원 생성형 AI는 어떤 것이 있을까요?1..

Paper: http://ai.stanford.edu/~ang/papers/icml11-MultimodalDeepLearning.pdfAbstractDeep networks는 single modalities에 대해서 featrue learning을 잘 수행하고 있다.만일 multiple modalities 학습이 가능한 상황이라면, single modality보다 더 좋은 결과를 얻을 수 있다.본 논문에서는 multiple modalities를 학습하는 deep networks를 제안한다.Modalities 간의 representation 학습 방법 Introduction인간은 시각, 미각, 촉각, 언어 등 다양한 감각을 통합하여 무엇인가를 인식한다.인간은 시청각 정보를 통합하여 음성을 인식한다. (Mc..

일반적으로 딥러닝은 많은 데이터를 필요로 합니다. 고양이와 강아지를 분류하는 모델은 두 클래스에 대하여 충분한 데이터를 학습해야 입력 이미지가 무엇인지 분류할 수 있습니다. 사람은 데이터를 몇 번만 보고도 빠르게 학습할 수 있으나, 딥러닝 모델은 수많은 데이터를 기반으로 학습 시행착오를 겪어야 비로소 어떤 개념을 학습할 수 있습니다. "딥러닝 모델도 사람처럼 '적은 데이터'만으로도 '빠르게' 학습할 수는 없을까?"라는 질문에 대한 답변으로 제안된 방법이 바로 메타 러닝(meta learning)입니다. 메타 러닝은 새로운 개념 또는 태스크를 빠르게 학습하기 위해 '학습을 학습(learning to learn)'하는 방법입니다. 메타 러닝의 핵심 아이디어는 모델이 단순히 해당 데이터를 학습하는 것뿐만 아니..

AI에서 학습(Learning)과 훈련(Training)은 종종 혼용되는 용어이지만, 다른 의미를 가지고 있습니다. 먼저, 학습은 지도 학습, 비지도 학습, 강화 학습과 같이 모델이 데이터나 경험을 통해 지식이나 스킬을 획득하는 과정입니다. 반대로, 훈련은 학습의 일부로서, 모델이 데이터나 경험을 통해 내부 매개변수 조정, 손실함수 최소화 등의 과정을 의미합니다. 즉, 훈련은 학습의 단계 중 하나로서, 학습 알고리즘이 모델의 매개변수를 조정하여 원하는 작업을 수행할 수 있도록 하는 것입니다. 모델이 예측하거나 분류하는 능력을 향상시키는 것이 훈련의 목표라고 볼 수 있습니다. 요약하면, 학습은 일반적인 개념으로 지식이나 스킬을 습득하는 과정을 나타내며, 훈련은 모델이 주어진 작업을 수행하도록 조정되는 구체..

torchvision의 maskrcnn_resnet50_fpn을 이용하여 인스턴스 분할을 해보겠습니다. 시맨틱 분할, 인스턴스 분할에 대한 내용은 이곳을 확인해 주세요. torchvision은 파이토치에서 제공하는 데이터셋과 모델 패키지입니다. maskrcnn_resnet50_fpn은 말 그대로 ResNet50기반의 FCN 입니다. maskrcnn_resnet50_fpn은 pre-trained model이기 때문에 따로 학습할 필요가 없습니다. __prediction()은 Mask R-CNN 모델의 출력(masks, labels, boxes, scores)을 입력된 confidence에 따라 리턴합니다. __get_coloured_mask()는 입력 이미지(mask)에서 인스턴스의 색을 랜덤으로 설정하여..

torchvision의 fcn_resnet101을 이용하여 시맨틱 분할을 해보겠습니다. 시맨틱 분할에 대한 내용은 이곳을 확인해 주세요. torchvision은 파이토치에서 제공하는 데이터셋과 모델 패키지입니다. fcn_resnet101은 말 그대로 ResNet101 기반의 FCN 입니다. fcn_resnet101은 pre-trained model이기 때문에 따로 학습할 필요가 없습니다. 사용 방법은 간단합니다. 모델 출력의 'out'을 softmax를 이용하여 class를 분류하고 그 값을 픽셀값으로 사용하면 됩니다. 아래는 전체 코드입니다. [fcn.py] import torch import torchvision import torchvision.transforms as transforms from ..

torchvision의 fasterrcnn_resnet50_fpn을 이용하여 객체 탐지를 해보겠습니다. 객체 탐지에 대한 내용은 이곳을 확인해 주세요. torchvision은 파이토치에서 제공하는 데이터셋과 모델 패키지입니다. fasterrcnn_resnet50_fpn은 말 그대로 ResNet50 기반의 Faster R-CNN 입니다. fasterrcnn_resnet50_fpn은 pre-trained model이기 때문에 따로 학습할 필요가 없습니다. predictions의 boxes는 x, y, w, h 좌표이며 labels은 class index 값입니다. (0, 1, 2, ...) 마지막으로 scores는 probability으로, 기본적으로 값이 높은 순으로 정렬된 값을 얻을 수 있습니다. 위에 ..