정보 기술 놀이터

import torchimport torch.nn as nnfrom torchmeta.modules import MetaModule, MetaLinearclass Attention(nn.Module):    def __init__(self, hidden_size):        super(Attention, self).__init__()        self.attention_weights = nn.Linear(hidden_size, 1, bias=False)    def forward(self, lstm_output):        # lstm_output shape: (batch_size, seq_len, hidden_size)        scores = self.attention_weights(l..

본 포스팅은 테디님의 Git을 참고하여 작성되었습니다.https://github.com/teddylee777/langserve_ollama/tree/main Ollama 사용법은 이전 포스팅을 참고해주세요.LangServe 사용법은 이전 포스팅을 참고해주세요. 0. Ngrok로컬 개발 환경에서 인터넷을 통해 웹 애플리케이션에 접근할 수 있도록 도와주는 도구입니다.Ngrok을 이용하여, localhost에서 사용중인 LangServe 프로젝트를 누구나 사용할 수 있도록 해보겠습니다. 1. Ngrok 설치https://ngrok.com/download 2. Ngrok 회원 가입 및 Authtoken 가져오기 Copy 버튼을 클릭하여 Authtoken을 복사한 후 ngrok.exe가 설치된 경로로 이동하여 아..

본 포스팅은 테디님의 Git을 참고하여 작성되었습니다.https://github.com/teddylee777/langserve_ollama/tree/main Ollama 사용법은 이전 포스팅을 참고해주세요. 0. LangServeLangServe는 LLM 모델 관련 앱 빌드에 도움을 주는 프레임워크인 LangChain에서 도입된것으로,LLM 프로젝트를 REST API로 배포할 수 있도록 도와주는 역할을 합니다. 1. Ollama 설치(Windows)이전 포스팅에서 LangServe로 LLM을 사용할 때, 서버가 종료되는 현상이(?) 발생하여 Windwos에 다시 Ollama와 Python을 설치하고, 가상 환경을 만들어 진행하겠습니다.https://ollama.com/download Download Ol..

본 포스팅은 테디님의 Git을 참고하여 작성되었습니다.https://github.com/teddylee777/langserve_ollama/tree/main 0. OllamaLLM을 로컬 PC에서 쉽게 실행할 수 있게 해주는 도구입니다.Ollama를 이용하여 LLM을 직접 다운로드 받고 프롬프트로 실행하는 방법을 소개합니다. 1. WSL 설치(windows 기준)WSL(Windows Subsystem for Linux)으로 Windows에 리눅스 운영체제를 설치하여 사용할 수 있습니다. 1) 커맨드 관리자 권한 실행 후 다음 입력wsl --install 2) 재부팅 후 ID, PW 설정 2. Ollama 설치Ollama는 로컬 컴퓨터에서 개인 LLM 서버를 구성할 수 있게 도움을 주는 도구입니다. 1) ..

기업에서 자료 분석, 문서 요약, 보고서 작성 등의 업무는 많은 시간을 투자해야 합니다. 이에 대한 해결책으로 생성형 AI 기술이 주목받고 있으며, 다양한 업무에서 그 활용 가능성이 확인되고 있습니다. 따라서  많은 기업들이 생성형 AI를 업무에 도입하려는 움직임을 보이며, 특히 생성형 AI 기반 챗봇에 대한 관심이 크게 증가하고 있습니다. ChatGPT와 같은 생성형 AI 기반 챗봇이 등장하면서, 많은 직장인들이 업무에 효과적으로 활용하고 있습니다. 70% 이상이 챗봇을 경험해본 적이 있으며, 특히 정보 검색에서 높은 만족도를 보였습니다. 정보 검색 이외에도 데이터 요약, 해석 등 다양한 방식으로 생성형 AI 기반 챗봇을 활용하고 있습니다. 그렇다면 사내 업무 지원 생성형 AI는 어떤 것이 있을까요?1..

Paper: http://ai.stanford.edu/~ang/papers/icml11-MultimodalDeepLearning.pdfAbstractDeep networks는 single modalities에 대해서 featrue learning을 잘 수행하고 있다.만일 multiple modalities 학습이 가능한 상황이라면, single modality보다 더 좋은 결과를 얻을 수 있다.본 논문에서는 multiple modalities를 학습하는 deep networks를 제안한다.Modalities 간의 representation 학습 방법 Introduction인간은 시각, 미각, 촉각, 언어 등 다양한 감각을 통합하여 무엇인가를 인식한다.인간은 시청각 정보를 통합하여 음성을 인식한다. (Mc..

AsyncTask으로 작업을 비동기로 수행할 때, ProgressDialog로 현재 작업이 진행중임을 화면에 나타낼 수 있습니다. public class GetTask extends AsyncTask { private Context context; private ProgressDialog progressDialog; public GetTask(Context context) { this.context = context; this.progressDialog = new ProgressDialog(context); } @Override protected void onPreExecute() { super.onPreExecute(); progressDialog.setMessage("작업 중..."); progres..

Flask REST API 구현과 연관된 포스팅입니다. Java 기반 REST API 호출 방법은 다음과 같습니다. public void getResults() { Stromg rootURL = "localhost:8080/" String apiURL = rootURL + "home"; try { String response = new GetTask(MainActivity.this).execute(apiURL).get(); JSONObject jsonResponse = new JSONObject(response); String results = (String) jsonResponse.get("results"); Toast.makeText(getApplicationContext(), results, Toa..

Flask는 Python기반 Web Framework입니다. 보통 Application을 만들 때는 Django를 이용하고, API 서버 역할만 할 경우에는 Flask를 사용하는 것이 개인적으로는 편한 것 같습니다. Flask를 이용한 REST API 구현 코드는 다음과 같습니다. from flask import Flask, request @app.route('/home', methods=['GET', 'POST']) def home(): if request.method == 'GET': results = 'GET SUCCESS' response = { 'results': results } return jsonify(response) else: params = request.get_json() print..

일반적으로 딥러닝은 많은 데이터를 필요로 합니다. 고양이와 강아지를 분류하는 모델은 두 클래스에 대하여 충분한 데이터를 학습해야 입력 이미지가 무엇인지 분류할 수 있습니다. 사람은 데이터를 몇 번만 보고도 빠르게 학습할 수 있으나, 딥러닝 모델은 수많은 데이터를 기반으로 학습 시행착오를 겪어야 비로소 어떤 개념을 학습할 수 있습니다. "딥러닝 모델도 사람처럼 '적은 데이터'만으로도 '빠르게' 학습할 수는 없을까?"라는 질문에 대한 답변으로 제안된 방법이 바로 메타 러닝(meta learning)입니다. 메타 러닝은 새로운 개념 또는 태스크를 빠르게 학습하기 위해 '학습을 학습(learning to learn)'하는 방법입니다. 메타 러닝의 핵심 아이디어는 모델이 단순히 해당 데이터를 학습하는 것뿐만 아니..