Open WebUI + searXNG(Docker) 설정하기

참조

searxng 설치

git clone https://github.com/searxng/searxng-docker.git
cd searxng-docker

vi docker-compose.yaml

OpenWebUI + Ollama

모델의 종류보다는 CPU/GPU 차이, GPU 종류의 차이로 성능이 결정되는 듯 하다.
물론 … 더보기

LLM을 활용한 고급 RAG 시스템 구축: FastAPI와 Streamlit 기반 프로젝트

참조

최근 머신 러닝 기술의 … 더보기

인공지능 테스트용 질문

메모앱

nodejs 를 이용해 메모앱을 작성해줘. 접속하면 textarea 가 표시되고, 저장버튼을 누르면 … 더보기

LM Studio 에서 코딩 모델 사용하기 on Windows

LM Studio 을 개인적으로 이용시 무료지만, 상업적 … 더보기

Fine-Tuning Qwen-2.5-Coder-14B LLM (SFT, PEFT)

출처

한국어 학습… 더보기

Torch not compiled with CUDA enabled

NVIDIA GPU 가 있지만 CUDA 가 를 지원하는 Torch … 더보기

LLM(대규모 언어 모델, Large Language Model) 강화학습 과정

기본 모델 학습 (Pretraining)

인터넷, 책, 논문 … 더보기

범용 인공지능 모델에 한국어 추가학습하기 (개념)

기존 범용 인공지능 모델(예: GPT, LLaMA, T5 등)에 한국어 … 더보기

ONNX (Open Neural Network Exchange)

ONNX 는 서로 다른 DNN 프레임워크 환경(ex Tensorflow, PyTorch, etc..)에서 … 더보기