DeepSeek AI Self-Hosted 가이드: A-Z 따라하기
딥시크 R1 AI 구축 방법
딥시크 R1 AI 설치 방법
DeepSeek R1 권장 사양 GPU 요구 사항
0. 시스템 요구사항
ModelParameters (B)VRAM Requirement (GB)Recommended GPU
| DeepSeek-R1-Zero | 671B | ~1,342 GB | Multi-GPU setup (e.g., NVIDIA A100 80GB x16) |
| DeepSeek-R1 | 671B | ~1,342 GB | Multi-GPU setup (e.g., NVIDIA A100 80GB x16) |
| DeepSeek-R1-Distill-Qwen-1.5B | 1.5B | ~3.5 GB | NVIDIA RTX 3060 12GB or higher |
| DeepSeek-R1-Distill-Qwen-7B | 7B | ~16 GB | NVIDIA RTX 4080 16GB or higher |
| DeepSeek-R1-Distill-Llama-8B | 8B | ~18 GB | NVIDIA RTX 4080 16GB or higher |
| DeepSeek-R1-Distill-Qwen-14B | 14B | ~32 GB | Multi-GPU setup (e.g., NVIDIA RTX 4090 x2) |
| DeepSeek-R1-Distill-Qwen-32B | 32B | ~74 GB | Multi-GPU setup (e.g., NVIDIA RTX 4090 x4) |
| DeepSeek-R1-Distill-Llama-70B | 70B | ~161 GB | Multi-GPU setup (e.g., NVIDIA A100 80GB x2) |
1. 구축 준비물
1) Nvidia Geforce RTX 3000 시리즈 이상
2) Docker Desktop
https://www.docker.com/get-started/
Get Started | Docker
Get started with Docker Desktop and join millions of developers in faster, more secure app development using containers and beyond.
www.docker.com
3) Ollama
https://ollama.com/download/windows
Download Ollama on Windows
Download Ollama for Windows
ollama.com
2. Docker 환경 설정
1) Docker Desktop 로그인 필수
2) 본인이 관리하기 편한 경로에 docker-compose.yml 파일 이동
3) 해당 디렉토리에서 Shift+우클릭
[여기에 PowerShell 창 열기 클릭]
4) 명령어 입력
# docker-compose up
3. Open WebUI 설정
1) 브라우저에서 127.0.0.1:18080 접속
Get Started 클릭
2) 좋아요, 시작합시다! 클릭
3) 사용자아이디 > 관리자패널 클릭
4) 설정 > 모델 > 다운로드 모양(Manage Models) 클릭
5. Ollama.com에서 모델 가져오기
deekseek-r1:14b
6. 다운로드가 완료되면 새로고침 후 모델 선택
4. DeepSeek 활용하기
1) 질문해보기
2) GPU 리소스 사용률 확인
Source : https://megastorage.tistory.com/570
[AI] DeepSeek-R1(딥시크 R1) 대형 언어 모델을 노트북 데스크탑 PC에서 사용해 보자 (Ollama/Docker/자료검
서론 최근 AI 세상에서 신흥강자로 떠오른 언어 모델로 인해 시끌시끌 합니다. 바로 DeepSeek(이하 딥시크) 라는 언어 모델입니다. 딥시크(DeepSeek/深度求索,심도구색)는 중국의 헤지펀드 회사인
megastorage.tistory.com
DeepSeek, DeepSeek AI, AI 검색 시스템, Self-Hosted AI, AI 검색 엔진, DeepSeek 설치, DeepSeek 설정, Docker AI 설정, Docker 기반 AI, WebUI 설정, AI 도커 설정, AI 셀프호스팅, DeepSeek 사용법, DeepSeek 튜토리얼, 인공지능 검색 시스템, 인공지능 검색엔진, AI 구축 가이드, Self-Hosted 구축, DeepSeek Docker, AI 프로젝트, AI WebUI 설정, 개인 AI 검색, DeepSeek 설치 가이드, 도커 기반 AI 구축, 검색엔진 개발, AI 셀프호스팅 구축, DeepSeek 활용, Docker 설치 가이드, 인공지능 도구, 검색엔진 설정, Open Source AI, AI 솔루션, AI 구축 방법, AI 플랫폼, AI 검색 도구, DeepSeek 환경 설정, Docker 활용, WebUI 활용, AI 검색 활용, 인공지능 프로젝트, 인공지능 활용법, AI 시스템 구축, DeepSeek 활용법, AI 기술 도입, 도커 환경 구축, WebUI 사용법, AI 워크플로우, 오픈소스 검색엔진, 인공지능 셀프호스팅, Deepseek r1