Lorene Melone
Windows 11에서 DeepSeek를 로컬로 실행하는 방법: 단계별 가이드
이 가이드는 Windows 11 시스템에서 로컬로 DeepSeek-R1을 실행하는 방법에 대한 단계별 튜토리얼을 제공합니다. DeepSeek은 중국 회사가 최근 출시한 AI 모델로, 로컬 호스팅에 액세스할 수 있습니다.이 가이드를 따르면 인터넷 연결 없이도 DeepSeek-R1을 설정하는 데 필요한 명령과 구성을 배울 수 있으므로 증류된 버전을 효율적으로 사용할 수 있습니다.
1단계: 필요한 종속성 설치
DeepSeek-R1을 실행하기 전에, 컴퓨터에 필요한 소프트웨어가 설치되어 있는지 확인하세요.다음이 필요합니다.
- Ollama: DeepSeek 모델을 실행하는 데 사용되는 명령줄 도구입니다.
- Docker: 애플리케이션을 컨테이너화하는 데 필요합니다.
Docker를 설치하려면 공식 Docker 웹사이트 에서 Docker를 다운로드한 후 Windows용으로 제공된 설치 지침을 따르세요.
2단계: DeepSeek-R1의 Distilled 버전 실행
필요한 종속성을 설치한 후 다음 명령을 실행하여 DeepSeek-R1의 추출된 버전을 실행할 수 있습니다.
- 15억 개의 매개변수 모델의 경우 다음을 실행합니다.
ollama run deepseek-r1:1.5b- 140억 개의 매개변수 모델의 경우 다음을 실행합니다.
ollama run deepseek-r1:14b
사용하고자 하는 모델 크기에 따라 명령을 선택하세요.이러한 명령이 제대로 작동하려면 Ollama가 PATH에 제대로 설정되어 있는지 확인하세요.
3단계: Open-WebUI를 위한 Docker 설정
DeepSeek의 그래픽 인터페이스에 액세스하려면 Docker에서 실행해야 합니다.다음 명령을 사용하세요.
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
이 명령은 다음을 수행합니다.
- -d: 컨테이너를 분리 모드로 실행합니다.
- -p 3000:8080: 컨테이너의 포트 8080을 호스트의 포트 3000에 매핑합니다.
- -v: 데이터 지속성을 위한 볼륨을 생성합니다.
컨테이너가 실행되면 http://localhost:3000웹 브라우저에서 로 이동하여 웹 인터페이스에 액세스할 수 있습니다.
추가 팁 및 일반적인 문제
다음은 몇 가지 팁과 발생할 수 있는 일반적인 문제입니다.
- Docker 명령을 실행할 때 Docker Desktop이 실행 중인지 확인하세요.
- Ollama에 문제가 발생하는 경우.을 실행하여 설치되었는지 확인하세요
ollama --version. - 명령이 실패하면 기존 컨테이너를 모두 지우고,
docker ps -a실행 중인 컨테이너를 보고docker rm [CONTAINER_ID]특정 컨테이너를 제거합니다.
결론
축하합니다! Windows 11 머신에서 DeepSeek-R1을 로컬로 성공적으로 설정했습니다.위의 단계를 따르면 이 AI 모델을 오프라인에서 사용하고 인터넷 연결 없이도 기능을 활용할 수 있습니다.더 알아보려면 다른 AI 관련 가이드를 확인하거나 추가 프로젝트에 Docker를 활용하는 것을 고려하세요.