Ollama 설치 방법: 초보자도 따라할 수 있는 가이드 (DeepSeek-R1 로컬에서 사용하기)

1. Ollama란?

Ollama는 로컬 환경에서 대형 언어 모델(LLM, Large Language Model)을 실행할 수 있도록 도와주는 강력한 도구입니다. 인터넷 연결 없이도 AI 기능을 활용할 수 있으며, MacOS, Windows, Linux 등 다양한 운영체제에서 사용할 수 있습니다.

최근 인공지능(AI) 기술이 급격하게 발전하면서 ChatGPT, Claude, Gemini 등 다양한 AI 챗봇이 등장했지만, 대부분 클라우드 기반으로 동작하여 인터넷이 필요합니다. 하지만 Ollama를 활용하면 인터넷 없이도 로컬에서 AI 모델을 실행할 수 있어, 보안성이 중요한 환경에서도 유용합니다.

Ollama의 가장 큰 장점 중 하나는 기업에서도 무료로 사용할 수 있는 라이선스를 제공한다는 점입니다. 같은 기능을 제공하는 프로그램으로 LM Studio, GPT4All, Msty 등이 있지만, Ollama는 단순하고 강력한 명령어 인터페이스를 제공하여 빠르게 LLM을 실행할 수 있다는 점에서 차별화됩니다.

이번 포스팅에서는 초보자도 쉽게 Ollama를 설치하고 실행할 수 있도록 단계별 가이드를 제공하겠습니다. 또한 최근 큰 주목을 받고 있는 DeepSeek-R1 모델을 로컬 환경에서 실행하는 방법도 함께 소개합니다.

---

2. Ollama 설치하기 (Windows 기준)

Ollama를 설치하는 방법은 매우 간단합니다. 공식 웹사이트에서 파일을 다운로드하고 몇 번의 클릭만으로 설치할 수 있습니다.

Step 1. Ollama 공식 웹사이트 접속

먼저, Ollama의 공식 웹사이트에 접속합니다.

📌 Ollama 공식 웹사이트

웹사이트에서 "Download" 버튼을 클릭하여 설치 프로그램을 다운로드하세요.

Step 2. Windows용 설치 파일 다운로드

웹사이트에서 "Download for Windows" 버튼을 클릭하면 설치 파일이 다운로드됩니다.

Step 3. 설치 파일 실행

다운로드한 파일을 실행한 후, "Install" 버튼을 클릭하면 자동으로 설치가 진행됩니다.

Step 4. 설치 완료 확인

설치가 완료되면 화면 우측 하단에 **"Ollama is running"**이라는 팝업이 표시됩니다.

Step 5. 명령 프롬프트(CMD)에서 설치 확인

설치가 완료되었는지 확인하려면 **명령 프롬프트(CMD)**를 열고 아래 명령어를 입력하세요.

ollama

설치된 Ollama 버전을 확인하려면 다음 명령어를 실행하세요.

ollama -v

(📌 2025년 1월 30일 기준 최신 버전: 0.5.7)

---

3. Ollama에서 AI 모델 설치하기 (DeepSeek-R1 사용)

Ollama는 다양한 AI 모델을 지원하며, 공식 웹사이트의 "Models" 탭에서 확인할 수 있습니다. 최근에는 중국에서 발표한 DeepSeek-R1 모델이 ChatGPT 수준의 성능을 제공한다고 평가받으며 많은 관심을 받고 있습니다.

DeepSeek-R1 모델을 설치하고 실행하는 방법을 알아보겠습니다.

Step 1. Ollama에서 사용할 모델 선택

공식 웹사이트에서 "Models" 탭을 클릭하면 다양한 AI 모델을 확인할 수 있습니다. 여기에서 "DeepSeek-R1" 모델을 선택합니다.

📌 DeepSeek-R1 모델 소개: DeepSeek-R1은 중국에서 개발한 저비용 고성능 로컬 AI 모델로, ChatGPT 수준의 답변을 제공하는 것이 특징입니다.

Step 2. 적절한 파라미터 크기 선택

모델을 선택하면 1.5B, 7B, 8B, 14B, 32B, 70B, 671B 등 다양한 크기의 모델이 표시됩니다.

📌 파라미터 크기란?

• 숫자가 클수록 AI의 성능이 좋아지지만, 더 많은 GPU/CPU 리소스가 필요합니다.
• 10B 이상이면 일반적인 PC에서도 의미 있는 결과를 제공하므로, 8B 또는 14B 모델부터 시도하는 것을 추천합니다.

저는 8B 모델을 선택하겠습니다.

Step 3. 명령어 복사 및 실행

해당 모델의 설치 명령어(ollama pull 명령어)를 복사하여 명령 프롬프트(CMD)에 입력하고 실행하세요.

ollama pull deepseek-r1:8b

만약 pull 명령어 없이 바로 실행을 원한다면 다음 명령어를 사용하면 됩니다.

ollama run deepseek-r1:8b

📌 Tip: run 명령어를 사용하면 설치가 안 되어 있을 경우 자동으로 다운로드 후 실행됩니다.

Step 4. 설치 완료 및 실행

모델 다운로드가 완료되면 다음 메시지가 표시됩니다.

success
>>> Send a message (/? for help)

이제 AI와 직접 대화할 수 있는 상태가 되었습니다. 아래와 같이 입력하면 AI가 응답을 제공합니다.

> What is DeepSeek-R1?

---

4. Ollama 주요 명령어 정리

1) 실행 중인 모델 종료

Ctrl + C

2) 설치된 모델 목록 확인

ollama list

---

5. 마무리 및 다음 단계

이번 포스팅에서는 Ollama를 설치하고 DeepSeek-R1 모델을 실행하는 방법을 단계별로 알아보았습니다. 이를 통해 로컬 환경에서 AI 모델을 활용할 수 있는 기반을 마련할 수 있습니다.

📌 다음 시간에는? CLI(Command Line Interface)가 익숙하지 않은 분들을 위해 Ollama UI 또는 Chatbox AI 같은 GUI 프로그램을 활용하여 AI 모델을 실행하는 방법을 소개하겠습니다.

감사합니다! 😊