AI/Ollama

Ollama 설치

주호파파 2025. 5. 5. 23:29
728x90
반응형

Ollama는 macOS, Windows, Linux를 포함한 여러 운영 체제를 지원하며 Docker 컨테이너를 통해 실행됩니다.

Ollama는 하드웨어를 요구하지 않으며 사용자가 대규모 언어 모델을 로컬에서 쉽게 실행, 관리 및 상호 작용할 수 있도록 설계되었습니다.

  • CPU: 멀티 코어 프로세서(4코어 이상 권장).
  • GPU: 대규모 모델을 실행하거나 미세 조정을 계획하는 경우 컴퓨팅 성능이 더 높은 GPU(예: NVIDIA의 CUDA 지원)를 사용하는 것이 좋습니다.
  • 메모리: 대형 모델의 경우 최소 8GB RAM, 16GB 이상이 권장됩니다.
  • 스토리지: 사전 학습된 모델을 저장할 수 있는 충분한 하드 디스크 공간이 필요하며, 모델 크기에 따라 일반적으로 10GB에서 수백 기가바이트까지 저장할 수 있습니다.
  • 소프트웨어 요구 사항: 시스템에 최신 버전의 Python이 설치되어 있는지 확인합니다(Python SDK를 사용할 계획인 경우).

Ollama 다운로드 주소:https://ollama.com/download

다른 시스템에 따라 해당 패키지를 다운로드할 수 있습니다.


1. Windows 시스템 설치

브라우저를 열고 공식 Ollama 웹사이트인 https://ollama.com/download 로 이동하여 Windows용 설치 프로그램을 다운로드합니다.

다운로드 주소 :https://ollama.com/download/OllamaSetup.exe

다운로드가 완료되면 설치 프로그램을 두 번 클릭하고 설명 따라 설치를 진행합니다.

설치 확인

명령 프롬프트 또는 PowerShell을 열고 다음 명령을 입력하여 설치가 성공했는지 확인합니다.

ollama --version

버전 번호가 표시되면 설치에 성공한 것입니다.

설치 경로 변경(선택 사항)

기본이 아닌 경로에 Ollama를 설치해야 하는 경우 설치 시 명령줄을 통해 경로를 지정할 수 있습니다.

OllamaSetup.exe /DIR="d:\some\location"

이렇게 하면 지정된 디렉토리에 Ollama를 설치할 수 있습니다.


2. macOS 시스템 설치

브라우저를 열고 공식 Ollama 웹사이트인 https://ollama.com/download 로 이동하여 macOS용 설치 프로그램을 다운로드합니다.

다운로드 주소 :https://ollama.com/download/Ollama-darwin.zip

다운로드가 완료되면 설치 패키지를 두 번 클릭하고 지시에 따라 설치를 완료합니다.

설치가 완료되면 다음 명령을 사용하여 확인합니다.

ollama --version

버전 번호가 표시되면 설치에 성공한 것입니다.


3. 리눅스 시스템 설치

Linux에서는 원 클릭 설치 스크립트를 사용할 수 있으며 터미널을 열고 다음 명령을 실행합니다.

curl -fsSL https://ollama.com/install.sh | bash

설치가 완료되면 다음 명령을 사용하여 확인합니다.

ollama --version

버전 번호가 표시되면 설치에 성공한 것입니다.


4. 도커 설치

Docker에 익숙하다면 Docker를 통해 Ollama를 설치할 수도 있습니다.

공식 Docker 이미지 ollama/ollama는 Docker Hub에서 제공 :https://hub.docker.com/r/ollama/ollama

Docker 이미지를 가져오려면:

docker pull ollama/ollama

컨테이너를 실행하려면:

docker run -p 11434:11434 ollama/ollama

Ollama를 사용하려면 http://localhost:11434 를 방문하십시오.

728x90
반응형