반응형
proxmox에 helper script를 통해서 ollama LXC로 설치하였다.
ollama를 LXC로 실행한 이유는 home assistant가 있는 곳에 설치하면 backup시에도 무거워지기 때문에 따로 설치하였다.
설치후에 reboot시에도 자동으로 실행되도록 아래와 같이 조치가 필요하다.
아래의 파일을 열어서,
sudo vi /etc/systemd/system/ollama.service
아래 2번째 줄만 추가해 주면 된다.
"ExecStart=" 으로 시작하는 line은 이미 있을 것이다.
[Service]
ExecStart=/usr/local/bin/ollama serve
ExecStartPost=/usr/bin/curl -X POST http://localhost:11434/api/generate -d '{"model":"gemma3:1b","prompt":"Ready?"}'
이제는 reboot후에도 자동으로 gemma3:1b 모델이 실행될 것이다.
반응형
댓글