올라마(Ollama)로 모델을 서빙하고 있다면, 동일 환경이든 외부 환경이든 챗GPT와 유사한 웹 UI를 구현해서 연동할 수 있다. 깃허브 저장소에서 open-webui를 클론하고, 간단한 도커 명령으로 컨테이너를 실행하면 된다. Ollama Open WebUI를 실행하는 방법에 대해 알아보자.
open-webui 저장소 클론
open-webui github 저장소를 다음과 같이 클론한다.
git clone https://github.com/open-webui/open-webui.git컨테이너 실행
에 서빙 중인 Ollama Model API URL을 입력하고 다음 명령을 실행한다.
sudo docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=<Ollama URL> -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainOpen WebUI 실행
http://localhost:3000 으로 접속하면 Open WebUI를 확인할 수 있다. 처음 생성한 계정이 관리자 계정이 된다. 이후 가입하는 계정은 Pending 처리되고, 관리자 패널에서 관리자가 권한을 수정해줘야 정상적으로 WebUI를 이용 가능하다.
로그인하면 챗GPT 같은 UI를 확인할 수 있다.
