openSUSE - Python 과학계산을 위한 Jupyter Notebook

6 분 소요

Raspberry Pi 3에서 openSUSE LEAP 42.3 에서 과학계산을 위한 Jupyter 설치 및 구성까지 요약하고 있다.

과학계산을 위한 Python Jupyter

Raspberry Pi 3 위에 설치한 openSUSE LEAP 42.3 과 15.0 에서 과학계산을 위한 Python 개발환경과 Jupyter Notebook 환경을 정리한다.

  • 개발 프론트 엔드: Jupyter
  • 과학계산 모듈: numpy, scipy 등

Python과 Virtualenv 환경을 더 알고 싶으면 다음 두 링크에 자세한 설명이 있다.

Setup

시스템에 Python2, Python3 가 설치되었는지 확인:

  • openSUSE : Python2.7

Python 3 설치

openSUSE 는 python3 설치

sudo zypper in python3

마지막으로 update-alternatives 를 이용해 pip 를 pip3 로 연결해 준다.

다른 배포본에서 필요시 update-alternatives 사용:

sudo update-alternatives --install /usr/bin/pip pip /usr/bin/pip3 30

pip User Scheme

Python2.6부터 User scheme 개념이 도입되며서 pip로 설치하는 패키지를 개별 사용자 환경 위치에 설치할 수 있다.

install 명령에 --user 옵션을 주고 설치한다.[^2]

  • 기본으로 리눅스는 ~/.local 폴더이고,
  • Mac OS X 는 ~/Library/Python/X.Y 에 위치한다.[^3]

그리고 PATH~/.local/bin 을 추가한다.

시스템 개발 패키지 설치

컴파일에 필요한 헤더 등이 포함된 개발자 라이브러리를 설치한다. pattern devel 로 검색해 보면,,,

sudo zypper install -t pattern devel

S | Name                 | Summary                             | Type
--+----------------------+-------------------------------------+--------
  | devel_C_C++          | C/C++ Development                   | pattern
i | devel_basis          | Base Development                    | pattern
  | devel_gnome          | GNOME Development                   | pattern
  | devel_ide            | Integrated Development Environments | pattern
  | devel_java           | Java Development                    | pattern
  | devel_kde            | KDE Development                     | pattern
  | devel_kde_frameworks | KDE Frameworks Development          | pattern
  | devel_kernel         | Linux Kernel Development            | pattern
  | devel_mono           | .NET Development                    | pattern
  | devel_perl           | Perl Development                    | pattern
  | devel_python         | Python Development                  | pattern
  | devel_python3        | Python 3 Development                | pattern
  | devel_qt4            | Qt 4 Development                    | pattern
  | devel_qt5            | Qt 5 Development                    | pattern
  | devel_rpm_build      | RPM Build Environment               | pattern
  | devel_ruby           | Ruby Development                    | pattern
  | devel_tcl            | Tcl/Tk Development                  | pattern
  | devel_web            | Web Development                     | pattern
  | devel_yast           | YaST Development                    | pattern

devel_basis, python 관련 개발용 모듈을 설치한다.

sudo zypper install -t pattern devel_basis
sudo zypper install -t pattern devel_python devel_python3
The following 3 NEW packages are going to be installed:
  patterns-openSUSE-devel_python patterns-openSUSE-devel_python3 pychecker

The following 2 NEW patterns are going to be installed:
  devel_python devel_python3

The following recommended package was automatically selected:
  pychecker

3 new packages to install.
sudo zypper install python-distutils-extra

Zeromq-devel 설치

zypper install zeromq-devel libczmq3
zypper install libczmq3

libczmq3은 쥬피터 노트북에서 필요로 한다.

sudo zypper in python-distutils-extra

curses 관련 파이썬 모듈을 설치해야 한다.

zypper in python-curses python3-curses
  • python-curses: Python이 (N)Curses Libr에 대한 인터페이스이다


Scientific stack

과학계산을 지원하는 Python 패키지를 설치한다.

  • 시스템 패지키로 설치
  • pip 로 설치

시스템 패키지로 설치

$ sudo zypper in python-numpy python-numpy-devel python-decorator
$ sudo zypper in python-scipy
$ sudo zypper install python-matplotlib

Python3 패키지도 설치한다.

$ sudo zypper install python3-numpy python3-numpy-devel python3-decorator
$ sudo zypper install python3-numpy python3-scipy
$ sudo zypper install python3-matplotlib

symbolic mathematics 관련 패키지도 설치한다.

sudo zypper install python-sympy python-nose
sudo zypper install python3-sympy python3-nose

설치되고 사용이 가능한지 확인한다. 다음 두 모듈이 없으면 jupyter 설치가 제대로 안된다.

python -c "import numpy;print(numpy.__version__)"
1.8.0
python -c "import scipy;print(scipy.__version__)"
0.16.0

matplotlib는 외부 이미지를 png 형식만 지원한다. jpeg를 사용하려면 pillow 모듈을 설치한다.

pip install pillow

pil -> pillow

여기까지 설치하면 의존성에 관련한 아래 같은 여러 패키지가 함께 설치된다.

  • requests : Python package provides a graceful interface for making HTTP requests,
  • pil : provides Python imaging capabilities,
  • scrapy : is a web scraping framework,
  • geopy provides geocoding and geodesic distance functions,
  • shapely provides 2D geometry manipulation,
  • pyproj: provides cartographic transformations. In the second command, jupyter provides interactive coding notebooks,
  • geopandas spatializes pandas,
  • OSMnx lets you work with OpenStreetMap street networks.

이 패키지들은 별도로 설치를 하고자 하면 pip로 설치하거나 시스템 패키지로 다음 같이 설치 할 수 있다.

Python2

sudo apt-get install python-requests python-pil python-scrapy python-geopy python-shapely python-pyproj

Python3

sudo apt-get install python3-requests python3-pil python3-scrapy python3-geopy python3-shapely python3-pyproj

Pandas

Pandas 로 지오 데이터 셋트를 다룰 예정이라면

libgdal20

zypper in python3-gdal python-gdal
sudo apt-get install libgdal20

gdal 은 geopandas에서 geospatial analysis 에 필요하다.

pandas 설치시 여러 번들이 필요해서 시스템 패키지가 아닌 conda 혹은 pip 로 설치한다.

Pandas comes bundled and can easily be updated using conda:

conda update pandas

pip install pandas


Jupyter Notebook

Jupyter는 웹 브라우저를 통해서 IDE 환경을 제공하고, 다양한 언어/문법을 지원하는 Kernel 이라는 해석기를 통해 IDE에서 코딩한 결과를 확인할 수 있다.

여기서는 가상환경을 구성해 Jupyter 관련 패키지를 설치하고 사용하겠다.

  • 시스템에 설치된 Python3 와 pip 모듈

virtualenv 와 virtualenvwrapper

pip 를 업그레이드하고, 가상 개발환경에서 쥬피터 관련 모듈을 설치하고 관리하기 위해 pip로 virtualenv, virtualenvwrapper 설치한다.

시스템 pip 모듈을 최신 버전으로 업그레이드한다.

sudo pip install --upgrade pip

그리고 virtualenv, virtualenvwrapper 설치하는데, 사용자의 .local 폴더에 설치하도록 한다.

pip install --user virtualenv virtualenvwrapper

자동으로 추가되지 않으면, 다음 스크립을 .bashrc 에 추가해 준다.

# set PATH for pip
if [ -d "$HOME/.local/bin" ] ; then
    PATH="$HOME/.local/bin:$PATH"
fi

VIRTUALENVWRAPPER_PYTHON=/usr/bin/python3
export WORKON_HOME=$HOME/.virtualenvs
export PROJECT_HOME=$HOME/Devel
source $HOME/.local/bin/virtualenvwrapper.sh

로그아웃했다 로그인하면 mkvirtualenv, rmvirtualenv 등의 명령어 스크립이 설치된다.

Jupyter 가상환경

다음은 mkvirtualenv 명령으로 jupyter라는 가상환경을 python3, 시스템 패키지 사용을 위해 –system-site-packages 옵션으로 생성한다.

mkvirtualenv -p python3 --system-site-packages jupyter
(jupyter) $
(jupyter) $ python --version
Python 3.4.6

가상환경 jupyter 에서 필수 모듈 numpy, scipy가 사용 가능한지 확인한다.

(jupyter) $ python -c "import numpy;print(numpy.__version__)"
1.9.3
(jupyter) $ python -c "import scipy;print(scipy.__version__)"
0.16.0

그리고 pip로 Jupyter 가상환경에 Jupyter를 설치한다.

(jupyter)$ pip install jupyter

jupyter-notebook을 실행해 보고, 서버 관련 구성 내용을 설정해서 사용해 보자.

현재까지 설치된 pip 모듈 목록을 저장하자.

pip freeze --local > jupyter-requirements.txt

서버로 실행

jupyter-notebook 은 로컬 머신에서 브라우저를 실행한다. 여기서는 원격 사용을 위해 다음 같이 시작할 수 있다. [DIR] 에 jupyter-notebook에서 작성한 노트북 파일이 저장된다.

$ jupyter-notebook --no-browser --ip=* --port=8000 [DIR]
[I 02:51:04.797 NotebookApp] Use Control-C to stop this server and shut down all kernels (twice to skip confirmation).
[C 02:51:04.800 NotebookApp]

    Copy/paste this URL into your browser when you connect for the first time,
    to login with a token:
        http://localhost:8585/?token=a747472bc9a7c6684829267d2ed0a4cd9a722e

시작후 ?token=a..... 부분의 토큰을 복사해 브라우저에 입력후 쥬피터 노트북 사용을 시작한다. 브라우저로 노트북에 접속해서 복사한 토큰을 입력한 후 로그인한다.


Jupyter 설정 이용

jupyter는 설치된 후에 jupyter 시스템 디렉토리와 사용자 JUPYTER_DATA_DIR에 필요한 내용을 저장한다.

  • 시스템 디렉토리: /usr/local/share/jupyter/
  • JUPYTER_DATA_DIR 는 보통 ~/.jupyter

설정 파일을 이용해서 사용자 비밀번호를 이용해 노트북을 사용할 수 있다.

먼저 실행중인 쥬피터 노트북에서 passwd() 를 실행해 패스워드 해시 값을 얻는다.

In [1]: from notebook.auth import passwd
In [2]: passwd()
Enter password:
Verify password:
Out[2]: 'sha1:67c9e60bb8b6:9ffede0825894254b2e043ea597d771089e11eed'

패스워드 해시 값을 데이터 디렉토리의 설정 파일에 입력해야 한다.

데이터 설정 파일

먼저 다음 같이 설정 파일을 생성한다.

$ jupyter notebook --generate-config
Writing default config to: /home/foo/.jupyter/jupyter_notebook_config.py
$ cd .jupyter && mv jupyter_notebook_config.py mynotebook.py

mynotebook.py에 다음을 설정한다.

#c.NotebookApp.notebook_dir = '/path/to/notebook_directory'
c.NotebookApp.base_url = 'http://www.yourdomain.com/notebok'
c.NotebookApp.password = ''
c.NotebookApp.port = 8000
c.NotebookApp.port_retries = 50

복사한 패스워드 해시 값을 mynotebook.py 설정 파일 안의 c.NotebookApp.password 항목 주석을 풀고 해시 값을 입력한다.

c.NotebookApp.password = 'sha1:4ee6bb2da3d7:ed76216b87228540e5f5f20fcfa8069cf82686f0'

설정 파일을 이용해 jupyter-notebook을 실행한다.

$ jupyter-notebook --config .jupyter/mybook_config.py [DIR]

이제 jupyter에 접속하려면 다음 같이 패스워드를 묻고 입력한 후에 사용할 수 있다.

Background 실행

Jupyter-notebook을 백그라운드로 실행하려면 nohup 을 사용할 수 있다.

$ nohup jupyter notebook --no-browser --ip=* --port=8000 [DIR] > log-jupyter.log &

nohup은 재시동시 다시 시작해야 하는 불편한 점이 있다.

crontab 으로 실행

nohup 과 결합해서 사용해도 좋은 방법으로 crontab 을 사용해 재시동 후 자동으로 시작해 줄 수 있다. 사용자 crontab 을 편집해 다음 같이 사용할 수 있다.

@reboot cd /home/foo; jnohup jupyter notebook --no-browser --ip=* --port=8000 [DIR] > log-jupyter.log &

이 방법도 사용자가 시작/상태확인/종료 같은 직접적인 방법을 사용하기는 좀 불편하다.

그래서 upstart의 init.d 를 사용하거나 systemd 의 unit으로 생성해서 사용하는 것이 좋다.

systemd 에서 실행

systemd unit으로 새로운 unit 파일을 생성해서 기존 systemctl 명령으로 시작/상태/종료/재시작 등의 작업을 할 수 있다. 물론 재시동 관련해서도 완벽히 동작한다.

systemd의 unit 위치는 OS 마다 조금 다른 것 같다. 여기서는 /etc/systemd/system 밑에 jupyter.service 라는 유닉 파일로 직접 작업한다.

  • /etc/systemd/system/jupyter.service

가상환경을 사용하고 있으므로 systemd unit의 ExecStart 의 python도 가상환경 위치로 지정해 주어야 한다.

[Unit]
Description=My Jupyter-Notebook

[Service]
Type=simple
PIDFile=/run/jupyter-notebook.pid
ExecStart=/home/foo/.virtualenvs/jupyter/bin/jupyter-notebook --config=/home/foo/.jupyter/mynotebook.py
User=foo
Group=foo
WorkingDirectory=/home/foo/notebooks
Restart=always
RestartSec=10

[Install]
WantedBy=multi-user.target

그리고 시스템 유닛을 시작해 준다.

systemctl enable jupyter.service
systemctl daemon-reload
systemctl restart jupyter.service

Upgrade jupyter

여기서는 pip 가상머신을 이용하고 있고, virtualenv, virtualenvwrapper는 여기서 사용자 .local 환경에 설치했으므로

pip install -U --user virtualenv virtualenvwrapper

다음 같이 pip install 명령으로 업그레이드 할 수 있다.

(jupyter)$ pip install -U jupyter
pip freeze —local > requirements.txt

참조

댓글남기기