Unknown runtime specified nvidia 오류

nvidia-driver를 재설치 하거나 처음 설치하고, docker를 runtime 옵션으로 nvidia 설정을 하는 경우 마주하는 경우가 있다.
이 오류는 아래와 같이 나타나기도 한다

docker: Error response from daemon: unknown or invalid runtime name: nvidia.

nvidia-docker2가 설치가 안되어 있을 가능성이 있으며, 설치되어 있지 않을 경우 설치해줄 경우 정상 동작하는 것이 확인된다.

nvidia-docker2 설치 확인

$ dpkg -l | grep nvidia-docker2

nvidia-docker2 설치

$ sudo apt install nvidia-docker2

nvidia gpg key와 저장소 추가

만약 nvidia-docker2를 못찾을 경우 저장소 추가

distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \
   && curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - \
   && curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

docker 재시작

$ sudo systemctl restart docker

돈까스가 요즘 왕돈까스 라고 파는데 양이 안차는 경우가 많다. 무슨 자기네만에 무슨 특별한 뭐 어쩌고 그러는데 그맛은 그맛이다.

머리를 자르고 돈까스가 땡겨서 이리 저리 찾아보다가 그냥 안가본집이길래 다음맵 앱으로 후기를 찾아보니

이렇게 나와 있길래 그냥 처음부터 왕돈까스를 시켰다.

처음 나왔을때 진짜 양이 놀랄만큼 많았다.
하지만 얇디 얇다고 하니 다 먹으면 양이 차서 포만감 있게 가겠네 하고 먹기 시작했다.

진짜 저 두개 중에 하나만 먹는데도 양이 찼다.
진짜 음식 안남기는 성격이라서 나머지도 어떻게든 다 먹으려고 했는데 죽어도 못먹겠더라;;
결국 저렇게 음식을 남기고 창피하게 나왔다.
저 얇디 얇아서 가성비 안좋다고 한 사람 아무래도 무슨 주변 돈까스에서 적은 의도적 비하인듯… 얇긴 개뿔 진짜..

매운 왕돈까스를 시켜 먹었는데, 맵기는 적당히 매운게 돈까스에 딱 좋은 맵기이다. 다만 왕돈까스는 못시킬듯… 기본이 나에겐 딱 적당한것 같다.

나같이 왕 돈까스 시켰다가 남기는 사람들이 많은지 셀프 포장 용기가 쌓여 있더라. 남길거 같은 사람은 소스를 따로 달라고 얘기해서 포장해 가는 것도 좋을 것 같다.

진심왕돈까스 수지구청점 : 경기 용인시 수지구 문정로7번길 14 1층 101~103호

전력 측정

$ sudo ipmitool dcmi power reading

Fan 속도 변경

현재 Fan Mode

$ sudo ipmitool raw 0x30 0x45 0

Fan Full Mode(100% RPM Speed)

$ sudo ipmitool raw 0x30 0x45 1 1

Fan Optimal Mode(20% RPM Speed)

$ sudo ipmitool raw 0x30 0x45 1 2

Fan HeavyIO Mode(50% RPM Speed)

$ sudo ipmitool raw 0x30 0x45 1 4

온도 측정

$ sudo ipmitool sdr type Temperature

IPMI Booting 후에 ipmitool을 이용하여 Network 및 User 설정하기

IPMI는 Booting시 BIOS 진입하여 IPMI Network 설정 이후 접속하여 사용함.

사용중인 서비스에서는 혹은 DataCenter에 이미 삽입되어 있는 서버에서는 그 작업은 여간 불편하거나 어려운게 아님

ipmitool을 이용하면 remote 상태에서 IPMI 설정이 가능함

ipmitool

설치

ipmitool 명령어가 없을 경우 apt로 간단히 설치해줌

$ sudo apt install ipmitool

지원 보드 확인 방법

보드 정보를 확인해서 구글링해서 보드 사양에 IPMI를 지원하는지 확인해본다

sudo dmidecode -s baseboard-product-name

IPMI Device 확인

/dev 밑에 ipmi 파일 확인

$ ll /dev/ | grep ipmi

Network

Network 정보 확인

$ sudo ipmitool lan print

Network 설정

Interface Static 설정(기본 DHCP로 되어있을 것임)

$ sudo ipmitool lan set 1 ipsrc static

Network IP 설정

$ sudo ipmitool lan set 1 ipaddr <IP ADDRSS>
$ sudo ipmitool lan set 1 netmask <NET MASK>
$ sudo ipmitool lan set 1 defgw ipaddr <DEFAULT GW IP ADDR>

User 설정

User를 추가해줘야 한다. 해당 User 계정으로 Terminal이든 Web이든 접속 가능하다

User List 확인

$ sudo ipmitool user list

User 추가

User ID는 User List에 비어있는 ID를 사용한다.

$ sudo ipmitool user set name <USER ID> <USER NAME>

User Password 설정

아래의 명령어 이후에 2번의 password를 입력해야 하는데, 보드별 허용 문법에 맞지 않을 경우 오류를 리턴한다.
될떄까지 할 수 밖에 없다. 영문+숫자+특수문자 조합은 먹히는 것 같다.

$ sudo ipmitool user set password <user id>

User 권한 추가

권한이 없으면, 접속이 불가능하다. 반드시 권한을 줘야 접속 권한으로 접속할 수 있다.

$ sudo ipmitool channel setaccess 1 <USER ID> link=on ipmi=on callin=on privilege=<PRIVILIGED LEVEL>

가능한 PRIVILEGE LEVEL은 아래와 같다.

    Possible privilege levels are:
   1   Callback level
   2   User level
   3   Operator level
   4   Administrator level
   5   OEM Proprietary level
  15   No access

설정 적용

아래의 명령어로 설정 적용 및 reset을 동작하지 않으면 설정한 설정들이 동작되지 않는다.
시간이 약간 걸리니 마음의 평안을 가지고 기다려보도록 하자.

$ sudo ipmitool bmc reset cold

2023.09.07~08 2박, N2 신형

낮낚시 생각하면 좌대 선택이 중요함, 지난번 좌대는 땡볕을 직선으로 받아서 낮에는 진짜 손도 못댐
이번 좌대는 낮에도 그늘을 져줘서 낮낚시도 할만했음.

총 12 수 월척 없음.
H 4수. 밤에 3시간 숙면하는 바람에 밤낚시를 못했다고 한탄함.

첫날은 두통이 심해서 낚시를 거의 못하고 누워 있었음. 붕어 1수

둘째날에 초저녁에 주로 올라왔으며, 옥수수에는 반응이 없으나 어분+어분글루텐에 반응이 있는듯
첫날 어분 + 글루텐 짝밥으로 시작했지만 입질이 거의 없었음.

https://github.com/ZhangGe6/onnx-modifier

1. 설치

git clone git@github.com:ZhangGe6/onnx-modifier.git
cd onnx-modifier

pip install -r requirements.txt

2. 실행

python ./app.py

주의 사항

Web based며 실행 이후에는 Web Browser를 통해서 접근해야됨.
Default로 127.0.0.1:5000 을 사용하고 있으며, Loopback 주소이기 때문에, 해당 컴퓨터의 GUI를 사용해야 됨.

만약 서버에서 설치 후에 다른 컴퓨터에서 접근하고 싶을 경우 Eth에 할당된 다른 주소를 --host 옵션의 파라미터로 전달할 경우 접근 가능함

python3 ./app.py --host <<IP Address>> --port <<Port>>

혹은 해당 서버의 할당된 IP들에 대해서 사용하고 싶을 경우 0.0.0.0을 할당하면, 모든 Eth에 할당된 IP를 통해 서비스 가능함

python3 ./app.py --host 0.0.0.0 --port <<Port>>

그냥 봐도 뭔가 숨겨진 커피 맛집 같이 생김
스페셜티 전문점이라고 여기 저기 씌여진 것으로 보아 커피 자부심이 있으신듯
사장님은 친절하고 적극적으로 대응해주심 하지만 여타의 서비스 전문점의 과한 친절같은게 아닌 투박함이 좋음

내부는 앉을 자리는 있으나 한 8-10명 정도 앉을만한 자리는 있지만 좌석제 커피집의 인테리어는 아니지만 누군가 데려가면 숨겨진 나만의 커피 맛집 소개하는
듯 할 듯 ㅎㅎ

대량 원두 및 원두 판매를 하시는 것 같고 카드 계산이 가능함 로스커는 기센 로스커를 사용하시는 듯 하며 연기
배관 등을 볼 때에 로스팅 양이 꽤 많으신것 같음

에스프레소 한잔 간단히 먹어봤는데 풀시티급 진한 바디감과 다크초콜렛의 진한 묵직함과 달큰한 맛이 내 혀에 계속 머무르는 것이 내 취향으로 너무 맛있었음
에스프레소가 4500원으로 저렴한 가격은 아니지만 맛으로는 충분한 값어치를 한다고 느꼈음

이 근처에 살면 산책겸 지나가다 깔끔하게 한잔 들리기에
너무 좋아 보이며 에스프레소 맛을 볼때 너무 쓰지 않은 고소함의 풀시티 급의 원두 맛을 좋아하는 사람이라면 충분히 만족할 것 같음

커피 연백
경기 용인시 수지구 문인로54번길 20
지번: 동천동 885

https://kko.to/pM5NCCNiHZ

김밥이 생각나서 회사 분들에게 주변 김밥 맛집을 추천 받아 감
음식이 정갈하고 아주머니 분들 친절하시지만 바쁘실때는 정신 없어 보이심
내가 좋아하는 고추참치김밥이 있어서 주문해봤는데 맛있음
대체로 일반적인 분식집 정도로 예상하면 적절할듯

1. TensorRT 버전 확인 

https://docs.nvidia.com/deeplearning/tensorrt/container-release-notes/running.html

Container Release Node에서 TensorRT Container의 각 Release 버전과 CUDA 버전, Ubuntu 버전 등의 자신의 필요로 하는 버전과 일치하는 버전을 확인한다.

2.  Docker Run

Docker run 명령어로 Image Download 및 shall 실행한다.

$ docker run --gpus <GPU> -it --name <NAME>  nvcr.io/nvidia/tensorrt:<Version>-<pyver> bash

예로 실행은 아래와 같다

$ docker run --gpus '"device=2"' -it -v /home/host/host_dir:/root/share_dir --name tensorrt_23.01_py3  nvcr.io/nvidia/tensorrt:23.01-py3 bash

3. Container 정상 동작 확인

-it 옵션으로 실행을 했기 때문에 바로 container 에 attach 및 shell이 실행된다
각 명령어로 정상 동작 하는지 확인한ㄷ,

$ nvidia-smi # GPU 연결 및 CUDA Driver 정상 동작 확인
$ pip list | grep tensorrt # Tensor rt 버전 확인

4. Docker containe

Docker run 명령어로 container는 이미 생성되었다. 아래의 명령어로 생성된 container를 확인한다.
아래의 명령어중 -a를 붙여야 현재 container의 status가 start 상태가 아니더라도 확인이 가능한다.

$ docker container ls -a # Container 전체 리스트

이후 다시 접속하기 위해서는 일반 docker container 와 같이 start/executing 을 통해 다시 접근 가능하다.

$ docker start <container name or hashnum>
$ docker exec -it <container name or hashnum> /bin/bash​

• nvidia-smi 사용

$ nvidia-smi

• nvcc 사용 

$ nvcc --version

"nvcc --version"의 버전과 "nvidia-smi"의 버전이 일치를 꼭 하는 것은 아님

• "nvidia-smi"는 NVIDIA GPU Driver에 의해 설치가 되며 GPU Driver에 의한 버전이 표시됨
  "nvcc --version"은 CUDA Toolkit에의해 설치가 되며 CUDA Runtime Version이 표시가 됨