Software

Stable Diffusion 과 VRAM 얼마나 필요할까?

crazyits 2023. 4. 16. 23:03
반응형

올해 가장 화제가 되고 있는 것은 AI와 관련된 것이다.

chatGPT 를 비롯하여 다양한 것이 등장을 하고 있다.

chatGPT는 채팅을 하면 답변이 오는 것이지만...

Stable Diffusion 이라는 것은 prompt 라는 곳에 특정한 것을 입력하여 실행을 하면

그림을 뽑아주는 AI 이다.

이것을 통하여 다양한 그림들을 생산하고 있으며.... 퀄리티 또한 상당한 것이 나오고 있다.

Stable Diffusion을 사용하기 위해서는 연산을 담당하는 GPU가 필요한데....

온라인 서비스로 제공하는 곳이 GPU를 여러개 장착하고 서비스를 하고 있을 것이다.

 

또한 로컬에서 Stable Diffusion 을 사용하는 것도 가능한데.....

GPU의 연산력도 중요하다...

https://www.tomshardware.com/news/stable-diffusion-gpu-benchmarks

일반카드에서 가장 빠른 것은 역시나... Nvidia 4090이다.

이렇게 GPU 연산 능력도 필요하지만...

VRAM을 얼마나 탑재하고 있는가에 따라 생성할 수 있는 이미지 크기가 달라진다.

Stable Diffusion 의 여러가지 설정에 따라서 변경이 되기도 하겠지만...

대략적인 VRAM에 따라 가능한 이미지는 다음과 같다.

해상도 사용한 VRAM
512 x 512 6.9 GB
640 x 640 11.3 GB
640 x 832 15.9 GB
768 x 768 15.9 GB

https://ossan-gamer.net/post-82311/

픽셀이 증가함에 따라 사용하는 VRAM도 같이 증가하고 있다.

일반에게 판매되는 4090 제품이 24GB의 메모리를 가지고 있으니.... 

대충 계산을 해보면... 대략 940 x 940 정도의 이미지까지 가능할 것으로 보인다....

 

이렇게 메모리 제한으로 인하여 출력되는 이미지의 크기 제한을 받고 있다 보니...

저렇게 생성을 하고 난 뒤에.... 업스케일을 통하여 고해상도 이미지를 생성하는게 일반적인 방법이다.

 

https://ossan-gamer.net/post-87616/

Stable Diffusion 에 Xformers를 사용하면 VRAM 사용량이 줄어들고 이미지 생성 속도를 높일 수 있다고 한다.

Stable Diffusion 2.1 에서 768 x 768 이미지를 생성하는데  VRAM 9.2GB 정도를 사용한다고 한다.

또한 Bat size 가 커지는 경우에 Xformers를 사용하지 않으면 VRAM 사용량이 꽤 많이 증가하고...

Xformers를 사용하는 경우는 소폭 증가하는 정도이다.

반응형