장치 하나로 간이 AI 연산용 워크스테이션을? - ADLINK Pocket AI

AI 워크스테이션, 요즘은 스테이블 디퓨전으로 대표되는 AI 그림이라던가, 기계 학습 등의 AI 관련 작업 등을 위해서 AI연산을 위한 워크스테이션을 맞추는 분들도 있다고 들었습니다. 실제로 엔비디아는 그거에 맞춰서 RTX 4070Ti을 세일즈 하기도 했었고요 (4080과 4090은 게이밍 위주로 홍보한 데 비해)

NVIDIA GeForce RTX 4070 Ti 그래픽 카드

그런데, 갑자기 최근에 재미있는 물건이 나왔습니다. 워크스테이션용 엔비디아 그래픽카드를 만드는 ADLink에서 굉장히 재밌는 물건을 냈습니다. 바로 "ADLink Pocket AI" 입니다.

무슨 오디오 인터페이스나 외장형 사운드카드 같이 생겼습니다.

겉보기에는 뭔가 오디오 인터페이스나 외장형 사운드카드 (혹은 DAC 장비) 같이 생겼는데, 저 밖에 있는 "A500"에서 뭔가 감을 잡으셨다면... 맞습니다. 최근에 엔비디아는 노트북이나 ITX 케이스 스타일의 미니 PC를 위한 그래픽카드인 RTX4050을 냈습니다. 그러나 아직은 노트북에 탑재된 그래픽카드 형태로만 나와있는데, 이거를 보급형 워크스테이션용으로 만든 그래픽카드가 A500이라고 합니다.

NVIDIA GeForce RTX 40 시리즈 노트북

 

NVIDIA RTX 및 Quadro 데스크톱 워크스테이션

솔직히 "보급형 워크스테이션용 그래픽카드" 라고 하면은 보통 증권사나 금융기관에서 많이 쓰는 물건입니다. 그래픽카드의 성능은 정말 보급형 그래픽카드이긴 하지만, 모니터를 여러 개 끼울 수 있으며, 그래픽카드 안에 있는 GPU와 VRAM의 내구도와 안정성이 높기 때문이지요. 그런데 이제 CUDA 연산은 높게 하면서 전력을 적게 먹고, 크기를 줄일 수 있는 Ada Loverace 아키텍쳐가 되면서 이런 형태의 워크스테이션용 그래픽카드도 AI 연산용으로 쓸 수 있게 된 것이 굉장히 고무적인 부분인 듯 합니다.

실제로 전체적인 공개 스펙시트는 기존의 워크스테이션용 엔비디아 그래픽카드 중 보급형이라 할 수 있는 T400 4GB의 상위호환에 가깝습니다. VRAM도 4GB로 제한적인 것이 그 증거이긴 하지만, 대신 RTX 40계열이 베이스이기 때문에 연산코어인 CUDA 코어는 T400에 비하면 압도적으로 높은 것이 포인트입니다. 하지만 아예 이 제품은 다른 워크스테이션 제품과는 다르게 전원용 PD 어댑터 포트와 썬더볼트 포트만 달랑 놓았습니다. 그러니까... "디스플레이 출력"은 불가능한 제품인데, 이걸 도데체 어떻게 쓰라는 걸까요?

썬더볼트 포트 사용에서 짐작하신 분들이 있었을겁니다.

바로 "썬더볼트 포트 탑재 노트북"에서 덧대어 쓴다. 라는 것인데요. 현재 썬더볼트 탑재 노트북은 인텔제 노트북이 많은 편입니다. (물론 AMD제 노트북에서도 썬더볼트 탑재 제품이 있기는 합니다.) 그러나 인텔의 자체 내장 그래픽인 Iris XE의 경우에는 그래픽카드 병렬연산이라 할 수 있는 GPGPU가 많이 딸린 부분이 있는데, 이 부분을 보완해주는 제품이라 보시면 됩니다. 물론 썬더볼트 포트가 있으니까 애플 맥북에도 쓸 수 있지 않을까? 싶지만 그건 안된다고 합니다. 애플의 M칩은 이미 자체적으로 AI 연산용 NPU가 달려있기 때문이죠.

그래서 실제로 ADLink 측에서도 사용 가능 시스템을 윈도우와 리눅스로 한정해 놓고 있습니다. 참고로 리눅스로 된 컴퓨터가 이런 AI 연구시설용 워크스테이션에 많이 탑재되어 있는데, 이걸 노린 것으로 보입니다. 단, eGPU 박스처럼 핫플러깅이 되는 것은 아니기 때문에 처음 부팅할 때부터 꽂아서 쓸 수는 없다는 단점이 있다고는 합니다. (말 그대로 "간이용" 연산카드라는 것이죠.)

그래도 "썬더볼트 포트가 있는" 노트북에서 AI 연산을 할 수 있는 휴대용 연산카드라는 것은 AI 연구쪽에 있으신 분들에게는 써볼만한 물건이 될 거 같습니다. 일단 4월 부터 예약을 받고 생산 후 배송은 6월 경에 될 것이라고 제조사는 밝혔는데, 가격이 저렴하다면... AI 그림을 만드시는 분들에게도 호기심이 당길만한 물건이 되지 않을까 생각해봅니다.