Oracle과 NVIDIA, 전 세계에 Sovereign AI 제공

안녕하세요. 테크넷 마스터 김재벌입니다.

 

최근에 오라클과 NVIDIA의 보도자료가 공개되었습니다. 2024.3.18. 

 

IT의 가장 큰 화두인 인공지능, 그중에서도 생성형 AI에 대한 Oracle과 NVIDIA는 디지털 주권을 확립하고 독점 국가 및 개인 데이터를 관리하는 가속화된 컴퓨팅 및 생성 AI 서비스를 제공하기 위해 협력합니다.

Oracle은 OCI Supercluster, OCI Compute 및 OCI의 NVIDIA DGX Cloud 전반에 NVIDIA Grace Blackwell을 채택했습니다.

 

 

Oracle과 NVIDIA는 오늘 전 세계 고객에게 주권 AI 솔루션을 제공하기 위한 확장된 협력을 발표했습니다.

Oracle의 분산 클라우드 , AI 인프라 , 생성 AI 서비스 는 NVIDIA의 가속 컴퓨팅 및 생성 AI 소프트웨어와 결합되어 정부와 기업이 AI 공장을 구축할 수 있도록 지원하고 있습니다.

 

이러한 AI 공장은 다양한 운영 제어 기능을 갖춘 국가 또는 조직의 안전한 구내에서 로컬로 클라우드 서비스를 실행할 수 있어 경제 성장을 다각화하고 촉진하려는 주권 목표를 지원할 수 있습니다.

 

오라클의 CEO인 사프라 카츠(Safra Catz)는 “AI가 전 세계의 비즈니스, 산업 및 정책을 재편함에 따라 국가와 조직은 가장 귀중한 데이터를 보호하기 위해 디지털 주권을 강화해야 합니다.”라고 말했습니다. “NVIDIA와의 지속적인 협력과 클라우드 지역을 신속하고 로컬로 배포할 수 있는 고유한 능력을 통해 사회는 보안을 침해하지 않고 AI를 활용할 수 있습니다.”

NVIDIA의 창립자이자 CEO인 Jensen Huang은 “제너레이티브 AI가 혁신을 주도하는 시대에 데이터 주권은 문화적, 경제적 필수 요소입니다.”라고 말했습니다. "오라클의 통합 클라우드 애플리케이션 및 인프라는 NVIDIA 가속 컴퓨팅 및 생성 AI 서비스와 결합되어 국가와 지역이 자신의 운명을 통제하는 데 필요한 유연성과 보안을 창출합니다."

 

고객이 데이터 주권을 충족하도록 돕는 턴키 솔루션

NVIDIA의 풀 스택 AI 플랫폼과 Oracle의 Enterprise AI(OCI 전용 지역, Oracle Alloy, Oracle EU Sovereign Cloud, Oracle Government Cloud 전반에 배포 가능)의 결합은 고객에게 더 강력한 통제력을 제공하는 최첨단 AI 솔루션을 제공합니다. 운영, 위치, 보안을 통해 디지털 주권을 지원합니다.

전 세계 국가들은 문화적, 경제적 야망을 지원할 수 있는 AI 인프라에 점점 더 많은 투자를 하고 있습니다. 26개국 66개 클라우드 지역에서 고객은 인프라와 애플리케이션을 포괄하는 100개 이상의 클라우드 및 AI 서비스에 액세스하여 IT 마이그레이션, 현대화 및 혁신을 지원할 수 있습니다.

두 회사의 통합 제품은 퍼블릭 클라우드를 통해 배포하거나 유연한 운영 제어를 통해 특정 위치에 있는 고객의 데이터 센터에 배포할 수 있습니다. Oracle은 AI와 전체 클라우드 서비스를 로컬에서 어디서나 제공할 수 있는 유일한 하이퍼스케일러입니다. OCI 서비스 및 가격은 배포 유형 전반에 걸쳐 일관되므로 계획, 이동성 및 관리가 단순화됩니다.

오라클의 클라우드 서비스는 NVIDIA TensorRT™, NVIDIA TensorRT와 같은 NVIDIA 추론 소프트웨어를 기반으로 구축된 새로 발표된 NVIDIA NIM™ 추론 마이크로서비스를 포함하여 NVIDIA 가속 컴퓨팅 인프라 및 NVIDIA AI Enterprise 소프트웨어 플랫폼을 포함한 다양한 NVIDIA 스택을 활용합니다. -LLM 및 NVIDIA Triton Inference Server™.

 

주권 AI 개척자

자산 관리 기술 분야의 선두주자인 Avaloq은 완전한 OCI 클라우드 지역을 자체 데이터 센터로 가져오기 위해 OCI Dedicated Region을 선택했습니다.

Avaloq의 최고 기술 책임자인 Martin Büchi는 “OCI Dedicated Region은 최신 클라우드 인프라에 대한 액세스를 제공하는 동시에 데이터 상주에 대한 최대 제어를 보장하려는 우리의 약속과 일치합니다.”라고 말했습니다. "이는 우리가 은행과 자산 관리자의 디지털 혁신을 지속적으로 추진하는 데 도움이 됩니다."

뉴질랜드의 선도적인 정보 관리 서비스 제공업체인 TEAM IM은 TEAM Cloud라는 뉴질랜드 최초의 현지 소유 및 운영 하이퍼스케일 클라우드를 구축하기 위해 Oracle Alloy를 선택했습니다.

TEAM IM의 CEO인 Ian Rogers는 “뉴질랜드의 조직은 고유한 하이퍼스케일 클라우드 솔루션을 활용하여 자체 해안 내에서 데이터 무결성을 보호하는 동시에 클라우드의 성능을 활용하려는 열망이 점점 더 커지고 있습니다.”라고 말했습니다. “Oracle Alloy와 NVIDIA AI 플랫폼을 클라우드 서비스에 통합할 수 있는 가능성을 통해 우리는 공공 부문, 상업 및 iwi 조직이 복잡한 디지털 환경을 탐색하고 최적화하는 데 도움을 줄 수 있는 클라우드 서비스 제공업체가 될 수 있었습니다. 디지털 트랜스포메이션.”

e& 그룹의 통신 부문인 e& UAE는 AI 기능을 강화하기 위해 Oracle과 협력하고 있으며 OCI 전용 지역 내에 NVIDIA H100 Tensor Core GPU 클러스터를 배포할 계획입니다.

e& UAE의 최고 기술 및 정보 책임자(CTIO)인 Khalid Murshed는 “OCI를 사용하면 e& UAE 데이터 센터에서 호스팅되는 자체 OCI 전용 지역 내에 NVIDIA H100 GPU 클러스터를 배포할 수 있습니다. “이러한 유형의 현지화를 통해 우리는 UAE 전역에서 AI 혁신을 가속화하고 새로운 Gen AI 애플리케이션과 사용 사례를 대규모로 개발하는 데 도움이 될 것입니다. 이는 비교할 수 없는 고객 경험을 제공하기 위해 AI의 우수성을 추구하는 데 중점을 두고 혁신을 개척하고 기술의 미래를 형성하려는 e& UAE의 변혁 노력과 일치합니다.”

 

NVIDIA Grace Blackwell로 강화된 OCI Supercluster 및 OCI Compute

고객이 끊임없이 증가하는 AI 모델 요구 사항을 해결할 수 있도록 돕기 위해 오라클은 오늘 GTC에서 OCI Supercluster 및 OCI Compute 전반에 걸쳐 발표된 최신 NVIDIA Grace Blackwell 컴퓨팅 플랫폼을 활용할 계획입니다 . OCI Supercluster는 새로운 OCI Compute 베어 메탈 인스턴스, 대기 시간이 매우 짧은 RDMA 네트워킹 및 고성능 스토리지를 통해 훨씬 더 빨라질 것입니다. OCI Compute는 NVIDIA GB200 Grace Blackwell Superchip과 NVIDIA Blackwell B200 Tensor Core GPU를 모두 채택할 예정입니다.

NVIDIA GB200 Grace™ Blackwell Superchip은 컴퓨팅의 새로운 시대를 열 것입니다. GB200은 이전 세대 GPU에 비해 ​​최대 30배 더 빠른 실시간 LLM(대형 언어 모델) 추론, 25배 더 낮은 TCO, 25배 더 적은 에너지를 필요로 하여 AI 훈련, 데이터 처리, 엔지니어링 설계 및 시뮬레이션을 강화합니다. NVIDIA Blackwell B200 Tensor Core GPU는 가장 까다로운 AI, 데이터 분석 및 고성능 컴퓨팅(HPC) 워크로드를 위해 설계되었습니다.

검색 증강 세대(RAG) 추론 배포를 위한 NVIDIA NeMo Retriever를 포함한 NVIDIA NIM 및 CUDA-X™ 마이크로서비스는 또한 OCI 고객이 자체 데이터를 사용하여 생성 AI 부조종사 및 기타 생산성 도구에 더 많은 통찰력과 정확성을 제공하는 데 도움이 될 것입니다.

 

NVIDIA Grace Blackwell, OCI의 DGX Cloud에 합류

점점 더 복잡해지는 AI 모델에 대한 고객 수요 증가를 충족하기 위해 양사는 NVIDIA Grace Blackwell을 OCI의 NVIDIA DGX™ Cloud에 추가하고 있습니다. 고객은 1조 매개변수 LLM 시대의 에너지 효율적인 교육 및 추론을 위해 설계된 이 공동 엔지니어링 슈퍼컴퓨팅 서비스를 통해 새로운 GB200 NVL72 기반 인스턴스에 액세스할 수 있습니다.

전체 DGX Cloud 클러스터 구축에는 20,000개 이상의 GB200 가속기와 NVIDIA CX8 InfiniBand 네트워킹이 포함되어 확장성이 뛰어나고 성능이 뛰어난 클라우드 인프라를 제공합니다. 클러스터는 5세대 NVLink™가 탑재된 72개의 Blackwell GPU NVL72 및 36개의 Grace CPU로 구성됩니다.

 

유효성

Oracle과 NVIDIA의 주권 AI 솔루션을 즉시 사용할 수 있습니다. 자세히 알아보려면 Oracle Sovereign AI 페이지를 참고하세요.