오라클, Generative AI 서비스를 통해 강력한 생성 AI RAG 에이전트와 향상된 AI 서비스를 제공

안녕하세요. 테크넷 마스터 김재벌 입니다.

 

지난 9월에 라스베이거스에서 OOW가 열렸는데, 그때 소개된 서비스로 생성형 AI 기반의 OCI Generative AI 서비스가 소개 되었습니다.

 

이는 별도의 통합 없이 Oracle Database 23ai AI 벡터 검색을 지원하는 완전 관리형 RAG 서비스의 장점을 활용할 수 있습니다.

OCI Generative AI는 이제 Cohere Command R 및 Command R+ 모델 외에도 Meta의 Llama 3.1 모델을 지원 합니다.


Oracle Cloud Infrastructure(OCI) 생성형 AI
Oracle Cloud Infrastructure(OCI) Generative AI(GenAI) 에이전트를 발표했습니다. 
이 에이전트 는 검색 증강 생성(RAG) 기능과 향상된 Oracle AI 혁신을 갖추고 있어 고객이 AI를 실제 비즈니스 운영에 보다 쉽게 ​​적용하여 데이터를 경쟁 우위로 전환하는 데 도움이 됩니다.

OCI GenAI Agent 시리즈의 첫 번째인 RAG Agent는 기본 제공 RAG 기능을 제공하여 고객이 에이전트 계획, 검색, 재순위 지정, 생성 및 통합과 같은 수동 프로세스를 피하면서 시작할 수 있도록 합니다. 또한 환각을 줄이기 위한 자체 검사를 제공하여 고객이 RAG 기술을 도입하여 연구 개발에 주기를 소모하지 않고도 비즈니스 프로세스를 간소화할 수 있도록 합니다. OCI GenAI Agent를 사용하면 고객이 Oracle Database 23ai AI Vector Search에 액세스하여 데이터베이스에 저장된 엔터프라이즈 데이터에 대한 빠른 유사성 쿼리를 실행할 수 있습니다. OCI에서 Oracle Database 23ai를 구독한 고객의 경우 GenAI Agent 서비스는 별도의 벡터 데이터베이스 로 데이터를 이동하지 않고도 RAG 및 유사성 검색 기능을 실행하는 자동화 계층을 추가합니다 .

생성적 AI 워크로드에 대한 오픈 소스 솔루션을 찾는 조직의 경우 OCI GenAI Agents 서비스는 OpenSearch를 통한 OCI Search도 지원합니다.

OCI GenAI 에이전트의 주요 사용 사례는 다음과 같습니다.

콜센터 최적화: 보다 정확한 응답과 더 많은 양의 문의 해결을 통해 운영자의 고객 만족도를 높이는 데 도움이 됩니다.
법률 조사 가속화: 연구자들이 법원 기록 데이터베이스를 수동으로 검색하는 대신 AI와 대화하여 더 빠르게 답변을 찾을 수 있도록 돕습니다.
수익 인텔리전스: 보고서를 실행하는 대신 자연어 질문을 통해 재무 팀이 고객 구매 내역과 추세를 이해하는 데 도움이 됩니다.
자격을 갖춘 구직자 모집: 데이터베이스 쿼리를 구성하는 대신 자연어로 입력하여 채용 담당자가 잠재적인 신규 인력을 보다 쉽게 ​​찾을 수 있도록 돕습니다.
개발자와 비즈니스 사용자를 위한 다재다능하고 접근하기 쉬운 AI 솔루션을 제공하기 위해 Oracle은 다음 사항에 대한 AI 혁신도 도입하고 있습니다.

OCI Generative AI: 사용자가 다양한 언어 모델을 쓰기 지원, 요약, 분석, 채팅을 포함한 광범위한 사용 사례에 원활하게 통합할 수 있도록 지원합니다. 고객이 최신 오픈 소스 AI 기술을 활용할 수 있도록 OCI Generative AI는 이제 최첨단 기능이 필요한 AI 사용 사례의 경우 4,050억 개의 매개변수에서 더 저렴한 가격으로 더 타겟팅된 워크로드의 경우 700억 개의 매개변수에 이르기까지 다양한 크기의 Meta의 Llama 3.1 모델에 대한 액세스를 제공합니다. 또한 OCI Generative AI는 Cohere Command R, Command R+, Embed 모델을 지원합니다.
OCI Data Science: 데이터 과학자 팀이 AI 모델을 빌드, 훈련, 배포 및 관리하는 오픈 소스 도구에 액세스하도록 돕습니다. OCI Data Science는 OCI Ampere A1 셰이프 지원 및 몇 번의 클릭만으로 Hugging Face의 모든 모델을 OCI Data Science로 가져올 수 있는 기능을 포함하여 무코드 AI 빠른 작업 기능에 대한 여러 가지 새로운 업데이트를 제공합니다.
OCI 언어: 개발자가 대규모로 정교한 텍스트 분석 및 기계 번역을 수행하는 데 도움이 됩니다. 새로운 다국어 모델은 100개 이상의 언어를 원활하게 지원하도록 설계되었으며, 새로운 보호된 건강 정보(PHI) 기능은 현재 개인 식별 정보(PII) 서비스를 확장하여 PHI 엔터티를 감지하고 텍스트 데이터에서 삭제합니다.
OCI 문서 이해: 개발자가 사전 구축된 AI 모델을 사용하여 수동 비즈니스 처리 작업을 자동화하도록 지원합니다. 의료 분야를 위한 새롭게 훈련된 모델을 통해 개발자는 의료 신분증에서 중요한 데이터를 식별하고 추출하는 동시에 효율성을 높이고 수동 오류를 줄일 수 있습니다.
OCI Vision: 개발자가 프레임별로 비디오를 분석하여 객체, 레이블, 텍스트 및 얼굴을 식별하도록 돕습니다. 디지털 자산 관리, 시각적 이상 감지, 안전 및 감시, 광고 추적 및 배치를 포함한 사용 사례를 지원하기 위해 객체의 감지 타임스탬프 및 바운딩 박스 좌표에 대한 데이터를 제공합니다.
OCI Speech: 사용자가 음성을 텍스트로 변환하고 자연스러운 음성으로 텍스트에서 음성을 합성하며, 사용자 정의 어휘 지원이 포함된 새로운 실시간 변환 기능을 제공합니다.
Oracle Code Assist : Java, Python, JavaScript, SuiteScript, Rust, Ruby, Go, PL/SQL, C#, C 등의 최신 프로그래밍 언어로 작성된 애플리케이션을 빌드하고 최적화하는 데 도움이 되는 지능적인 제안을 제공하여 개발자의 속도를 높이는 데 도움이 됩니다.