Introducing Llama 3.3 model on OCI Data Science

테크넷 마스터 김재벌 입니다.

 

조금은 늦은 감이 없지 않은 포스팅이네요.

 

https://blogs.oracle.com/ai-and-datascience/post/introducing-llama-33-model-on-oci-data-science

 

Meta의 Llama 3.3 모델이 Oracle Cloud Infrastructure(OCI) Data Science 플랫폼에서 지원된다는 내용을 다룹니다. 주요 내용은 다음과 같습니다:

·         Llama 3.3 모델 특징: Meta가 개발한 Llama 3.3 70B Instruct 모델은 지침 준수, 논리적 추론, 수학 및 일반 지식에서 뛰어난 성능을 제공합니다. 이전의 더 큰 모델인 405B와 유사한 성능을 제공하면서도 크기를 줄여 비용 효율성을 높였습니다

·         OCI Data Science 통합:

o    Hugging Face와의 통합을 통해 사용자는 코딩 없이 AI Quick Actions를 활용하여 모델을 등록, 배포, 미세 조정할 수 있습니다.

o    이 플랫폼은 Generative AI 기술을 쉽게 도입할 수 있도록 설계되었습니다

·         미세 조정 및 배포:

o    사용자는 Llama 3.3 모델을 자신의 데이터로 미세 조정할 수 있으며, 이를 통해 특정 도메인이나 문제에 최적화된 솔루션을 개발할 수 있습니다.

o    Low-Rank Adaptation(LoRA) 방법론을 활용하여 모델 성능을 더욱 향상시킬 수 있습니다

·         비용 절감 및 간소화: Oracle의 플랫폼은 간단한 통합과 낮은 배포 비용으로 기업이 생성형 AI 프로젝트를 빠르게 시작할 수 있도록 돕습니다