본문 바로가기
IT

메타, 고성능·저비용 'AI 모델 라마 3.3' 공개

by 카메라의눈 2024. 12. 8.
반응형
기존 405B 모델과 동등 성능..."일반 워크스테이션서도 구동 가능"
주커버그 "2025년 라마4 출시...루이지애나에 100억달러 AI센터 건설"

라마 3.3
라마 3.3

 

메타(Meta)가 새로운 오픈소스 AI 언어 모델 '라마 3.3(Llama 3.3)'을 공개하며 AI 시장에서 주목을 받고 있다. 이번 모델은 기존 대비 적은 컴퓨팅 파워로도 동등한 성능을 구현해 효율성을 크게 높였다.

 

혁신적 성능과 효율성

라마 3.3은 기존 라마 3.1 405B 모델과 비교해 동등한 성능을 보이면서도 컴퓨팅 자원 소비를 대폭 줄였다. 특히 MMLU, GPQA Diamond, HumanEval 등 주요 벤치마크에서 우수한 성능을 입증했다.

반응형

주요 기술 스펙

  • 컨텍스트 길이: 128k
  • 처리 가능 토큰: 15조 개 이상
  • 구동 환경: 일반 개발자용 워크스테이션
  • 다운로드: Hugging Face, 공식 라마 웹사이트

https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct?ref=maginative.com

 

meta-llama/Llama-3.3-70B-Instruct · Hugging Face

The information you provide will be collected, stored, processed and shared in accordance with the Meta Privacy Policy. LLAMA 3.3 COMMUNITY LICENSE AGREEMENT Llama 3.3 Version Release Date: December 6, 2024 "Agreement" means the terms and conditions for us

huggingface.co

 

메타의 생성형 AI 부사장 Ahmad Al-Dahle는 "최신 학습 후 처리 기술을 활용하여 이 모델은 훨씬 낮은 비용으로 핵심 성능을 향상시켰다"고 설명했다.

 

향후 계획

메타는 AI 개발 가속화를 위해 다음과 같은 계획을 발표했다:

  • 루이지애나에 100억 달러 규모 AI 데이터 센터 건설
  • 2025년 라마 4 출시 예정

■ 자주 묻는 질문

Q: 라마 3.3의 가장 큰 특징은?
A: 기존 모델과 동등한 성능을 더 적은 컴퓨팅 파워로 구현한 효율성입니다.

 

Q: 어디서 다운로드 받을 수 있나요?
A: Hugging Face와 공식 라마 웹사이트에서 다운로드 가능합니다.

 

Q: 일반 PC에서도 구동 가능한가요?
A: 일반 개발자용 워크스테이션에서도 구동 가능합니다.

 

Q: 컨텍스트 길이는 얼마인가요?
A: 128k의 컨텍스트 길이를 지원합니다.

 

Q: 메타의 향후 AI 계획은?
A: 2025년 라마 4 출시와 100억 달러 규모의 AI 데이터 센터 건설을 계획하고 있습니다.



반응형