본문 바로가기
반응형

IT195

로컬 환경에서 LLM 모델 실행을 위한 Ollama 다운로드 및 사용법 안내 목차Ollama는 로컬 환경에서 대규모 언어 모델(LLM)을 실행할 수 있게 해주는 오픈 소스 도구입니다. Meta의 Llama2, Llama3, Mistral 등 다양한 모델을 간단히 다운로드하고 바로 테스트해볼 수 있으며, 별도의 상용 API나 클라우드 서비스 없이도 AI 모델을 이용할 수 있다는 장점이 있습니다.1. Ollama란?로컬 환경 LLM 실행Ollama를 사용하면 인터넷 연결이 없거나 제한된 환경에서도 로컬 컴퓨터에서 LLM 모델을 활용할 수 있습니다.간단한 인터페이스사용법이 Docker와 유사해 pull, run, rm 등의 명령어로 모델을 다운로드·실행·삭제할 수 있어 매우 간편합니다.2. Ollama 설치하기2.1 WindowsOllama 공식 웹사이트에서 Windows용 설치 파일.. 2025. 1. 13.
카카오, 팬덤 플랫폼 시장 진출: '베리즈' 출시에 주목 카카오는 2025년 상반기 출시를 목표로 한 글로벌 팬덤 플랫폼 '베리즈(Berriz)'를 준비 중입니다. 이 플랫폼은 K-컬처 중심으로 아티스트와 팬들이 소통하고 콘텐츠를 즐길 수 있는 디지털 공간을 제공하며, 커머스 기능까지 포함한 종합적인 팬덤 생태계를 구축하려는 계획입니다.진출 이유카카오의 팬덤 플랫폼 시장 진출은 다음과 같은 이유에서 비롯됩니다:글로벌 성장 전략: 카카오는 '비욘드 코리아(Beyond Korea)' 전략을 통해 2025년까지 해외 매출 비중을 30%로 확대하려는 목표를 세웠습니다. 이를 위해 K-컬처의 글로벌 인기를 활용해 해외 시장에서 경쟁력을 강화하려 합니다.K-컬처 확산과 시너지: K팝과 K콘텐츠가 전 세계적으로 주목받고 있는 상황에서, SM엔터테인먼트 등 계열사와 협력하여.. 2025. 1. 8.
오픈AI의 영리법인 전환: 논란과 전망 오픈AI(OpenAI)는 2015년 비영리 단체로 설립되어 인공지능(AI) 기술을 인류 전체의 이익을 위해 개발하겠다는 목표를 내세웠습니다. 그러나 최근 오픈AI는 영리법인으로의 전환을 공식화하며, AI 연구와 기술 개발에 필요한 자금을 확보하기 위한 전략적 선택이라고 밝혔습니다. 이 결정은 AI 안전성과 윤리를 둘러싼 논쟁을 촉발하며, 기술 업계와 학계, 대중 사이에서 큰 반발을 불러일으키고 있습니다.전환 이유오픈AI의 영리화 결정은 여러 요인에서 비롯되었습니다:자금 조달 필요성: AI 연구는 막대한 자본이 필요하며, 비영리 구조로는 이를 충족하기 어렵다는 점이 주요 이유로 꼽힙니다. 오픈AI는 영리법인 전환을 통해 더 많은 투자자를 유치하고, 경쟁력을 강화하려 합니다.경쟁 압력: Anthropic, .. 2025. 1. 8.
딥시크-V3 (DeepSeek-V3): 오픈소스 AI의 새로운 기준 딥시크-V3는 6710억 개의 파라미터를 가진 Mixture-of-Experts(MoE) 구조 기반의 대형 언어 모델(LLM)로, 성능과 비용 효율성을 동시에 달성한 혁신적인 AI 모델입니다. 이 모델은 코딩, 번역, 창작 등 다양한 작업에서 뛰어난 성능을 발휘하며, 특히 OpenAI의 GPT-4o와 비교될 만큼 강력한 성능을 자랑합니다. 주요 특징압도적인 규모와 효율성14조 8000억 개의 텍스트 데이터로 학습되었으며, 활성화되는 파라미터는 370억 개로 효율적 연산이 가능합니다.학습 비용은 약 557만 달러로, 동급 모델 대비 매우 경제적입니다.혁신적인 기술멀티헤드 잠재 어텐션(MLA)과 다중 토큰 예측(MTP) 기술을 통해 추론 속도와 정확도를 향상시켰습니다.부가 손실 없이 작업 부하를 균등 분배하.. 2025. 1. 8.
컴퓨터가 느려졌을때 5분 만에 해결하는 속도 개선법 목차컴퓨터가 갑자기 느려지면 누구나 당황스러울 수 있습니다. 중요한 작업 중이거나 마감 시간이 임박했을 때 컴퓨터가 느려지면 스트레스가 배가 되죠. 하지만 걱정하지 마세요. 컴퓨터 속도 저하의 원인을 파악하고 적절한 해결 방법을 적용하면 몇 분 안에 문제를 해결할 수 있습니다. 이번 글에서는 컴퓨터가 느려졌을때 원인부터 해결 방법까지 전문가가 추천하는 실용적인 팁을 소개합니다. 컴퓨터가 느려졌을때, 원인부터 파악하기컴퓨터 속도가 느려지는 이유는 다양합니다. 하드웨어 문제, 소프트웨어 충돌, 과도한 프로그램 실행 등 여러 요인이 복합적으로 작용할 수 있습니다. 따라서 문제를 해결하기 위해서는 먼저 원인을 정확히 파악하는 것이 중요합니다. 컴퓨터 성능 저하의 주요 원인 컴퓨터 성능 저하의 주요 원인 중 하나.. 2024. 12. 24.
오픈AI의 'o3': AI가 인간의 지적 수준에 도달하다 오픈AI가 논증(reasoning) 능력에 특화된 새로운 생성형 AI 모델 'o3'를 공개했습니다. 이 모델은 수학과 과학 분야에서 이전 모델보다 크게 향상된 성능을 보여주며, 범용인공지능(AGI)에 한 걸음 더 가까워졌다는 평가를 받고 있습니다. o3의 주요 특징o3는 'o1'의 업그레이드 버전으로, 다음과 같은 특징을 가지고 있습니다:향상된 논증 능력: o3는 복잡한 문제를 분석하고 해결하는 데 탁월한 능력을 보여줍니다.추론 시간 조정 기능: 사용자가 연산 시간을 낮음, 중간, 높음 등 3단계로 설정할 수 있어 더 정확한 결과를 얻을 수 있습니다.AGI 벤치마크 성능: o3는 AGI 측정을 위한 벤치마크 'ARC-AGI'에서 75.7점을 기록해 o1(32점)보다 크게 향상된 성능을 보였습니다."o3는.. 2024. 12. 23.
반응형

티스토리툴바