반응형 AI윤리11 앤스로픽, '최첨단 AI 투명성' 강조…안전하고 책임 있는 개발 촉구 공공 안전 및 책임성 확보 위한 투명성 프레임워크 제안 강력한 AI 시스템 개발의 유연성 유지하며 규제 필요성 역설 인공지능 연구 기업 앤스로픽(Anthropic)이 최첨단 인공지능(Frontier AI) 개발에 있어 투명성 강화의 필요성을 강조하며, 공공 안전과 책임성을 보장하기 위한 구체적인 프레임워크를 제안했다. 이는 강력한 AI 시스템의 안전하고 책임 있는 개발을 위한 중간 조치들이 시급하다는 인식에서 비롯되었다. 앤스로픽은 AI 안전 표준 및 평가 방법론이 아직 정립 단계에 있지만, 현재 시점에서 강력한 AI 시스템 개발자들이 취해야 할 투명성 조치가 중요하다고 역설했다. 제안된 투명성 프레임워크는 가장 크고 영향력 있는 AI 시스템 및 개발자들에게 초점을 맞춰 적용되며, 안전 관행에 대한 명확.. 2025. 7. 8. 앤트로픽, 챗봇에서 복잡한 AI 과제로 전환…AI 산업의 새 지평 열다 앤트로픽, 챗봇 시대 마감 선언…복잡한 연구·프로그래밍에 집중새로운 클로드 4, 에이전트 기반 응용에 초점…안전성 강화와 매출 급증AI 스타트업 앤트로픽이 챗봇 중심 전략을 공식적으로 종료하고, 복잡한 연구 및 프로그래밍 등 고차원적 과제에 집중하기로 했다. 이는 AI 산업 내 기술 진화와 시장 요구 변화에 따른 전략적 전환으로 평가된다.구분기존 전략(챗봇)신규 전략(복잡한 과제)주요 제품챗봇클로드 4, 에이전트타깃 시장일반 사용자개발자, 연구자매출10억 달러20억 달러(2배 증가)안전성일반적강화된 안전성앤트로픽의 과학 책임자 Jared Kaplan은 최근 인터뷰에서 “챗봇 시대는 끝났다. 이제는 연구, 프로그래밍 등 복잡한 과제에 집중할 것”이라고 밝혔다. 실제로 최신 클로드 4 모델은 에이전트 기반 .. 2025. 5. 26. 사운드클라우드, 사용자 음악 데이터로 AI 모델 훈련 가능성 열어 이용약관 조용히 변경... 아티스트들 우려 제기AI 저작권 문제 또 다시 수면 위로 사운드클라우드가 2024년 2월 이용약관을 변경해 업로드된 음악을 AI 훈련에 활용할 수 있는 길을 열었다. AI 저작권 활동가 에드 뉴턴-렉스(Ed Newton-Rex)가 이 변화를 발견했으며, 사용자들에게 이에 대한 충분한 고지가 이루어지지 않았다고 지적했다. 사운드클라우드는 성명을 통해 "아티스트 콘텐츠로 AI 모델을 훈련시키지 않으며, 자체 AI 도구를 개발하지 않고, 제3자에 의한 데이터 스크래핑을 차단한다"고 밝혔다. 회사 측은 AI가 추천 시스템, 사기 탐지, 콘텐츠 분류 등 내부 용도로만 사용된다고 설명했다.또한 "아티스트들은 자신의 작품에 대한 통제권을 유지하며, 모든 AI 활용은 기존 라이선스 계약을 따.. 2025. 5. 11. AI 모델의 '복지' 연구, Anthropic이 새로운 프로그램 출범 AI의 의식과 경험에 대한 연구 시작 AI 연구소 Anthropic이 AI 모델의 '복지'에 대한 연구 프로그램을 시작했다. 이는 AI가 인간과 유사한 의식을 가질 수 있는지, 그리고 그러한 가능성이 있다면 어떻게 대응해야 하는지에 대한 본격적인 연구의 시작을 의미한다. Anthropic은 4월 24일(현지시각) 공식 블로그를 통해 AI 모델의 복지 연구 프로그램 출범을 발표했다. 이 프로그램은 AI 모델이 도덕적 고려가 필요한 존재가 될 수 있는지, AI 모델의 '고통 징후'의 의미, 그리고 가능한 '저비용' 개입 방법 등을 탐구할 예정이다. 현재 AI 커뮤니티 내에서는 AI가 인간의 특성을 어느 정도까지 보여줄 수 있는지에 대한 의견이 분분하다. 많은 학자들은 현재의 AI가 의식이나 인간의 경험을 근.. 2025. 4. 27. 일론 머스크의 xAI, '지구 최고 AI' 그록3(Grok 3) 공개...生成AI 경쟁 구도 변화 예고 2월 18일 한국시간 오후 1시 라이브 데모 진행...기술혁신과 산업 영향력 주목일론 머스크가 이끄는 인공지능 스타트업 xAI가 한국시간 2월 18일 오후 1시, 차세대 AI 챗봇 '그록3(Grok 3)'를 공식 출시합니다. 이번 출시는 생성형 AI 시장에서 오픈AI의 챗GPT와 구글 제미나이에 대한 강력한 도전장으로 해석되며, 기술적 혁신과 산업계 영향력 변화에 대한 관심이 집중되고 있습니다.기술적 도약의 핵심: 10만 개 GPU와 자기교정 알고리즘xAI가 공개한 기술 스펙에 따르면 그록3는 10만 개의 엔비디아 H100 GPU로 구성된 '콜로서스 슈퍼컴퓨터'에서 훈련되었습니다. 이는 전작인 그록2 대비 10배 증가한 컴퓨팅 파워로, 2억 GPU 시간의 대규모 학습이 이루어졌습니다. 특히 ▶합성 데이터.. 2025. 2. 18. Anthropic의 새로운 Claude Hybrid LLM: AI 추론의 도약 'Claude 3.5 Sonnet' 기반 혁신적 리소스 할당 시스템 선보여...기업용 생성형 AI 시장 공략 가속화 인공지능 스타트업 Anthropic이 2월 14일(현지시각) 기존 대형언어모델(LLM)의 한계를 뛰어넘는 하이브리드 AI 모델을 발표했다. 이 모델은 사용자가 질문의 복잡도에 따라 컴퓨팅 리소스를 유동적으로 조절할 수 있는 '가변형 추론 스케일'을 도입, 단순 질문 처리 시 기존 모델 대비 2배 빠른 응답 속도를 구현했으며 복잡한 프로그래밍 과제에서는 경쟁사 모델을 능가하는 성능을 보였다."이번 혁신은 AI가 인간의 사고 방식을 모방하는 데서 한 단계 진화했다는 의미를 지닙니다."- 제임스 클라프 Anthropic 공동창립자 겸 CTO 2024년 3월 공개된 Claude 3 시리즈의 후속 .. 2025. 2. 14. 이전 1 2 다음 반응형
