반응형 AI보안6 NIST, AI 시스템 보안을 위한 제어 오버레이 개념서 발표 AI 보안 표준화의 새로운 이정표기업과 정부의 AI 보안 준비 가이드라인 제시 AI 기술의 급속한 발전과 함께 기업과 정부 기관들이 AI 시스템을 도입하면서 보안 위험이 크게 증가하고 있다. 특히 생성형 AI, 예측 AI, 그리고 자율적인 에이전트 시스템들이 기존의 보안 프레임워크로는 충분히 보호되지 못하는 상황이 발생하고 있다. 이러한 배경에서 NIST는 AI 시스템의 특성을 고려한 새로운 보안 통제 체계의 필요성을 인식하고, 기존의 NIST SP 800-53 표준을 기반으로 AI 시스템에 특화된 제어 오버레이를 개발하기 위한 개념서를 발표했다. NIST는 AI 시스템의 보안 위험을 관리하기 위해 다양한 AI 사용 사례를 고려한 통제 방안을 제시했다. 이는 단순히 기존 보안 표준을 AI에 적용하는 것을.. 2025. 8. 15. AI 보안 전문가들 AI 도구 회의적…폭스콘 10억 달러 미국 투자 확정 영국 과학혁신기술부(DSIT)의 최신 연구에 따르면, 사이버 보안 공격 시뮬레이션을 담당하는 레드팀 전문가들이 AI 도구의 효과성에 대해 깊은 회의감을 보이고 있다. PublicTechnology가 보도한 바에 따르면, Prism Infosec가 수행한 이 연구는 "업계가 AI의 약속에 대해 깊이 회의적"이며, "많은 기능이 과장되고 과도하게 사용되고 있다"고 밝혔다. 전문가들은 AI가 현재 가장 많이 사용되는 분야는 정교한 사회공학적 공격이라고 분석했다.Taipei Times에 따르면, 폭스콘 테크놀로지는 향후 10년간 미국에 10억 달러를 투자할 계획을 발표했다. 이는 정밀 몰드 개발, 스마트 제조, 로봇공학, 고급 자동화에 중점을 둔 사업 전환 전략의 일환이다. 폭스콘은 AI에 강한 중점을 두고 .. 2025. 8. 11. Google AI 'Big Sleep'이 해커들의 SQLite 취약점 사전 차단... AI 에이전트가 위협 행위자들의 악용 시도를 사전에 탐지하고 차단, 보안 분야 AI 활용의 새로운 이정표 Google이 대규모 언어 모델(LLM) 기반 AI 에이전트 'Big Sleep'을 활용해 해커들이 악용하려던 SQLite 취약점을 사전에 발견하고 차단했다고 발표했다. 발견된 취약점은 CVE-2025-6965로 분류되며, CVSS 점수 7.2의 메모리 손상 취약점이다. 이 취약점은 SQLite 3.50.2 이전 모든 버전에 영향을 미치며, 공격자가 임의의 SQL 문을 애플리케이션에 주입할 수 있을 경우 정수 오버플로우를 일으켜 배열 끝을 넘어 읽을 수 있다. Google은 이 취약점을 "위협 행위자들에게만 알려져 있었고 악용될 위험이 있었던 중요한 보안 이슈"라고 설명했다. Google 글로벌 정책.. 2025. 7. 20. OpenAI, ChatGPT Agent 기능 공식 출시... 웹 브라우징과 작업 자동화 결합 AI 에이전트가 사용자 대신 복잡한 작업 수행PowerPoint 제작부터 쇼핑까지 자율적 워크플로우 처리 OpenAI가 ChatGPT의 새로운 AI 에이전트 기능을 공식 출시했다. 이 기능은 웹 브라우징과 작업 실행 능력을 결합한 "에이전트형 AI" 시스템으로, 사용자가 요청한 복잡한 작업을 자율적으로 수행할 수 있다. ChatGPT Agent는 다음과 같은 작업을 자동으로 처리할 수 있다: PowerPoint 슬라이드덱 제작 및 편집, 특정 상황에 맞는 의류 세트 조립 및 구매, 식사 계획 수립 및 재료 구매, 최신 뉴스 기반 회의 브리핑 준비, 경쟁사 분석 및 보고서 작성 등이다.OpenAI는 에이전트 기능의 안전성을 위해 다층 보안 시스템을 구축했다. 프롬프트 인젝션 공격 방지 훈련, 중요 작업 시.. 2025. 7. 20. AI 에이전트, 해킹 대회서 인간 팀 능가…사이버 보안 지형 변화 예고 단일 AI 에이전트, 인간 전문가 팀 압도적 성능 과시사이버 보안 자동화 및 인재 양성 패러다임 전환 기대 인공지능(AI) 에이전트가 최근 열린 해킹 대회에서 인간 전문가 팀의 성능을 능가하는 놀라운 결과를 보여주며 사이버 보안 분야의 새로운 지평을 열었습니다. AI 에이전트, 해킹 대회서 '인간 팀' 압도최근 진행된 해킹 대회에서 단일 AI 에이전트가 여러 인간 전문가 팀을 상대로 우월한 성능을 발휘하며 승리를 거두었습니다. 이 대회는 시스템의 취약점을 찾아내고 이를 이용해 목표를 달성하는 '공격'과, 시스템을 방어하고 취약점을 패치하는 '방어' 능력을 종합적으로 평가하는 방식으로 진행되었습니다. AI 에이전트는 취약점 탐색부터 실제 공격 실행에 이르는 전 과정에서 인간 팀보다 빠르고 정확하게 대응하.. 2025. 6. 2. 구글, 크롬 브라우저에 AI 기반 사기 감지 기능 도입 온라인 사기 사이트 실시간 차단 가능해져데스크톱과 안드로이드 모두 보안 강화 구글이 크롬 브라우저 사용자를 온라인 사기로부터 보호하기 위해 AI 모델을 도입했다. 데스크톱에서는 로컬 Gemini Nano 언어 모델을 활용해 이전에 발견되지 않은 사기 웹사이트까지 신속하게 식별하며, 안드로이드에서는 의심스러운 알림에 대한 경고 기능을 추가했다. 이번 변화는 구글의 보안 강화 노력의 일환으로, '향상된 보호' 기능을 포함한 세이프 브라우징 업데이트도 함께 제공된다. 구글에 따르면 구글 검색에 적용된 AI 기반 시스템은 매일 수억 건의 사기 검색 결과를 차단하고 있으며, 가짜 항공사 지원 페이지의 수를 80% 이상 감소시켰다.데스크톱 버전의 크롬 브라우저에 탑재된 Gemini Nano 언어 모델은 서버에 접속.. 2025. 5. 11. 이전 1 다음 반응형
