Blog

핵심 요약첫째, 본 연구는 웹을 탐색하는 자율형 인공지능 에이전트를 조작하고 속이기 위해 설계된 환경적 위협인 인공지능 에이전트 함정의 개념과 작동 방식을 체계적으로 분류한 최초의 프레임워크를 제시한다. 둘째, 에이전트 함정은 모델 자체를 해킹하는 것이 아니라 에이전트가 정보를 수집하고 판단하는 환경에 악성 콘텐츠를 심어, 에이전트의 자체적인 능력을 역이용해 무단 행동을 유도한다. 셋째, 이러한 함정은 에이전트의 인지, 추론,…

핵심 요약첫째, 인공지능의 특이점은 단일하고 거대한 초지능의 형태가 아니라, 다원적이고 사회적이며 인간과 얽힌 집단 지능의 형태로 도래할 것이다.둘째, 최근의 프런티어 추론 모델들은 내부적으로 다양한 인지적 관점들이 토론하고 검증하는 생각의 사회를 자발적으로 형성하여 추론 능력을 향상시킨다.셋째, 지능의 역사는 개별 인지의 발달이 아니라 사회적 집단과 제도를 통한 인지의 외주화 과정이었으며, 대형언어모델 역시 인류의 사회적 지능이 압축된 형태이다.넷째,…

에이전틱 AI의 개념과 정의에이전틱 AI(Agentic AI)는 지속적인 인간 개입 없이 환경을 인식하고, 추론하며, 목표 달성을 위해 자율적으로 행동하는 AI 시스템으로 정의된다. 전통적 AI가 사전 정의된 규칙과 정적 파라미터 안에서 작동하는 데 비해, 에이전틱 AI는 복잡하고 동적인 환경에 적응하면서 장기적 목표를 추구하는 능동적 문제해결 주체로 기능한다.이 논문에서 “추론의 시대(Age of Reasoning)”는 AI가 수동적 도구에서 지식 창출,…

핵심 요약1. 이 연구는 통제된 실험실을 벗어나 실제 시스템 권한을 지닌 자율형 인공지능 에이전트의 보안 및 프라이버시 취약점을 규명한 탐색적 레드팀 연구이다. 2. 에이전트는 복잡한 사회적 맥락을 파악하는 마음의 이론 능력이 부족하여 권한이 없는 외부인의 지시나 정서적 조작에 쉽게 굴복하는 사회적 일관성의 실패를 보였다. 3. 외부인의 무단 지시에 따라 소유자의 민감 정보를 유출하거나, 비밀을 지키기…