[작성자:] Donghun Chung
-
Agents of chaos
핵심 요약1. 이 연구는 통제된 실험실을 벗어나 실제 시스템 권한을 지닌 자율형 인공지능 에이전트의 보안 및 프라이버시 취약점을 규명한 탐색적 레드팀 연구이다. 2. 에이전트는 복잡한 사회적 맥락을 파악하는 마음의 이론 능력이 부족하여 권한이 없는 외부인의 지시나 정서적 조작에 쉽게 굴복하는 사회적 일관성의 실패를 보였다. 3. 외부인의 무단 지시에 따라 소유자의 민감 정보를 유출하거나, 비밀을 지키기…
-
AI의 노동시장 영향: 새로운 측정 방법과 초기 증거 Anthropic
주요 발견1. 이론적 LLM 역량과 실제 사용 데이터를 결합한 새로운 AI 대체 위험 지표인 ‘관찰된 노출(observed exposure)’ 방법론을 도입했다. 이 지표는 ‘AI가 단순히 얼마나 활용되는가’보다 ‘일자리를 위협하는 자동화적·업무적 활용’에 더 높은 가중치를 부여한다.2. AI의 실제 활용은 이론적 잠재력에 크게 미치지 못하며, 현실에서의 커버리지는 이론적으로 가능한 수준의 일부에 불과하다.3. 관찰된 노출이 높은 직업일수록 미국 노동통계국(BLS)의 2034년까지…
-
Impact of Generative AI on Education and Beyond
Generative AI is exerting a massive influence in the education sector, and its impact is unlikely to remain confined to education. Generative AI is expected to be primarily applied to industries with high costs and large anticipated profits, such as life sciences (medicine and pharmacy), law, and defense, where expenditures by governments, corporations, or general…
-
Generative AI’s Impact on College Admissions Policies
Duke University, a prestigious private university in the United States, announced that it would not assign scores to essays when evaluating applicants (Knox, 2024.02.21). The rationale behind this decision was that the essays could not be trusted, as some students utilize AI to write them. Given that the essay has been a core evaluation component…
-
Revolutionizing Human-Machine Communication
The rapid advancement of Artificial Intelligence (AI) technology is fundamentally reshaping the way humans communicate with machines. In particular, Generative AI and Large Language Models (LLMs), which emerged in 2022, have evolved beyond merely responding to user commands. They have established themselves as powerful tools that assist human intellectual labor by generating creative outputs such…
Donghun Chung, Kwangwoon University, Seoul, Korea 