Experimental Evidence on the Learning Impact of Generative AI

핵심 요약

첫째, Contractor와 Reyes(2026)는 대학생 211명을 대상으로 한 무작위 실험에서, 시중 생성형 AI에의 접근이 학습에 미치는 효과를 즉시 시점과 1주일 후로 나누어 측정했다.

둘째, AI 접근은 즉시 지식 검사 점수를 0.27 표준편차 높였고, 이 이득은 1주일 후 아무 도구 없이 치른 검사에서도 유지되었다.

셋째, 에세이 질은 AI를 쓰는 동안에는 거의 변하지 않았지만 1주일 후에는 문체와 관련성이 개선되었고, 이 지연 이득은 AI를 개념 설명 도구로 쓴 ‘증강’ 사용자에게 집중되었다. 텍스트 생성에 쓴 ‘자동화’ 사용자의 단기 이득은 AI를 제거하자 사라졌다.

이 논문은 IZA Discussion Paper(No. 18792)로 동료심사를 거치지 않았다.

배경 및 이론적 맥락

직장에서의 생산성 효과는 쌓였지만, AI가 인적자본 축적, 즉 학습 자체를 돕는지 해치는지의 증거는 부족하다. AI는 맞춤 설명을 제공하는 튜터가 될 수도 있고, 학습에 필요한 인지적 노력을 통째로 넘겨버리는 오프로딩 통로가 될 수도 있다.

가드레일 없는 AI가 학습을 해친다는 실험(Bastani et al.)과, 생산성 격차 완화를 본 실험(Cruces et al., 2026) 사이에서, 이 연구의 특징은 생소한 주제에 대한 시간제한 과제에서 시중 AI를 자유롭게 쓰게 하고, 그 효과가 1주일 후에도 남는지를 따로 측정한 점이다.

연구 방법론

감독된 대면 세션에서 대학생 211명을 AI 허용과 금지 조건으로 무작위 배정했다. 익숙하지 않은 기술 주제를 학습한 뒤 분석 에세이를 쓰고, 1주일 후 모든 학생이 무지원 상태로 같은 주제의 검사와 에세이를 다시 수행했다.

학습은 두 차원으로 측정한다. 지식 검사는 사실과 개념 이해를, 개방형 에세이는 개념 간 관계 분석 같은 고차원 기술을 겨냥한다. 에세이는 인간과 AI 채점관이 평가하고 길이, 가독성, 어휘 다양성, 유사도, AI 생성 판정 비율 같은 객관 지표도 병행했다.

사용 준수는 감독관 관찰, ChatGPT 대화 로그, 자기보고로 추적했고, AI 허용군의 약 68%가 실제로 AI를 사용했다.

연구 결과

AI 접근은 즉시 지식 검사 점수를 0.27 표준편차 높였고, 이 격차는 1주일 후에도 유지되었다.

에세이는 달랐다. AI를 쓰는 동안의 질은 거의 변하지 않았지만, 1주일 후 무지원 에세이에서는 문체와 관련성이 개선되었다. 이 지연 이득은 증강 사용자, 즉 AI에 설명을 요청한 학생에게 집중되었고, 자동화 사용자의 단기 질 이득은 AI가 제거되자 사라졌다.

메커니즘으로 저자들은 두 가지를 보고한다. 학생들은 시간을 텍스트 작성에서 읽기와 정보 검색으로 재배분했고, 학습 즐거움이 더 컸다고 보고했다.

결론 및 의의

이 연구의 발견은 세 가지다. 첫째, 적어도 이 과제 환경에서는 시중 AI가 학습을 해치지 않고 지식 습득을 오히려 높였다. 둘째, 효과는 1주일 뒤에도 남았다. 셋째, 결과를 가르는 것은 사용 여부보다 사용 방식이다.

이론적으로 이는 오프로딩 가설의 조건부 버전을 제시한다. 자동화 사용은 인지적 오프로딩의 손실을 보이지만, 증강 사용은 개념 처리를 심화한다. 가드레일 유무를 강조한 선행 실험(Bastani et al.)의 결론은 사용 유형의 분해로 보면 이 결과와 충돌이라기보다 다른 조건의 결과로 읽힌다.

적용에서, 수업 설계와 교육정책의 핵심 쟁점이 ‘허용 대 금지’가 아니라 ‘어떤 사용을 유도할 것인가’로 옮겨간다는 시사를 준다. 다만 어떤 지도가 증강 사용을 실제로 유도하는지, 그런 지도의 효과는 이 연구가 검증하지 않았다. 검증되지 않은 적용이다.

한계는 소규모(211명)·단일 기관 표본, 일회성 과제, 1주일의 짧은 추적, 그리고 증강·자동화 구분이 무작위 배정이 아니라 학생의 자기선택이라는 점이다. 후속 연구는 사용 유형을 직접 개입하는 실험, 더 긴 추적, 다양한 과목과 맥락이 필요하다.

참고문헌

Contractor, Z., & Reyes, G. (2026). Experimental evidence on the learning impact of generative AI (IZA Discussion Paper No. 18792). IZA@LISER Network. https://docs.iza.org/dp18792.pdf

IZA 디스커션 페이퍼(2026년 7월)로 동료심사를 거치지 않았다. 증강·자동화 사용자 구분은 무작위 배정이 아닌 관찰된 자기선택이다. 본문은 해당 논문의 연구와 그로부터 도출한 해석만을 다룬다.

AI 활용 내역

이 글은 AI(Instinct AI 어시스턴트)를 활용하여 논문의 핵심 내용을 분석·요약하고, 한국어 리뷰 원고를 작성하였습니다. 최종 검토 및 발행은 블로그 운영자가 수행합니다.

← Blog

Donghun Chung, Kwangwoon University, Seoul, Korea에서 더 알아보기

지금 구독하여 계속 읽고 전체 아카이브에 액세스하세요.

계속 읽기