지식의 인코딩과 경쟁인출 전략: AI 득인가? 독인가?

핵심 요약

KReC에서 지식 수정은 기존 생각과 새 정보가 함께 떠오르고, 둘이 연결된 뒤 새 설명이 더 잘 인출되는 과정입니다. 최근 연구를 보면 AI를 쓸 때의 높은 수행이 혼자서 해내는 학습이나 정확한 자기평가로 이어진다고 단정하기 어렵습니다. AI가 사용자에게 지나치게 동의해 판단에 영향을 줄 가능성도 제기됩니다. 다만 이 연구들이 KReC의 인지 과정이 실제로 약해졌음을 직접 확인한 것은 아닙니다. 이 글에서는 근거의 범위를 구분해 살펴보고, 기존 생각과 새 정보를 비교하고 자신의 이해를 점검하는 학습 설계를 제안합니다. 조직 혁신과의 관계는 더 검증해야 합니다.

지식의 인코딩과 경쟁인출 전략: AI 득인가? 독인가?

Kendeou, P. (2024). A theory of knowledge revision: The development of the KReC framework. Educational Psychology Review, 36(2), Article 44. 외 2024–2026년 연구 6편

지식 수정 이론 KReC(Knowledge Revision Components)를 기준으로, 생성형 AI가 사람의 비판적 사고, 메타인지, 학습, 추론, 판단, 창의성에 미치는 영향을 다룬 2024–2026년 연구 6편을 KReC의 세 조건에 비추어 읽었습니다. 질문은 하나입니다. AI를 쓰는 동안에도 지식이 고쳐지는 과정은 일어나고 있는가?

근거의 성격은 다양합니다. 무작위 실험과 사전등록 실험이 많지만 대부분 대학생·온라인 참여자가 하루 안에 수행한 과제입니다. 지식근로자 연구는 자기보고 설문입니다. 특히 이 연구들은 KReC의 지식 수정을 직접 측정하지 않았습니다. KReC로 엮어 읽는 것은 이 글의 해석입니다.

01 · KReC는 지식이 바뀌는 과정을 어떻게 설명하는가

Song과 Chermack(2008)은 개인의 학습과 조직의 지식 형성을 연결하며, 개인 지식이 축적되고 조직문화에 내재화되는 과정의 중요성을 논의합니다. 이 글이 들여다보는 것은 그 출발점인 개인의 학습, 그중에서도 기존의 잘못된 지식을 수정하는 과정입니다. Kendeou(2024)가 정리한 KReC는 읽기 중 지식 수정을 다섯 원리로 설명합니다. 해당 논문이 정리한 경험적 연구는 55개 실험, 4,859명의 참여자를 포함합니다(표 2, p. 9).

구분	원리	뜻
가정	부호화(encoding)	KReC는 장기기억에 저장된 정보가 단순히 지워지거나 교체되지 않으며, 다시 활성화될 가능성이 남는다고 가정한다.
가정	수동적 활성화(passive activation)	지금 다루는 내용과 관련된 정보는, 도움이 되든 방해가 되든 의도적인 인출 없이도 활성화될 수 있다.
조건 ①	공동활성화(co-activation)	옛 생각과 새 정보가 동시에 떠올라야 “어, 내가 알던 것과 다르네”라는 불일치를 알아챈다. 수정의 필요조건이다.
조건 ②	통합(integration)	부딪친 두 생각을 하나의 기억망으로 엮는다.
조건 ③	경쟁적 활성화(competing activation)	새 설명의 근거와 연결이 많아질수록 새 설명이 활성을 끌어가고, 옛 생각은 뒤로 밀린다.

KReC는 지식 수정을 이전에 가졌던 잘못된 지식의 측정 가능한 활성화가 제거되는 것으로 조작적으로 정의합니다(Kendeou, 2024, p. 10). 틀린 생각의 기억 흔적이 삭제되었다는 뜻은 아닙니다. 새 설명의 연결이 풍부해지면서 잘못된 지식의 재활성화와 이해에 대한 간섭이 줄어드는지를 살핍니다. 여기서 경쟁적 활성화는 기억 속 정보들 사이의 활성화 경쟁을 말하며, 사람이 의식적으로 반박하거나 논쟁하는 활동과는 다릅니다. “반박은 만나게 하고, 설명은 이기게 한다”는 표현은 이를 이해하기 위한 비유입니다.

조건 ① · 만남

공동활성화

옛 생각과 새 정보가 동시에 떠올라야 불일치를 알아챕니다.

옛 지식

새 지식

조건 ② · 엮임

통합

부딪친 두 생각을 하나의 기억망으로 엮고, 새 설명에 근거와 사례를 잇습니다.

옛 지식

새 지식

조건 ③ · 이김

경쟁적 활성화

연결이 촘촘해진 새 설명이 활성을 끌어가 먼저 떠오릅니다.

옛 지식

새 지식

→ 잘못된 지식의 재활성화·간섭 감소

그림 1. KReC에서 새 설명의 연결이 풍부해지며 기존의 잘못된 지식에 의한 간섭이 줄어드는 과정. 이 그림에서 회색의 ‘옛 지식’은 수정 대상인 잘못된 지식, 파란색의 ‘새 지식’은 이를 교정하는 정보를 뜻합니다. 막대는 개념을 설명하기 위한 것으로 실측값이나 지식 수정의 판정 기준이 아닙니다. Kendeou(2024)의 KReC를 바탕으로 재구성했습니다.

02 · AI 활용과 인지 과정에 관한 최근 연구

연구	대상 · 설계	핵심 결과
Lee et al. (2025), CHI	지식근로자 319명, 업무 사례 936건, 자기보고 설문	생성형 AI에 대한 신뢰가 높을수록 비판적 사고를 덜 했다고 보고했고, 해당 과제를 수행할 자기 능력에 대한 확신이 높을수록 더 했다고 보고했습니다. 이는 상관관계입니다. 질적 분석에서는 정보 검증, 응답 통합, 과업 관리(task stewardship)가 주요 비판적 사고 활동으로 나타났습니다.
Fan et al. (2025), BJET	대학생 117명, 무작위 실험(ChatGPT·인간 전문가·작문 분석 도구·지원 없음)	ChatGPT 집단은 에세이 점수 향상이 가장 컸지만 지식 획득과 전이에서는 다른 집단과 유의한 차이가 없었습니다. 저자들은 이를 “메타인지적 게으름(metacognitive laziness)”의 위험으로 해석합니다.
Bastani et al. (2025), PNAS	튀르키예 한 고등학교의 학생 약 1,000명, 학급 단위 무작위 현장 실험	GPT-4 기반 ‘GPT Base’ 집단은 통제집단보다 연습 점수가 48% 높았지만, AI 없는 시험 점수는 17% 낮았습니다(상대적 차이). 힌트 제공 지시와 교사가 제공한 정확한 풀이·흔한 오류·피드백 정보를 결합한 ‘GPT Tutor’에서는 이 부정적 효과가 대부분 완화되었습니다. Tutor 집단의 AI 없는 시험 점수는 통제집단보다 유의하게 높지는 않았습니다.
Fernandes et al. (2026), CHB	참여자 246명(Study 1), 452명(Study 2 재현), LSAT 논리추론 20문항	Study 1에서 AI 사용 집단은 기존 연구의 비사용 기준 집단보다 약 3점 높은 수행을 보였지만, 자신의 AI 보조 수행 점수를 약 4점 과대평가했습니다. AI 리터러시와 메타인지 정확도 사이에는 작은 부적 상관이 보고되었습니다. 저자들의 모형 분석에서는 이 과제의 전형적인 더닝-크루거 패턴이 AI 사용 집단에서 관찰되지 않았습니다.
Cheng et al. (2026), Science	연구 당시 주요 AI 모델 11종 분석 + 사전등록 실험 3개(2,405명)	연구에서 분석한 개인적 조언 질의에서 AI는 사람보다 사용자의 행동을 평균 49% 더 자주 긍정했습니다. 아첨하는 AI와 한 번 상호작용한 것만으로도 참여자는 책임을 지고 대인 갈등을 바로잡으려는 의지가 줄고 자신이 옳다는 확신이 커졌습니다. 그런데도 참여자들은 그런 AI를 더 신뢰하고 선호했습니다.
Doshi & Hauser (2024), Science Advances	온라인 무작위 실험, 일반 참여자 293명의 8문장 이야기 쓰기·600명의 평가	AI 아이디어에 접근할 수 있었던 참여자의 이야기는 평균적으로 더 창의적이고 잘 쓰였다고 평가받았지만, 이야기끼리는 서로 더 비슷해졌습니다. 이는 해당 과제의 결과물 평가와 다양성에 관한 결과이며, 개인의 창의적 능력의 지속적 향상이나 조직 혁신의 감소를 측정한 것은 아닙니다.

지금 알아둘 점 · 근거의 성격: 수행을 측정한 여러 연구에서 AI를 쓰는 동안의 결과물은 개선되었습니다. 하지만 그 향상이 AI 없는 시험 성적(Bastani et al., 2025)이나 정확한 자기평가(Fernandes et al., 2026)로 반드시 이어지지는 않았습니다. GPT Tutor의 결과는 학습 지원 설계가 중요함을 시사하지만, 힌트 제공만의 효과로 분리할 수 없습니다. Lee 등의 연구는 과제별 자기 확신과 비판적 사고의 자기보고 간 관련성을 보여 주며, 인과관계나 객관적인 사고 능력의 변화를 입증하지 않습니다. 대부분 단기 과제의 결과여서 장기 효과는 알 수 없습니다. KReC 역시 주로 젊은 성인이 글을 읽는 상황에서 단순한 사실 오개념의 수정을 설명하는 이론이므로, 조직의 신념이나 가치까지 그대로 적용할 수는 없습니다(Kendeou, 2024).

03 · KReC로 다시 읽기: 지식 수정을 돕기 위해 점검할 세 조건

DrSong Opinion · 지식 수정의 관점에서 위 연구들은 KReC의 공동활성화·통합·경쟁적 활성화가 실제로 약화되거나 생략되는지를 직접 측정하지 않았습니다. 다음은 연구 결과를 바탕으로 제안하는 학습 설계의 질문과 검증이 필요한 가설입니다.

① 공동활성화: 기존 생각과 새 정보의 불일치를 충분히 살피는가? KReC에 따르면 AI의 답을 읽는 동안에도 기존 지식은 수동적으로 활성화될 수 있습니다. 자기 답을 먼저 쓰는 것이 공동활성화의 필수 절차는 아닙니다. 다만 AI를 신뢰할수록 비판적 사고를 덜 했다고 보고한 결과(Lee et al., 2025)와 아첨하는 AI가 자신이 옳다는 확신을 높인 결과(Cheng et al., 2026)는, 사용자가 다른 근거를 충분히 검토하는지 점검할 필요성을 시사합니다. 자기 생각을 먼저 정리하는 활동은 이러한 대조를 돕기 위한 교육적 제안이며, 공동활성화에 미치는 효과는 따로 확인해야 합니다.

② 통합: 결과물의 개선이 자신의 이해와 독립 수행으로 이어지는가? Fan et al.(2025)의 결과는 ChatGPT 집단의 지식 획득과 전이가 다른 집단보다 유의하게 높지 않았다는 뜻이며, 학습이나 통합이 없었다는 뜻은 아닙니다. Bastani et al.(2025)에서는 GPT Base 집단이 AI 없는 시험에서 통제집단보다 낮은 성적을 보였지만, 그 원인이 기억의 통합 실패인지 직접 측정하지는 않았습니다. 두 연구는 AI로 과제를 잘 마쳤다는 사실만으로 추가적인 학습 효과를 판단해서는 안 됨을 시사합니다. 자신의 말로 설명하게 하거나 AI 없이 관련 문제를 풀게 해서 이해를 따로 점검하는 절차가 필요합니다.

③ 경쟁적 활성화: 교정된 설명이 이후에도 잘 인출되는가? KReC는 새 정보의 양과 연결성이 증가하면 잘못된 지식의 재활성화와 간섭이 줄어들 수 있다고 설명합니다. 이는 의식적인 근거 비교와 동일한 과정이 아니라, 기억의 활성화 수준에서 설명되는 기제이기 때문에 별도의 측정이 필요합니다. 비판적 검토가 적다고 경쟁적 활성화가 없었다고 판단할 수는 없습니다. Fernandes et al.(2026)의 수행 과대평가는 자기평가의 부정확성을 보여 주지만, 기억의 인출 경쟁이나 지식의 지속성을 측정한 결과는 아닙니다. 근거와 원인 설명을 연결하는 학습 활동이 이후의 정확한 인출을 돕는지는 지연 검사와 전이 과제로 검증할 과제입니다.

이 관점에서 보면 해야 할 일은 오류를 확인하고 정확한 교정 정보와 설명을 연결하는 것입니다. 잘못된 정보에 노출되는 것 자체가 무해하다는 뜻은 아닙니다. KReC는 기존의 잘못된 지식과 이를 교정하는 정보가 함께 활성화되는 것을 지식 수정의 필요조건으로 봅니다. AI의 답을 검토할 때에는 기존 생각과 다른 부분뿐 아니라, 어느 쪽이 신뢰할 만한 근거에 의해 뒷받침되는지도 확인해야 합니다.

04 · 왜 혁신의 문제인가

DrSong Opinion · 조직의 지식 형성과 혁신의 관점에서 Song과 Chermack(2008)은 개인의 학습을 조직의 지식 형성과 연결하며 개인 지식의 축적과 조직문화 내 내재화를 강조합니다. 이 관점에서 AI 사용 중 개인이 무엇을 이해하고 학습하는지는 조직 차원에서도 살펴볼 문제입니다. Doshi & Hauser(2024)의 실험에서는 AI 아이디어에 접근한 참여자의 짧은 이야기가 평균적으로 더 높은 창의성 평가를 받으면서도, 이야기 간 유사성이 커졌습니다. 이 결과가 조직의 아이디어 다양성이나 혁신 성과의 감소를 직접 입증하지는 않습니다. 다만 AI 활용 과정에서 결과물의 품질과 다양성을 함께 점검할 필요성을 제기합니다. 앞선 Weekly Insight에서 제안한 생성적 인지 멈춤(GCP), 곧 AI를 쓰기 전에 자기 생각과 판단 근거를 먼저 만들어 보는 활동도 이러한 관점에서 검토할 수 있습니다. 이는 기존 생각과 AI의 답을 대조하도록 돕기 위한 설계 제안이며, 공동활성화의 필수 절차나 검증된 혁신 촉진 방법은 아닙니다. 팀원이 각자 아이디어를 먼저 쓴 뒤 AI를 활용했을 때 다양성과 결과물의 품질이 어떻게 달라지는지는 앞으로 확인해야 할 부분입니다.

05 · HRD가 할 수 있는 일

아래는 연구에서 확인된 결과를 바탕으로 제안하는 실천 방향입니다. 개별 활동이 KReC의 인지 과정이나 조직 성과에 미치는 효과는 적용 현장에서 따로 평가해야 합니다.

기존 생각과 새 정보의 대조를 돕는다. AI에게 묻기 전에 자기 가설과 근거를 짧게 적고, 답을 읽은 뒤 달라진 부분을 비교하게 합니다. Lee et al.(2025)이 이 활동의 효과를 검증한 것은 아니며, 공동활성화의 필수 절차로 볼 수도 없습니다.
AI에게 반대 근거를 요청하고 출처를 확인한다. Cheng et al.(2026)의 개인적 조언 맥락에서는 AI의 과도한 동의가 관찰되었습니다. “내 생각의 약점과 반대 근거를 찾아라”는 요청을 활용하되, AI가 제시한 반박도 원문 자료와 대조하게 합니다. 이 요청만으로 아첨이 해소된다고 보장할 수는 없습니다.
받아들인 이유와 고친 이유를 설명하게 한다. AI 결과물을 제출할 때 원래 생각과 무엇이 달랐고 어떤 근거로 수정했는지 자기 말로 쓰게 합니다. 기존 지식과 새 설명의 연결을 돕기 위한 제안이며, 기록만으로 통합이 일어났다고 판단하지 않습니다.
오류 검토 후 정확한 설명을 확인하게 한다. 오류가 포함된 AI 결과물을 검토하고, 검토가 끝나면 정확한 교정 내용과 근거를 제공하는 교육 과제를 설계합니다. 인용한 연구들만으로 이 훈련의 효과가 확인된 것은 아니므로, 새로운 과제와 지연 검사에서 오류 발견과 설명 능력을 평가합니다.
힌트와 검증된 풀이·피드백을 결합한 학습용 AI를 설계한다. Bastani et al.(2025)의 GPT Tutor는 이 요소들을 함께 적용했을 때 GPT Base에서 나타난 시험 성적 저하를 대부분 완화했습니다. 힌트 하나의 효과로 해석하지 말고, AI 없는 평가로 학습 효과를 확인합니다.
팀의 아이디어 품질과 다양성을 함께 점검한다. 각자의 안을 먼저 작성한 뒤 AI를 활용하는 방식을 시도하고 결과를 비교합니다. Doshi & Hauser(2024)의 이야기 쓰기 실험에서 관찰된 유사성 증가가 실제 팀의 아이디어와 혁신 성과에서도 나타나는지는 별도로 검증해야 합니다.

Insight Questions

우리 구성원은 AI에게 묻기 전에 자기 생각을 먼저 꺼내 놓고 있는가?
우리 조직은 AI가 틀렸을 때 그것을 발견한 사람을 알아보고 인정하고 있는가?
우리는 AI로 만든 결과물의 품질과 함께 AI 없이 설명하고 적용할 수 있는 이해도 확인하는가?

References

Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. Proceedings of the National Academy of Sciences, 122(26), e2422633122. https://doi.org/10.1073/pnas.2422633122

Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352. https://doi.org/10.1126/science.aec8352

Doshi, A. R., & Hauser, O. P. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances, 10(28), eadn5290. https://doi.org/10.1126/sciadv.adn5290

Fan, Y., Tang, L., Le, H., Shen, K., Tan, S., Zhao, Y., Shen, Y., Li, X., & Gašević, D. (2025). Beware of metacognitive laziness: Effects of generative artificial intelligence on learning motivation, processes, and performance. British Journal of Educational Technology, 56(2), 489–530. https://doi.org/10.1111/bjet.13544

Fernandes, D., Villa, S., Nicholls, S., Haavisto, O., Buschek, D., Schmidt, A., Kosch, T., Shen, C., & Welsch, R. (2026). AI makes you smarter but none the wiser: The disconnect between performance and metacognition. Computers in Human Behavior, 175, 108779. https://doi.org/10.1016/j.chb.2025.108779

Kendeou, P. (2024). A theory of knowledge revision: The development of the KReC framework. Educational Psychology Review, 36(2), Article 44. https://doi.org/10.1007/s10648-024-09885-y

Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. In Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (pp. 1–22). ACM. https://doi.org/10.1145/3706598.3713778

Song, J. H., & Chermack, T. J. (2008). A theoretical approach to the organizational knowledge formation process: Integrating the concepts of individual learning and learning organization culture. Human Resource Development Review, 7(4), 424–442. https://doi.org/10.1177/1534484308324983