← Weekly Insight 전체 보기
· WEEKLY INSIGHT · KST

AI Paradox 5 · 우리 회사의 성공 공식이 가장 위험한 정답이 될 때

이곳에 있는 모든 자료는 누구나 읽고, 공감하고, 학습하고, 공유할 수 있습니다. 또한 연구실의 지적 자산이므로 공유할 시에는 출처를 밝혀 주시길 바랍니다.
출처: 한양대학교 교육공학과 송지훈 교수 PRO-AnalytiX (PRO-AX) Lab

과거 데이터로 학습한 AI는 조직의 지난 성공을 가장 그럴듯한 정답으로 추천합니다. 탐색과 활용의 균형 이론으로 그 위험을 살펴보고, 조직이 낡은 방식을 내려놓는 조건을 생각해 봅니다.

  • AI 역설
  • 탈학습
  • 탐색과 활용
4개 참고문헌 · 약 6분

핵심 요지

AI는 과거의 데이터에서 배웁니다. 그래서 조직이 지금까지 잘해 온 방식을 가장 정확하게, 가장 자신 있게 추천합니다. 환경이 바뀐 뒤에도 그렇습니다. 어제의 성공을 가장 잘 아는 도구가 내일의 변화를 가로막을 수 있습니다.

AI Paradox 5

01 · 과거가 미래를 추천할 때

가령 한 유통회사가 AI 상품 기획 시스템을 도입했다고 해 보겠습니다. 지난 10년 판매 데이터를 학습한 시스템은 매 시즌 “작년에 잘 팔린 상품의 변형”을 추천했고, 적중률도 높았습니다. 기획팀은 추천을 따르는 데 익숙해졌습니다.

3년 뒤, 젊은 고객층의 구매 방식이 크게 바뀌었을 때 회사는 대응이 늦었습니다. 새로운 시도를 해 본 데이터가 거의 없었기 때문입니다. 시스템은 끝까지 과거의 성공을 추천했고, 사람들은 그 추천을 의심하는 법을 잊고 있었습니다.

02 · 성공한 조직이 변화를 놓치는 이유

마치(March, 1991)는 조직학습을 탐색(exploration)과 활용(exploitation)의 긴장으로 설명했습니다. 활용은 이미 아는 방식을 다듬어 확실한 성과를 내는 것이고, 탐색은 불확실하지만 새로운 가능성을 찾는 것입니다. 활용은 성과가 빠르고 확실하니 조직은 점점 활용 쪽으로 기웁니다. 그러다 환경이 바뀌면 적응할 능력을 잃는 성공의 함정에 빠집니다.

03 · AI는 활용 쪽으로 저울을 기울인다

라이쉬와 크라코프스키(Raisch & Krakowski, 2021)는 자동화–증강의 역설을 제시했습니다. AI가 일을 대신하는 자동화와 사람과 AI가 함께 일하는 증강은 따로 떼어 고를 수 있는 선택지가 아니라 서로 맞물려 있고, 어느 한쪽에 치우치면 부정적인 결과가 되풀이되는 순환이 생긴다는 것입니다. 기계학습이 사람의 의사결정을 대신하면 조직의 일하는 방식은 다양성을 잃고, 사람이 맥락과 인과를 이해하며 쌓던 지식이 줄어들어 학습의 근시안이 심해질 수 있습니다(Balasubramanian et al., 2022).

그래서 AI 시대의 조직에는 낡은 지식과 관행을 의도적으로 내려놓는 학습 폐기(unlearning)가 더 중요해집니다(Klammer & Gueldenberg, 2019). 버려야 할 것은 데이터가 아니라 “이 방식이 늘 맞다”는 가정입니다.

04 · 익숙한 성공 공식을 다시 살펴보기

① AI 추천에 ‘반대 시나리오 1개’를 붙인다. 중요한 기획 회의에서는 AI 추천안과 함께 “추천과 정반대로 간다면 어떤 근거가 있는가”를 담은 대안 하나를 반드시 올립니다. 담당자는 돌아가며 맡습니다.

② 예산과 시간의 10%를 ‘탐색 몫’으로 떼어 둔다. 팀 목표 중 10%는 AI가 추천하지 않은 새로운 시도로 채웁니다. 이 몫은 성과 대신 “무엇을 알게 되었는가”로 평가합니다.

③ 분기마다 ‘버릴 관행 회의’를 연다. 팀이 1시간 모여 “3년 전에는 맞았지만 지금은 의심해 봐야 할 우리 팀의 원칙”을 세 개 고르고, 그중 하나를 다음 분기에 실험적으로 바꿔 봅니다.

④ 외부의 다른 눈을 정기적으로 들인다. 반기마다 다른 업계 실무자나 신입 사원이 우리 팀의 핵심 업무 방식을 보고 “이상해 보이는 것”을 말하는 리뷰 세션을 HRD가 주관합니다.

Insight Questions

  1. 우리 팀이 AI 추천을 의심해 본 마지막 순간은 언제였는가?
  2. 우리 조직의 목표에서 탐색을 위한 몫은 몇 퍼센트인가?
  3. 지금 우리가 믿고 있는 성공 공식 중 가장 먼저 낡을 것은 무엇인가?

References

Balasubramanian, N., Ye, Y., & Xu, M. (2022). Substituting human decision-making with machine learning: Implications for organizational learning. Academy of Management Review, 47(3), 448–465. https://doi.org/10.5465/amr.2019.0470

Klammer, A., & Gueldenberg, S. (2019). Unlearning and forgetting in organizations: A systematic review of literature. Journal of Knowledge Management, 23(5), 860–888. https://doi.org/10.1108/JKM-05-2018-0277

March, J. G. (1991). Exploration and exploitation in organizational learning. Organization Science, 2(1), 71–87. https://doi.org/10.1287/orsc.2.1.71

Raisch, S., & Krakowski, S. (2021). Artificial intelligence and management: The automation–augmentation paradox. Academy of Management Review, 46(1), 192–210. https://doi.org/10.5465/amr.2018.0072