소개
중요한 단어는 “AI”가 아니라 “경영시스템”이다. 많은 조직은 AI를 기술 프로젝트로 출발 시키는 경향이 있다. 데이터를 모으고 모델을 만들고 성능을 맞추는 것이라고 생각하는 경향이 있다. 그러나 AI는 시간이 지나면 성능이 변하고, 사용 환경이 변하고, 이해 관계자의 기대가 변한다. 더구나 AI는 편의와 효율을 주는 동시에 설명 책임과 위험을 함께 가져온다. 그래서 AI는 “한 번 만들고 끝나는”것이 아니라 “운영하면서 관리해야 하는 체계”가 된다. 경영 시스템은 그 체계를 조직이 반복 가능하게 운영하기 위한 약속의 집합이다. 경영시스템의 핵심은 문서를 많이 만드는 것이 아니라, 의사결정의 기준을 고정하고 기록을 남기는 것이다. 기준이 고정되어야 사람이 바뀌어도 동일한 판단이 반복된다. 기록이 남아야 문제가 생겨도 원인과 조치가 설명되고, 개선이 돌아가야 다음 분기에는 같은 문제가 줄어든다. ISO/IEC 42001을 “어려운 표준”으로 느끼지 않기를 바란다. 이 표준은 새로운 기술을 강하게 통제하려는 문서가 아니라, 기술과 비즈니스가 함께 책임을 지도록 역할을 정리하는 문서다. 또한 이 표준은 대기업만을 위한 문서가 아니라, AI를 제공하거나 사용하는 모든 조직이 위험과 기회를 균형 있게 관리하도록 설계된 문서다. 특히 중소기업과 빠르게 성장하는 조직이 이 표준을 “운영의 지렛대”로 활용할 수 있다고 본다. 왜냐하면 작은 조직일수록 기준과 기록이 없을 때 의사 결정이 사람에 묶이기 쉽기 때문이다. ISO/IEC 42001 인증을 준비하는 과정에서 가장 흔한 실패는 “문서만 만들고 운영을 만들지 않는 것”이다. 두 번째 실패는 “운영은 하는데 기록이 남지 않는 것”이다. 세 번째 실패는 “범위가 흔들려서 인벤토리와 리스크가 서로 다른 세계를 가리키는 것”이다. 이 책은 그 세 가지 실패를 막기 위해 존재한다.