AI 기본법과 CSO -- 무엇을 준비해야 하나
AI 기본법 개요
“인공지능 발전과 신뢰 기반 조성 등에 관한 법률”(약칭: AI 기본법)은 2026년 1월 22일부터 시행되었습니다. 한국은 이 법을 통해 AI 기술의 활용을 촉진하면서도, AI가 사회에 미치는 위험을 관리하기 위한 기본 틀을 마련했습니다.
이 법은 AI의 개발과 활용에 관한 기본 원칙, 고영향 AI에 대한 규제, AI 의사결정의 투명성과 설명가능성 요구, 그리고 AI 관련 기록의 보존 의무를 규정하고 있습니다.
CSO를 포함한 제약 영업 분야에서 AI를 활용하여 타깃 의료기관 선정, 영업 경로 최적화, 처방 패턴 분석 등을 수행하는 경우, 이 법의 적용을 받게 됩니다.
CSO에 적용되는 조항
CSO 영업에 직접적으로 관련되는 주요 조항은 다음과 같습니다:
- 제10조 (고영향 AI 사전평가): 사람의 생명, 신체, 건강에 중대한 영향을 미칠 수 있는 AI는 사전 영향평가를 실시해야 합니다.
- 제15조 (투명성 의무): AI를 이용하여 의사결정을 내리는 경우, 그 사실과 AI의 역할을 이해관계자에게 고지해야 합니다.
- 제16조 (기록 보존): AI 시스템의 의사결정 과정, 입출력 데이터, 학습 데이터에 관한 기록을 5년간 보존해야 합니다.
- 제18조 (설명 요구권): AI 의사결정의 영향을 받는 사람은 그 결정에 대한 설명을 요구할 수 있습니다.
고영향 AI 분류
AI 기본법은 AI를 영향도에 따라 분류하며, 의료 관련 AI는 “고영향 AI”로 분류될 가능성이 높습니다.
CSO 영업에서 고영향 AI에 해당할 수 있는 사례:
- 처방 패턴 분석: AI가 의료인의 처방 데이터를 분석하여 타깃 병원을 선정하는 경우
- 약물 추천 알고리즘: AI가 특정 의약품의 처방 가능성을 예측하여 영업 우선순위를 결정하는 경우
- 영업사원 성과 평가: AI가 영업사원의 실적을 분석하여 인사 결정에 영향을 미치는 경우
고영향 AI로 분류되면 사전 영향평가, 정기 점검, 기록 보존, 투명성 보고 등 추가적인 의무가 부과됩니다.
5년 문서화 보관 의무
AI 기본법 제16조에 따라, AI를 활용한 의사결정에 관한 다음 기록을 5년간 보존해야 합니다:
- AI 시스템의 입력 데이터와 출력 결과
- 의사결정 과정의 로그 (어떤 기준으로 어떤 결정을 내렸는지)
- AI 모델의 버전 정보 및 학습 데이터 출처
- 인간 검토자의 개입 내역 (인간이 AI 결정을 수정한 경우)
- AI 시스템의 성능 평가 결과
이 의무는 CSO 신고제의 5년 서류 보관 의무와 동일한 기간이며, 두 규제를 통합적으로 관리하면 효율적입니다.
AI 활용 시 사전 고지 의무
AI 기본법 제15조에 따라, AI를 이용하여 의사결정을 내리는 경우 이해관계자에게 다음 사항을 고지해야 합니다:
- AI가 의사결정 과정에 사용되고 있다는 사실
- AI의 역할과 범위 (보조인지, 자동 결정인지)
- AI 의사결정에 대한 설명을 요구할 수 있다는 사실
- 인간 검토를 요청할 수 있다는 사실
예를 들어, CSO가 AI를 활용하여 의료기관 방문 우선순위를 결정하고 이를 영업사원에게 배분하는 경우, 영업사원에게 AI 활용 사실을 고지해야 합니다. 또한 AI가 제약사에게 영업 성과 보고서를 자동 생성하는 경우에도 고지 대상이 될 수 있습니다.
CSO가 지금 준비해야 할 것
1. AI 활용 현황 점검
현재 CSO 운영에서 AI가 활용되고 있는 영역을 파악하세요. 엑셀 매크로나 간단한 자동화도 AI 기본법의 적용 범위에 포함될 수 있습니다.
2. 기록 체계 수립
AI 의사결정의 입출력과 과정을 기록하는 체계를 마련하세요. 수기 기록보다는 자동화된 로깅 시스템이 5년 보관에 적합합니다.
3. 고지 절차 수립
AI 활용 사실을 이해관계자에게 고지하는 절차와 양식을 마련하세요. 계약서에 AI 활용 관련 조항을 추가하는 것도 방법입니다.
4. 인간 검토 프로세스 설계
AI 의사결정에 대한 인간 검토 프로세스를 설계하세요. 고영향 결정(대규모 예산 배분, 인사 결정 등)에는 반드시 인간 검토 단계를 포함해야 합니다.
5. 통합 관리 체계
CSO 신고제(5년 서류 보관), K-Sunshine Act(지출 보고), AI 기본법(5년 기록 보존)을 통합적으로 관리하는 체계를 구축하면 중복 작업을 줄이고 규제 대응 효율을 높일 수 있습니다.
Cronozen DPU로 AI 기본법 대응
Cronozen의 DPU(Decision Proof Unit)는 AI 기본법이 요구하는 기록 보존 의무를 자동으로 충족합니다:
- 모든 의사결정 과정을 SHA-256 해시체인에 불변 기록
- 5단계 거버넌스: 정책 존재, 증거 수준, 인간 검토, 리스크 임계, 이중 승인
- append-only 감사 로그 -- 기록의 변조가 구조적으로 불가능
- JSON-LD v2 형식의 감사 패키지 내보내기
- CSO 신고제, K-Sunshine Act 기록과 통합 관리
AI 기본법의 5년 보관 의무, CSO 신고제의 5년 서류 보관 의무를 하나의 플랫폼에서 통합 관리하세요.