업무에 AI를 도입하려면 어디서 시작할까요? 가치와 한계를 확인하는 30일 실험

1. 담당자와 경계가 분명한 작업 하나를 고르세요

승인된 서비스 자료로 답변 초안을 만들거나, 식별 정보를 제거한 문의 예시를 분류하거나, 기존 양식으로 문서 개요를 작성하는 작업을 검토할 수 있습니다. 담당자는 어느 자료가 기준인지, 해당 도구에 데이터를 넣어도 되는지 알아야 합니다.

‘고객 응대를 돕는다’보다 ‘이 문서를 근거로 서비스 범위 답변을 작성하고, 발송 전 직원이 승인한다’처럼 정의하세요. 제외할 결정도 명시합니다. AI가 보증 조건이나 가격을 만들거나 권한자의 예외 승인을 대신해서는 안 됩니다.

2. 속도보다 완성된 결과의 품질을 확인하세요

10초 만에 만든 초안이 10초 만에 끝난 업무는 아닙니다. 출처 확인, 사실 수정, 문장 재작성 시간을 포함해 검토자가 결과를 받아들이기까지 걸린 시간을 측정하세요.

일반적인 문의, 애매한 질문, 제공된 자료로 답할 수 없는 상황을 시험에 넣습니다. 정확성, 누락, 근거 없는 추가 내용, 말투를 확인하고 공개를 막아야 할 오류와 가벼운 문장 수정을 구분하세요. 유창하더라도 근거 없는 답변은 성공으로 계산하지 않습니다.

3. 책임과 중단 조건을 시험에 포함하세요

NIST AI RMF는 Govern, Map, Measure, Manage의 네 기능으로 위험 관리 활동을 정리합니다. ^[1] 작은 시험에서는 책임자, 사용 맥락, 검토 방법, 문제 발견 후 조치를 묻는 틀로 활용할 수 있습니다.

생성형 AI에 관한 자율적 보완 지침도 있습니다. ^[2] 이를 참고했다는 사실이 인증이나 모든 규정의 준수를 의미하지는 않습니다. 조직의 정책, 도구 설정, 실제 데이터를 별도로 검토해야 합니다. 누가 지시문을 바꾸고 자료를 승인할지, 어떤 오류가 반복되면 멈출지도 정하세요.

4. 30일의 각 단계에 확인할 질문을 두세요

첫 주에는 현재 작업과 판단 기준을 정리합니다. 둘째 주에는 제한된 시험 문항으로 검토합니다. 셋째 주에는 실제 사용자가 모든 결과를 검토받으며 시험하고, 넷째 주에는 품질, 전체 소요 시간, 검토 부담, 비용을 비교합니다. 작업 빈도와 위험에 맞게 기간을 조정하세요.

지시문, 참고 자료, 평가 기준을 동시에 바꾸면 결과가 달라진 이유를 알기 어렵습니다. 버전과 변경 이유를 짧게 기록하고, 중요한 수정 뒤에는 같은 어려운 사례를 다시 시험하세요.

5. 완료된 업무를 근거로 다음 단계를 정하세요

시간이 줄어도 중대한 오류가 늘었다면 확대할 근거가 충분하지 않습니다. 품질은 괜찮지만 검토자가 감당하기 어렵다면 사용자 수를 늘리기 전에 범위를 줄이세요. 결과가 안정적이라면 안내서와 책임자를 갖춰 한 그룹씩 확대할 수 있습니다.

필요한 역량은 도구 조작뿐 아니라 문제 정의, 자료 검증, 업무 설계일 수 있습니다. 개발 중인 K-XCEL Professional을 통해 역량 개발을 논의할 수 있으며, 현재 운영 여부와 범위는 팀에 확인해야 합니다. 교육 후 적용은 학습을 실제 업무로 연결하는 방법을 참고하세요.

시험을 시작하기 전에

확인 가능한 작업 하나부터 시작하세요. AI를 쓰지 않거나 잠시 멈추는 판단도 잘 설계된 업무 과정의 일부입니다.