
야간 무인 라인이 늘고 있다. 사람이 없는 시간에 AI가 설비를 보고, 이상이 나면 멈추거나 알림을 보낸다. 그런데 막상 무인 운전을 시작하려 하면, 기술보다 먼저 막히는 게 있다. AI가 멈췄을 때, 그 결정을 누가 책임지느냐는 질문이다. 설비가 멈춰서 납기가 밀리면 누구 탓인가. AI가 멈추지 않아서 사고가 나면 누구 탓인가. 이 질문에 답이 없으면, 무인 운전은 시작도 하기 전에 멈춘다.
7년차 현장 엔지니어로서, 무인 운전의 첫 단계는 AI를 똑똑하게 만드는 일이 아니라, AI가 멈췄을 때의 책임을 정하는 일이다. 기술은 준비됐는데 책임이 안 정해지면, 현장은 무인 운전을 "안 하는 것"으로 결정한다. 그래서 오늘은 무인 운전 전에 정할 3가지를 정리한다.
## 1. 첫 번째로 정할 것 — AI의 권한 범위
AI가 할 수 있는 일과 할 수 없는 일의 경계다. 경보를 울리는 것까지인지, 설비를 직접 멈추는 것까지인지. 권한이 넓을수록 무인 운전은 편해지지만, 잘못된 판단의 파급도 커진다. 그래서 권한은 단계로 나눈다. 처음에는 "알림만", 안정되면 "조건부 정지", 그 다음에야 "자동 정지"다.
권한을 단번에 넓히면, 첫 오판이 곧바로 라인 정지로 이어진다. 반대로 권한을 너무 좁게 잡으면, 밤새 경보만 울리고 아무도 안 와서 결국 사람이 상주하는 것과 다를 바 없어진다. 권한의 단계는 현장의 신뢰가 쌓이는 속도에 맞춘다. 한 단계에서 한 달을 돌려보고, 오판이 기준 안에 들면 다음 단계로 간다.
## 2. 두 번째로 정할 것 — 멈췄을 때의 책임자
AI가 설비를 멈추면, 그다음 행동은 사람이 한다. 그런데 밤 2시에 멈췄다면 누구에게 연락하나. 당직자 한 명에게만 맡기면, 그 사람이 못 받을 때 라인은 멈춘 채로 아침을 맞는다. 책임자는 한 명이 아니라 순서다. 1차 당직, 2차 관리자, 3차 외부 지원 — 이렇게 순서를 정하고, 각 단계마다 "몇 분 안에 응답이 없으면 다음으로 넘어간다"는 시간을 정해둔다.
책임의 순서와 시간이 없으면, 무인 라인은 "아무도 책임지지 않는 라인"이 된다. 반대로 순서가 있으면, 멈춘 설비는 몇 분 안에 사람의 손으로 넘어간다. 무인 운전은 사람이 없어도 되는 운전이 아니라, 사람이 "언제 어떻게 개입하는지"가 정해진 운전이다.
## 3. 세 번째로 정할 것 — 멈추지 않았을 때의 기록
AI가 멈추지 않고 계속 돌렸는데 나중에 문제가 드러나면, 그 판단의 근거를 되짚을 수 있어야 한다. AI가 어떤 데이터를 보고 "계속 가도 된다"고 했는지, 그 기록이 없으면 책임 소재를 가릴 방법이 없다. 그래서 무인 운전 전에 정할 것은 로그다. 판단 근거가 되는 데이터, 경보 이력, AI의 판정 결과를 남기는 것.
기록이 있으면 사고 뒤에 원인을 찾을 수 있고, 다음 무인 운전의 기준을 고칠 수 있다. 기록이 없으면 같은 사고가 반복돼도 원인을 모른 채 "AI가 잘못했다"는 말만 남는다. 로그는 사고 뒤의 증거가 아니라, 다음 무인 운전을 안전하게 만드는 재료다.
## 그래서 뭘 하면 되나
무인 운전 검토표에 기술 항목 옆에 세 줄을 추가해 보자. 권한 범위가 단계로 정해져 있는가, 멈췄을 때 책임 순서와 시간이 정해져 있는가, 판단 기록을 남기고 있는가. 세 가지 중 하나라도 "아니오"라면, 그건 무인 운전을 시작할 단계가 아니라 책임을 정리할 단계다. AI가 멈추면 누가 책임지느냐는, AI가 도입되기 전에 사람이 정해둬야 할 질문이다.
관련 글: AI를 붙이기 전에 네트워크부터 — OT망에 AI를 연결할 때 먼저 막는 3가지 구멍(https://developer-archive.tistory.com/279), AI가 '멈춰'라는데 PLC는 '돌아가'라 한다 — 제어와 추론이 충돌할 때, 현장의 우선순위를 정하는 법(https://developer-archive.tistory.com/261), AI가 틀렸을 때가 아니라, AI를 '끄기로' 결정할 때가 더 어렵다 — 현장 AI 중단·롤백 판단법(https://developer-archive.tistory.com/265), 모델은 잘 돌아가는데, 현장 사람들이 안 쓴다 — 현장 AI '채택'을 가르는 3가지(https://developer-archive.tistory.com/276)
'산업 IoT & 스마트 팩토리 디지털트윈 > IoT 시스템 아키텍처' 카테고리의 다른 글
| AI를 붙이기 전에 네트워크부터 — OT망에 AI를 연결할 때 먼저 막는 3가지 구멍 (0) | 2026.11.20 |
|---|---|
| 디지털트윈이 현장과 같은 답을 내는지 확인하는 법 — 트윈 검증용 '골든 데이터셋' 만들기 (0) | 2026.11.18 |
| AI가 느린 게 아니라 네트워크가 느린 거였다 — 현장 AI 병목을 찾는 3단계 진단법 (2) | 2026.11.14 |
| 엣지 AI 장비, 공장 바닥에서 살아남는 법 — 먼지·발열·진동에 대한 현장 운영 노트 (0) | 2026.11.11 |
| 설비별 전력 데이터를 디지털트윈에 올리면 에너지 낭비가 보인다 (0) | 2026.11.10 |









