국제표준 ISO 3691‑4(무인지게차·AMR·AGV 안전 요건)를 검토 중이라면, 자동차 업계의 AI 안전 표준인 ISO 21448 (SOTIF), ISO/PAS 8800 (자동차 AI 시스템 안전 라이프사이클)이 주는 교훈을 함께 살펴볼 필요가 있습니다.
두 표준은 ‘고장이 없는데도 위험이 발생할 수 있는’ AI 특유의 문제를 정교하게 다룹니다. 협회원 여러분께서는 아래 다섯 가지 포인트를 참고하시어 물류 로봇의 설계·검증·운영 절차를 보강하시길 권장합니다.
1. 라이프사이클 기반 안전관리 체계 마련
ISO/PAS 8800는 기획‑개발‑검증‑운용‑폐기까지 AI 시스템 전 생애주기에 걸쳐 위험을 추적·관리하도록 요구합니다. AMR·AGV도 동일하게 ‘기획 단계 위험 가설 → 설계 단계 대책 → 현장 데이터로 재점검’이라는 피드백 고리를 문서화해야 합니다.
2. 고장뿐 아니라 ‘기능 부족’(SOTIF)까지 분석
ISO 21448은 센서 오인식·알고리즘 한계·사용자 오용처럼 정상 동작이라도 위험할 수 있는 상황(기능 부족)을 별도로 다룹니다. “라인 마킹이 지워진 구역” “작업자가 예기치 않게 끼어드는 구획” 등 의도된 사용범위 안에서 일어날 수 있는 위험 시나리오를 ISO 3691‑4 HARA와 별도로 식별·평가해야 합니다.
3. 운용 중 실시간 모니터링과 자동 완화 전략
ISO/PAS 8800는 Out‑of‑Distribution(OoD) 입력, 개념 드리프트 등을 감지해 안전 모드로 전환하거나 클라우드 분석으로 개선하도록 권고합니다. 로봇플릿 관리자라면 차량‑내 이상감시, 중앙 서버 로그 분석, OTA 업데이트 절차를 결합해 위험 징후를 조기에 차단하는 체계를 구축해야 합니다.
4. 시나리오 기반 V&V, 출고 이후까지
자동차 표준은 가상 시뮬레이션 → HIL/SIL 시험 → 트랙·현장 테스트 → 출고 후 현장 검증까지 단계별로 검증을 반복합니다. AMR·AGV도 실험실‑시뮬레이션 환경뿐 아니라 실제 공장·창고에서 시나리오 커버리지를 측정하며 KPI를 주기적으로 확인해야 합니다.
5. 독립적 검토와 Safety Case
ISO 표준은 모든 안전 산출물을 개발팀과 분리된 조직이 단계별(I1~I3)로 검토하도록 요구합니다. AGV·AMR 프로젝트에서도 설계팀과 별개의 품질·안전팀이 Safety Case를 작성·검토하도록 절차화하면, 고객·인증기관이 신뢰할 수 있는 근거를 확보할 수 있습니다.
맺음말
AI 기반 AMR·AGV의 안전은 기존 기능안전이 다뤄왔던 ‘단순 고장 대비’만으로는 충분하지 않습니다. 라이프사이클‑기반 관리 → 기능 부족 분석 → 운용 중 모니터링 → 단계별 시나리오 V&V → 독립적 Safety Case의 다섯 단계를 체계화하면, ISO 3691‑4 요구사항을 넘어서는 높은 수준의 AI 안전성을 확보할 수 있습니다.