이미지 확대보기위 사진은 AI(인공지능)를 활용해 생성된 가상의 이미지입니다./자료=소비자주권시민회의
[더파워 한승호 기자] 인공지능 기술이 로봇, 자율주행, 스마트 가전 등 물리적 환경과 결합하는 ‘피지컬 AI’ 단계로 확산하면서 소비자 보호 체계를 정비해야 한다는 주장이 나왔다. 기기가 실제 공간에서 움직이고 판단하는 만큼 사고 발생 시 책임소재와 정보보안 기준을 명확히 해야 한다는 지적이다.
소비자주권시민회의는 피지컬 AI 시대를 앞두고 소비자 안전과 권익 보호를 위한 제도적 가이드라인 마련이 필요하다고 9일 밝혔다.
피지컬 AI는 소프트웨어 안에서만 작동하는 AI와 달리 로봇, 자율주행 시스템, AI 가전처럼 현실 공간에서 사람과 사물에 직접 영향을 주는 기술을 말한다. 소비자주권시민회의는 이 기술이 생활 편의를 높일 수 있지만, 물리적 환경에 직접 개입한다는 점에서 새로운 소비자 위험도 함께 발생할 수 있다고 봤다.
우선 소비자에게 제공되는 정보가 충분하지 않다는 점을 문제로 들었다. AI 기술이 적용된 가전제품은 사용 방식과 기능이 복잡해지고 있지만, 소비자가 실제 작동 원리와 제한 사항, 계약 조건을 확인하기 어려운 경우가 있다는 설명이다.
소비자주권시민회의는 한국소비자원의 ‘AI 가전제품 소비자 인식 및 이용실태 조사’를 인용해 AI 가전 이용자의 불안감이 47.5%에서 55.4%까지 상승했다고 밝혔다.
구독 서비스가 결합된 AI 기기와 관련한 소비자 피해도 언급했다. 한국소비자원 소비자상담센터의 가전 구독 서비스 피해구제 접수 현황 분석에 따르면 최근 3년 6개월 동안 관련 피해구제 신청은 2624건 접수됐다. 연도별로는 2022년 636건에서 2024년 886건으로 증가했다.
이에 따라 피지컬 AI 기기의 판매와 구독 과정에서 정보 제공 의무를 강화하고, 기기 작동 안전성을 담보할 표준 가이드라인을 마련해야 한다고 주장했다.
사고 발생 시 책임소재를 명확히 해야 한다는 요구도 나왔다. 피지컬 AI는 자율적 학습과 판단을 거쳐 작동하기 때문에 사고가 발생했을 때 제조사, 소프트웨어 개발자, 운영자 중 누구에게 책임이 있는지 불분명해질 수 있다.
특히 기기 오작동이 인명 피해나 물리적 손상으로 이어지는 경우 기존 제조물 책임 체계만으로는 피해 구제에 한계가 있을 수 있다고 지적했다.
소비자주권시민회의는 피지컬 AI 환경에서 무과실 책임 원칙을 도입하고, 소비자가 과도한 입증 부담을 지지 않도록 입증 책임을 합리적으로 전환하는 방안을 검토해야 한다고 제언했다.
정보보안 문제도 핵심 과제로 제시했다. 피지컬 AI 기기는 센서를 통해 생활공간과 개인 정보를 수집하고, 네트워크에 상시 연결되는 경우가 많다. 이 때문에 사이버 공격이 단순한 개인정보 유출을 넘어 기기 오작동이나 물리적 사고로 이어질 가능성이 있다는 설명이다.
소비자주권시민회의는 제품 설계와 개발 초기 단계부터 보안 요소를 반영하는 ‘설계 단계부터 보안’ 원칙을 의무화해야 한다고 주장했다. AI 기기가 수집·처리하는 데이터에 대해서도 엄격한 보안 거버넌스가 필요하다고 밝혔다.
소비자주권시민회의는 정부와 기업이 피지컬 AI 시대를 앞두고 관련 정책과 제도를 점검해야 한다며, 소비자를 데이터 수집 대상이 아니라 보호받아야 할 주체로 인식해야 한다고 촉구했다.
이미지 확대보기
