Central Motion

AI 서비스의 오류는 이용자 책임인가, 기업 책임인가?

생성형 AI와 AI 검색 서비스가 일상적으로 사용되면서, 사람들은 의료, 법률, 투자, 학업, 뉴스, 행정 정보까지 AI에게 묻고 답을 얻고 있습니다. 문제는 AI가 항상 정확한 정보를 제공하는 것은 아니라는 점입니다. AI는 그럴듯하지만 사실과 다른 답변을 만들 수 있고, 이용자가 이를 믿고 행동하면 실제 피해가 발생할 수 있습니다. 한국에서는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 이른바 AI 기본법이 2026년 1월 22일부터 시행되고 있습니다. 이 법은 인공지능의 발전과 함께 신뢰 기반을 조성하고 국민의 권익을 보호하는 것을 목적으로 합니다. 다만 이 법이 곧바로 “AI가 틀린 답을 하면 무조건 기업이 배상한다”는 뜻은 아닙니다. 핵심은 AI 서비스 제공 시 투명성, 안전성, 고영향 AI에 대한 관리 책임 등을 제도화하는 방향에 가깝습니다. 과학기술정보통신부도 AI 기본법 시행에 맞춰 투명성 의무 적용 기준과 생성형 AI 표시 기준 등을 구체화하는 가이드라인을 마련했습니다. 따라서 이 주제의 핵심은 다음과 같습니다. AI가 허위 정보를 제공해 피해가 발생했을 때, 기업에게 더 강한 책임을 물어야 하는가, 아니면 이용자의 검증 책임과 기술 발전의 한계를 고려해야 하는가?