AI 챗봇 상담 중 부적절 발언, 법률 책임 있나요

S요약

• 비인격체(챗봇) 대상의 부적절한 성적 표현은 일반적으로 형사법상 성희롱·통매음 등 범죄로 처벌되지 않음
• 단 상담기록을 관리하는 사람이 대화를 열람할 경우, 해당 표현이 실제 인격체에 대한 모욕 또는 성적 불쾌감 유발로 이어졌을 때는 예외적으로 민사상 불법행위 책임이 제한적으로 논의될 여지가 있음
• 이용약관에 구체적 제재 근거가 없고, 상대가 인공지능 시스템임을 전제로 할 때 실제 형사 처벌이나 강한 법률 책임이 추궁될 가능성은 매우 낮음
• 관리자 또는 상담 담당자가 실제 불쾌감을 경험했다는 구체적 사정이 없는 한 이용 제한 등 플랫폼 내 제재 조치 또한 어려운 편

F사건 경위

이용자님께서 대형 서점의 AI 챗봇 상담 중 실험 목적으로 부적절한 성적 표현을 사용하였으나, 해당 대화를 실제 관리자나 상담원이 직접 열람했는지는 확인되지 않고, 플랫폼 내 별도의 금지 안내나 책임 조항도 존재하지 않는 상태입니다.

L법률 쟁점

챗봇 등에 대한 성희롱성 발언이 형사 범죄나 민사상 책임의 대상이 될 수 있는지, 그리고 상담 기록 열람 여부에 따라 법률 책임이 달라지는지 여부가 쟁점입니다.

• 대한민국 형법상 통매음 및 성희롱 관련 범죄는 일반적으로 피해 '사람'을 전제로 하며, 인공지능은 포괄하지 않습니다
• 민법상 불법행위 책임은 타인의 인격권 침해 등 구체적 피해자가 있어야 성립합니다
• 단 상담 내용을 사람이 열람하고, 그로 인해 실제 불쾌감을 호소하는 경우 예외적으로 명예훼손·모욕 등 이슈가 논의될 수 있으나, 이 역시 성립이 매우 어렵습니다
• 이용약관과 사이트 정책에 이용 제한·신고·제재 관련 명확한 규정이 없다면 플랫폼 차원의 이용 정지 등 자체 제재 근거도 불분명합니다

P핵심 포인트

이용자님이 챗봇에 대해 한 부적절한 표현이 실제 법률 책임으로 이어질 가능성, 그리고 관리자 열람 시 발생할 수 있는 이슈가 핵심입니다.

• 챗봇 자체에는 인격권이 없어, 형사상 성희롱·통매음 등 범죄로 처벌 대상이 되지 않습니다
• 상담 내역이 담당자에게 전달되더라도, 특정 관리자나 상담원이 직접적인 피해자임을 입증하지 못하면 법률 책임 추궁이 어렵습니다
• 플랫폼 이용약관이나 서비스 정책에 침해 행위에 대해 구체적 제재 규정이 없는 경우, 별도의 강력한 제재나 법률 처분이 이뤄지지 않을 가능성이 높습니다
• 단 반복적 악의적 언행이 확인될 경우, 서비스 지속 이용 제한 등 일부 내부 조치는 있을 수 있습니다

A대응 방안

현실적으로 이용자님께 바로 부과될 법률 책임은 거의 없으나, 잠재적 오해 또는 내부 기록상의 문제를 예방하기 위한 실질적 조치를 준비할 필요가 있습니다.

• 같은 행위를 반복하지 않는 것이 가장 바람직합니다
• 이후 비슷한 상담 기록이 문제가 된다면, 실수 및 실험 목적임을 설명하는 소명 자료(상담 내역 캡처, 해명 등)를 확보해 두는 것이 도움이 됩니다
• 플랫폼 측으로부터 이용 제한·경고 등 연락이 온 경우, 사과문과 함께 해당 발언이 사람을 대상으로 한 것이 아니었음을 분명히 전달하는 것이 좋습니다
• 향후 상담 기록 관리 및 열람 여부가 불안하다면, 개인정보 삭제 요청이나 기록 비공개 요청을 이메일 등으로 정식 접수할 수 있습니다
• 부적절 발언이 의도치 않게 사람에게 노출된 것이 문제가 될 수 있으니, 가급적 상담 창 이용 시 공공장소에서는 주의하는 것이 바람직합니다