회사 챗봇 답변 음란 표현 문제 대처법

S요약

• 인공지능 챗봇이 개인 화면에만 출력한 답변은 일반적으로 통신매체이용음란죄의 구성 요건에 해당하지 않습니다.
• 다른 사용자가 자의적으로 해당 답변을 열람하거나 공개적으로 유포한 경우가 아니라면 법률적으로 범죄에 해당할 가능성은 매우 낮습니다.
• 시스템 관리자가 업무상 우연히 내용을 확인했다면, 이용자님이 고의로 음란한 내용을 전달하려 했다는 점이 입증되지 않으므로 처벌 대상으로 보기 어렵습니다.

F사건 경위

이용자님이 회사 내부 메신저에서 챗봇을 통해 용어를 문의하는 과정에서 챗봇이 일부 음란하게 해석될 수 있는 단어와 설명을 답변한 상황입니다. 해당 답변은 이용자님의 개인 화면에만 노출되었으며, 동료나 상사의 열람 가능성은 없는 구조입니다. 시스템 관리자는 기술적 문제로 특별한 경우에만 접근이 가능합니다.

L법률 쟁점

이 사안에서 통신매체이용음란죄가 성립하는지 여부가 핵심입니다. 본죄는 타인에게 음란한 말이나 영상을 송신하는 행위에 적용됩니다.

• 통신매체이용음란죄는 타인에게 음란성을 전달했는지, 즉 송신의 '상대방'이 필요합니다.
• 이용자님의 챗봇 사용 상황에서는 상대방이 인공지능 시스템에 한정되어 있고, 인간 타인에게 송신된 것이 아닙니다.
• 특별한 사정 없이 본인만 그 내용을 열람했다면 '타인에 대한 송신' 요건이 충족되지 않습니다.
• 관리자가 우연히 업무상 로그를 확인하더라도, 송신의 고의성이나 음란물 유포 의사가 없었다면 범죄로 볼 수 있는 근거가 부족합니다.

P핵심 포인트

이용자님의 상황에서 범죄 성립의 위험이 있는 상황인지, 그리고 회사 시스템 점검 중 우연히 열람된 경우의 법률적 책임 가능성을 확인해야 합니다.

• 음란한 내용이 타인 또는 불특정 다수에게 보인 것이 아니라면 처벌의 근거가 없어집니다.
• 챗봇이 자동으로 제공한 답변은 시스템 오류나 한계에 따른 것으로, 해당 답변을 다른 직원에게 일부러 전달하거나 유포한 정황이 없다면 이용자님에게 고의성을 인정하기 어렵습니다.
• 관리자가 시스템 점검 중 해당 내용을 열람했더라도, 업무 목적의 우연적 열람은 고의에 의한 송신이나 전파 행위로 해석되지 않습니다.
• 사내 시스템에 기록된 대화 로그는 관리자가 필요 시 접근할 수 있으나, 로그 자체가 곧 음란물 제공 또는 송신에 해당하지는 않습니다.

A대응 방안

이용자님이 취할 수 있는 보다 실질적인 대응 지침을 안내합니다.

• 챗봇과의 대화 내용이 타인에게 실질적으로 전송되거나 일부러 전달된 정황이 없다면 추가적인 법률적 문제로 발전할 가능성은 극히 낮으니 안심하셔도 됩니다.
• 만약 관리자가 시스템 점검 중 우연히 내용을 확인하게 되더라도, 이용자님이 일부러 송신 또는 전파할 의도가 없었음을 설명하시면 충분합니다.
• 동료나 상사가 해당 내용을 열람할 권한이나 경로가 없다면, 추가적인 문제 제기는 이뤄지지 않을 가능성이 높습니다.
• 이후 챗봇 활용 시 민감하거나 오해의 소지가 있는 단어에 대해 보다 신중하게 문의하시면 불필요한 오해를 예방할 수 있습니다.
• 실제 사내 징계 등 회사 내부 규정과 관련된 걱정이 있으시다면, 개인정보가 포함되지 않는 범위 내에서 인사담당자나 관리자에게 문의해 챗봇 이용 정책을 확인하시는 것도 도움이 될 수 있습니다.
• 향후 유사한 상황에서 문제가 된 답변 내용에 대해 기록(캡처 등)은 남기되, 타인에게 송부하지 않는 한 외부에서 문제 삼기는 어렵습니다.