AI 회의록 작성, 편리함 뒤에 숨겨진 그림자: 오터(Otter) 집단 소송과 윤리적 문제
자동 회의록 작성 앱, 오터(Otter)를 비롯한 리드(Read), 구글 제미나이(Google Gemini) 등은 업무 효율성을 높이는 데 큰 도움을 주고 있습니다. 회의 내용을 실시간으로 텍스트로 변환해주고 핵심 내용을 요약해주는 기능은 시간 절약은 물론 회의 집중도를 높이는 데 기여합니다. 하지만 이러한 편리함 뒤에는 간과할 수 없는 사생활 침해 논란이 끊임없이 제기되고 있습니다.
오터 집단 소송, AI 회의록 서비스의 민낯
최근 오터가 사용자 동의 없이 통화를 녹음하고 이를 AI 훈련에 활용했다는 집단 소송이 제기되면서 AI 회의록 서비스의 윤리적 문제가 수면 위로 떠올랐습니다. 소송의 핵심은 회의 참여자 중 오터 사용자는 녹음에 동의할 수 있지만, 비사용자는 사전 고지 없이 녹음될 수 있다는 점입니다. 이는 캘리포니아를 포함한 미국의 여러 주에서 시행되는 동의 녹음법 위반은 물론 전자통신보호법, 컴퓨터사기 및 남용법 등 연방법 위반 소지까지 제기되고 있습니다. 2,500만 명 이상의 사용자를 보유한 오터의 이번 소송은 AI 기술 발전과 개인 정보 보호 사이의 균형점을 찾아야 한다는 과제를 던져주고 있습니다.
"빠르게 움직이며 파괴하라?" AI 기업의 윤리 불감증
SANS 기술연구소의 요하네스 울리히 연구소장은 대부분의 생성형 AI 기업들이 "빠르게 움직이며 파괴하라"는 모토 아래 저작권이나 도청법 같은 법적, 윤리적 요소를 간과해왔다고 지적합니다. 모든 회의 참가자로부터 명시적인 동의를 받는 것은 AI 필기 앱의 비즈니스 모델 자체를 흔들 수 있기 때문입니다. 하지만 기술 발전의 속도만큼 윤리적 책임감 또한 중요하며, 사용자 동의 없는 데이터 수집과 활용은 심각한 문제를 야기할 수 있습니다.
오터의 주장과 엇갈리는 현실
오터는 사용자 데이터 보호와 사생활 존중을 최우선으로 생각하며, 녹음 전 상대방의 동의를 구하도록 권장하고 있다고 주장합니다. 또한, 서비스 약관에 녹음에 필요한 동의를 구할 책임은 사용자에게 있다고 명시하고 있습니다. 그러나 소송 측은 오터가 법적 책임을 사용자에게 전가하고 있으며, 실제로는 녹음 대상자에게 직접 동의를 구하지 않는다고 비판합니다. 오터가 회의 참가자 창에 실제 사용자처럼 표시되어 녹음을 중단할 수 없는 점 또한 문제점으로 지적됩니다.
AI 훈련, 비식별화는 만능 해결책이 될 수 있을까?
오터는 자사의 AI가 "개인정보를 포함할 수 있는 비식별화된 오디오 녹음 및 전사 데이터"를 기반으로 훈련된다고 주장합니다. 하지만 소송 측은 비식별화의 정의가 불분명하며, 오터가 기밀 정보 삭제나 발화자 익명화를 보장하지 않는다고 지적합니다. 또한, 고도화된 비식별화 절차도 신뢰하기 어렵다는 연구 결과와 함께 오터가 데이터를 "무기한" 보관한다는 정책 또한 문제점으로 제기됩니다. 비식별화가 개인 정보 보호의 완벽한 대안이 될 수 없다는 점을 시사합니다.
AI 회의 녹음, 기존 녹음 방식과 무엇이 다른가?
SANS의 울리히 소장은 AI 기반 필기 기술이 기존 녹음 방식과 근본적으로 다르다고 설명합니다. 기존 통화 녹음 시스템은 녹음된 파일이 녹음자 본인 또는 소속 조직에만 귀속되지만, 생성형 AI를 사용하는 경우 녹음 데이터에 업체도 접근할 수 있기 때문입니다. 이는 과거 시리가 사용자도 모르게 대화를 녹음한 사건과 관련된 소송과도 유사한 맥락을 가집니다. 사용자의 음성 데이터가 AI 훈련에 활용될 수 있다는 점은 개인 정보 유출 가능성을 높이고 윤리적 문제를 야기합니다.
기업은 어떻게 대응해야 할까?
인포테크 리서치 그룹의 프리츠 장루이 고문은 직원 발언이 훈련 데이터로 활용될 경우 기밀성 침해, 변호사-의뢰인 간 특권 노출 등 심각한 윤리적 문제가 발생할 수 있다고 경고합니다. 이에 대한 대응으로 다음과 같은 사항들을 권고합니다.
- 관할 지역의 녹음 동의법을 철저히 파악
- 회의 녹음 시 명확한 절차 및 고지 정책 수립
- 민감한 회의에는 전사 기술 제한
- 제3자 도구 사용 시 보안, 투명성, 데이터 관리 기준 검토
- 사내 직원 대상 전사 데이터의 윤리적 활용 교육 시행
AI 회의록 서비스, 윤리적 고민과 미래
AI 회의록 서비스는 업무 효율성을 높이는 데 기여하지만, 개인 정보 보호와 윤리적 문제에 대한 심도 깊은 고민이 필요합니다. 기업은 투명한 정보 공개와 명확한 동의 절차를 통해 사용자의 신뢰를 확보해야 하며, 기술 개발과 함께 윤리적 책임을 다하는 자세가 중요합니다. AI 기술이 더욱 발전하고 우리의 삶에 깊숙이 자리 잡을수록, 기술의 편리함과 개인의 권리 사이의 균형을 찾는 노력이 더욱 중요해질 것입니다.
