by Wizard

OpenAI "회사 지식" 기능, 기업 데이터 접근 논란: 득과 실, 그리고 신뢰의 문제

OpenAI가 최근 발표한 "회사 지식(Company Knowledge)" 기능은 기업 데이터를 활용하여 ChatGPT의 답변 정확도와 유용성을 높이는 것을 목표로 합니다. 하지만 이 기능은 데이터 접근 범위와 보안 문제에 대한 우려를 불러일으키며 논란의 중심에 섰습니다.

기업 데이터 접근, 혁신인가 위협인가?

OpenAI는 Slack, SharePoint, Google Drive, GitHub 등 다양한 기업 앱에 연결하여 데이터를 수집하고 분석합니다. ChatGPT는 이를 바탕으로 회의 브리핑, 고객 응대, 문제 해결 등 다양한 업무를 지원할 수 있습니다. 이론적으로는 생산성 향상과 효율 증대의 가능성이 큽니다.

깊숙한 데이터 접근, 보안 우려는 필연적

문제는 OpenAI가 제안하는 데이터 접근의 깊이와 범위입니다. 민감한 기업 데이터가 외부로 유출되거나 오용될 가능성을 배제할 수 없습니다. 특히 OpenAI가 수집된 데이터를 어떻게 사용하고 보호할지에 대한 명확한 보장이 부족하다는 점이 불안감을 증폭시키고 있습니다.

"악마를 아는가, 모르는가?" 신뢰의 문제

포레스터의 제프 폴라드는 기업들이 이미 사용하고 있는 벤더와 OpenAI 중 누구를 더 신뢰할 수 있는지 묻습니다. Microsoft, Google 등 기존 IT 기업들은 오랜 협력 관계를 통해 신뢰를 구축해왔습니다. 반면 OpenAI는 비교적 젊은 기업으로, 데이터 보안 및 사용에 대한 투명성을 입증해야 할 과제를 안고 있습니다.

데이터 사용 제한, 실질적인 보호는 어디에?

OpenAI는 사용자 권한에 따라 접근 가능한 데이터만 사용한다고 밝혔지만, 데이터 사용 방식에 대한 구체적인 내용은 언급하지 않았습니다. 계약을 통해 데이터 사용을 제한할 수 있지만, 이미 유출된 데이터의 경로를 추적하고 책임을 묻기는 매우 어렵습니다.

직원들의 데이터 유출, 기업의 준비는?

마케트리의 브래디 루이스는 직원들이 PII(개인 식별 정보) 또는 PCI(결제 카드 정보) 데이터를 포함하여 회사 데이터를 ChatGPT에 제출하는 경우가 많다고 지적합니다. OpenAI가 기업 수준의 통제를 구축하더라도, 기업이 직원들을 적절히 관리할 준비가 되어 있는지 묻습니다.

"과장 광고, 부족한 실행" OpenAI의 신뢰도

루이스는 OpenAI가 "과장 광고와 부족한 실행"으로 인식되고 있으며, 신뢰성을 입증하지 못했다고 평가합니다. 아직까지 OpenAI가 데이터 접근을 어떻게 처리하는지에 대한 긴 기록이 없다는 점도 우려를 더합니다.

데이터 통제 상실, 간과할 수 없는 위험

트러스티블의 앤드류 가미노-청은 회사 지식의 가장 큰 위험은 의도치 않은 데이터 통제 상실이라고 지적합니다. ChatGPT와 같은 시스템이 정보 접근에 대한 감사 추적을 남기지 않으면 정보 유출이 더욱 심화될 수 있다고 경고합니다.

스타트업 OpenAI, 아직은 불안하다

일루미넥스의 게리 롱신은 OpenAI가 아직 스타트업 단계에 있으며, 수익 창출 방식을 포함하여 성장 방향을 정확히 알지 못한다고 평가합니다. 데이터 유출을 방지하려면 자체 LLM 인스턴스를 요구하고 데이터 센터를 구축해야 한다고 주장합니다.

정부의 데이터 접근 요구, 대비책은?

프로서큘러의 바비 쿠즈마는 미국 정부가 국가 안보 서한을 통해 OpenAI에 데이터 접근을 요구할 경우를 우려합니다. 또한 익명화된 데이터셋을 활용하여 얻을 수 있는 경제적 가치에 대한 유혹을 간과해서는 안 된다고 강조합니다.

"제발 하지 마세요" 전문가의 경고

쿠즈마는 기업 IT 임원들에게 "회사 지식" 사용을 자제할 것을 권고합니다. OpenAI가 데이터 접근을 어떻게 처리하는지에 대한 오랜 기록이 없으며, 다른 스타트업과 마찬가지로 먼저 현금 흐름을 확보한 후에 보안을 고려할 수 있다는 점을 지적합니다.

맺음말

OpenAI의 "회사 지식" 기능은 혁신적인 가능성을 제시하지만, 데이터 보안 및 개인 정보 보호에 대한 심각한 우려를 야기합니다. 기업들은 잠재적 이점과 위험을 신중하게 평가하고, 데이터 접근 및 사용에 대한 명확한 정책과 통제 방안을 마련해야 할 것입니다. 궁극적으로 신뢰할 수 있는 파트너십 구축과 투명한 정보 공개가 성공적인 AI 도입의 핵심 요소가 될 것입니다.