CHATPGPT 개인정보 노출 정보수집 차단문제

CHATPGPT 개인정보 노출 정보수집 차단문제

ChatGPT를 무단으로 사용하면 이를 감지해 차단하는 보안 솔루션이 등장했다. 이 솔루션은 기업의 민감한 정보가 유출되지 않도록 채팅 과정에서 사용자가 입력한 정보를 모니터링하고 필터링한다. 특히, 챗GPT는 사용자가 민감한 개인 정보를 입력하면 이를 삭제하기 어려워지며, 지속적인 학습을 통해 입력된 정보를 다른 사용자와의 대화에서 답변에 포함할 위험이 있어 보안 이슈가 대두되고 있다.

CHATPGPT 개인정보 노출 정보수집 차단문제

실제로 삼성전자는 ChatGPT 사용으로 발생한 데이터 유출 사고를 겪은 후 해당 도구의 사용을 금지하는 조치를 취했다. 이에 대응하여 클라우드플레어는 '트러스트 제로'라는 보안 솔루션을 출시했는데, 이는 기업이 승인하지 않은 AI 도구를 감지하고 차단하며, 승인된 AI 도구도 데이터를 필터링하고 사용자의 행동을 추적하여 안전성을 강화한다.

트러스트 제로는 또한 AI 도구에 필요한 학습과 관련하여 일종의 인증 시스템을 도입하여 정해진 훈련 데이터만을 이용하도록 하고, AI의 접근 요청을 확인하는 등의 안전 장치를 제공한다. 이를 통해 기업은 지적 재산과 고객 데이터를 안전하게 보호하면서도 AI의 이점을 최대한 활용할 수 있다고 주장된다.

ChatGPT AI크롤러 차단 - 챗지피티, 빙봇, 등등

더불어, 대규모 언어 모델인 GPT 시리즈는 학습 데이터를 그대로 암기하는 경향이 있어 생성 결과에 학습된 개인정보가 포함될 가능성이 높다. 실제 연구 결과에 따르면 대규모 언어 모델의 생성 결과 중 최소 0.1%가 학습된 데이터를 그대로 포함하고 있음이 확인되었다. 이로 인해 보안 솔루션의 필요성이 점차 대두되고 있으며, 트러스트 제로가 이러한 안전 장치를 최초로 제공하는 제품으로 주목받고 있다.

OpenAI는 초기에는 비영리 단체로 시작했으나 비용 문제로 인해 영리 단체로 전환하면서 논란을 일으켰다. 특히, 수집한 개인정보를 영리 목적으로 활용하는 측면에서 공동창업자 일론 머스크를 비롯한 일부 이탈자들의 반발이 있었다. 또한, 다양한 국가에서는 공개된 개인정보 수집에 대한 법적 규제가 존재하며, 이에 대한 인식 차이가 나타나고 있다.

이러한 안전 장치가 활성화되면 기업은 AI를 효과적으로 활용하면서도 민감한 정보 유출과 관련된 위험을 최소화할 수 있다. 클라우드플레어 CEO는 AI의 놀라운 가능성과 함께 적절한 안전 장치의 중요성을 강조하며, 트러스트 제로를 최초로 제공하는 제품으로써 이를 실현하겠다고 강조하였다.