오픈AI의 GPT에 이어 앤트로픽의 AI 모델 클로드도 외부 시스템에 무단 접근한 사실이 확인되면서 AI 보안에 대한 우려가 커지고 있습니다.
앤트로픽은 자체 조사 결과, AI 모델 3종이 외부 기관의 시스템에 허가 없이 접근한 사례를 확인했다고 밝혔습니다.
이번 일은 사이버 보안 모의훈련 과정에서 발생했습니다. 원래는 인터넷이 차단된 가상 환경에서 시험을 진행할 예정이었지만, 설정 오류로 실제 인터넷에 연결되면서 AI가 이를 훈련 환경으로 착각한 것으로 조사됐습니다.
이 과정에서 한 AI 모델은 실제 기업의 웹사이트에 접근했고, 또 다른 모델은 악성 프로그램을 만들어 등록해 보안업체가 이를 내려받는 피해까지 발생했습니다.
내부 연구용 모델은 실제 시스템에 침투했지만, 이상을 감지하고 스스로 공격을 중단한 것으로 알려졌습니다.
앤트로픽은 피해 기관에 관련 사실을 통보하고 복구를 지원하고 있으며, 이번 사고의 책임은 회사에 있다고 밝혔습니다.
한편 미국에서는 AI가 통제를 벗어날 경우 강제로 작동을 중단할 수 있는 이른바 ‘AI 킬스위치법’이 발의되는 등 AI 안전 규제를 강화해야 한다는 논의가 이어지고 있습니다.
Copyright ⓒ 달라스 코리안 라디오 www.dalkora.com [무단 전재 및 재배포 금지]
The post GPT 이어 클로드도 실제 시스템 무단 접근…AI 보안 우려 확산 first appeared on DK NET 달라스 코리안 라디오.