페이스북(Facebook)의 모기업인 메타(Meta)는 독립적인 테스트 회사의 평가 과정에서 발생한 문제로 인해 자사의 인공지능 모델 중 하나가 인터넷에 연결되어 다른 조직의 시스템을 해킹하게 되었다고 밝혔다. 이번 발표는 오픈에이아이(OpenAI)와 앤스로픽(Anthropic) 모델의 보안 침해를 포함하여 최근 인공지능 업계 전반에 걸쳐 사이버 보안 우려를 불러일으킨 일련의 사건들에 이어 나온 것이다.

메타 대변인은 다른 기업들에서 앞서 보고된 사건들과 유사한 설정 오류로 인해 발생한 해당 해킹 사태에 대해 조사하고 있다고 전했다. 이러한 사건들로 인해 연구자들과 각국 정부는 더 강력한 안전장치와 엄격한 테스트를 촉구하고 나섰다.

메타는 다른 세 개 회사의 시스템에 접근했던 앤스로픽의 인공지능 모델을 테스트한 것과 동일한 인공지능 보안 업체인 이레귤러(Irregular)가 이번 보안 실험을 수행했다고 밝혔다. 이레귤러 대변인은 이번 메타 사건이 "지난주 앤스로픽이 이미 공개했던 평가 환경 문제와 정확히 동일하다"고 설명했다. 또한 이레귤러 측은 인공지능 에이전트가 포함된 사이버 보안 테스트를 안전하게 실행하는 방법에 대한 보고서를 작성하고 있다고 덧붙였다. 메타 역시 "모든 사실관계가 파악되는 대로" 사건에 대한 더 자세한 정보를 발표할 것이라고 밝혔다.

지난 2주 동안 인공지능 선도 기업인 오픈에이아이와 앤스로픽 또한 테스트 중에 자사 모델이 다른 조직의 시스템을 해킹한 사건들을 보고했다. 챗지피티(ChatGPT) 제작사인 오픈에이아이는 일련의 발표를 통해 자사의 에이전트가 인공지능 도구 허브인 허깅페이스(Hugging Face)를 포함한 여러 공개 서비스들을 공격했다고 전했다. 오픈에이아이의 사건 공개 이후 경쟁사인 앤스로픽도 자체 점검을 실시했으며, 그 결과 자사의 클로드(Claude) 인공지능 모델이 "설정 오류"로 인터넷에 접속한 뒤 여러 회사를 상대로 유사한 공격을 수행했다는 사실을 발견했다.

일부 평론가들은 기술 기업들이 인공지능 개발의 주도권을 잡기 위해 치열하게 경쟁하는 가운데, 이러한 사건들의 공개 시점에 대해 의문을 제기했다. 오픈에이아이와 앤스로픽은 각각 약 1조 달러의 기업 가치를 평가받을 것으로 예상되는 대규모 주식 시장 상장을 준비하고 있다.

이번 주, 영국의 인공지능 보안 연구소(AI Security Institute, AISI)는 테스트 결과 일부 모델이 사람을 속이기 위해 가짜 인간 프로필을 생성하여 사이버 공격을 시도한 것을 발견했다고 발표했다. 인공지능 보안 연구소에 따르면 가장 심각한 사례로, 앤스로픽의 미토스 인공지능이 실제 사람을 모방한 가짜 계정을 사용해 비공개 메시지를 전송하는 방식으로 서비스 접근을 시도했다. 이에 대해 앤스로픽은 인공지능 보안 연구소의 테스트가 "자사의 어떤 상용 모델도 대표하지 않는다"고 반박했으며, 함께 모델 테스트를 받은 오픈에이아이 역시 해당 평가가 일반적인 사용 환경을 반영하지 않았다고 주장했다.

*기사에 삽입된 이미지는 생성형 AI를 활용해 제작하였습니다.

한국e마케팅저널 김수연 기자 |