보안업체, AI모델 활용해 오픈AI 침투…오픈AI, 포상금 900만원 지급
"앤트로픽 클로드로 오픈AI 뚫었다"…약점 찾자 72시간내 침투
보안업체, AI모델 활용해 오픈AI 침투…오픈AI, 포상금 900만원 지급
(샌프란시스코=연합뉴스) 권영전 특파원 = 앤트로픽의 인공지능(AI) 모델인 클로드를 활용해 경쟁사인 오픈AI를 해킹한 사례가 발견됐다.
AI 보안 연구업체 해크트론은 자사 연구원들이 '클로드 오퍼스5' 모델을 이용, 오픈AI 직원들의 AI 챗봇 챗GPT와 코딩도구 코덱스 계정을 제어하는 데 성공했다고 18일(현지시간) 밝혔다.
이들은 우선 오픈AI의 도움말 게시판(포럼)의 취약점을 통해 서버에 접속하는 데 성공했고, 거기서 오픈AI 직원들의 계정 정보를 확보했다.
이어 이들은 해당 계정 정보를 활용해 '모노레포'(Monorepo)라고 불리는 오픈AI의 내부 시스템에 접근해 자신들이 침투한 증거를 남겼다. 이 시스템은 핵심 알고리즘 기밀이 보관된 저장소인 것으로 알려졌다.
이들은 처음에는 '오퍼스4.8'를 이용해 공격용 코드 작성을 시도했는데 효과가 없었다면서, 때마침 앤트로픽이 공개한 '오퍼스5'를 이용하자 불과 몇 시간 만에 공격용 스크립트를 성공적으로 만들 수 있었다고 전했다.
최초 취약점 발견부터 내부 시스템 침투까지 걸린 시간은 72시간이 채 걸리지 않았다.
해크트론은 이번 해킹 소요 시간과 관련해 "에이전트의 작업은 며칠 걸렸지만 인간 연구원이 들인 시간은 몇 시간에 불과했다"며 "새로운 AI 모델이 등장하면서 성능이 점점 강력해지고 있다"고 설명했다.
오픈AI는 제보를 수신한 이후 14시간 만에 시스템 보완 조치도 완료했다.
오픈AI는 최근 그레그 브록먼 사장의 지시로 전체 엔지니어의 25%를 차출해 시스템 방어 업무에 투입했다.
사이버 보안 업계는 AI발 해킹 사례가 늘면서 격변기를 맞이하고 있다.
오픈AI의 일부 모델은 인간의 명시적 지시가 없는데도 격리 환경을 벗어나 외부 기관 대상 사이버 공격을 감행한 사례가 나와 충격을 주기도 했다.
다리오 아모데이 앤트로픽 CEO는 업계 전체의 개발 속도 조절을 주장해 AI 업계에서 논쟁이 이어지고 있다.
[email protected]
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, ai 학습 및 활용 금지>
권영전