**번역본뉴스입니다. 오역이 있을수 있습니다.
이는 국가 안보 우려를 인용한 정부 지침을 준수하기 위한 조치입니다.
앤트로픽(Anthropic)은 6월 12일 금요일에 정부로부터 받은 명령을 준수하기 위해 모든 고객의 페이블 5(Fable 5) 및 미토스 5(Mythos 5) 접근을 차단했습니다. 그 외의 다른 모든 모델들은 영향을 받지 않으며 계속해서 사용할 수 있습니다. 회사는 발표를 통해 미국 정부가 국가 안보 우려를 이유로 미국 내외를 막론하고 앤트로픽의 직원일지라도 모든 외국인의 신규 출시 AI 모델 접근을 중단하기를 원했다고 밝혔습니다.
미국 정부가 구체적인 우려 사항을 명시하지는 않았지만, 앤트로픽은 정부가 페이블 5를 탈옥(jailbreak)하는 방법에 대해 전해 들었기 때문인 것으로 추정하고 있습니다. 회사는 미토스의 다양한 기능을 대중에게 제공하기 위해 설계된 페이블 AI 모델을 바로 얼마 전인 6월 9일에 출시한 바 있습니다. 기억하시겠지만, 미토스는 프로젝트 글래스윙(Project Glasswing) 파트너들에게만 제공되는 최첨단 사이버 보안 모델입니다. 페이블의 능력은 앤트로픽이 지금까지 출시한 그 어떤 이전 모델도 "능가"합니다. 예를 들어, 회사의 테스트 중에 페이블은 포켓몬스터 파이어레드(Pokémon FireRed)를 클리어한 반면, 클로드(Claude)는 원작 게임인 포켓몬스터 레드를 클리어하는 데 실패했습니다.
앤트로픽은 게시글을 통해 페이블의 안전을 보장하기 위해 취했던 조치들을 나열했습니다. 회사는 "페이블이 사이버 보안과 관련된 작업에 악용될 가능성을 줄이기 위해" 강력한 안전장치를 마련했다고 밝혔으며, 자사의 "안전장치가 너무나 강력해서 많은 사용자가 너무 광범위하게 적용되었다고 불평할 정도였다"고 덧붙였습니다. 또한 회사는 그 어떤 제공업체도 탈옥 시도에 대해 완벽한 방어력을 보장할 수는 없으며, 모든 모델은 해당 모델만을 위해 특별히 만들어진 탈옥에 취약할 수밖에 없다고 설명했습니다. 회사는 자사의 방어 전략에 대해 "우리는 탈옥이 (비보편적 탈옥의 경우) 좁은 범위에 그치거나, (보편적 탈옥의 경우) 제작 비용이 매우 많이 들도록 만드는 것을 목표로 삼았으며, 여기에 철저한 모니터링을 결합해 성공적인 공격을 신속하게 감지하고 차단하고자 했다"고 언급했습니다.
정부는 익명의 단체가 공무원들과 공유한 '잠재적인 좁은 범위의 비보편적 탈옥' 한 가지에 대한 구두 증거를 회사에 제시한 것으로 보입니다. 앤트로픽은 향후 24시간 동안 더 자세한 내용을 공유하겠다고 약속하면서도, 잠재적인 탈옥 가능성이 상용 모델을 회수해야 하는 이유가 되어야 한다는 점에는 동의하지 않는다고 분명히 했습니다.
더 많은 AI 감독이 필요하다는 경고의 목소리를 적극적으로 내왔던 앤트로픽은 "우리가 공개적으로 밝힌 바와 같이, 투명하고 공정하며 명확하고 기술적 사실에 기반한 법적 절차의 일환으로서 정부가 안전하지 않은 배포를 차단할 수 있는 능력을 가져야 한다고 믿습니다"라며, "이번 조치는 그러한 원칙을 따르지 않은 것입니다"라고 작성했습니다.
--------------------------------------------------------------------------------------광고(Advertising)--------------------------------------------------------------------------------------------------------
