앤스로픽, 전 오픈AI 안전 책임자 영입하여 새로운 팀 구성

이달 초 오픈AI의 AI 안전에 대한 접근 방식을 공개적으로 비판한 후 사임한 선도적인 AI 연구원 얀 라이크가 오픈AI의 경쟁사인 앤스로픽에 합류하여 새로운 '슈퍼정렬' 팀을 이끌게 되었습니다.

X에 올린 게시물에서 라이크는 앤스로픽에서 그의 팀이 AI 안전과 보안의 다양한 측면에 집중할 것이라고 밝혔으며, 특히 '확장 가능한 감독', '약한 일반화에서 강한 일반화로의 전환', '자동화된 정렬 연구'에 집중할 것이라고 말했습니다.

이 문제에 정통한 소식통은 TechCrunch에 라이크가 앤스로픽의 최고 과학 책임자인 자레드 캐플런에게 직접 보고할 것이며, 현재 확장 가능한 감독(대규모 AI의 행동을 예측 가능하고 바람직한 방식으로 제어하는 기술)을 연구하는 앤스로픽 연구원들이 라이크의 팀이 구성됨에 따라 라이크에게 보고하게 될 것이라고 전했습니다.

많은 면에서 라이크의 팀은 목표가 최근 해체된 오픈AI의 슈퍼정렬 팀과 유사해 보입니다. 라이크가 공동으로 이끌었던 슈퍼정렬 팀은 향후 4년 안에 초지능 AI를 제어하는 핵심적인 기술적 과제를 해결한다는 야심찬 목표를 가지고 있었지만, 종종 오픈AI 경영진의 방해를 받았습니다.

앤스로픽은 종종 오픈AI보다 안전에 더 중점을 두고 있다는 입장을 취해 왔습니다.

앤스로픽의 CEO인 다리오 아모데이는 한때 오픈AI의 연구 부사장이었으며, 오픈AI의 방향(특히 오픈AI의 증가하는 상업적 초점)에 대한 의견 차이로 인해 오픈AI에서 탈퇴한 것으로 알려져 있습니다. 아모데이는 오픈AI의 전 정책 책임자인 잭 클라크를 포함하여 여러 명의 전 오픈AI 직원들을 데리고 앤스로픽을 설립했습니다.