요약생성
바쁠 때는 리얼라이즈가 내용을 요약해 드려요.
2024년 5월 28일 오전 6시 50분
출처: Midjourney V6으로 제작된 VentureBeat
ChatGPT 제작사인 OpenAI는 오늘 아침 새로운 “최첨단 모델” 학습을 시작했으며, 현 이사회 멤버인 Bret Taylor(OpenAI 이사회 의장 겸 고객 서비스 스타트업 Sierra AI 공동 설립자, 전 Google Maps 책임자, 전 Facebook CTO), Adam D'Angelo(Quora CEO 및 AI 모델 aggregator 앱 Poe), Nicole Seligman(전 Sony Corporation 부사장 겸 글로벌 법률 고문), Sam Altman(현 OpenAI CEO 겸 공동 설립자)이 이끄는 새로운 안전 및 보안 위원회를 구성했다고 발표했습니다.
OpenAI는 회사 블로그 게시물에서 다음과 같이 말했습니다.
“OpenAI는 최근 차세대 최첨단 모델 학습을 시작했으며, 그 결과 탄생할 시스템이 AGI를 향한 여정에서 우리를 다음 단계의 역량으로 이끌 것으로 예상합니다. 우리는 기능과 안전 측면에서 업계를 선도하는 모델을 구축하고 출시하게 된 것을 자랑스럽게 생각하며, 이 중요한 순간에 활발한 논의가 이루어지기를 바랍니다.“
90일 카운트다운 시작
특히, OpenAI는 이 새로운 위원회가 새로운 최첨단 AI 모델 개발을 이끄는 데 있어 다음과 같은 역할을 할 것이라고 설명했습니다.
“안전 및 보안 위원회의 첫 번째 과제는 향후 90일 동안 OpenAI의 프로세스와 안전 장치를 평가하고 더욱 발전시키는 것입니다. 90일이 지나면 안전 및 보안 위원회는 전체 이사회에 권고 사항을 공유할 것입니다. 전체 이사회의 검토를 거쳐 OpenAI는 안전과 보안에 부합하는 방식으로 채택된 권고 사항에 대한 업데이트를 공개적으로 공유할 것입니다.“
따라서 새로운 최첨단 모델이 GPT-5든 다른 이름으로 불리든 간에 최소 90일 동안은 출시되지 않을 것이라고 결론 내릴 수 있습니다. 새로운 안전 및 보안 위원회가 “OpenAI의 프로세스와 안전 장치를 평가하고 더욱 발전시키고” “전체 이사회”에 권고 사항을 제출할 시간이 필요하기 때문입니다.
즉, OpenAI 이사회는 늦어도 2024년 8월 26일까지 새로운 안전 및 보안 위원회의 권고 사항을 수신해야 합니다.
왜 90일일까요? OpenAI는 구체적으로 명시하지 않았지만, 이 기간은 비즈니스에서 프로세스를 평가하고 피드백을 제공하는 데 사용되는 일반적인 기간이며, 너무 짧지도 않고 너무 길지도 않은 적절한 기간으로 보입니다.
새로운 안전 위원회는 독립적이지 않다
이 소식은 즉각 비판을 받았습니다. 일각에서는 새로운 위원회가 전적으로 OpenAI의 “자체 임원”으로 구성되어 있다는 점을 지적하며, 회사의 안전 조치에 대한 평가가 독립적이지 않을 것이라고 주장했습니다.
OpenAI는 방금 자체 임원과 Altman 자신으로 구성된 감독 위원회를 만들었습니다. 이는 기술 분야에서 자체 규제에 대한 시도되고 검증된 접근 방식이지만 실제 감독 측면에서는 사실상 아무것도 하지 않습니다. https://t.co/X7ay4IijXF
— Parmy Olson(@parmy) 2024년 5월 28일
현재 새로운 안전 및 보안 위원회에 소속된 OpenAI 이사회는 이전에도 논란의 대상이었습니다.
OpenAI 비영리 지주 회사의 이전 이사회는 2023년 11월 17일, ChatGPT 1주년을 불과 5일 앞두고 Altman을 CEO직에서 해임하고 모든 직무에서 배제했습니다. 그가 이사회에 “항상 솔직하지 않았다”는 이유였습니다. 하지만 직원들의 강력한 반발과 주요 투자자인 Microsoft를 포함한 OpenAI 투자자들의 강력한 반대에 부딪혔습니다.
결국 Altman은 2024년 11월 21일 OpenAI CEO로 복귀했고, 이사회는 사임하고 Taylor, Larry Summers, Adam D'Angelo로 교체되었으며, Microsoft는 의결권 없는 참관인으로 합류했습니다. 당시 이사회는 전적으로 남성 위주로 구성되었다는 비판을 받았습니다.
올해 3월 8일, Sue Desmond-Hellmann(전 Bill and Melinda Gates Foundation CEO), Fidji Simo(Instacart CEO 겸 회장), Seligman, Altman이 새로운 이사회 멤버로 임명되었습니다.
OpenAI(및 AI 업계)의 험난한 시간
OpenAI는 이달 초 최신 AI 모델인 GPT-4o를 출시했으며, 그 이후로 홍보 측면에서 곤경을 겪고 있습니다.
새로운 모델은 텍스트와 미디어에서 학습된 여러 모델을 연결하는 이전 GPT-4와 달리 처음부터 멀티모달 입력과 출력을 통해 학습된 OpenAI(그리고 아마도 세계 최초) 모델이지만, 배우 Scarlett Johansson은 OpenAI가 자신의 목소리를 흉내내는 것에 대해 자신에게 접근했고 자신과 다른 사람들이 자신의 목소리(특히 SF 영화 _Her_의 AI 비서 캐릭터)와 비슷하다고 말했다며 OpenAI를 비판했습니다. OpenAI는 별도로 목소리를 의뢰했으며 성우에게 Johansson을 모방하라고 지시하거나 의도한 적이 없다고 반박했습니다.
OpenAI의 수석 과학자이자 공동 설립자인 Ilya Sutskever가 사임했고, 초지능으로부터 보호하는 데 전념하는 슈퍼정렬 팀의 공동 책임자도 사임했습니다. 후자는 떠나면서 OpenAI가 안전보다 “반짝이는 제품”을 우선시한다고 비판했습니다. 전체 슈퍼정렬 팀은 해체되었습니다.
또한 OpenAI는 퇴사하는 직원들에게 제한적인 비방 금지 조항과 약정 위반 시 지분을 회수하는 조항이 포함된 퇴사 계약서를 요구한다는 비판을 받았지만, 회사는 이후 이를 시행하지 않고 직원들에게 해당 조항을 해제할 것이라고 밝혔습니다(덧붙이자면, Xerox와 자율 주행 스타트업 Argo AI에서 기술 분야에 종사했던 제 경험상 실제로 드문 일은 아닙니다).
하지만 ChatGPT에서 학습 데이터와 권위 있는 저널리즘을 제공하기 위해 주류 미디어의 새로운 파트너를 영입하는 데 성공했고, 할리우드가 영화 및 TV 제작 비용을 절감하고 간소화하기 위해 AI를 주목하고 있는 가운데, 음악가와 영화 제작자들이 비디오 생성 모델인 Sora에 관심을 보이고 있습니다.
한편, 경쟁사인 Google은 검색에서 AI 개요 답변으로 인해 비판을 받았으며, 일반 사용자들 사이에서 전체 생성형 AI 분야에 대한 광범위한 반발이 일어나고 있음을 시사합니다.
OpenAI의 새로운 안전 위원회가 새로운 모델 출시를 앞두고 최소한 일부 비판자들을 달래거나 안심시킬 수 있을지, 그리고 어쩌면 더 중요한 규제 기관과 잠재적 비즈니스 파트너들을 설득할 수 있을지 지켜봐야 할 것입니다.