요약생성
바쁠 때는 리얼라이즈가 내용을 요약해 드려요.
Y Combinator의 회장 겸 CEO인 개리 탄은 이번 주 워싱턴 D.C.의 경제 클럽에서 열린 행사에서 “인공지능에 대한 규제가 필요할 가능성이 높다”고 말했습니다.
탄은 제너럴 캐털리스트 이사회 멤버인 테레사 칼슨과의 1대1 인터뷰에서 Y Combinator에 합류하는 방법부터 AI까지 다양한 주제에 대해 이야기하며 “지금이야말로 기술 분야에서 일하기 가장 좋은 시기”라고 언급했습니다.
탄은 “전반적으로 지지한다”고 밝힌 미 국립표준기술연구소(NIST)의 GenAI 위험 완화 프레임워크 구축 시도와 “바이든 행정부의 행정 명령의 상당 부분이 올바른 방향으로 나아가고 있다”고 말했습니다.
NIST의 프레임워크는 GenAI가 데이터 개인 정보 보호 및 저작권과 같은 사항을 규제하는 기존 법률을 준수해야 한다는 것을 정의하고, GenAI 사용을 최종 사용자에게 공개하고, GenAI가 아동 성적 학대 자료를 생성하는 것을 금지하는 규정을 마련하는 등의 내용을 제안합니다. 바이든 행정부의 행정 명령은 AI 기업이 정부와 안전 데이터를 공유하도록 요구하고, 소규모 개발자가 공정한 접근 권한을 확보하도록 하는 등 광범위한 지시를 담고 있습니다.
하지만 탄은 많은 밸리 VC들과 마찬가지로 다른 규제 노력에 대해서는 경계했습니다. 그는 캘리포니아와 샌프란시스코 입법부에서 진행되고 있는 AI 관련 법안을 “매우 우려스럽다”고 했습니다.
폴리티코의 보도에 따르면 주 상원의원 스콧 와이너가 발의한 캘리포니아 법안은 AI 제품이 유해할 경우 검찰총장이 AI 기업을 고소할 수 있도록 허용하고 있습니다.
탄은 “현재 정책 측면에서 가장 큰 논의는 이러한 것의 좋은 버전이 실제로 어떤 모습일지에 대한 것”이라며 “영국의 이언 호가스와 같은 사람들을 보며 생각해 볼 수 있습니다. 그는 이러한 권력 집중에 대한 생각도 가지고 있습니다. 동시에 그는 최악의 피해를 완화하면서도 혁신을 어떻게 지원할 수 있을지 고민하고 있습니다.”라고 말했습니다.
호가스는 전 YC 기업가이자 AI 전문가로 영국의 AI 모델 태스크포스를 이끌고 있습니다.
“저를 두렵게 하는 것은 우리가 현재 존재하지 않는 공상 과학적인 우려를 해결하려고 노력한다면”이라고 탄은 말했습니다.
YC가 책임을 어떻게 관리하는지에 대해 탄은 이 조직이 스타트업의 미션이나 그 제품이 사회에 미치는 영향에 동의하지 않으면 “YC는 그냥 자금을 지원하지 않는다”고 말했습니다. 그는 언론에서 YC에 지원했던 회사에 대한 기사를 접한 적이 여러 번 있다고 말했습니다.
“우리는 과거 인터뷰 기록을 다시 살펴보고 ‘우리는 이게 사회에 좋다고 생각하지 않는다'고 생각했습니다. 다행히도 우리는 그 회사에 자금을 지원하지 않았습니다.”라고 그는 말했습니다.
인공지능 리더들의 끊임없는 실수
탄의 지침은 Y Combinator가 많은 AI 스타트업을 배출할 수 있는 여지를 남겨줍니다. 저의 동료 카일 위거스가 보도했듯이 2024년 겨울 코호트에는 86개의 AI 스타트업이 있었는데, 이는 2023년 겨울 코호트의 두 배에 가까운 수치이고, 2021년 겨울 코호트의 세 배에 가까운 수치입니다. 이는 YC의 공식 스타트업 디렉토리에 따른 수치입니다.
그리고 최근 뉴스 사건들은 사람들에게 AI 제품을 판매하는 사람들이 책임감 있는 AI를 정의하는 데 신뢰할 수 있는지 의문을 품게 만들고 있습니다. 지난주 테크크런치는 OpenAI가 AI 책임 팀을 해체하고 있다고 보도했습니다.
그리고 새로운 GPT-4o 모델을 시연할 때 여배우 스칼렛 요한슨의 목소리와 비슷한 음성을 사용한 것과 관련된 곤경이 있었습니다. 밝혀진 바에 따르면 OpenAI는 스칼렛 요한슨에게 자신의 목소리를 사용해 달라고 요청했지만, 그녀는 거절했습니다. OpenAI는 이후 스카이 음성을 삭제했지만, 요한슨의 목소리를 기반으로 한 것이 아니라고 부인했습니다. 이 사건과 OpenAI의 직원 지분을 회수할 수 있는 능력과 관련된 문제는 사람들이 샘 알트먼의 도덕성에 의문을 제기하도록 이끌었습니다.
한편 메타는 전적으로 백인 남성으로 구성된 AI 자문위원회를 설립했다고 발표하며 AI 뉴스를 만들었습니다. 이는 이 분야의 창립과 혁신에 중요한 역할을 한 여성과 유색 인종을 효과적으로 배제한 것입니다.
탄은 이러한 사례 중 어느 것도 언급하지 않았습니다. 대부분의 실리콘 밸리 VC들과 마찬가지로 그가 보는 것은 새롭고 거대하고 수익성이 높은 사업 기회입니다.
“우리는 스타트업을 아이디어 미로라고 생각하는 것을 좋아합니다.”라고 탄은 말했습니다. “대규모 언어 모델과 같은 새로운 기술이 등장하면 아이디어 미로 전체가 뒤흔들립니다. ChatGPT 자체는 아마도 최근 기억에 남는 가장 빠른 성공을 거둔 소비자 제품 중 하나였을 것입니다. 그리고 이것은 창업자에게 좋은 소식입니다.”
미래의 인공지능
탄은 샌프란시스코가 AI 운동의 중심지라고도 말했습니다. 예를 들어 YC 동문들이 설립한 안트로픽과 YC 스핀오프인 OpenAI가 바로 그곳에서 시작되었습니다.
탄은 또한 알트먼의 뒤를 잇지 않을 것이라고 농담하며 “알트먼은 몇 년 전에 내 직책을 맡았기 때문에 AI 연구소를 설립할 계획은 없다”고 말했습니다.
YC의 또 다른 성공 사례는 법률 기술 스타트업 케이스텍스트인데, 이 회사는 2023년 톰슨 로이터에 6억 달러에 매각되었습니다. 탄은 케이스텍스트가 세계 최초로 생성형 AI에 접근한 회사 중 하나였으며, 이후 생성형 AI 분야에서 최초로 엑싯한 회사 중 하나라고 생각했습니다.
AI의 미래를 내다볼 때 탄은 “생물 테러와 사이버 공격과 관련된 위험에 대해 현명하게 대처해야 한다”고 말했습니다. 동시에 그는 “훨씬 더 신중한 접근 방식”이 있어야 한다고 말했습니다.
그는 또한 “승자가 독식하는” 모델이 아니라 “소비자 선택의 자유와 창업자가 수십억 명의 사람들에게 영향을 미치는 것을 만들 수 있는 놀라운 정원”이 있을 것으로 예상했습니다.
적어도 그가 바라는 것은 그렇습니다. 그것은 그와 YC에게 가장 유리한 일입니다. 즉, 많은 성공적인 스타트업이 투자자에게 많은 현금을 돌려줄 것입니다. 그래서 탄을 가장 두렵게 하는 것은 제어 불능의 악당 AI가 아니라 선택할 수 있는 AI가 부족하다는 것입니다.
“우리는 실제로 몇몇 모델에만 집중된 매우 독점적인 상황에 처할 수도 있습니다. 그러면 렌트 추출에 대해 이야기하게 되고, 저는 살고 싶지 않은 세상을 맞이하게 될 것입니다.”
AI 뉴스레터를 시작합니다! 6월 5일에 받아보려면 여기 에서 가입하세요.