요약생성
바쁠 때는 리얼라이즈가 내용을 요약해 드려요.
메타는 지난 수요일에 AI 자문위원회를 발족했는데, 위원회 구성원은 모두 백인 남성으로만 이루어져 있습니다. 이는 예상했던 결과일 수 있습니다. 여성과 유색인종은 수십 년 동안 AI 분야에서 자신들의 자격과 역할에도 불구하고 무시당하고 배제되어 왔다는 사실을 지적해 왔습니다.
메타는 자문위원회의 다양성에 대한 질문에 즉각적인 답변을 하지 않았습니다.
이 새로운 자문위원회는 메타의 실제 이사회와 감독위원회와 다릅니다. 감독위원회는 성별과 인종적 구성 측면에서 더욱 다양합니다. 주주들은 이 AI 위원회를 선출하지 않았으며, 이 위원회는 기업 윤리 의무도 없습니다. 메타는 블룸버그에 이 위원회는 “기술 발전, 혁신, 전략적 성장 기회에 대한 통찰력과 권고를 제공할 것”이라고 밝혔습니다. 위원회는 “정기적으로” 회의를 개최할 예정입니다.
AI 자문위원회가 윤리 전문가나 학계 또는 심층 연구 배경을 가진 사람이 아닌 사업가와 기업가로만 구성되어 있다는 점이 눈에 띕니다. 현재와 과거 스트라이프, 쇼피파이, 마이크로소프트 임원들이 메타의 AI 제품 로드맵을 감독할 적임자라고 주장할 수도 있지만, 이들은 모두 시장에 출시한 수많은 제품을 가지고 있습니다. 하지만 AI는 다른 제품과 다르다는 사실이 여러 차례 증명되었습니다. AI는 위험한 사업이며, 잘못되었을 경우 특히 소외된 집단에 광범위한 영향을 미칠 수 있습니다.
AI의 사회적 의미를 연구하는 비영리 단체인 AI Now Institute의 사라 마이어스 웨스트 이사는 최근 테크크런치와의 인터뷰에서 “AI를 생산하는 기관을 비판적으로 검토하여 대중의 필요가 충족되도록 하는 것이 중요하다”고 말했습니다.
“이 기술은 오류가 발생하기 쉽고, 독립적인 연구에 따르면 이러한 오류는 균등하게 분포되지 않으며 오랫동안 차별의 피해를 입어 온 공동체에 불균형적으로 피해를 입히고 있습니다. 우리는 훨씬 더 높은 기준을 설정해야 합니다.”
여성은 남성보다 AI의 어두운 면을 경험할 가능성이 훨씬 높습니다. Sensity AI는 2019년에 AI 딥페이크 비디오의 96%가 온라인에서 비동의 성적 암시가 담긴 비디오라는 사실을 발견했습니다. 그 이후로 생성형 AI는 훨씬 더 널리 퍼졌으며, 여성은 여전히 이러한 폭력적인 행동의 표적이 되고 있습니다.
올해 1월 발생한 한 사건에서 테일러 스위프트의 비동의 성적 암시가 담긴 딥페이크가 X에서 바이럴되었습니다. 가장 널리 퍼진 게시물 중 하나는 수십만 개의 좋아요와 4천 5백만 건의 조회수를 기록했습니다. X와 같은 소셜 플랫폼은 역사적으로 여성을 이러한 상황으로부터 보호하는 데 실패해 왔습니다. 하지만 테일러 스위프트는 세계에서 가장 영향력 있는 여성 중 한 명이기 때문에 X는 “테일러 스위프트 AI”와 “테일러 스위프트 딥페이크”와 같은 검색어를 금지함으로써 개입했습니다.
하지만 여러분이 글로벌 팝스타가 아니라면 이런 일이 발생했을 때 운이 없을 수도 있습니다. 중고등학생들이 자신의 친구들의 명시적인 딥페이크를 만드는 사례가 여러 건 보고되었습니다. 이 기술은 오랫동안 존재해 왔지만, 이제는 접근성이 매우 높아졌습니다. 여성의 사진을 “옷을 벗기거나” 포르노에 얼굴을 바꿔치기하는 데 특화된 앱을 다운로드하려면 기술에 정통할 필요가 없습니다. 사실, NBC의 캣 텐바지의 보도에 따르면 페이스북과 인스타그램은 Perky AI라는 앱의 광고를 게재했습니다. 이 앱은 자신을 명시적인 이미지를 만드는 도구라고 설명했습니다.
텐바지가 문제를 회사에 알릴 때까지 메타는 감지하지 못했던 것으로 알려진 이 광고 두 개에는 사브리나 카펜터와 제나 오르테가의 사진이 모자이크 처리되어 고객이 앱을 사용하여 옷을 벗기도록 유도하는 내용이 담겨 있었습니다. 이 광고에는 오르테가가 16세였을 때 찍은 사진이 사용되었습니다.
Perky AI의 광고 게재 허용은 고립된 사건이 아니었습니다. 메타의 감독위원회는 최근 조사를 시작했습니다. 조사 대상은 성적으로 명시적인 AI 생성 콘텐츠가 인스타그램과 페이스북에 게시된 것에 대한 메타의 대응 실패입니다.
여성과 유색인종의 목소리가 인공지능 제품 혁신에 포함되는 것은 필수적입니다. 오랫동안 이러한 소외된 집단은 세상을 바꾸는 기술과 연구 개발에서 배제되어 왔으며, 그 결과는 참혹했습니다.
1970년대까지 여성이 임상 시험에서 배제되었다는 사실은 쉬운 예시입니다. 즉, 여성에 미치는 영향에 대한 이해 없이 전체 연구 분야가 발전했다는 의미입니다. 특히 흑인들은 자신들을 고려하지 않고 만들어진 기술의 영향을 목격하고 있습니다. 예를 들어, 자율 주행 자동차는 조지아 공과대학교에서 2019년에 실시한 연구에 따르면 센서가 흑인 피부를 감지하는 데 어려움을 겪을 수 있기 때문에 흑인을 치일 가능성이 더 높습니다.
이미 차별적인 데이터로 학습된 알고리즘은 인간이 학습시킨 것과 동일한 편견을 그대로 반복합니다. 전반적으로 AI 시스템은 이미 고용, 주택 및 형사 사법에서 인종 차별을 지속하고 증폭시키는 모습을 보이고 있습니다. 음성 비서들은 다양한 억양을 이해하는 데 어려움을 겪으며, 종종 비원어민 영어 사용자의 글을 AI가 생성한 것으로 분류합니다. Axios가 지적한 것처럼 AI의 모국어는 영어입니다. 얼굴 인식 시스템은 백인보다 흑인을 범죄 용의자와 일치하는 것으로 더 자주 분류합니다.
현재 AI 개발은 우리가 다른 곳에서 목격하는 계급, 인종, 성별, 유럽 중심주의에 대한 기존의 권력 구조를 그대로 반영하고 있으며, 이를 해결하기 위해 노력하는 리더는 충분하지 않은 것 같습니다. 오히려 이러한 구조를 강화하고 있습니다. 투자자, 창업자, 기술 리더들은 빠르게 움직이고 세상을 바꾸는 데만 집중한 나머지, 현재 가장 주목받는 AI 기술인 생성형 AI가 문제를 악화시킬 수 있다는 사실을 이해하지 못하는 것 같습니다. McKinsey의 보고서에 따르면 AI는 연간 4만 2천 달러 이상을 벌고 4년제 학위가 필요하지 않은 직업의 절반 정도를 자동화할 수 있으며, 이러한 직업에는 소수 민족 노동자가 과대 대표되어 있습니다.
세계에서 가장 유명한 기술 회사 중 하나인 메타의 백인 남성으로만 구성된 팀이 AI를 사용하여 세상을 구하기 위한 경쟁을 벌이는데, 단일한 좁은 인구 통계만 대표된다면 모든 사람을 위한 제품에 대한 조언을 할 수 있을지 우려되는 부분입니다. 모든 사람, 진정으로 모든 사람이 사용할 수 있는 기술을 구축하려면 엄청난 노력이 필요할 것입니다. 사실, 안전하고 포괄적인 AI를 구축하는 데 필요한 계층, 즉 연구에서 교차 사회적 수준의 이해에 이르기까지 너무나 복잡하여 이 자문위원회가 메타가 올바른 방향으로 나아가는 데 도움이 되지 않을 것이라는 점은 거의 분명합니다. 적어도 메타가 부족한 부분은 다른 스타트업이 채울 수 있을 것입니다.
AI 뉴스레터를 시작합니다! 6월 5일부터 받아보려면 여기 에서 신청하세요.