요약생성
바쁠 때는 리얼라이즈가 내용을 요약해 드려요.
Google은 오늘 Google Play를 통해 배포되는 AI 앱을 개발하는 개발자를 위한 새로운 가이드라인을 발표했습니다. 이는 부적절하고 금지된 콘텐츠를 줄이기 위한 노력의 일환입니다. Google은 AI 기능을 제공하는 앱은 성적 콘텐츠, 폭력 등 제한된 콘텐츠의 생성을 방지해야 하며, 사용자가 불쾌감을 느끼는 콘텐츠를 신고할 수 있는 방법을 제공해야 한다고 밝혔습니다. 또한 개발자는 사용자 안전과 개인 정보를 존중하도록 AI 도구와 모델을 “엄격하게 테스트“해야 한다고 덧붙였습니다.
또한 Google은 사람의 옷을 벗기거나 동의 없이 누드 이미지를 생성하는 앱과 같이 마케팅 자료에서 부적절한 사용 사례를 홍보하는 앱을 단속하고 있습니다. 광고 문구에서 앱이 이러한 작업을 수행할 수 있다고 명시하는 경우, 실제로 앱이 그러한 기능을 수행할 수 있는지 여부와 관계없이 Google Play에서 금지될 수 있습니다.
이 가이드라인은 최근 몇 달 동안 소셜 미디어에서 스스로를 마케팅해 온 AI 누드 앱의 급증에 따른 것입니다. 예를 들어 404 Media의 4월 보고서에 따르면 Instagram에서 AI를 사용하여 딥페이크 누드를 생성한다고 주장하는 앱 광고가 게재되고 있는 것으로 나타났습니다. 한 앱은 킴 카다시안의 사진과 “모든 여성을 무료로 벗겨보세요”라는 슬로건을 사용하여 스스로를 마케팅했습니다. Apple과 Google은 각각의 앱 스토어에서 해당 앱을 삭제했지만, 문제는 여전히 만연해 있습니다.
미국 전역의 학교에서는 다른 학생(그리고 때로는 교사)의 AI 딥페이크 누드를 공유하고 전달하여 괴롭힘과 따돌림을 일삼는 학생 문제와 기타 여러 유형의 부적절한 AI 콘텐츠 문제를 보고하고 있습니다. 지난달 볼티모어에서는 학교 교장의 인종차별적인 AI 딥페이크로 인해 체포되는 사건이 발생했습니다. 더욱 심각한 것은 이 문제가 경우에 따라 중학생들에게까지 영향을 미치고 있다는 것입니다.
Google은 자사 정책이 사용자에게 부적절하거나 유해할 수 있는 AI 생성 콘텐츠를 제공하는 앱이 Google Play에서 차단되는 데 도움이 될 것이라고 밝혔습니다. Google은 Google Play에서 앱 승인을 위한 요구사항을 확인할 수 있는 곳으로 기존 AI 생성 콘텐츠 정책을 제시했습니다. Google은 AI 앱에서 제한된 콘텐츠의 생성을 허용해서는 안 되며, 사용자가 불쾌감을 주거나 부적절한 콘텐츠를 신고할 수 있는 방법을 제공해야 할 뿐만 아니라 해당 피드백을 모니터링하고 우선 순위를 지정해야 한다고 밝혔습니다. 후자는 특히 인기 있는 모델이 더 높은 순위를 차지하거나 더 눈에 띄는 것처럼 사용자의 상호 작용이 “콘텐츠와 경험을 형성하는“ 앱에서 특히 중요하다고 Google은 말합니다.
또한 개발자는 Google의 앱 홍보 요구사항에 따라 Google Play 규칙을 위반하는 앱을 광고할 수 없습니다. 부적절한 사용 사례를 광고하는 경우 앱이 앱 스토어에서 삭제될 수 있습니다.
또한 개발자는 AI 기능을 조작하여 유해하고 불쾌감을 주는 콘텐츠를 생성할 수 있는 프롬프트로부터 앱을 보호할 책임이 있습니다. Google은 개발자가 비공개 테스트 기능을 사용하여 사용자와 앱의 초기 버전을 공유하고 피드백을 받을 수 있다고 말합니다. Google은 향후 검토를 요청할 수 있으므로 출시 전에 테스트할 뿐만 아니라 해당 테스트를 문서화할 것을 강력히 권장합니다.
Google은 또한 AI 앱을 개발하는 개발자를 지원하기 위한 People + AI 가이드북과 같은 기타 리소스와 모범 사례를 게시하고 있습니다.