요약생성
바쁠 때는 리얼라이즈가 내용을 요약해 드려요.
2024년 5월 24일 오전 11시 11분
출처: Midjourney V6로 제작된 VentureBeat
피자에 풀을 붙이고, 하루 30분 동안 태양을 직접 응시하고, 돌이나 독버섯을 먹고 뱀에 물렸을 때 얼음으로 치료해야 할까요??
구글 검색의 새로운 'AI 개요' 기능을 통해 제공되는 정보에 따르면, 이러한 어리석고 해로운 제안은 좋은 생각일 뿐만 아니라, 사용자가 구글의 대표 제품으로 검색할 때 가장 먼저 봐야 할 최상의 결과입니다.
옛날 옛적 구글 AI: 방울뱀에 물렸을 때 해서는 안 될 일을 정확히 알려줍니다.
버섯부터 뱀에 물린 것까지, AI 콘텐츠는 정말 위험합니다. pic.twitter.com/UZXgBjsre9
— ern. (@ErinEARoss) 2024년 5월 19일
도대체 무슨 일이 일어나고 있는 걸까요? 이 모든 잘못된 정보는 어디에서 온 걸까요? 그리고 구글은 왜 지금 검색 결과 페이지 상단에 이런 정보를 올려놓는 걸까요? 자세히 알아보겠습니다.
구글 AI 개요란?
구글은 대규모 언어 모델(LLM) 챗봇 및 검색 분야에서 경쟁자인 OpenAI 및 히트 챗봇 ChatGPT를 따라잡기 위해 2023년 5월에 '검색 생성 경험'이라는 새로운 기능을 도입했습니다.
당시 구글은 이 기능을 '고려해야 할 핵심 정보를 AI 기반 스냅샷으로 보여주고 자세히 알아볼 수 있는 링크를 제공'하는 기능이라고 설명했으며, 기본적으로 사용자가 일반적으로 구글에서 검색할 때 표시되는 기존의 파란색 링크 목록 위, 구글 검색 입력 창 바로 아래에 새로운 텍스트 단락으로 표시되었습니다.
이 기능은 검색 전용 AI 모델을 기반으로 한다고 합니다. 당시에는 '옵트인' 서비스였고 사용자가 여러 단계를 거쳐야 활성화할 수 있었습니다.
하지만 10일 전 구글의 I/O 컨퍼런스에서 구글은 수많은 AI 관련 발표와 함께 검색 생성 경험의 이름을 AI 개요로 변경하고 미국 사용자를 시작으로 모든 사용자에게 구글 검색의 기본 경험으로 제공될 예정이라고 발표했습니다.
AI 개요를 끄거나 AI 개요 없이 구글 검색을 수행하는 방법(즉, 구글 검색의 '웹' 탭)이 있지만, 이제 이 경우 사용자는 몇 가지 추가 단계를 거쳐야 합니다.
구글 AI 개요가 논란이 되는 이유는?
구글이 미국 사용자를 대상으로 AI 개요를 기본 설정으로 전환한 이후, 일부 사용자는 X 및 기타 소셜 사이트에서 다양한 쿼리를 검색할 때 이 기능에 나타나는 끔찍하고 끔찍하고 형편없는 결과를 게시했습니다.
경우에 따라 AI 기반 기능은 매우 잘못되었거나 선동적이거나 완전히 위험한 정보를 표시하기도 합니다.
수십 년 동안 세상의 지식을 보여주는 포털로 홍보된 서비스에 Reddit에서 학습한 자신만만하지만 틀린 챗봇을 밀어 넣는 것은 무모하고 정말 위험한 일입니다. https://t.co/82VN9Y4WuU
— Meredith Whittaker (@mer__edith) 2024년 5월 24일
뮤지션 릴 나스 엑스를 비롯한 유명인사들도 비난에 가세했습니다.
다른 결과는 더 무해하지만 여전히 잘못되었고 구글을 어리석고 신뢰할 수 없게 만듭니다.
형편없는 품질의 AI 생성 결과는 자체적으로 생명을 얻었고, 일부 사용자는 스크린샷에 답변을 포토샵으로 편집하여 구글을 실제 결과보다 더 나쁘게 보이게 만드는 밈이 되기도 했습니다.
구글은 AI 개요 기능을 '실험적'이라고 설명하면서 각 결과 하단에 '생성형 AI는 실험적입니다'라는 텍스트를 넣고 새로운 기능을 자세히 설명하는 페이지로 연결했습니다.
구글은 이 페이지에서 다음과 같이 썼습니다. 'AI 개요는 핵심 정보와 자세히 알아볼 수 있는 링크가 포함된 AI 생성 스냅샷을 제공하여 검색 작업을 줄여줍니다... 사용자 피드백과 사람의 검토를 통해 결과와 제품의 품질을 책임감 있게 평가하고 개선하고 있습니다.'
구글은 AI/개요를 철회할까요?
하지만 일부 사용자는 X(이전의 트위터)에서 구글에 AI 개요 기능을 삭제하라고 요구하거나, 최소한 일시적으로 삭제할 것이라고 예측했습니다. 구글은 올해 초 제미니 AI 이미지 생성 기능이 인종적, 역사적으로 부정확한 이미지를 생성하여 마크 안드레센, 일론 머스크와 같은 저명한 실리콘 밸리 자유주의자와 정치적으로 보수적인 인물들의 분노를 샀을 때와 비슷한 전략입니다.
The Verge에 대한 성명에서 구글 대변인은 사용자들이 AI 개요 기능의 예를 보여주고 있다고 말했습니다. '일반적으로 매우 드문 쿼리이며 대부분 사람들의 경험을 대표하지 않습니다.'
또한 The Verge는 다음과 같이 보도했습니다. '구글은 정책 위반에 대해 조치를 취했으며... 이러한 '고립된 사례'를 사용하여 제품을 계속 개선하고 있습니다.'
하지만 일부 사람들이 X에서 지적했듯이, 이는 피해자를 비난하는 것처럼 들립니다.
구글이 AI 검색 실패에 대한 변명으로 내세운 '드문' 쿼리가 제기되고 있다는 것은 구글의 원칙에 완전히 반하는 것입니다. 마치 도서관에서 책을 대출하는 횟수가 적을수록 그 책을 덜 신뢰해야 한다고 말하는 것과 같습니다. https://t.co/VzyAlxM4Sm pic.twitter.com/hD2VBIqNhy
— James Vincent (@jjvincent) 2024년 5월 24일
구글 대변인은 이 기사가 게재된 후 연락을 취해 다음과 같은 성명을 발표했습니다.
'대부분의 AI 개요는 웹에서 자세히 알아볼 수 있는 링크와 함께 고품질 정보를 제공합니다. 지금까지 확인된 많은 사례는 드문 쿼리였으며, 조작되었거나 재현할 수 없는 사례도 있었습니다. Google에서는 이 새로운 환경을 출시하기 전에 광범위한 테스트를 거쳤으며, 검색에서 출시한 다른 기능과 마찬가지로 피드백을 환영합니다. Google에서는 콘텐츠 정책에 따라 적절한 경우 신속하게 조치를 취하고 있으며, 이러한 사례를 활용하여 시스템을 광범위하게 개선하고 있으며 그중 일부는 이미 출시되기 시작했습니다.'
다른 사람들은 AI 개발자가 AI 개요에 표시된 것과 같은 위험한 결과에 대해 법적 책임을 질 수 있다고 주장했습니다.
구글이 염소계 표백제와 암모니아를 섞을 수 있는지 여부를 알려줄지 결정하기 위해 옛날 주사위를 굴리고 있는 지금, 이 정확한 트윗을 다시 꺼낼 때입니다. https://t.co/XGFUZXU7rq
— Dan Davies (@dsquareddigest) 2024년 5월 24일
중요한 점은 IT 전문 기자와 디지털 리터러시가 높은 다른 사용자들이 구글이 자체 AI 모델을 사용하여 이전에 검색 색인에 색인된 콘텐츠, 즉 구글이 직접 만든 것은 아니지만 사용자에게 '핵심 정보'를 제공하기 위해 의존하는 콘텐츠의 요약을 생성하는 것으로 보인다고 지적했다는 것입니다.
모두가 구글이 AI 검색 결과에서 돌을 먹으라고 제안해서 웃고 있는 걸 압니다. 가장 웃긴 건 돌 얘기가 일반 추천 스니펫에도 나왔다는 겁니다. 즉, AI 결과만 그런 게 아니라는 거죠. 아마도 구글은 우리 생각보다 더 망가진 것 같습니다. pic.twitter.com/2GWHJ4HKvu
— Tom Warren (@tomwarren) 2024년 5월 24일
구글, 당신은 거의 6%의 사람들이 살면서 어느 시점에 경계성 성격 장애를 겪는다고 말하는 건가요?? 아니요, AI가 비영리 단체의 어색하게 쓰여진 블로그 게시물에서 그 숫자를 가져온 것뿐입니다. pic.twitter.com/6TdYRcnmS2
— Louise Matsakis (@lmatsakis) 2024년 5월 23일
구글 AI 개요는 피자에 치즈를 붙이기 위해 풀을 넣으라고 제안하는데, 출처를 알고 보니 F*cksmith라는 사용자가 11년 전에 Reddit에 쓴 댓글이네요? pic.twitter.com/uDPAbsAKeO
— Peter Yang (@petergyang) 2024년 5월 23일
궁극적으로 몇 퍼센트의 검색에서 이러한 잘못된 정보가 표시되는지 말하기는 어렵습니다.
하지만 한 가지 분명한 사실은 AI 개요가 이전의 구글 검색보다 신뢰할 수 없는 출처의 허위 정보나 농담으로 게시된 정보에 더 취약하다는 것입니다. 기본 AI 모델은 요약을 담당하면서 이를 농담으로 이해하지 못하고 진지하게 받아들입니다.
이제 사용자가 이러한 결과에 제공된 정보를 실제로 얼마나 이용할지는 두고 봐야겠지만, 만약 그렇게 한다면 분명히 현명하지 못한 일이며 건강과 안전에 위험을 초래할 수 있습니다.
사용자가 다른 출처를 확인할 만큼 현명하기를 바랍니다. 예를 들어 경쟁 AI 검색 스타트업인 Perplexity는 현재 구글의 AI 개요보다 정확한 정보를 표시하는 데 문제가 적은 것으로 보입니다(현대 생성형 AI/LLM 붐의 중심에 있는 머신 러닝 트랜스포머 아키텍처를 처음 고안하고 명확히 설명한 구글의 역할을 고려할 때 검색 거인과 사용자에게는 불행한 아이러니입니다).