알고리즘, 침묵, 그리고 보이지 않는 영상

저는 인터넷과 함께 성장했습니다. 단순히 사용자로서가 아니라, 틱톡 샵 이나 유튜브 쇼츠 같은 플랫폼에서 콘텐츠를 제작하기로 결심한 사람이기도 했죠. 그리고 동시에 데이터 과학을 전공했습니다. 이러한 경험들이 제가 세상을 바라보는 방식을 바꿔놓았습니다.

지표, 유통, 유지율, 클릭률(CTR), 완료율, A/B 테스트 등을 이해하게 되면 순진함은 사라집니다. 패턴을 발견하기 시작하고, 동시에 몇 가지 이상한 점을 발견하게 됩니다.

그중 하나는 간단하면서도 성가신 문제입니다. 매일 영상을 올리도록 권장하면서도, 명확한 설명 없이 "영상이 커뮤니티 가이드라인을 위반했습니다"라는 모호한 알림을 자주 받는 이유는 무엇일까요? 이의 신청을 하면 많은 영상이 복구되지만, 일부는 여전히 "게시되지 않음" 상태로 남아 있는 이유는 무엇일까요? 그리고 대형 플랫폼이나 인플루언서들은 왜 이런 제한에서 자유로운 것처럼 보일까요?

시간이 지나면서 나는 이것을 또 다른 흔한 경험, 즉 일반적인 답변이나 완전한 침묵으로 끝나는 선발 과정과 연관 짓게 되었다.

단순한 우연이 아닙니다. 그 이면에는 구조적인 논리가 있습니다.

매일 생산에 대한 압박

무한한 일관성의 신화

틱톡 이나 유튜브 에서 콘텐츠를 만들어 본 적이 있다면, 아마 똑같은 조언을 들어봤을 겁니다. 바로 "매일 게시물을 올리라"는 것이죠.

핵심은 분명합니다. 꾸준함이 성장을 가져옵니다. 알고리즘은 빈도에 따라 보상을 제공합니다. 더 많이 게시하는 사람은 더 많은 주목을 받게 됩니다.

하지만 이 이야기에는 긴장감이 숨겨져 있습니다.

데이터 과학자로서 저는 플랫폼이 사용자 유지율과 화면 사용 시간을 최적화한다는 것을 알고 있습니다. 플랫폼은 사람들이 앱에서 더 많은 시간을 보내도록 유도합니다. 즉, 알고리즘은 "중립적인 심판자"가 아니라 최적화 시스템입니다.

최적화 시스템은 목적 함수를 최대화하는 것을 선택합니다.

이러한 플랫폼의 경우, 이 기능은 일반적으로 다음과 같습니다.

• 표시 시간

• 즉각적인 참여

• 주식

• 앱으로 돌아가기

  
  

그게 꼭 사실은 아닙니다. 효율성의 문제입니다.

진정으로 몰입하게 만드는 것은 무엇일까요?

데이터를 다루는 사람들에게는 새로운 사실이 아닙니다. 강한 감정을 불러일으키는 콘텐츠가 더 나은 성과를 낸다는 것은 말이죠.

분노. 호기심. 공포. 소문. 선정주의.

가짜 뉴스도 마찬가지야.

이건 단순한 의견이 아닙니다. 대규모로 관찰된 인간 행동입니다. 공유율, 최고 시청 시간, 조회수 1,000회당 댓글 수 등을 측정해 보면, 중립적이고 균형 잡힌 콘텐츠가 극단적인 콘텐츠와의 경쟁에서 우위를 점하기 어렵다는 것을 알 수 있습니다.

그래서 궁금한 점은, 만약 시스템이 참여도를 극대화하도록 최적화되어 있다면, 기술적이고 비판적이거나 성찰적인 영상의 도달률이 제한적이라는 사실에 왜 놀라야 할까요?

어쩌면 문제는 기대 자체에 있을지도 모릅니다.

모호한 알림과 알고리즘적 침묵

"귀하의 영상은 커뮤니티 가이드라인을 위반합니다."

콘텐츠 제작자라면 누구나 이미 이 메시지를 받았을 겁니다. 메시지 내용은 거의 항상 일반적이고 모호합니다. 어떤 구절, 어떤 단어, 어떤 표현 방식이 문제였는지 명확하게 알려주는 것이 없습니다.

항소하셨습니다.

며칠 후, "검토 결과, 귀하의 영상은 당사 가이드라인을 위반하지 않습니다."라는 알림을 다시 받게 됩니다.

좋습니다. 하지만 이미 피해는 돌이킬 수 없습니다. 영상 공개 시기가 맞지 않았고, 도달률도 떨어졌습니다. 회복하기 어려울 겁니다.

어떤 경우에는 위반 사실이 확인되지 않더라도 영상의 배포가 제한적으로 이루어집니다. 영상이 삭제되는 것이 아니라, 전달되지 않는 것뿐입니다.

시스템 원리를 이해하는 사람들에게는 이로 인해 몇 가지 가설이 떠오릅니다.

규모 및 운영 비용의 적정성

메타, 틱톡, 유튜브와 같은 플랫폼은 수십억 건의 업로드를 처리합니다.

모든 것을 수동으로 검토하는 것은 불가능합니다. 따라서 검토 과정의 상당 부분은 자동화되어 있습니다.

머신러닝 모델은 위반 가능성에 따라 콘텐츠를 분류합니다. 완벽한 이진 분류가 아니라 통계적 판단입니다.

확률이 특정 임계값을 초과하면 동영상에 다음과 같은 내용이 표시될 수 있습니다.

• 삭제될 예정

• 범위가 줄어든 상태

• 수동 검토를 위해 전송될 예정입니다.

여기서 중요한 기술적 사항을 하나 짚어보겠습니다. 바로 오탐지(false positive)입니다.

모든 분류 시스템에는 정확도와 재현율 사이의 상충 관계가 존재합니다. 문제가 있는 콘텐츠를 최대한 피하려면 모델의 민감도를 높여야 합니다. 하지만 이렇게 하면 오탐(false positive)이 더 많이 발생합니다.

즉, 어떤 규칙도 위반하지 않는 콘텐츠라도 예방적으로 제재를 받을 수 있다는 뜻입니다.

회사 입장에서는 용납할 수 있는 일이지만, 창작자 입장에서는 매우 실망스러운 일입니다.

전략적 불투명성

하지만 기술적 한계 외에도 또 다른 요소가 있습니다. 바로 전략입니다.

완전한 투명성은 콘텐츠 제작자들이 더욱 정확하게 "시스템에 맞서 싸울" 수 있도록 해줄 것입니다. 어떤 단어가 차단을 유발하는지 정확히 알 수 있다면 콘텐츠의 본질을 바꾸지 않고도 차단을 우회할 수 있을 것입니다.

플랫폼들은 의도적으로 이러한 수준의 명확성을 회피합니다.

불투명도는 단순한 결함이 아닙니다. 그것은 통제의 도구입니다.

선발 과정과의 유사점

이 경험은 마치 취업 면접을 보는 것 같았어요.

당신은 일련의 과정에 참여합니다. 이력서를 제출하고, 기술 시험을 치르고, 인사 담당자와 면담합니다.

매니저에게 말씀하세요.

고요.

또는 "귀하의 프로필에 더 적합한 다른 후보자를 선택하기로 했습니다."라는 일반적인 메시지를 받을 수도 있습니다.

어떤 프로필을 말씀하시는 건가요? 어떤 측면에서요? 경험? 의사소통 능력? 조직 문화 적합성?

아무것도 설명되지 않았습니다.

첫인상의 편견

데이터 과학과 조직 심리학에서는 인간의 의사 결정이 첫인상 편향에 의해 크게 영향을 받는다는 것을 알고 있습니다.

면접관은 대화 초반 몇 분 안에 가설을 세웁니다. 그리고 나머지 면접 과정은 대개 그 가설을 확인하는 데 사용됩니다.

그런 다음 후보자에게 보내는 사유는 일반적인 내용입니다. 이유가 없어서가 아니라, 세부 사항을 제공하는 데에는 법적 위험, 운영상의 노력 및 노출이 따르기 때문입니다.

침묵이 더 안전하다.

플랫폼에서와 마찬가지로요.

규모 및 표준화

대기업은 수천 건의 이력서를 받습니다. 플랫폼은 수백만 건의 동영상을 받습니다.

두 경우 모두 맞춤 제작에는 높은 비용이 수반됩니다.

그러면 표준 응답, 자동화된 결정 및 사전 필터링된 옵션이 나타납니다.

개인적인 감정은 아닙니다. 규모의 문제입니다.

하지만 심리적 영향은 개인마다 다릅니다. 아주 많이요.

자신의 능력이나 진실성에 대해 의심하기 시작합니다.

대형 포털은 왜 영향을 받지 않는 것처럼 보일까요?

그게 바로 저를 가장 괴롭히는 질문입니다.

주요 언론 매체와 인플루언서들은 하루에 수십 개의 영상을 게시합니다. 그 내용은 종종 선정적입니다. 그런데도 이에 대한 공개적인 제한 조치는 찾아볼 수 없습니다.

이 모든 것의 배후에는 무엇이 있을까요?

이력 및 내부 점수

플랫폼은 평판 시스템을 활용합니다.

오랜 활동 경력, 낮은 위반율, 높은 긍정적 참여도를 가진 크리에이터는 알고리즘적으로 더 높은 신뢰도를 얻는 경향이 있습니다.

신뢰도에 대한 "내부 점수"가 존재한다고 상상하는 것은 타당합니다. 이는 다음과 같은 사항에 영향을 미칠 것입니다.

• 자동 차단 확률

• 검토 속도

• 초기 도달 범위

  
  

대형 포털 사이트들은 법무팀을 보유하고 있으며, 관련 규정을 잘 알고 있어 전략적으로 표현을 조정합니다. 이는 벌금 부과 위험을 줄여줍니다.

비즈니스 관계

또 다른 요인은 수익 창출입니다.

대형 크리에이터는 상당한 수익을 창출합니다. 광고주를 유치하고, 플랫폼 사용자를 유지하며, 브랜드를 강화합니다.

저는 직접적인 편애를 주장하는 것은 아닙니다. 하지만 어느 회사든 전략적 고객은 우대받는 경향이 있습니다.

이런 일은 은행, 소프트웨어 회사, 컨설팅 회사에서 흔히 일어납니다. 디지털 플랫폼이라고 해서 다를 게 뭐가 있겠습니까?

중복성의 이점

영향력 있는 인플루언서들은 많은 영상을 올립니다. 하나의 영상이 다소 부족하더라도 다른 열 개의 영상이 그 부족함을 메워줍니다.

규모가 작은 크리에이터의 경우, 불이익을 받은 영상 하나가 주간 도달률의 30%를 차지할 수 있습니다.

불공평함에 대한 인식이 더 큰 이유는 상대적인 영향이 더 크기 때문입니다.

이 모든 것의 진짜 배후에는 무엇이 있을까요?

요약하자면, 다섯 가지 계층으로 나눌 수 있습니다.

1. 참여도 최적화

이 알고리즘은 사용자 유지율과 광고 수익을 우선시합니다. 이러한 지표를 극대화하는 콘텐츠가 선호되는 경향이 있습니다.

2. 위험 관리

플랫폼들은 평판 위기를 초래할 수 있는 콘텐츠를 허용하기보다는 제한하는 쪽을 선호합니다.

3. 운영 규모

수십억 개의 콘텐츠에 자동화가 필요합니다. 자동화는 오류를 발생시키고, 오류는 좌절감을 초래합니다.

4. 불투명도를 전략으로 활용하기

완전한 투명성은 통제력을 약화시키고 대규모 조작의 가능성을 열어줄 것이다.

5. 권력 불균형

소규모 사육업자는 영향력이 적고, 직접적인 접촉이 적으며, 오류를 범할 여지가 적습니다.

투명인간이 된 듯한 느낌

이 모든 것에는 더 깊은 의미가 담겨 있습니다.

영상이 "전송되지 않을" 경우, 공개적인 논쟁도 없고, 명시적인 삭제도 없습니다. 그저 보이지 않게 될 뿐입니다.

그것은 현대적인 형태의 침묵이다.

당신이 말을 해도 거의 아무도 듣지 않습니다.

이는 콘텐츠 제작자가 죄책감을 내면화하는 환경을 조성합니다. "내 콘텐츠가 좋지 않은 걸까?" "알고리즘을 이해하지 못하는 걸까?"

때로는 그렇지만, 항상 그런 건 아닙니다.

데이터를 분석하는 사람으로서 저는 시스템이 불완전하다는 것을 알고 있습니다. 그리고 측정 지표는 인위적으로 선택된 것이며, 자연스러운 것이 아니라는 것도 알고 있습니다. 그것들은 인간의 결정입니다.

콘텐츠 제작에 미치는 영향

시간이 흐르면서 많은 사육자들이 자신의 행동을 바꿉니다.

• 그들은 복잡한 주제를 피합니다.

• 그들은 지나치게 단순화한다.

• 그들은 더 매력적인 제목을 사용합니다.

• 그들은 논란을 노리고 있는 것이다.

  
  

시스템이 콘텐츠의 형태를 결정합니다.

이것이 걱정스럽습니다.

만약 사람들의 관심을 끄는 것이 피상적이고, 심오한 것은 제한적이거나 위험하다면, 인터넷은 점점 더 피상적으로 변해갈 것이다.

개인의 악의에서가 아닙니다. 구조적인 유인책 때문입니다.

데이터 과학자로서 배운 점

모든 시스템에는 목표가 있다는 것을 알게 되었습니다. 그리고 목표를 정하는 사람이 시스템의 동작 방식을 결정한다는 것도요.

만약 목적 함수가 정보의 질 검증이었다면, 피드 내용이 달라졌을지도 모릅니다.

하지만 품질을 측정하는 것은 어렵습니다. 표시 시간을 측정하는 것은 쉽습니다.

그러므로 측정 가능한 것을 선택하는 것이다.

이러한 현상은 기업에서도 발생합니다. 선정 과정에서 상세한 피드백보다는 속도와 법적 위험 최소화를 우선시하는 경향이 있습니다.

지표는 문화를 형성한다.

해결책이 있을까요?

저는 간단한 해결책을 믿지 않습니다.

투명성을 높이는 것이 도움이 될 것입니다. 보다 명확한 검토 기준 또한 유익할 것입니다.

하지만 분명한 한계가 있습니다.

• 플랫폼 간 경쟁

• 이윤 추구에 대한 압력

• 규제 위험

• 대규모

어쩌면 변화는 내부적인 노력보다는 외부 규제에서 비롯될 가능성이 더 클지도 모릅니다.

혹은 이는 즉각적인 오락거리보다 심층적인 콘텐츠를 더 중요하게 여기기 시작한 사용자들 때문일지도 모릅니다.

모르겠습니다.

이 문제를 어떻게 해결해야 할까요?

저는 계속해서 작품을 만들고 있습니다.

하지만 저는 의식적으로 작품을 만들어냅니다.

모든 영상이 전달되지 않을 거라는 걸 알고 있습니다. 일부 알림은 모호할 거라는 것도 알고 있습니다. 대기업들은 다른 전략을 펼치고 있다는 것도 알고 있습니다.

또한, 저는 제 지적 성장보다는 사용자 유지에 주된 목표를 둔 플랫폼의 지표에 제 자존감을 의존할 수 없다는 것을 알고 있습니다.

마찬가지로, 일반적인 거절 이메일 하나만으로 제 전문적인 가치를 판단할 수는 없습니다.

결론

매일 콘텐츠를 만들어야 하는 소셜 미디어 플랫폼에서 자라는 것은 자극적이면서도 낯선 경험이다.

데이터 과학 학위를 가진 사람으로서 저는 이면에서 무슨 일이 벌어지는지 알고 있습니다. 통계적 논리, 오탐지, 고객 유지 최적화, 그리고 전략적인 불투명성까지 모두 파악할 수 있습니다.

창작자로서 저는 명확성이 부족한 데서 오는 답답함을 느낍니다.

선발 과정에 참여하는 지원자로서 저는 일반적인 답변과 불투명한 결정이라는 똑같은 패턴을 목격해 왔습니다.

궁극적으로 모든 것은 규모, 위험, 그리고 인센티브를 중심으로 돌아갑니다.

개인적인 감정은 없지만, 그렇다고 중립적인 것도 아닙니다.

어쩌면 가장 중요한 질문은 "왜 이런 일이 일어나는가?"가 아니라 "우리는 어떤 시스템을 계속해서 유지하고 싶은가?"일지도 모릅니다.

네, 그곳은 아직 영업 중입니다.