현대 영향력 네트워크의 매핑과 교란

제가 처음 소셜 미디어 인텔리전스(SOCMINT)를 접했을 때, 저는 자연스럽게 개별 계정 분석, 익명성 해제, 특정 신원과 연결된 과거 콘텐츠 발굴 같은 기법에 끌렸습니다. 하나의 신원을 그려 내는 데 사용할 수 있는 새로운 기법이 무궁무진하다는 점에서, 이는 지금도 공개 출처 정보(OSINT) 분야에서 가장 흥미로운 영역 중 하나입니다.

표적 분석은 제게 각별히 소중하고 대단히 중요한 주제이지만, 오늘은 다른 종류의 SOCMINT에 대해 쓰고자 합니다. 바로 완전히 다른 플랫폼들에 흩어져 있는 방대한 수의 계정을 아우르는 네트워크 전반의 분석입니다.

영향력 네트워크의 역학 이해하기

이러한 종류의 조사는 흔히 외국의 허위 정보 네트워크, 서방 선거를 겨냥한 중국의 스팸플라주(spamouflage), 이란 연계 영향력 네트워크, 또는 암호화폐 사기와 연결된 대규모 봇 팜을 이해하는 것을 목표로 합니다. 살인이나 사기 사건의 진상을 파헤치기 위해 증거 보드를 응시하는 형사의 이미지와는 거리가 멀지만, 온라인 정보 공격은 이제 전 세계에서 가장 활발하게 악용되는 공격 표면 중 하나, 어쩌면 그 자체가 되었습니다.

지난 1년간 Intrace를 만들면서 저는 이러한 네트워크를 모든 각도에서 배울 기회가 있었습니다. 자연스럽게 위협 행위자에서 시작하는 것이 이치에 맞습니다. 그들의 동기와 유인은 무엇인가? 그들이 얻는 것은 무엇인가? 메시지를 퍼뜨리기 위해 소셜 네트워크를 악용하는 사람의 전형적인 프로필은 무엇인가?

캠페인 배후의 행위자들을 분석할 때 반복해서 나타나는 패턴은, 그들이 이념만으로 움직이는 경우는 거의 없거나 아예 없다는 것입니다. 분명히 해 두자면, 일종의 자연스러운 부산물로서 영향력 네트워크처럼 행동하는 풀뿌리 커뮤니티도 있지만, 그들은 덜 의도적으로 움직이는 경향이 있습니다. 대신 대부분은 금전적 유인, 정치적 지시, 기회주의의 혼합으로 움직입니다. 참여 지표 할당량을 채우려는 소셜 미디어 하청업자처럼 무해한 경우도 있고, 특정 내러티브를 조종하는 데 집중하는 국가 연계 팀도 있으며, 그 중간 어딘가에 속하는 경우도 많습니다.

완벽한 허위 정보 캠페인을 만드는 것은 완벽한 거짓말을 지어내는 일이라기보다, 아무도 그 거짓말에 의문을 품을 생각조차 하지 못하도록 거짓말 주변의 환경을 조성하는 일에 가까울 수 있습니다. 인간 사고의 근본적인 결함, 즉 우리가 어디에서나 패턴을 보려는 경향을 악용하는 것은 바로 물량, 지속성, 타이밍입니다. 이러한 시스템이 대규모로 작동하는 방식을 한번 보고 나면, 개별 계정들은 이야기 속 등장인물이라기보다 사용자에게 스팸을 뿌리기 위해 만들어진 기계의 교체 가능한 부품처럼 느껴집니다.

영향력 네트워크의 교란은 어렵습니다

계정이 대체로 교체 가능하다는 사실은 분명히 중대한 문제를 제기합니다. 세계 최고의 분석관이라면 노년층에게 암호화폐 사기를 밀어붙이는 계정 네트워크를 그려 낼 수 있습니다. 명백한 범죄 행위를 하고 있다면 그 계정들을 폐쇄시킬 수도 있을 것입니다. 그러나 잔인한 진실은, 팔로워는 값싸고, 사기의 투자수익률(ROI)이 좋다면 다음 시간은 아니더라도 다음 날 아침이면 다시 가동되기 때문에 그것이 별 의미가 없는 경우가 많다는 것입니다.

이는 이런 질문을 낳습니다. 그렇다면 분석관은 애초에 왜 수고롭게 이런 디지털 네트워크를 매핑해야 하는가? 답은 이렇습니다. 그 소모적인 순환을 멈출 수는 없더라도, 시스템의 구조를 이해하면 그 작전이 실제로 어떻게 숨 쉬는지, 어디가 취약한지, 그리고 잘 배치된 개입 하나가 전체 엔진을 의미 있는 시간 동안 멈춰 세울 수 있는 지점이 어디인지 볼 수 있는 기회가 생깁니다.

시드 계정을 통한 네트워크 교란

한 가지 실용적인 예는 네트워크가 수백 개의 하위 봇 계정에 콘텐츠를 공급하는 소수의 핵심 "시드 계정"에 의존하는 경우입니다. 그 시드가 식별되어 제거되면, 봇들이 밀어붙일 새로운 것이 없어지기 때문에 하위 계정들의 소음이 한동안 무너집니다.

이는 선거, 바이럴 스캔들, 갑작스러운 정책 논쟁처럼 타이밍이 중요한 단기적 또는 고압적 국면에서만 의미를 갖는 경향이 있습니다. 선거, 바이럴 스캔들, 갑작스러운 정책 논쟁을 떠올려 보십시오. 주의 지속 시간이 계속 짧아지면서 뉴스 사이클은 해마다 빨라지고 있으므로, 네트워크가 그 시간대를 놓치면 입소문을 타고 여론을 형성할 기회를 잃습니다. 행위자들이 백업을 충분히 갖고 있고 빠르게 재건할 수 있는 느리게 전개되는 캠페인에서는 훨씬 덜 중요하며, 적보다 자원을 더 빨리 소모하게 됩니다. 이 경우 여러분이 적보다 자원을 더 빨리 낭비하게 될 것입니다.

증폭 사이클에 의존하는 네트워크의 교란

또 다른 예는 조직화된 증폭 사이클에서 볼 수 있습니다. 일부 네트워크는 플랫폼이 대응하기 전에 게시물을 트렌드에 올리기 위해 정밀한 타이밍에 의존합니다. 그 리듬을 이해하고 있다면, 첫 번째 물결을 교란하는 것으로 캠페인 전체가 탄력을 얻기 전에 무력화할 수 있습니다. 플랫폼을 조정할 관리자 권한이 없다면 이런 작전을 교란할 선택지는 좁아지지만, 여전히 가능합니다.

노이즈 주입이 잘 작동하는 이유는 행위자들이 조종하려는 알고리즘 표면을 어지럽히기 때문입니다. 같은 태그나 주제에 무관한 게시물, 논평, 반박 콘텐츠를 초기에 충분히 투입하면 그들의 첫 물결은 탄력을 얻지 못합니다. 유의 사항으로, 이러한 작전에는 반드시 윤리적인 방식으로 접근하는 것이 필수적입니다.

여기서 최선의 활용 사례는 작전이 실질보다 도달률에 크게 의존하는 경우로, 트렌드 하이재킹부터 조작된 분노 폭풍까지 대부분의 영향력 작전이 이에 해당합니다. 첫 물결을 깨뜨리면 계획 전체가 무산되는 경우가 많지만, 행위자들이 트렌드나 인기 주제에 관심이 없고 시간을 들여 틈새 영역에 침투하려는 경우에는 의미가 덜합니다.

크로스 플랫폼 네트워크의 교란

세 번째 사례는 플랫폼 간 다리(bridge)와 관련이 있는데, 이는 플랫폼 사이의 활동을 매핑하려는 분석관에게 큰 난제가 될 수 있습니다. 그러나 이러한 작전의 다수는 단일한 포럼, 그룹, 채팅 채널을 집결지로 삼습니다. 그 허브의 가시성을 제거하면 행위자들은 워크플로를 재구축해야 하고 확산이 느려집니다. 이런 채널을 교란하는 모든 잠재적 방법을 여기서 다루지는 않겠습니다. 그것만으로 별도의 글이 필요하기 때문입니다. 다만 간단히 언급하자면, 단순한 혼잡화와 희석만으로도 놀라운 효과를 볼 수 있습니다.

이 다리가 병목인 경우, 예를 들어 상대적으로 작은 관리자 팀이 다수의 저숙련 증폭 계정을 조율하고 있는 경우에 그 효과는 유난히 큽니다. 병목이 무너지면 시스템 전체가 조율 능력을 잃습니다. 계획이 다수의 병렬 그룹에 걸쳐 이루어지는 탈중앙화된 생태계에서는 의미가 덜합니다. LLM과 인공지능 역시 여기에 새로운 난제를 제기하는데, 인공적인 게시물로 병목을 극복할 수 있기 때문입니다.

간판 인물이 있는 네트워크의 교란

소수의 계정이 나머지 전부를 진짜처럼 보이게 만드는 검증자(validator) 역할을 하는 평판 기반 네트워크도 있습니다. 이 경우는 싸움이 순수한 주목도보다 인식에 관한 것이 되는 유일한 사례로, 그 검증자들을 공개적으로 폭로하면 환상이 깨지고 나머지 네트워크의 설득력이 약해질 수 있습니다.

이는 극단적 정치 커뮤니티, 틈새 금융 그룹, 음모론 집단처럼 청중이 메시지를 신뢰하는 데 간판 인물에 의존하는 경우에 중요합니다. 검증자들이 신뢰를 잃는 순간 네트워크의 나머지는 소음이 됩니다. 애초에 아무도 신뢰성을 기대하지 않는 혼란스럽거나 익명적인 환경에서 이미 작동 중인 캠페인이라면 의미가 덜하며, 대체 인물이 그 공백을 빠르게 메우는 경우가 많습니다.

대규모 영향력 네트워크의 교란

공격 유형과 무관하게 매우 흔한 약점은 운영상의 게으름입니다. 행위자들은 캠페인을 넘나들며 이미지, 문구, 인프라를 재사용합니다. 문구가 정확히 일치하지 않더라도 현대의 머신러닝은 유사성을 탐지할 수 있으며, 그러한 지문을 부각시키면 플랫폼이 게시물을 하나씩 골라내는 대신 묶음 전체를 탐지하고 제거하는 데 도움이 됩니다.

이는 행위자들이 대량 스팸, 사기 물결, 외국의 정치적 영향력 작전 같은 불법 사업을 지속하기 위해 규모에 의존할 때 가장 효과적인 경향이 있습니다. 자신의 자료를 재활용할수록 대규모 클러스터를 일소하기가 쉬워집니다. 작전에 자원이 풍부하고 어떤 패턴도 악용할 수 있을 만큼 오래 남지 않도록 자산을 빠르게 교체하는 경우에는 의미가 훨씬 덜합니다. 이는 위협 행위자가 규모를 신뢰성과 맞바꾸도록 강제하는데, 규모야말로 보통 모든 정보 캠페인의 성패를 좌우하는 제1 요소입니다.

전문가 팁: 해당 소셜 미디어 플랫폼을 직접 조정할 권한이 없다면, 계정을 자동으로 신고하는 인프라를 만들거나(이는 이용약관에 위배될 수 있으니 주의하십시오) 맥락화 캠페인을 운영할 수 있습니다.

에코 체임버의 교란

맥락화 이야기가 나온 김에, 위협 행위자가 범죄를 저지르지는 않았지만 특정 내러티브를 밀어붙이고 있는 경우에는 이 접근이 최선의 선택지인 경우가 많습니다. 게시물에 표시를 하고 프레임을 부여하면 게시물을 완전히 제거하지 않고도 영향력을 무디게 할 수 있습니다. X.com의 커뮤니티 노트가 좋은 예로, 크라우드소싱된 정정과 해설에 의존하여 팩트체크를 민주화합니다. 유망하지만 트레이드오프가 없는 것은 아닌데, 어떤 개방형 시스템이든 공격 표면이 될 수 있기 때문입니다. YouTube가 Wikipedia 링크를 추가하는 방식도 이 아이디어의 또 다른 버전이지만, Wikipedia 측의 더 무거운 조정이 수반되며, 사용자가 직접 맥락을 추가하는 것이 아니라 YouTube 알고리즘이 게시물이 민감할 수 있는 시점을 탐지합니다.

우리의 초기 연구에서는 X의 접근 방식이 더 나은 반응을 얻는 것으로 보입니다. 더 커뮤니티 주도적이고 각 게시물에 맞춤화되어 있으며, 노트가 실제 콘텐츠와 부합합니다. YouTube의 방식은 검열이나 편향에 대한 우려를 더 많이 불러일으키는 경우가 많은데, 덜 커뮤니티 주도적이거나 맥락이 일반적이어서 게시물마다 달라지지 않기 때문입니다. 그럼에도 맥락을 추가하고, 의심스러운 활동을 지적하고, 반복되는 주장에 배경 정보를 붙이는 것은 콘텐츠가 수용되는 방식을 바꿀 수 있습니다.

이러한 부드러운 개입은 행위자들이 사용자가 모든 것을 액면 그대로 받아들이는 데 의존하는 저비용 캠페인에 가장 효과적이며, 사안이 매우 논쟁적이거나 널리 알려진 경우에는 잘 작동하지 않을 수 있습니다.

맥락화에는 플랫폼 소유권이 필요하지 않으며, 궁극적으로 내러티브를 형성하는 최선의 방법은 적보다 더 많은 참여를 얻는 것이므로, 가능하다면 실제 게시자들을 에코 체임버 쪽으로 유도하는 것과 같은 조치가 가장 효과적일 수 있습니다.

Intrace에서 우리는 영향력 매핑부터 오픈 웹 전반의 광범위한 네트워크 분석까지, 도메인을 넘나드는 인텔리전스를 위한 시스템을 만듭니다. 이 지형 어딘가에서 문제에 직면해 있거나 이러한 작전이 작동하는 방식에 대한 더 깊은 가시성이 필요하다면, 연락 주십시오. 함께 살펴보겠습니다.