Openai CEO Sam Altman은 오늘날 온라인 활동의 상당 부분이 더 이상 인간이 아니라 자동화 된 시스템, 주로 인공 지능 (AI)에 의해 주도된다고 주장하는 한 번의 프린지 아이디어 인 Dead Internet Theory를 언급했습니다.
회사가 Chatgpt를 만든 Altman은 목요일에 X (이전의 Twitter)에 대한 생각을 게시하여 플랫폼에서 알아 차린 AI 중심 계정의 수를 놀라게했습니다.
Altman은“나는 죽은 인터넷 이론을 진지하게 받아들이지 않았지만 지금은 많은 LLM이 운영하는 트위터 계정이있는 것 같습니다.
LLM (Chatgpt 및 기타 고급 AI 시스템에 사용 된 것과 같은 대규모 언어 모델)은 Altman 은이 문제를 대중화하는 기술에 직접 연결했습니다.
그 게시물은 거의 즉시 바이러스에 빠졌으며 소셜 미디어에 대한 격렬한 비판과 밈을 끌어 들였습니다.
죽은 인터넷 이론은 무엇입니까?
Dead Internet Theory는 10 년 전에 처음으로 4chan과 같은 온라인 포럼에 처음 등장했으며, 사용자는 대부분의 온라인 컨텐츠와 상호 작용이 실제 사람들로부터 나오지 않을 것이라고 추측했습니다.
대신,이 포럼은 봇과 자동화 시스템이 게시물, 의견 및 전체 대화를 만들고 있다고 제안했습니다.
이 이론의 초기 버전에 따르면, 인터넷은 빈 껍질이되었으며, 여기서 인간 참여는 활동을 시뮬레이션하도록 설계된 알고리즘으로 대체되었습니다.
결과는 생명이없는 상호 작용으로 가득 찬 네트워크로, 사용자에게 번화 한 디지털 세상의 환상을주는 반면 실제로는 기계로 둘러싸여있었습니다.
처음 에이 아이디어는 아이러니 한 음모 이론으로 기각되었습니다. 이는 소셜 미디어 플랫폼에 대한 사람들이 성장하는 불신과 불투명 알고리즘에 대한 과장된 반영입니다. 수년 동안, 그것은 큰 기술에 회의적인 온라인 커뮤니티에서 논의 된 틈새 주제로 남아있었습니다.
그러나 최근의 기술 발전은 이론에 새로운 가중치를 부여했습니다. OpenAi의 chatgpt, Google의 Gemini 등과 같은 생성 AI 시스템의 급속한 상승으로 인해 설득력있는 텍스트, 이미지, 오디오 및 비디오를 자동으로 생산할 수있었습니다.
소셜 미디어의 합성 내용은 어떻게 작동합니까?
오늘날의 소셜 미디어 환경에서 봇은 더 이상 계정을 따르거나 스팸 링크를 게시하는 것과 같은 단순하고 반복적 인 행동에만 국한되지 않습니다.
현대의 AI 기반 에이전트는 현실적인 이야기를 만들고, 바이러스 성 밈을 생성하며, 인간의 상호 작용과 구별하기 어려운 복잡한 대화에 참여할 수 있습니다.
이러한 AI 중심 계정은 컨텐츠를 신속하게 생성하고 공유하여 Facebook, Instagram, Tiktok 및 X와 같은 플랫폼의 참여를 극대화 할 수 있습니다. 게시물은 종종 정서적 호소, 유머 또는 감각주의를 통해 관심을 끌기 위해 조정됩니다.
AI 생성 된 컨텐츠가 트랙션을 얻기 시작하면 다른 자동화 된 계정은 좋아하고 댓글을 달고 공유하여 직접적인 인간의 참여없이 합성 재료의 범위를 증폭시키는 자체 유지 피드백 루프를 만듭니다.
이 활동의 동기는 종종 재정적입니다. 소셜 미디어 플랫폼은 광고 수익 공유 프로그램을 제공하여 견해와 참여를위한 인기있는 계정에 보상합니다.
결과적으로, 나쁜 행위자들이 합법적 인 것으로 보이는 AI- 런 계정의 군대를 만들도록 강력한 인센티브가 있습니다. 높은 추종자 수는 이러한 계정을 실제 사용자에게 신뢰할 수있는 것처럼 보이며,이 계정은 콘텐츠에 참여하고 전파 할 가능성이 높습니다.
시간이 지남에 따라 이러한 계정은 잘못된 정보를 퍼 뜨리거나 제품 홍보를 포함하여 다른 용도로 판매 또는 용도 변경 될 수 있습니다. 이 역학은 전적으로 제작 된 온라인 영향에 대한 그림자 경제를 일으켰습니다.
광범위한 봇 활동의 증거가 있습니까?
지난 10 년간의 여러 연구에서 온라인으로 대규모 자동화 활동의 존재를 뒷받침하는 증거를 제공했습니다.
2016 년과 2017 년 사이에 게시 된 1400 만 개의 트윗을 분석 한 결과, 봇은 신뢰할 수없는 출처에서 기사를 전파하는 데 중요한 역할을했습니다. 이 연구에 따르면 고성능 계정 (많은 자동화 된 계정)은 허위 또는 오해의 소지가있는 정보를 정당화하여 실제 사용자를 믿고 재구성하도록 이끌었습니다.
2019 년에 연구에 따르면 봇 생성 콘텐츠는 미국의 대량 총격 사건 이후 공개 토론에 크게 영향을 미쳤습니다. 이 봇은 특정 이야기, 왜곡 된 사실 및 분열적인 대화를 촉진시켰다.
2022 년의 보고서에 따르면 모든 인터넷 트래픽의 거의 절반이 인간보다는 봇에서 비롯된 것으로 추정됩니다.
보다 정교한 생성 AI 시스템의 출현으로 합성 컨텐츠의 품질은 개선되어 식별하고 필터링하기가 더 어려워집니다.
생성 AI는 어떻게 문제를 복잡하게합니까?
Generative AI는 누구나 현실적인 이미지, 텍스트, 오디오 및 비디오를 최소한의 노력으로 제작할 수있게함으로써 컨텐츠 생성에 혁명을 일으켰습니다.
이 기술에는 작가, 예술가 및 개발자를 돕는 것과 같은 많은 합법적 인 응용 프로그램이 있지만 가짜 콘텐츠로 인터넷을 범람하는 것이 훨씬 쉬워졌습니다.
YouTube와 같은 플랫폼에서 AI는 부정확 한 기록 비디오를 제작하는 데 사용되고 의심의 여지가없는 시청자에게 잘못된 정보를 전파합니다.
Instagram과 Facebook은 AI 생성 이미지가 점점 더 높아지고 있는데, 그 중 일부는 비현실적이거나 방해가되는 디자인을 특징으로하며 Tiktok은 확인하기 어려운 합성 비디오의 급증을 보았습니다.
엔터테인먼트 산업조차도 영향을 받았습니다. AI는 이제 클래식 영화를 편집하고, 사망 한 음악가의 디지털 복제본을 만들고, 심해 공연을 생성 할 수 있습니다.
이것은 죽은 인터넷 이론의 중심 주장과 일치합니다. 웹은 여전히 진정한 인간의 상호 작용을 포함 할 수 있지만 전반적인 환경은 점점 더 인공적입니다.
우리가 아직 살아있는 인터넷입니까?
AI 생성 컨텐츠가 점점 지배적이되고 있지만 전문가들은 인터넷이 완전히 “죽은”적이 없다고 지적합니다.
인간 커뮤니티는 특히 X 및 Tiktok과 같은 플랫폼에서 온라인으로 활동적이고 영향력있는 상태를 유지하며, 이는 대중 문화를 형성하고 심지어 정치에 영향을 미치는 바이러스 순간을 계속 생성합니다.
예를 들어, X에 대한 집단 사용자 활동은 기업의 결정에 영향을 미쳤으며 국가 대화에 중점을 두었습니다. 브랜드 로고 변경만큼 사소한 것처럼 보이는 무언가에 대한 분노로 인해 회사는 공개 반발 후 회사의 결정을 역전시킬 수있는 사례가있었습니다.
이러한 디지털 운동은 심지어 정치 사무실에 도달했으며 바이러스 성 밈이 글로벌 업무를 시작했습니다.
그러나, 이러한 진정한 인간 상호 작용의 순간은 이제 봇 생성 컨텐츠의 지속적인 배경 소음과 공존합니다.
봇 구동 플랫폼에 대한 Altman의 우려는 OpenAi 외부의 작품과 관련이 있습니다. 2019 년에 그는 원래 WorldCoin이라는 회사를 설립했으며 현재 World Network로 브랜드를 변경하여 온라인으로 인간을 구별하는 점점 더 많은 도전을 해결하고자합니다.
이 이니셔티브는 IRIS 스캔과 같은 생체 인식 검증을 사용하여 신뢰할 수있는 디지털 아이덴티티 시스템을 만듭니다. 목표는 사용자가 개인 데이터를 공개하지 않고 실제 사람임을 증명할 수 있도록하는 것입니다.
이것은 향후 몇 년 동안 AI 중심 가짜 계정의 영향을 줄이는 데 중요한 역할을 할 수 있습니다.
