Boots from Vietnam and mass manipulation in social media? (film, 18m)
ARTE․tv Dokumenty conducted an intriguing investigation into the role of phones and social media in today’s society. In early September 2024, the team discovered that hackers in Vietnam can acquire tools to manipulate users on platforms such as Facebook and TikTok. There are websites where one can purchase thousands of comments, along with specialized equipment and stolen accounts being sold on the black market. During the investigation, the team witnessed the stealing of a well-known French comedian's account, which helped illuminate the severity of using stolen profiles in disinformation campaigns.
It is known that social media services prohibit such practices, however, the repercussions of these actions have effects reaching into Europe. Those responsible for these illegal actions utilize stolen accounts to conduct smear campaigns against entire countries, posing serious threats not only to the users of these platforms but also to the countries themselves. The mentioned French comedian was a victim of fake profiles that were actively used in disinformation campaigns. ARTE's team saw the tragic events that unfolded against the backdrop of these activities.
The video also reveals the face of the Vietnamese company Min Software, which operates in this controversial market. Employees of the firm are active on social media, and their activities revolve around creating so-called 'phone farms' that automate actions on social media accounts. It is incredibly intriguing how by using bots that imitate real users, they can manipulate the impression of authenticity on these platforms. We watched materials showing how one could buy fake likes and comments, applying various techniques to fool social media moderation.
Disinformation campaigns are becoming an increasingly powerful phenomenon on the internet. ARTE․tv Dokumenty revealed that phone farms are not only used to share content aimed at targeting audiences but also for large-scale fraud. Examples of operations revealed in the film demonstrate how stolen accounts were used to spread negative content, further undermining the general public’s trust in social media. It is essential to observe that these activities threaten the very foundations of democracy by disseminating misinformation.
At the time of writing this article, the ARTE․tv Dokumenty film has garnered 39,849 views and 623 likes. These figures illustrate how many people are interested in the issues of disinformation and online manipulation. It’s important to remain vigilant and be aware of how this illegal market operates and the consequences that can arise from fraud online. Engaging in this topic and expanding one’s knowledge about actions that may threaten our privacy and security on the Internet is crucial.
Toggle timeline summary
-
Discussion on the purpose of social media browsing phones.
-
Discovery of a video in September 2024 leading to an investigation in Vietnam.
-
Hackers can acquire tools to manipulate users on platforms like Facebook and TikTok.
-
Websites exist where thousands of comments can be purchased.
-
Stolen accounts are sold on the black market.
-
Witnessing the theft of a French comedian's account during the investigation.
-
These hacked accounts are utilized in smear campaigns against countries.
-
A video with many phones surfaced in the summer of 2024.
-
Identifying 'Min Software', a Vietnamese company involved in digital marketing.
-
Min Software promotes itself as a rapidly growing startup.
-
Employees of Min Software celebrate achievements through social media posts.
-
Showing TikTok commands being issued to phone farms.
-
Commands like liking a page, commenting, and watching videos defined.
-
Automation with bots is explained.
-
Researcher Dong Nguyen explains bot farms and their operations.
-
MinSoftware offers user manipulation services through their website.
-
Testing a social media manipulation with a cat video.
-
YouTube moderation only flagged a fraction of purchased comments.
-
Thousands of accounts are sold in Vietnam, revealing a vast market.
-
Finding profiles related to stolen accounts being sold.
-
Selling accounts on Telegram among various listings.
-
Monitoring the sale of a French comedian's account, Marie Saint Fig.
-
Campaign targeting Qatar was created using stolen accounts.
-
Stolen accounts are the backbone of influence campaigns.
-
Fake accounts primarily located in Vietnam pose a threat online.
-
The rise of bots in dishonest activities threatens internet integrity.
-
The summary acknowledges community contributions for subtitles.
Transcription
Do czego służą te wszystkie telefony przeglądające media społecznościowe? We wrześniu 2024 roku odkryliśmy to nagranie, a ono doprowadziło nas do Wietnamu. To tam hakerzy mogą zdobyć narzędzia do manipulowania użytkownikami platform takich jak Facebook czy TikTok. Istnieją strony, na których można kupować tysiące komentarzy. Specjalistyczny sprzęt. I kradzione konta sprzedawane na czarnym rynku. Ktoś zhakował twoje konto? Najwyraźniej. Aż się trzęsę z nerwów. Serwisy zakazują takich praktyk. Ich konsekwencje sięgają Europy. Podczas naszego śledztwa byliśmy świadkami kradzieży konta francuskiej komiczki. Chłopaki, szykujcie hajs. Zweryfikowane francuskie konto. Te konta są później wykorzystywane w kampaniach szkalowania całych krajów takich jak Ukraina czy Katar. Są za Europą, zmieniając się w muslimowy kontynent. Czy oni już wygrali? Filmik z tymi licznymi telefonami wypłynął latem 2024 roku. Na koszulce operatora widać logo i nazwę. Min Software. To wietnamska firma zajmująca się marketingiem cyfrowym. Korzystając z wyszukiwania obrazem, znaleźliśmy pracownika Min Software, który jest autorem tego filmu. Wyraził zdziwienie jego sukcesem na Facebooku. Ludzie z zachodu opublikowani mój film. Pracownicy Min Software są aktywni w mediach społecznościowych. Przedstawiają firmę jako szybko rosnący startup. Czym zajmuje się ta firma? Po co jej te tajemnicze telefony? Początek odpowiedzi znajdujemy na zdjęciach pracowników dumnych ze swoich osiągnięć. Z okazji wdrożenia nowego oprogramowania, jedna z pracownic opublikowała ten zrzut ekranu. Są na nim nazwy profili z TikToka. Znaleźliśmy kilka z nich. Istnieją naprawdę. Na przykład to konto pewnego mężczyzny ma 1775 obserwujących. Na tym filmie widać, że komendy wydawane w programie są przekazywane do telefonów, na których są konta na TikToku. To dlatego te instalacje są nazywane farmami telefonów. Na innych zrzutach widać różne typy komend. Polub stronę. Odpowiedz na komentarz. Obejrzyj film. Nazwa tych kont pochodzi od automatyzacji. To boty. Skrót od słowa roboty. Farmy botów mierzą się z pewnym wyzwaniem. Duże serwisy usiłują walczyć z fałszywymi kontami. Aby je przechytrzyć, Min Software szkoli swoje boty w naśladowaniu działań prawdziwych użytkowników. Na przykład poprzez wykonywanie losowych działań. Obejrzyj relacje. Potem przeczytaj post. Zanim fałszywe profile nadadzą się do użytku, muszą zacząć żyć, jak wyjaśnia badaczka Dong Nguyen, która zajmuje się farmami botów w Wietnamie. Wielu z tych farm botów mierza się przez dłuższy czas. Niektóre farmy będą miały telefony, które będą działały 24-7. Simulujący zachowanie browsingu. Bez żadnej aktywnej kampanii. Aby wyjaśniać publiczną opinię, na przykład. Z tego samego powodu do przeglądania portali używa się telefonów, a nie komputerów, które zostałyby łatwo zdemaskowane. Dzięki tej wiedzy, MinSoftware może oferować usługi manipulowania użytkownikami z całego świata. Przez ich stronę można zamówić fałszywe polubienia, fałszywe wyświetlenia, a nawet fałszywe komentarze. Wystarczy wybrać platformę, na przykład YouTube. Robimy test na klasyku social mediów. Filmiku z kotkiem. A konkretnie kotem jednej z naszych dziennikarek. Początkowo filmik ma tylko jedno polubienie i zero komentarzy. Za jedyne 5 euro kupujemy w MinSoftware 3000 polubień i 100 komentarzy. Za tę cenę musimy sami je napisać. Prosimy o pomoc chat GPT. Napisz 100 miłych komentarzy na temat kota o imieniu Szuket. Kopiujemy komentarze na stronę min. Kilka godzin później. Filmik ma 3000 polubień. Moderacja YouTuba wyłapała tylko 20% komentarzy, więc dostaliśmy 80. Szuket jest przesłodka. Radość nie kotek. Popularność osiągnęliśmy w kilka godzin z naszego biura w Paryżu. Firma nie odpowiedziała na nasze pytania. Aby skutecznie manipulować, firmy takie jak MinSoftware nieustannie potrzebują fałszywych profili. W Wietnamie sprzedaje się tysiące kont. Są tam też dziesiątki stron, które sprzedają fałszywe konta. Nazywają się CellCloneFB, CellCloneViet czy CellCloneMMO. Tworzone masowo sztuczne konta nazywa się klonami. Na tej stronie jest dostępnych ponad 29 klonów. Inna strona oferuje klientom darmowy bonus. Wygenerowane przez sztuczną inteligencję zdjęcia, które można wrzucić na swój profil. W Wietnamie ta gałąź rynku kwitnie dzięki niskim opłatom za prąd i internet i licznym informatykom. Odkrywamy jednak działania ukryte jeszcze głębiej. Handel z kradzionymi kontami. Na Facebooku znaleźliśmy profil Wietnamczyka z Hanoi. Zajmuje się sprzedawcą konta. Znajdujemy się w Wietnamie. Znajdujemy się w Wietnamie. Znajdujemy się w Wietnamie. Zajmuje się sprzedażą reklam w serwisie. Na pierwszy rzut oka to wietnamskie konto. Ale gdy cofniemy się po osi czasu, okaże się, że kiedyś należało do kogoś innego. Do tej blondynki. Jej imię zaczyna się na A, a więc nazwiemy ją Alicją. Znajomi składali jej życzenia urodzinowe. Wrzucała zdjęcia swojej rodziny. Do kogo naprawdę należy to konto? Dzięki liście znajomych znajdujemy nowy profil Alicji. Są na nim te same zdjęcia co na poprzednim. 7 maja 2023 roku wrzuciła zrzut ekranu z wietnamskiego konta z informacją, że skradziono jej profil. Drodzy znajomi, proszę zgłaszajcie to konto. Niedobrze mi od tego. W komentarzu jej znajoma pyta. Ktoś schakował twoje konto? Najwyraźniej, aż się trzęsę z nerwów. Konto zostało skradzione Alicji i wykorzystane przez tego Wietnamczyka. Farmy telefonów czerpią korzyść z tego, że takie profile mają długą historię, więc trudniej je wyłapać, że to boty. Rynek skradzionych kont jest ogromny. Wiele transakcji odbywa się przez aplikację Telegram. Na tej grupie znajdują się oferty sprzedaży skradzionych amerykańskich kont na Facebooku. Oto profil nauczyciela z Mississippi. Albo pielęgniarki z Massachusetts. Grupa nazywa się Sala Aukcyjna. Sprzedaje się na niej konta o dużej liczbie obserwujących. To tutaj będziemy świadkami sprzedaży konta skradzionego francuskiej komiczce. 7 listopada 2024 roku sprzedawca wysłał pierwszą wiadomość. Szykujcie hajs. Dalej, świetne zweryfikowane francuskie konto. Cena wywoławcza? Pięć tysięcy dongów. Minimalna kwota podbicia? Sto tysięcy. Czekam na oferty. Pięćset tysięcy dongów to osiemnaście euro, ale cena szybko rośnie. Sprzedający przesyła zrzuty ekranu z konta. To profil francuskiej komiczki Marie Saint Fig. Tutaj pozuje jako modelka na pokazie moty Chanel. Na telegramie haker dodaje dane osobowe powiązane z jej kontem na dowód, że je przejął. Konto wzbudza zainteresowanie. Oferty szybko sięgają 26 milionów dongów, czyli 940 euro. Ostateczną cenę wynegocjowano w wiadomości prywatnej. Natychmiast powiadomiliśmy właścicielka konta i zaleciliśmy jej zmianę hasła, żeby mogła odzyskać konto. Mimo to kilka dni później na profilu Marie Saint Fig zaczęły pojawiać się podejrzane filmy. Takie jak ten. Ktoś schakował twoje konto, skomentowała jej znajoma. Właścicielka odzyskała dostęp do swojego konta. Jednak wielu innym się to nie udaje. Ich profile bywają wykorzystywane do szkalowania innych. Wszystkie wskazówki prowadzą do jednej adresy. Zostały one wykorzystane w kampanii wpływu mającej na celu krytykę państwa Katar. Według mety powstała ona w Wietnamie i uderzała głównie w Liban, Francję, Wielką Brytanię i USA. Oto jej fragment, obecnie już niedostępny. Uśmiechnie się we Wschodzie, podczas gdy uderza go w tył. Katar funduje terroryzm. I o zniszczenie środowiska. Katar zatruwa planetę. Za tą kampanią stoją skradzione konta. Na przykład ten post. Nie finansujcie Kataru. Został udostępniony z konta LocketStars123. Które dawniej należało do polityka z Indii. W swoim raporcie meta podaje nazwę wietnamskiej firmy powiązanej z tą operacją. LT Media. Osoby, które przygotowały ten materiał, znalazły nazwisko założyciela LT Media. To Li Tin Li, jak widać na tym zrzucie ekranu z Facebooka. Spytaliśmy go, kto zlecił tę kampanię przeciwko Katarowi, ale nie odpowiedział. Ta kampania była jedną z wielu. W lipcu 2024 roku dwóch dziennikarzy odkryło antyukraińską sieć na Facebooku. Celującą w brytyjskich wyborców lewicy i prawicy. Publikowała zdjęcia prezydenta Ukrainy w stroju. Wykorzystane profile miały łącznie ponad 200 tysięcy obserwujących. Były to fałszywe konta. W większości znajdujące się poza Wielką Brytanią, głównie w Wietnamie. Były to fałszywe konta. W większości znajdujące się poza Wielką Brytanią, głównie w Wietnamie. Wreszcie w maju 2024 roku w kampanii poparcia dla Izraela skierowanej do Amerykanów i Kanadyjczyków również wykorzystano profile z Wietnamu. Te praktyki to poważne zagrożenie dla internetu. Obecnie boty wykorzystywane do nieuczciwych celów stanowią jedną trzecią wszystkich aktywności. Manipulacja w internecie to szerzenie dezinformacji i podkopywanie demokracji. Napisy stworzone przez społeczność Amara.org