Der Preis des Einflusses: Desinformation im privaten Sektor

Insikt Group ® nutzte die Plattform Recorded Future ® , firmeneigene Quellen und Analysen von Untergrundforen, um tiefere Einblicke in die Aktivitäten von zwei der raffiniertesten Desinformationsanbieter in russischsprachigen Untergrundforen zu erhalten. Um die operativen Fähigkeiten dieser Anbieter zu testen, arbeitete die Insikt Group mit einem Bedrohungsakteur zusammen, um positive Desinformation zu verbreiten, und mit dem anderen, um negative Desinformation zu verbreiten. Beide richteten sich gegen ein von uns geschaffenes fiktives Unternehmen.

Dieser Bericht dürfte für private, öffentliche und politische Organisationen von Interesse sein, die sich mit Desinformationskampagnen befassen, sowie für alle, die sich dafür interessieren, wie Bedrohungsakteure Desinformationsinhalte erstellen und im Internet verbreiten.

Anmerkung des Herausgebers: Um die Quellen und Vorgänge von Recorded Future zu schützen, werden in diesem Bericht für alle beteiligten Parteien Pseudonyme verwendet. Die beteiligten Bedrohungsakteure werden mit den Codenamen „Raskolnikov“ und „Doktor Schiwago“ identifiziert, während das beteiligte fiktive Unternehmen für die Zwecke dieses Berichts als „Tyrell Corporation“ bezeichnet wird.

Executive Summary

Die Insikt Group analysierte die Aktivitäten zweier Bedrohungsakteure, die in russischsprachigen Untergrundforen Desinformation als Dienstleistung anboten, um das Geschäftsmodell zu verstehen, mit dem Desinformation von Cyberkriminellen – im Gegensatz zu Nationalstaaten – eingesetzt wird. Zu diesem Zweck gründeten wir ein fiktives Unternehmen und beauftragten zwei verschiedene Bedrohungsakteure, im gesamten Internet absichtlich falsche Darstellungen zu verbreiten.

Ein Bedrohungsakteur erstellte Propaganda in Form positiver PR, um unser Unternehmen attraktiv erscheinen zu lassen, während der andere bösartiges Material erstellte und demselben Unternehmen unethische Geschäftspraktiken vorwarf. Am Ende konnten wir beide Kampagnen in weniger als einem Monat für nur ein paar Tausend Dollar starten.

Wichtige Urteile

• Desinformationsdienste sind in kriminellen Untergrundforen öffentlich zugänglich und werden von kriminellen Bedrohungsakteuren und Nationalstaaten betrieben.
• Der Umfang von Desinformationsdiensten lässt sich individuell anpassen. Die Kosten liegen je nach Kundenwunsch zwischen mehreren Hundert und Hunderttausenden Dollar oder mehr.
• Anbieter von Desinformationsdiensten haben die Möglichkeit, Artikel in Medienquellen zu veröffentlichen, die von zweifelhaften Websites bis hin zu seriöseren Nachrichtenagenturen reichen.
• Anbieter von Desinformationsdiensten haben die Möglichkeit, massenhaft Social-Media-Konten zu erstellen und zu verwalten und eine Kombination aus bestehenden und neuen Konten zu verwenden, um Inhalte zu verbreiten, ohne die Kontrollen zur Inhaltsmoderation auszulösen.

Bedrohungsanalyse

Desinformation ist eine im Informationskrieg eingesetzte Taktik, die allgemein mit der Staatskunst der Sowjetunion während des Kalten Krieges in Verbindung gebracht wird. Desinformation oder „ Desinformation“ wird in der Großen Sowjetischen Enzyklopädie als falsche Information mit der Absicht definiert, die öffentliche Meinung zu täuschen. Der Begriff wurde von Josef Stalin geprägt und sogar das Wort selbst war eine Form der Desinformation; laut dem sowjetischen Überläufer Ion Mihai Pacepa gab Stalin ihm absichtlich einen französisch klingenden Namen, um zu behaupten, sowohl der Begriff als auch die Taktik stammten aus Westeuropa und waren ein Werkzeug der „kapitalistischen Imperialisten“, um den Kommunismus und das Arbeiterparadies zu zerstören.

Desinformationsoperationen hat es im Laufe der Geschichte immer wieder gegeben und wurden von Königen, Diktatoren und Regierungen auf der ganzen Welt eingesetzt. Octavian setzte während des letzten römischen Bürgerkriegs Propaganda ein, um den Ruf von Marcus Antonius zu zerstören. Die Sowjetunion startete zahlreiche Kampagnen, in denen Papst Pius XII. als „Hitlers Papst“ verleumdet wurde, und verteilte Kopien der antisemitischen „Protokolle der Weisen von Zion“ in allen islamischen Regionen der Welt ^, um religiöse Spannungen zu schüren.1 In einer anderen Kampagne verbreitete die UdSSR über indische Nachrichtenagenturen eine Verschwörungstheorie, wonach die Vereinigten Staaten das AIDS-Virus in einem Labor als biologische Waffe entwickelt ^hätten.2 Das Reichsministerium für Propaganda und Volksaufklärung unter der Leitung von Joseph Goebbels im nationalsozialistischen Deutschland verbreitete Propaganda in ganz Deutschland und den besetzten Gebieten. Zu den jüngsten Desinformationskampagnen zählen Angriffe auf die US-Wahlen 2016 und 2018 durch russische Geheimdienste, darunter GRU und SVR, sowie die vom Kreml unterstützten Medienseiten RT und Sputnik News.

Während in den letzten Jahren der Fokus verstärkt auf staatlich geförderte Desinformationskampagnen gerichtet war, hat Recorded Future erkannt, dass es auch einen privaten Markt für Desinformation und Bedrohungsakteure gibt, die bereit sind, ihre Dienste denjenigen anzubieten, die dafür zu zahlen bereit sind. Insbesondere haben die Analysten von Recorded Future etablierte Bedrohungsakteure identifiziert, die in den russischsprachigen Untergrundforen aktiv sind und diese Dienste anbieten. Dort entdeckte die Insikt Group zwei Bedrohungsakteure, die für solche Dienste werben. In diesem Bericht werden wir sie als „Doktor Schiwago“ und „Raskolnikow“ bezeichnen. Um ihre Fähigkeiten auf die Probe zu stellen, beschlossen wir, ein fiktives Unternehmen in einem westlichen Land als unser Ziel zu gründen. Wir werden dieses Unternehmen als „Tyrell Corporation“ bezeichnen.

Wir wollten beide Aspekte des Desinformationsspektrums untersuchen und beauftragten daher Raskolnikov, die Tyrell Corporation mit positiver PR zu vermarkten, und Doktor Schiwago, das Gegenteil zu tun. Im Fall von Doktor Schiwago schlugen sie vor, erfundene Geschichten über Fehlverhalten und schlechte Geschäftspraktiken zu verbreiten, um den Ruf der Tyrell Corporation zu schädigen. Am Ende hielten sowohl Raskolnikov als auch Doktor Schiwago ihre Versprechen und die Insikt Group erkannte, dass Desinformationskampagnen selbst gegen ein westliches Unternehmen unter Verwendung westlicher Medien zeitnah und kostengünstig gestartet werden konnten.

Der Start einer Desinformationskampagne war ein einfacher Vorgang und sowohl Raskolnikov als auch Doktor Schiwago waren sehr informativ und hilfreich. Ihre Dienste wurden in beliebten russischsprachigen Untergrundforen beworben, wo sie ihre Jabber- und Telegram-Namen für alle sichtbar auflisteten. Beide Akteure verfügten über Preismodelle, die die Kosten der Inhaltserstellung zeigten, sodass Sie Ihre Desinformationskampagne budgetieren konnten. Die Preise für die Dienste von Doktor Schiwago waren sehr speziell, wie unten zu sehen ist:

• 15 $ für einen Artikel mit bis zu 1.000 Zeichen
• 8 $ für Social-Media-Beiträge und Kommentare mit bis zu 1.000 Zeichen
• 10 $ für eine Übersetzung vom Russischen ins Englische mit bis zu 1.800 Zeichen
• 25 $ für Übersetzungen in andere Sprachen mit bis zu 2.000 Zeichen
• 1.500 $ für SEO-Dienste zur weiteren Förderung von Social-Media-Beiträgen und traditionellen Medienartikeln mit einem Zeitrahmen von 10 bis 15 Tagen

Raskolnikov hingegen hatte weniger konkrete Preise:

• 150 $ für Facebook und andere Social-Media-Konten und -Inhalte
• 200 $ für LinkedIn-Konten und -Inhalte
• 350–550 $ pro Monat für Social-Media-Marketing
• 45 $ für einen Artikel mit bis zu 1.000 Zeichen
• 65 $ für die direkte Kontaktaufnahme mit einer Medienquelle zur Verbreitung von Material
• 100 $ pro 10 Kommentare zu einem bestimmten Artikel oder einer bestimmten Nachricht

Wir kontaktierten Raskolnikov und gaben vor, ein Geschäftsinhaber zu sein, der etwas Medienaufmerksamkeit für sein neues Unternehmen benötigte: Tyrell Corporation. Kurz darauf nahmen wir unter einem anderen Decknamen Kontakt mit Doktor Schiwago auf und gaben an, einen persönlichen Groll gegen die Tyrell Corporation zu hegen, mit der wir im Wettbewerb standen, und deshalb die Dienste von Doktor Schiwago zu benötigen.

Sowohl Raskolnikow als auch Doktor Schiwago waren echte Verkäufer. Sie beantworteten geduldig eine Frage nach der anderen darüber, was sie tun würden und wie sie es tun würden, und lieferten sogar Beispiele dafür, was sie bei früheren Einsätzen getan hatten. Nachdem wir uns auf unsere Ziele geeinigt und die Zahlung geleistet hatten, starteten wir zunächst unsere positiven und dann unsere negativen Desinformationskampagnen, die sich gegen die Tyrell Corporation richteten. Insgesamt dauerte der Prozess weniger als einen Monat.

Raskolnikov erstellte für die Tyrell Corporation Konten auf mehreren Social-Media-Plattformen und sammelte für jedes Konto auf den verschiedenen Plattformen über 100 Benutzer. Die Profile wirkten im Allgemeinen authentisch und verwendeten Bilder und Namen von Managern von der Website der Tyrell Corporation. Derzeit wissen wir nicht genau, wie viele der Follower Trolle oder Bots waren, wir haben jedoch Kommentare gesehen, die scheinbar von echten Menschen stammten, die Fragen zum Unternehmen stellten. Dies führte uns zu der Annahme, dass es sich wahrscheinlich um eine Kombination aus beidem handelte: Bots oder Trolle, die Desinformationsinhalte verbreiteten, die von echten Benutzern aufgegriffen wurden. Abgesehen davon, dass es sich um ein neues Unternehmen handelt, gibt es an den Social-Media-Konten der Tyrell Corporation wirklich nichts Verdächtiges.

Der nächste Schritt war die Veröffentlichung von Artikeln in den Medien. Raskolnikov teilte uns mit, dass wir grundsätzlich so viele Artikel veröffentlichen könnten, in denen unser neues Unternehmen gelobt wird, wie wir wollten. Daher entschieden wir uns, mit zwei zu beginnen. Raskolnikov verfasste zwei separate Artikel mit im Wesentlichen identischem Inhalt und schickte sie uns zur Überprüfung vor der Veröffentlichung. Die Artikel waren allgemeiner Natur und stellten der Welt unser neues, wunderbares Unternehmen – die Tyrell Corporation – vor und erklärten, warum wir besser waren als der Rest. Allerdings entsprach der Schreibstil nicht dem Niveau eines englischen Muttersprachlers und wir ließen Raskolnikov die Artikel mehrmals umschreiben, bis wir der Meinung waren, dass die Sprache als authentischer Artikel in einem englischsprachigen Medienunternehmen durchgehen würde.

Raskolnikov stellte die folgende Preisliste für Veröffentlichungen zur Verfügung, in denen angeblich Artikel für eine in Großbritannien ansässige Desinformationskampagne veröffentlicht werden konnten:

—
In two weeks, the Tyrell Corporation was in the “news” — one of the media sources was a less established media outlet, though the other was a very reputable source that had published a newspaper for nearly a century. While creating and publishing disinformation content with Raskalnikov was bumpy, in the end, the actor delivered, confirming the claim of being able to operate disinformation campaigns in Western countries.
However, of these two threat actors, Recorded Future analysts believe Doctor Zhivago to be the more experienced. This threat actor had been on the underground forums longer than Raskolnikov and had a well-established status. Based on discussions we had with Doctor Zhivago, we believe our primary contact was a Russian national and native Russian speaker, similar to Raskolnikov. In our communications, Doctor Zhivago was politely formal, as well as informative, even providing examples showing publications in some very reputable Russian-language media sources. Doctor Zhivago claimed to work with a team that included journalists, editors, translators, search engine optimization (SEO) specialists, and hackers. Doctor Zhivago maintained that this organization could spread disinformation accusing an individual or company of everything from business misconduct to criminal activity — whatever it took to permanently destroy a reputation.
Since the Tyrell Corporation now had a positive presence on the internet, it was time to see if it could be destroyed. We decided to use Doctor Zhivago to discredit our company’s business practices, staying away from any criminal accusations that could theoretically have real-world implications. Doctor Zhivago estimated that our campaign would take a month or two to go into full effect because a successful disinformation operation happens in phases by gradually introducing an intentionally false narrative in an organic manner. The “proof” for our disinformation needed to come from “real people,” so Doctor Zhivago created them in the form of individual and group accounts on the same major social media platforms that Raskolnikov had used.
Since the Tyrell Corporation was both new and fictitious, there wasn’t any publicly available information for Doctor Zhivago to manipulate. The group submitted a few articles for our review that accused the Tyrell Corporation of manipulating its employees by putting them in compromising situations. The articles stopped just short of accusing the company of criminal offenses, but anyone reading the articles would likely come to the conclusion that the Tyrell Corporation was not reputable and treated its employees as disposable objects. The content was written in much better English than what Raskolnikov had provided us, though there were a few awkward sentences that suggested this too wasn’t the writing of a native English speaker. But like Raskolnikov, Doctor Zhivago was quick to correct these linguistic issues after we provided our feedback. With the articles published, it was now time to spread them throughout Doctor Zhivago’s social media apparatus.
Doctor Zhivago had an organic, layered approach to propagating material throughout social media. First, a group of older accounts — referred to as “aged accounts” — that posted links to the articles they had published in media sources was employed. Then, a new batch of accounts that reposted content from the aforementioned aged accounts to amplify the messages was used. These new accounts befriended citizens living in the same country the Tyrell Corporation was located in to make the campaign more effective by targeting the audience. Doctor Zhivago explained to us that they usually create a few thousand social media accounts when engaging in these types of operations, as only a percentage of them would survive without being banned. Once the operation began, the articles went live on a number of media sites and were referenced throughout the social media platforms by accounts controlled by Doctor Zhivago.
Doctor Zhivago’s list of media resources available for a U.K.-based disinformation campaign can be seen below. Doctor Zhivago broke up the media resources into categories they identified as “low profile,” “medium profile,” and “top level.”

Ausblick

Durch unsere Untersuchungen hat die Insikt Group herausgefunden, dass der Start einer Desinformationskampagne erschreckend einfach und kostengünstig ist. Recorded Future gab für beide Kampagnen insgesamt 6.050 US-Dollar aus. Davon gingen 1.850 US-Dollar an die ursprüngliche Werbung von Raskolnikov und 4.200 US-Dollar an Doktor Schiwago für die negative Desinformation zur Diskreditierung unseres fiktiven Unternehmens.

Desinformationsdienste sind in den Untergrundforen der Kriminalität öffentlich zugänglich und können von Kunden aus dem privaten Sektor – nicht nur von Nationalstaaten – in Anspruch genommen werden. Diese Dienste sind erschwinglich und anpassbar. Ihre Betreiber arbeiten in Teams, um Artikel auf Medien-Websites zu veröffentlichen und dieses Material über die Social-Media-Konten zu verbreiten, die unter ihrer direkten Kontrolle stehen.

Um ihre Aufgaben zu erfüllen, sind sie bereit, extreme Maßnahmen zu ergreifen, einschließlich der Erhebung falscher Anschuldigungen gegen die Zielunternehmen bei den Strafverfolgungsbehörden. Im Fall von Doktor Schiwago bot der Bedrohungsakteur an, gegen unser fiktives Unternehmen Anzeige wegen Beteiligung am Menschenhandel zu erstatten. Und obwohl wir den Bedrohungsakteur Raskolnikov eingesetzt haben, um für die Tyrell Corporation zu werben, bot Raskolnikov auch einen „Takedown-Service“ an, für den Fall, dass wir uns jemals an einer anderen Person rächen, jemandem an seinem Arbeitsplatz eine Falle stellen, den Ruf eines Konkurrenten zerstören, den Desinformationsangriff eines Gegners abwehren oder sogar „einen Gegner bei einer Wahl zu Fall bringen“ müssten.

Heute lebt die Tyrell Corporation in den sozialen Medien und den Suchmaschinenergebnissen weiter. Bei einer Google-Suche nach dem Domänennamen werden Ihnen die ungünstigen Inhalte von Doktor Schiwago angezeigt. Bei einer direkten Suche nach dem Firmennamen werden Ihnen jedoch die positiven Artikel und Social-Media-Konten von Raskolnikov angezeigt. Wenn unsere Erfahrungen ein Indikator sind, gehen wir davon aus, dass sich Desinformation als Dienstleistung von einem Instrument nationaler Staaten zu einem Instrument entwickeln wird, das zunehmend von privaten Einzelpersonen und Unternehmen genutzt wird, da es so einfach umzusetzen ist.

Fußnoten

¹Ion Mihai Pacepa und Ronald J. Rychlak (2013), Desinformation: Ehemaliger Geheimdienstchef enthüllt geheime Strategien zur Untergrabung der Freiheit, Angriffe auf die Religion und Förderung des Terrorismus.

² US-Außenministerium (1987), Sowjetische Einflussaktivitäten: Ein Bericht über aktive Maßnahmen und Propaganda, 1986–87, Washington DC: Bureau of Public Affairs, S. 34–35, 39, 42.