© AdobeStock: Lazy Bear

Desinformationen, also die absichtliche und gezielte Verbreitung von Falsch- oder Irreführungsinformationen, fördern die gesellschaftliche Spaltung und schwächen das Vertrauen der Menschen in demokratische Institutionen und Medien im Allgemeinen. Dies ist insbesondere im Bereich der sozialen Medien relevant. 

Vor allem KI-generierte Deepfakes bei Bild-, Audio- oder Videoinhalten begünstigen diese Entwicklung und stellen auch mit Blick auf die IT-Sicherheit ein nicht zu unterschätzendes Risiko dar - beispielsweise, wenn Deepfake-Technologien für Social- Engineering-Angriffe (z.B. gefälschte Videobotschaften oder Anrufe) eingesetzt werden. Aufgrund der Skalierbarkeit in Bezug auf Desinformationen sind auch Chatbots, insbesondere wenn diese als solche nicht zu erkennen sind, in den Sozialen Medien kritisch zu bewerten.

Der DIN-Vebraucherrat startet daher eine öffentliche Ausschreibung (nach UVgO) für die Durchführung der Studie „Desinformationen im Internet: Schutz von Verbraucher:innen vor gefälschten oder manipulierten digitalen Bild-, Audio- oder Videoinhalten in Sozialen Medien“.

Ziel der Studie  

KI-generierte Inhalte werden die Glaubwürdigkeit von Falschinformationen zukünftig weiter steigern und IT-Sicherheitsmaßnahmen herausfordern. Vor diesem Hintergrund ist es von besonderer Bedeutung, dass Verbraucher:innen authentische Inhalte von KI-generierten Inhalten klar unterscheiden können. Die Studie soll untersuchen, wie Verbraucher:innen vor gefälschten oder manipulierten digitalen Bild-, Audio- oder Videoinhalten in Sozialen Medien geschützt werden können. Dabei soll ebenfalls untersucht werden, inwiefern diese Verfahren zur Echtzeitdetektion geeignet sind. 

Die Kernziele der Studie sollten die Folgenden sein:  

• Ermittlung des technischen Status Quo der Erkennung von gefälschten oder manipulierten digitalen Bild-, Audio- oder Videoinhalten:

• Ermittlung der aktuellen Situation bei konkreten Marktteilnehmern im Bereich Social Media

• Untersuchung des Verbraucherverhaltens beim Konsum digitaler Inhalte

• Was würde Verbraucher:innen dabei unterstützen, manipulierte Inhalte zu erkennen und wen sehen sie in der Verantwortung
• Untersuchung der bestehenden technischen Erkennungsmöglichkeiten (Methode) zur Detektion von technologisch bearbeiteten oder gezielt manipulierten Inhalten und Auflistungen von Vor- und Nachteilen der Methoden
• Konkrete Handlungs- und Erarbeitungsempfehlungen für die Umsetzung der geeignetsten Methoden in Normen oder Standards

Das Projekt ist in nachfolgende Arbeitspakete (AP) aufgeteilt: 

AP 1 – Literaturrecherche und technische Gegebenheiten 

• Literaturrecherche zu ggf. bestehenden Spezifikationen, Normen und technischen Möglichkeiten zum Thema Manipulationserkennung von audiovisuellen Inhalten
• Bestehende oder geplante gesetzliche Regelungen zur Kennzeichnung generierter Inhalte, Bsp. KI-VO, DSA

AP 2 – Empirische Untersuchung des Verbraucherverhaltens und Abfrage der Unterstützungswünsche 

• Untersuchung des Verhaltens von Jugendlichen, Erwachsenen und Senioren in Bezug auf mögliche Desinformation beim Konsum digitaler Inhalte
• Auswertung ggf. vorhandener Verbraucherbeschwerden und -ängste sowie möglicher Schadensszenarien 
• Festlegung von Schwerpunkten in Absprache mit der Geschäftsstelle des DIN-Verbraucherrats

AP 3 – Zusammentragen der relevanten technischen Detektionsmethoden 

• Bewertung von Vor- und Nachteilen bestehender technischer Erkennungsmöglichkeiten (Methoden)
• Bewertung der Massentauglichkeit/Einsatzfähigkeit

AP 4 – Auswertung der Untersuchungsergebnisse, Ableitung von Handlungsempfehlungen 

• Ableitung nutzerfreundlicher Gestaltungsempfehlungen, damit Verbraucher:innen authentische Inhalte von KI-generierte Inhalten unterscheiden können.
• Ableitung von Handlungsempfehlungen für die Machbarkeit von standardisierten Verfahren (ggf. Einreichung eines Normungsvorschlags)
• Bereitstellung der Ergebnisse für die Öffentlichkeitsarbeit (Absprache mit Geschäftsstelle des DIN-Verbraucherrats)

Rahmenbedingungen & Bewerbungsfrist 

Bei Interesse an der Studiendurchführung bitten wir um die Einreichung eines Angebots mit den geforderten Unterlagen bis spätestens zum 22.04.2026  (24:00Uhr) an die Vergabestelle. Die vollständige Bekanntmachung und Bewerbungsanforderungen finden Sie auf unserer Ausschreibungsseite. 

Ausführungsfrist: 06. Mail 2026 – 15. Dezember 2026