Australiens digitale Sorgfaltspflicht: Kann Ihre Dating-App ihre Moderationskontrollen belegen?

Veröffentlicht am 16. November 20267 Min. LesezeitVon Pleenk Approve

Ihr Trust-&-Safety-Team leistet gute Arbeit. Jeden Tag löscht es Fake-Profile, bearbeitet Meldungen und sperrt Betrüger. Doch stellen Sie sich vor, morgen schreibt Ihnen eine Aufsichtsbehörde: „Schicken Sie uns Ihre Risikobewertung und den Nachweis, dass Ihre Maßnahmen wirken. Sie haben 30 Tage Zeit.“ Was könnten Sie schicken?

In Australien wird diese Frage bald sehr konkret. Die Regierung will Online-Diensten eine „digitale Sorgfaltspflicht“ (Digital Duty of Care) auferlegen. Die Idee: Ein Dienst darf nicht mehr nur auf Beschwerden reagieren. Er muss die Risiken seines Produkts vorab erkennen, sie verringern und das belegen.

Die kurze Antwort: Hat Ihre Dating-App Mitglieder in Australien, sollten Sie drei Dinge dokumentieren können. Welche Risiken haben Sie erkannt? Welche Maßnahmen haben Sie ergriffen? Woran sehen Sie, dass sie wirken – zum Beispiel, dass gesperrte Mitglieder nicht zurückkommen? Das Gesetz ist noch nicht verabschiedet. Doch die Zeit wird knapp.

Wie weit ist das Gesetzgebungsverfahren?

Der Entwurf heißt Online Safety Amendment (Digital Duty of Care) Bill 2026. Er ändert das australische Gesetz zur Online-Sicherheit. Kommunikationsministerin Anika Wells hat ihn am 15. Oktober 2026 im Repräsentantenhaus eingebracht. Das Repräsentantenhaus hat ihn am 28. Oktober angenommen.

Jetzt liegt der Text beim Senat. Ein Senatsausschuss soll seinen Bericht spätestens am 20. November 2026 vorlegen. Die Regierung will das Gesetz noch vor Jahresende verabschieden. Die Opposition hat allerdings angekündigt, im Senat dagegen zu stimmen.

Wird das Gesetz verabschiedet, gilt die Sorgfaltspflicht ein Jahr nach seiner Verkündung. Sie ersetzt dann die Branchenkodizes, die heute der eSafety Commissioner überwacht. Das ist die australische Aufsichtsbehörde für Online-Sicherheit. In der Übergangszeit gelten die Kodizes weiter.

Was würde die Sorgfaltspflicht für eine Plattform ändern?

Der Gesetzentwurf erfasst viele Online-Dienste: soziale Netzwerke, Hosting-Dienste, Suchmaschinen, App-Stores und KI-Tools. Der Referentenentwurf vom September nannte zudem Dienste, über die Nutzer miteinander kommunizieren. Dating-Apps werden nicht ausdrücklich genannt. Doch eine App, in der Mitglieder ein Profil anlegen und sich Nachrichten schreiben, fällt wahrscheinlich darunter. Lassen Sie das anwaltlich prüfen.

Laut der Kanzlei Pinsent Masons ändern sich die Anforderungen. Maßnahmen müssen „angemessen und wirksam“ sein. Die Kosten gelten nicht als Grund, weniger zu tun. Die wichtigsten Pflichten:

  • Risiken bewerten. Nach dem Entwurf vom September musste die Bewertung mindestens einmal im Jahr erfolgen. Außerdem musste sie vor jeder Änderung des Dienstes wiederholt werden, die neue Risiken schaffen könnte.
  • Unterlagen aufbewahren. Derselbe Entwurf verlangte, diese Bewertungen mindestens sechs Jahre aufzubewahren. Die Behörde könnte sie innerhalb von 30 Tagen anfordern.
  • Zahlen veröffentlichen. Die Behörde könnte Angaben zu Beschwerden und zur Moderation verlangen. Dazu gehört die Zahl der gesperrten oder gelöschten australischen Konten, mit Begründung.
  • Nutzern Werkzeuge geben. Zum Beispiel die Möglichkeit, automatische Inhaltsempfehlungen abzuschalten.

Die Strafen sind hoch. Einem Unternehmen drohen bis zu 109,2 Millionen australische Dollar, also mehr als 60 Millionen Euro.

Am 12. November berichtete das Portal MediaNama über die Stellungnahme des eSafety Commissioner an den Senat. Die Behörde fordert eine zusätzliche Befugnis: Sie will eine neue Risikobewertung verlangen können. Außerdem fordert sie ein unabhängiges Audit, das der Dienst selbst bezahlt. Ihre Nachweise könnten also von Dritten geprüft werden.

Warum stehen Dating-Apps besonders im Fokus?

Die Dating-Branche kennt diese Erwartungen in Australien bereits. Seit dem 1. Oktober 2024 gilt ein Branchenkodex für Online-Dating für alle Unterzeichner. Der Kodex ist freiwillig. Unterzeichnet haben ihn unter anderem Match Group (Tinder), Bumble und Grindr. Die strenge Durchsetzung begann am 1. April 2025.

Der Kodex verlangt von den unterzeichnenden Apps schon heute:

  • gefährliches Verhalten zu erkennen und gegen Mitglieder vorzugehen, die Sicherheitsregeln brechen;
  • das Konto eines Mitglieds bei Bedarf auf allen Diensten des Unternehmens zu schließen;
  • gut sichtbare und einfache Meldewege anzubieten;
  • Transparenzberichte zu veröffentlichen, unter anderem mit der Zahl der geschlossenen australischen Konten.

Ein unabhängiger Ausschuss überwacht den Kodex. Er kann verwarnen oder eine App aus dem Kodex ausschließen. Bußgelder kann er nicht verhängen. Mit der Sorgfaltspflicht ändert sich das. Das Gesetz würde für alle erfassten Dienste gelten, ob Unterzeichner oder nicht. Und es sieht Bußgelder vor.

Für eine Dating-App sind die vorhersehbaren Risiken bekannt: Fake-Profile, Romance Scams, Belästigung und gesperrte Mitglieder, die zurückkommen. Die Behörde wird nicht nur fragen, ob Sie eine Richtlinie haben. Sie wird fragen, ob diese Richtlinie wirkt.

Wie sieht ein belastbarer Nachweis Ihrer Kontrollen aus?

Eine schriftliche Richtlinie reicht nicht. Eine Behörde, ein Prüfer oder Ihr PSP will datierte Fakten sehen. Der PSP ist der Zahlungsdienstleister, über den Sie Kartenzahlungen annehmen. Diese Fragen würden wir uns stellen – und diese Nachweise beantworten sie.

Wer steckt wirklich hinter dem Profil? Zeigen Sie ein Abzeichen „verifiziertes Profil“, muss eine echte Prüfung dahinterstehen. Ein einfaches Selfie beweist wenig gegen einen Deepfake. Eine Lebenderkennung prüft, ob ein echter Mensch vor der Kamera sitzt – kein Foto und kein Video. Das sollten Sie zeigen können: wie viele Profile verifiziert sind, wann und mit welcher Methode.

Werden Ihre Moderationsentscheidungen dokumentiert? Halten Sie bei jeder Sperre den Grund, das Datum, die verantwortliche Person und die Belege fest. Verlangt die Behörde die Zahl der geschlossenen Konten mit Begründung, haben Sie sie schon. Das hilft auch in Europa. Der DSA, das EU-Gesetz über digitale Dienste, verlangt schon heute, eine Sperre gegenüber dem betroffenen Mitglied zu begründen (Artikel 17).

Kommen Ihre gesperrten Mitglieder zurück? Das ist die unbequeme Frage. Eine Sperre, die an einer E-Mail-Adresse oder Telefonnummer hängt, ist in zehn Minuten umgangen. Kehrt ein gesperrter Betrüger mit einem neuen Profil zurück, ist Ihre Maßnahme nicht „wirksam“ im Sinne des Entwurfs. Eine Sperre, die an der verifizierten Identität der Person hängt, hält deutlich besser. Messen Sie auch, wie oft gesperrte Mitglieder zurückkommen. Diese Zahl versteht jeder Prüfer sofort.

Könnten Sie alles innerhalb von 30 Tagen liefern? Liegen Ihre Nachweise in drei Tools und bei zwei Teams, sind 30 Tage schnell vorbei. Machen Sie einen Probelauf. Stellen Sie Ihre Risikobewertung, Ihre Moderationszahlen und Ihre Sperren des letzten Quartals zusammen. Messen Sie, wie lange das dauert.

Ein Hinweis: Mehr Identitäten zu prüfen heißt nicht, mehr Ausweiskopien zu speichern. Je mehr Sie aufbewahren, desto teurer wäre ein Datenleck. Bewahren Sie den Nachweis der Prüfung auf, nicht das Dokument.

Was wir an Ihrer Stelle tun würden, wenn Ihre Dating-App in Australien verfügbar ist

  • Jetzt eine erste Risikobewertung schreiben. Fake-Profile, Betrug, Belästigung, Rückkehr gesperrter Mitglieder: Notieren Sie für jedes Risiko Wahrscheinlichkeit, Schwere und Gegenmaßnahme.
  • Eine verantwortliche Person benennen. Sie unterschreibt die Bewertung. Und sie aktualisiert sie vor jeder neuen Funktion, etwa Video oder Gruppenchats.
  • Sperren an die Identität knüpfen, nicht an das Konto. Beginnen Sie mit Sperren wegen Betrugs. Sie schaden Ihren Mitgliedern am meisten.
  • Ihr Abzeichen „verifiziert“ ehrlich machen. Es sollte auf einer Identitätsprüfung mit Lebenderkennung beruhen. Und es sollte klar sagen, was es garantiert.
  • Transparenzzahlen vorbereiten. Geschlossene Konten, Gründe, Bearbeitungszeit von Meldungen: Erstellen Sie diese Zahlen jedes Quartal, auch wenn noch niemand danach fragt.
  • Den Senat im Blick behalten. Der Bericht vom 20. November kann den Text ändern. Legen Sie Ihre Abläufe nicht vor der endgültigen Fassung fest. Beginnen Sie aber jetzt, Nachweise zu sammeln.

In den USA verpflichtet ein neues Gesetz Dating-Seiten bereits, Mitglieder zu warnen, die Nachrichten von einem wegen Betrugs gesperrten Konto erhalten haben. Mehr dazu in unserem Artikel über den Romance Scam Prevention Act. Beide Gesetze zielen in dieselbe Richtung: Sperren, die halten, und Entscheidungen, die sich belegen lassen.

Wie Pleenk Approve Ihnen helfen kann

Der Kern von Pleenk Approve ist eine einzige digitale Identität. Jedes Mitglied, das Sie verifizieren lassen, durchläuft eine Lebenderkennung. Pleenk verschlüsselt die Identität und legt sie in einem einzigen Wallet ab. Ihre Plattform erhält einen Nachweis, nie das Ausweisdokument. Alle Konten dieser Person und mögliche Sperren sind mit diesem Wallet verknüpft. Ein gesperrtes Mitglied kann also nicht einfach mit einem anderen Profil zurückkommen. Die Moderation bleibt bei Ihnen: Pleenk verbindet sich mit Ihrem KI-Moderations-Tool und bewahrt den Nachweis der Prüfungen auf. In Pleenk erstellen Sie Ihren Bericht automatisch und teilen ihn mit einem Klick mit Ihrem PSP. So haben Sie stimmige Nachweise für eine Aufsichtsbehörde. Ihre Dating-App ist in Australien oder anderswo verfügbar, und Sie möchten Ihre Nachweise prüfen? Schreiben Sie uns an contact@pleenk.com.


Dieser Artikel dient nur der Information und ist keine Rechtsberatung. Der australische Gesetzentwurf kann sich im Senat noch ändern. Lassen Sie Ihre Einschätzung anwaltlich prüfen.

Quellen

Weitere Artikel