Medizinische Fotos fehlinterpretiert Google beschuldigt Vater des Kindesmissbrauchs

Weil ein Vater Fotos seines kranken Kindes an einen Arzt schickte, sperrte Google seinen Account und meldete ihn der Polizei.

Eine von Google benutzter Algorithmus, der Missbrauchsdarstellungen an Kindern erkennen soll, hat einem unschuldigen Vater eine umfassende Untersuchung der Polizei eingebrockt, wie die «New York Times» berichtet.

Der nur mit seinem Vornamen «Mark» identifizierte Vater entdeckte im Februar 2021, als wegen Corona viele Arztpraxen ihren Betrieb eingeschränkt hatten, eine Schwellung im Genitalbereich seines Sohnes im Säuglingsalter. Marks Frau machte nach Aufforderung durch einen Kinderarzt einige Fotos dieser Schwellung mit Marks Handys und schickte sie dem Arzt. Der verschrieb ein Antibiotikum und dem Kind ging es schnell besser.

Google will Kinderpornografie erkannt haben

Die Fotos wurden allerdings durch die Backup-Funktion von Marks Android-Handy automatisch in seinen Cloud-Speicher bei Google hochgeladen. Google überprüft alle auf seine Server hochgeladene Daten automatisch auf «Child Sexual Abuse Materials» (CSAM). Hierbei werden zum einen Fotos mittels einer von Kinderschutzorganisationen zur Verfügung gestellte Datenbank auf Überschneidungen mit bereits bekannten Darstellungen von Kindesmissbrauch überprüft.

Anpassung der ZeitrechnungTech-Giganten wollen an der Uhr drehen

Andererseits soll ein Algorithmus auch bisher unbekannte Missbrauchsdarstellungen erkennen, da so neue Missbrauchsopfer identifiziert und möglicherweise auch noch gerettet werden können. Dieser Algorithmus schlug offenbar in Marks Falls an. CSAM-Treffer werden immer noch von einem menschlichen Moderator überprüft, doch dieser hielt die Fotos von Marks Sohn offenbar für echte Missbrauchsdarstellungen.

Von der Welt abgeschnitten

Marks Google-Account wurde gesperrt, mit der vagen Begründung, das dort «schädliche Inhalte» gespeichert waren. Da Mark seit mehr als einem Jahrzehnt Google-Kunde war, verlor er auf einen Schlag Zugriff auf unzählige wichtige Dokumente, E-Mails und Kontakte.

In den USA ist der Tech-Gigant unter dem Namen «Google FI» auch als Mobilfunkanbieter tätig. Marks Konto dort wurde ebenfalls gesperrt, so dass er auch telefonisch nicht mehr erreichbar war. Proteste bei Google blieben erfolglos.

TextnachrichtenGoogle will Apple zu einheitlichem Standard zwingen

Polizei stellt Ermittlungen ein

Zu diesem Zeitpunkt wusste Mark noch nicht, dass Google ihn auch bei der Polizei angezeigtt hatte. Ein Polizist in San Francisco wollte Mark kontaktieren, aber da Google wie erwähnt dessen E-Mail und Telefonnummer sperrte, gelang das nicht.

Die Polizei stellte die Ermittlungen dann auf eigene Initiative ein, da offensichtlich keine Straftat begannen wurde. Das erfuhr Mark allerdings erst, nachdem er per Post durch die Polizei darüber informiert wurdet, dass sein Google-Account mit all den dort gespeicherten E-Mails, Bilder, Suchanfragen und Dokumenten von der Polizei durchsucht wurde.

Und selbst mit dieser schriftlichen Bestätigung durch die Polizei, dass er keine Straftat begangen hatte, konnte Mark Google nicht davon überzeugen, den Zugriff auf seinen Account wiederherzustellen. Gegenüber der «New York Times» besteht Tech-Gigant weiterhin darauf, richtig gehandelt zu haben.

Versehentliche EnthüllungGoogle-Angestellte*r vergisst geheime Smartwatch in Restaurant

CSAM-Erkennung ist hoch umstritten

Das automatische Scannen mit CSAM ist hoch umstritten. Zum einen wird die flächendeckende Umsetzung immer wieder von Politiker*innen und Kinderschutzorganisationen gefordert, da auf diese Art schwerste Straftaten aufgedeckt werden können. Zum anderen wird so allerdings auch die gesamte Bevölkerung unter Generalverdacht gestellt und theoretisch könnte die Technik von Regierungen für ganz andere Zwecke missbraucht werden könnte.

Apple hatte im August 2021 angekündigt, ebenfalls ein Feature zur Erkennung von Missbrauchsdarstellungen umzusetzen. Dieses sollte noch 2021 an den Start gehen, wurde allerdings bis heute nicht aktiviert, nachdem es erhebliche Proteste gegen das Vorhaben gab. Es ist unklar, ob Apple die Umsetzung weiterhin anvisiert.

Feature gegen KinderpornografieApple stellt Nutzer unter Generalverdacht