Manuelle Nachkontrollen beim Kassenlos-Einkauf: Die Mensch-Maschine

Manuelle Nachkontrollen beim Kassenlos-Einkauf: Die Mensch-Maschine

Inhalt:

Mit ihren Kassenlos-Technologien versprechen Anbieter wie Amazon, Autonomo, Trigo & Co. eine automatisierte Erfassung von Lebensmitteleinkäufen. Doch viele Systeme scheinen auf Nachkontrollen durch Dienstleister angewiesen zu sein, die oft von Indien aus erfolgen – wohl auch beim Teo Grab-&-Go-Pilotstore von Tegut.

Partner:

Das kam Anfang April dann doch ein bisschen überraschend, als sich die Medienberichte dazu überschlugen, dass Amazon seine selbst entwickelte Just-Walk-Out-Technologie künftig in vielen eigenen Supermärkten nicht mehr einsetzen wollte. Zuvor hatte „The Information“ (Abo-Text) das Bömbchen platzen lassen.

Anders als zahlreiche Medien suggerierten, bedeutet der Strategiewechsel wohl keinen kompletten Abschied vom Kassenlos-Einkauf: kleine Läden sollen weiter mit der Technologie betrieben werden, größere setzen stattdessen auf Amazons „Dash Cart“-Einkaufswagen mit KI-Unterstützung.

Einen Bruch mit den bisherigen Expansionsplänen im Lebensmitteleinzelhandel bedeutet die Entscheidung für den Handelsriesen aber definitiv.

ANZEIGE

Ein Teilaspekt des Themas stand besonders im Fokus der Berichterstattung: nämlich die Behauptung, dass die scheinbar automatisiert erfolgenden Abrechnungen der Einkäufe in den Amazon-Supermärkten in erster Linie durch ein großes Team an Mitarbeiter:innen in Indien ermöglicht würden, die für die Erstellung der E-Bons zuständig seien.

Kein Live-Eingriff zur Bon-Erstellung?

Amazon widersprach dieser Darstellung vehement. Trotzdem dauerte es erstaunlich lange, bis man sich in Seattle dazu herabließ, eine eigene Mitteilung zu veröffentlichen, um zumindest andeutungsweise für mehr Klarheit zu sorgen.

Darin erklärte Amazon, es sei „unwahr“, dass Just Walk Out nur mit menschlicher Unterstützung funktioniere. Es sei zwar korrekt, dass in Indien ein Team beschäftigt würde, dass sich um die „Weiterentwicklung“ der Technologie kümmere. Das geschehe aber vor allem dadurch, dass dem automatisierten System beim Lernen geholfen werde, indem etwa aktuelle Daten zum Einkaufsverhalten der Kund:innen hinzugefügt würden. Dieses Vorgehen sei auch bei anderen AI/KI-Diensten üblich.


Weiter hieß es unmissverständlich:

„Associates don’t watch live video of shoppers to generate receipts—that’s taken care of automatically by the computer vision algorithms.“

Mitarbeiter:innen würden keine Live-Videos von Kund:innen beim Einkauf ansehen, um Bons zu generieren. Offen ließ Amazon jedoch die Frage, wie häufig manuelle Nachkontrollen erfolgen.

„Leute, die die Videokameras überprüfen“

Zu diesem Thema geben sich Technologie-Entwickler und Handelsunternehmen, die mit Pick-&-Go-Konzepten experimentieren, naturgemäß schweigsam. Dabei mehren sich zumindest die Anzeichen dafür, dass die durch Computer Vision gesteuerten Läden (noch) nicht ganz so autonom funktionieren wie bislang behauptet.

„Retail Optimiser“ berichtet von Hintergrundgesprächen mit Technologie-Experten:innen, die einräumen, dass „manuelle Nachprüfungen in Billiglohnländern stattfinden“ – ohne dass sie damit zitiert werden wollen. Und als der Lidl-Österreich-Chef kürzlich vom „Standard“ gefragt wurde, warum sein Unternehmen sich bislang mit einem eigenen Kassenlos-Experiment zurückhalte, antwortete der:

„Da ist viel Show dahinter. Auf dem Stand von heute ist die Technologie dafür zu teuer und zu fehleranfällig. Keiner redet über die Leute, die die Videokameras überprüfen.“

Die Vorstellung, dass hunderte oder gar tausende Mitarbeiter:innen in Indien Kund:innen in amerikanischen und europäischen Pick-&-Go-Stores tatsächlich live beim Einkauf zuschauen, ist zwar einigermaßen grotesk – allerdings auch nicht so weit hergeholt, dass man nicht zumindest Amazon diesen umständlichen Taschenspielertrick zutrauen würde.

Nachprüfung bei „Low-Confidence Events“

Gleichzeitig spricht vieles dafür, dass die KI-basierte Technologie mit ihren Kameras und Sensoren im Kern schon genau so funktioniert wie versprochen.

Vor allem Bons zu unkomplizierten Einkäufe werden (nach meinen bisherigen Erfahrungen) oft so schnell erstellt, dass externe Dienstleister dabei kaum eingegriffen haben können. Anders verhält es sich jedoch bei Einkäufen, bei denen Kameras und Sensoren Probleme haben, eindeutig zu identifizieren, welche Artikel tatsächlich aus den Regalen genommen wurden.

Gizmodo berichtet, bei Amazon würden solche Einkäufe vom System als „Low-Confidence Events“ markiert und daraufhin menschlichen Mitarbeiter:innen zur Überprüfung vorgelegt.

Es wäre sehr, sehr plausibel, dass auch andere Technologie-Anbieter so (oder so ähnlich) verfahren. Von meinen Einkäufen bei Rewe Pick & Go weiß ich, dass E-Bons zügig in der App erscheinen, wenn ich nur zwei, drei Artikel aus den Regalen genommen und den Laden gleich wieder verlassen habe.

Sobald ich das System aber auf die Probe stellen wollte – z.B. indem ich Artikel einpacke, nachher aber doch zurückstelle – dauerte die Bon-Generierung regelmäßig deutlich länger. Womöglich weil erst noch Mitarbeiter:innen nachprüfen mussten, was das System eigenständig nicht in der Lage zu entscheiden war?

Der Auftragsverarbeiter in Indien

Rewe (mit dem Partner Trigo) hält sich dazu bedeckt bzw. antwortet ausweichend auf Fragen zu diesem Thema; auch die Datenschutzbestimmungen zu Pick & Go scheinen an dafür relevanten Stellen bewusst allgemein gehalten zu sein.

Und der Hamburger Technologie-Entwickler Autonomo, der sein eigenes Computer-Vision-System derzeit an eine wachsende Zahl von Partnern lizensiert? Gerade eröffnete die norddeutsche Bäckerei Raffelhüschen eine kassenlose Filiale auf Sylt; der Tankstellenbetreiber Q1 testet in Osnabrück einen eigenen Q1 Shop & Go Store; auch mit einem Hamburger Edeka-Kaufmann ist (oder war?) man in Gesprächen.

Gleichzeitig betreibt Autonomo im Hamburger Stadtteil Eimsbüttel weiterhin einen eigenen Testmarkt mit der Technologie unter dem Namen Hoody (siehe Supermarktblog).

Nachbarschaftsmarkt Hoody in Hamburg; Foto: Smb

In dessen Datenschutzerklärung für die Nutzer:innen-App gibt es einen deutlichen Hinweis zur Datenverarbeitung außerhalb der EU, für die man als Auftragsverarbeiter das Unternehmen „Autonomo Technologies India Pvt Ltd“ mit Sitz im indischen Bangalore nutze – offensichtlich eine Tochtergesellschaft, als deren Geschäftsführer u.a. der Autonomo-Gründer James Sutherland eingetragen ist.

Ausriss: myhoody.com

Zugriff nur auf „einzelne Sequenzen“

Der Ableger unterstütze Autonomo „in erster Linie bei der Entwicklung unserer Technologie“ (so wie es auch Amazon für sich angibt). Gleichzeitig heißt es:

„In den meisten Fällen übernimmt der Auftragsverarbeiter die Bearbeitung von Kundensupportfällen. Wenn Sie z. B. eine Anfrage stellen oder reklamieren, dass wir Ihnen eine falsche Rechnung gestellt haben, erhält der Auftragsverarbeiter die entsprechenden Videoaufnahmen und bearbeitet Ihren Fall.“

Dabei werde nur „Zugriff auf einzelne Videosequenzen“ erteilt, „die sich auf Ihre Anfrage beziehen, ansonsten hat der Auftragsverarbeiter keinen Zugriff auf die Videoaufzeichnungen oder andere personenbezogene Daten“.

Autonomo arbeitet bekanntlich auch mit der hessischen Supermarktkette Tegut für die Grab-&-Go-Variante des Minimarktkonzepts Teo zusammen (siehe Supermarktblog). In den Teo-Datenschutzbestimmungen erklärt das Unternehmen, dass sich Cloud-, Software- und IT-Dienstleister, mit denen man für den Teo-Grab-&-Go-Betrieb zusammenarbeite, „in manchen Fällen auch in den USA bzw. Indien“ befänden.

In den Hinweisen, die unmittelbar am Darmstädter Testmarkt angeschrieben sind, heißt es noch etwas konkreter:

„ Ein IT-Dienstleister kann, in tegut… teos, die mit einer Grab & Technik ausgestattet sind, aus Indien Zugriff nehmen.“

Datenschutz-Aushang bei Tegut Teo Grab & Go in Darmstadt; Foto: Smb

Schon mal in die Kamera winken

Die Frage, was passiert, wenn das Grab-&-Go-System Artikel bei Teo-Einkäufen nicht zweifelsfrei einem Kunden bzw. einer Kundin zuordnen kann, und ob solche Fälle vor der Ausgabe des Bons überprüft werden, lässt man bei der Teo-Schwester Smart Retail Solutions unbeantwortet. (Ebenso wie die, ob es eine interne oder extern Abteilung gibt, die etwa zur Diebstahlprävention auch live auf die Bilder der Kameraüberwachung zugreifen können, wie es in den Datenschutzbestimmungen erwähnt ist.)

Dass dieser „ IT-Dienstleister (…) aus Indien“ die Autonomo-Tochter ist und sich ebenfalls um die „Bearbeitung von Kundensupportfällen“ kümmert, läge aber nahe.

Mit anderen Worten: Wer in Darmstadt sein Lunch für die Vorlesungspause einkauft und nachher eine Reklamation absendet, weil ihr bzw. ihm ein Produkt falsch abgerechnet wurde, der könnte vor dem Verlassen des Markts schon mal vorsorglich höflich in die Kamera winken – weil nachher vermutlich Mitarbeiter:innen in Bangalore den aufgezeichneten Einkauf ansehen werden, um zu checken, ob die Reklamation korrekt ist.

Wie genau ist der Ablauf des Procederes bei Reklamtionsfällen? Wie hoch der Anteil der Nachkontrollen? Und kann es zu Bon-Verzögerungen kommen, weil bei Einkäufen, die vom System als unsicher eigestuft werden, Mitarbeiter:innen eingeschaltet werden, um eine finale Entscheidung über die abzurechendnen Artikel treffen?

Auf diese konkreten Supermarktblog-Fragen will Autonomo trotz mehrfacher Nachfrage nicht antworten. (Gründer Sutherland möchte lieber über „Autonomo and AI in general“ sprechen.)

Tegut Teo mit kassenlosem Einkauf an der TU Darmstadt; Foto: Smb

Ein möglicher Eingriff in Echtzeit würde in jedem Fall erklären, warum es nach meinem Testeinkauf im Frühjahr inklusive absichtlich eingebauter Irritationen so lange gedauert hat, bis mein Bon in der App zur Verfügung gestellt wurde (eindreiviertel Stunden trotz mäßiger Frequenz im Teo).

Wie oft wird wirklich nachkontrolliert?

Gegenüber „Retail Dive“ hatte derweil Amazon menschliche Nachkontrollen an sich eingeräumt, und gleichzeitig erklärt, dass dies nur eine geringe Zahl an Vorgängen beträfen („Associates may also validate a small minority of shopping visits where our computer vision technology cannot determine with complete confidence an individual’s purchases”).

Gizmodo wiederum hat sich von einer Quelle innerhalb des Unternehmens sagen lassen, das Funktionieren von Just Walk Out hänge sehr stark davon ab:

„The checkout technology relied heavily on a team of human reviewers to label and verify purchases that its computers can’t, our source says.“

Zum Start des ersten Amazon-Go-Stores im Jahr 2018 hätten quasi alle Einkäufe nachkontrolliert werden müssen. Laut „The Information“ seien es 2022 noch 70 Prozent gewesen. Amazon habe versucht, die Zahl der Überprüfungen auf 50 von 1.000 zu drücken. Das Unternehmen widersprach dieser Darstellung.

Kontrollverlagerung an die Kund:innen

Die derzeitigen Bemühungen der Anbieter, Pick & Go auch für nicht-registrierte Kund:innen ohne App zu ermöglichen (siehe Supermarktblog), müssen ebenfalls in diesem Zusammenhang gesehen werden.

In der neuen Generation an Märkten von Netto (ohne Hund) in Regensburg und Rewe in Düsseldorf (sowie seit kurzem auch in Hamburg, Hoheluftchaussee 23-25) ermöglicht es Trigo, den per KI erfassten Warenkorb eines Einkaufs am Ladenende an ein Terminal bzw. die SB-Kasse zu transferieren. Das geschieht womöglich nicht nur, um die Technologie für eine größere Zielgruppe zu öffnen.

Rewe Pick & Go in Düsseldorf lässt sich auch ohne App nutzen, die (selbst-)Kontrolle erfolgt an der SB-Kasse; Foto: Smb

Sondern auch, um die notwendige Kontrolle des Einkaufs zurück in den Markt bzw. an die Kundschaft zu verlagern, für die auf dem Screen direkt einsehbar ist, welche Produkte das System ihr zugeordnet hat.

Nachträgliche Reklamationen sind dann kaum oder gar nicht mehr möglich: Netto (ohne Hund) gibt an, die für die Erfassung benötigten Aufzeichnungen kurz nach dem Verlassen des Ladens wieder zu löschen.

Mitarbeiter:innen in Indien würden in diesem Fall nicht mehr (oder nicht mehr im bisherigen Umfang) benötigt. Im Zweifel wäre es aus Händlersicht günstiger, dass dann auch mal eine Falschabrechnung durchgeht, um anderswo Kosten zu sparen.

Bislang verweigern die meisten Unternehmen eindeutige Auskünfte dazu, wie sehr ihre Computer-Vision-Tests nicht-automatisierbare Nachkontrollen nötig hatten oder haben. Diese Intransparenz hilft nicht gerade dabei, das Vertrauen in die Technologie zu stärken, die den Lebensmitteleinkauf revolutionieren soll.

Aber auch ohne konkrete Angaben der Beteiligten lässt sich zusammenfassen: Die Kernfrage bei den modernen Pick-&-Go-Formaten scheint derzeit nicht, ob sie auf menschliche Unterstützung angewiesen sind, sondern nur: wie intensiv.

Mehr zum Thema:

Diesen Text teilen:
Kommentieren

Datenschutzhinweis: Mit der Nutzung dieses Formulars erklären Sie sich mit der Speicherung und Verarbeitung Ihrer Daten durch diese Website einverstanden. Eine Freischaltung erfolgt nur unter Angabe einer validen E-Mail-Adresse (die nicht veröffentlicht wird). Mehr Informationen.

4 Kommentare
  • wäre auch eine Möglichkeit für die Selbstscanner Kassen

    um Diebstahl zu vermeiden und keine Aufpasser mit deutschen ( Mindest) Lohn zu bezahlen wird man 1:1 aus Indien beobachtet, von wo jeweils auch die Freigabe an der Schranke zum Verlassen des Marktes erfolgt😂

  • Auch wenn es (vielleicht) nicht ganz den Umfang hat, wie zunächst in der Presse spekuliert: dass in Indien Menschen bezahlt werden, uns beim Einkaufen zuzuschauen, damit auch noch der gedankenloseste Kunde Grab&Go nutzen kann, hat schon sehr deutlich was von spätrömischer Dekadenz bzw. Kapitalismus im Endstadium. Auf jeden Fall ist eine Form von Kolonialismus und für mich mit ein Grund, diese Einkaufsform nicht zu nutzen.
    Und auch wenn mir klar ist, dass das bewusste Fehlzurücklegen hier aus journalistischen Recherchegründen erfolgte, bestärkt mich das Ganze in meiner schon während meiner Aushilfstätigkeit im LEH erworbenen Überzeugung, dass das bequemlichkeitsbedingte Ablegen von „Will ich jetzt doch nicht“-Artikeln an beliebiger Stelle im Markt mit einer empfindlichen Vertragsstrafe belegt gehört, mindestens aber mit lebenslangem Hausverbot. Was ist so schwer daran, die Sachen einfach an der Kasse abzugeben oder da wieder hinzustellen, wo man sie hergenommen hat? Insbesondere bei kühlpflichtiger Ware?

    • „Auch wenn es (vielleicht) nicht ganz den Umfang hat, wie zunächst in der Presse spekuliert: dass in Indien Menschen bezahlt werden, uns beim Einkaufen zuzuschauen, damit auch noch der gedankenloseste Kunde Grab&Go nutzen kann, hat schon sehr deutlich was von spätrömischer Dekadenz bzw. Kapitalismus im Endstadium. Auf jeden Fall ist eine Form von Kolonialismus und für mich mit ein Grund, diese Einkaufsform nicht zu nutzen.“

      Im Zweifel dürfte diese Art der „Telebeschäftigung“ für den indischen Beschäftigten mit besseren Arbeitsbedingungen als z.B. die medial gern gezeigte Akkordarbeit in engen, überhitzten Fabrikhallen verbunden sein – und KI-Kritikern, die so gern den völligen „Ersatz des Menschen“ prophezeichen, ein Argument nehmen. Und was die Entlohnung angeht, kommt es auf die Konditionen im jeweiligen nationalen Vergleich und keine Vergleiche von Absolutwerten wie für EU Indien an.

      (Es ist ja schon erfreulich, dass man in dem Fall keine bereitwillig ausgebeuteten Scheinselbständigen („Microjobber“) anwirbt, um den technischen Background nicht unnötig publik zu machen.)

  • Immer irgendwie erschreckend, dass es günstiger ist, eine Kompanie Inder zur Kontrolle zu beschäftigen, als einige Fehlkäufe / Diebstähle zu finanzieren bzw. Reklamationen auf Kulanz einfach zu bezahlen. Wobei ich die Lernunterstützung schon nachvollziehen kann, aber das ginge für eine begrenzte Zeit ja auch hier vor Ort.
    Fehlt nur noch als nächster Schritt, „Low Confidence“-Kunden gar nicht mehr die Ladentür zu öffnen, am besten in allen Läden des entsprechenden Konzerns.

Blog-Unterstützer:innen können sich über Steady einloggen, um Support-Hinweise und Werbung im Text auszublenden:

Archiv