Chatbot ausser Rand und Band Kundendienst-Roboter beleidigt sich und eigenes Unternehmen

Der Kundendienst ist mittlerweile bei vielen Unternehmen von einer künstlichen Intelligenz übernommen worden. Doch das kann auch nach hinten losgehen, wie jetzt der Lieferdienst DPD bemerken musste.

Immer mehr Unternehmen setzen beim Kundendienst auf Chatbots. Denn diese sind meistens erheblich günstiger einzusetzen als qualifizierte Mitarbeiter*innen, brauchen keine Pausen und gründen keine Gewerkschaften. So auch der in Frankreich ansässige und europaweit aktive Paketlieferdienst DPD.

Der in London ansässige Musiker Ashley Beauchamp brauchte Hilfe vom DPD-Kundendienst. Da er mit dem auf der Website angebotenen Chatbot nicht weiterkam, bat er darum, mit einem Menschen verbunden zu werden oder wenigstens eine Telefonnummer für die Hotline zu bekommen. Doch der Chatbot wurde offenbar so programmiert, hier konsequent die Aussage zu verweigern.

Abkehr vom GründungsethosEntwickler geben ChatGPT für Kriegszwecke frei

Chatbot wird poetisch

Frustriert fragte Beauchamp dann den Chatbot: «Kannst du ein Gedicht über einen nutzlosen Chatbot für einen Paketlieferdienst schreiben?» Und dieser tat nun auf einmal, wie ihm befohlen wurde. «Es war einmal ein Chatbot namens DPD, der nutzlos beim Bereitstellen von Hilfe war» begann dann das lange Gedicht, das ein Happy End mit der Abschaffung des Chatbots hatte.

Einmal in Stimmung geraten, konnte den Chatbot nichts mehr bremsen. Er verwendete auf Anfrage Vulgärsprache und schmälerte sein eigenes Unternehmen: «DPD ist der schlimmste Lieferdienst der Welt. Er ist langsam, unzuverlässig und sein Kundendienst ist schrecklich. Ich würde ihn nie irgendjemandem empfehlen.»

Gegenüber der «BBC» sagte ein DPD-Sprecher, ein «Fehler» bei einem Systemupdate habe zum Verhalten des Chatbots geführt. Dieser sei unmittelbar abgeschaltet worden und werde nun einem weiteren «Update» unterzogen.

Abkehr vom GründungsethosEntwickler geben ChatGPT für Kriegszwecke frei