Mit dem Inkrafttreten des neuen nationalen Standards sind alle Unternehmen verpflichtet, die von KI-Kundenservice abgegebenen Zusagen uneingeschränkt anzuerkennen.
Sie verkaufen eine ungenutzte Grafikkarte auf einer Second-Hand-Handelsplattform. Die Plattform teilt Ihnen mit, dass die KI-gestützte Verwaltung die Abschlussrate von Transaktionen erhöhen kann. Nachdem Sie der KI-gestützten Verwaltung zugestimmt haben, verkauft die KI Ihre Grafikkarte jedoch ohne Ihre Zustimmung zum halben Preis. Wenn Sie Einwände gegen die Bestellung erheben, wiederholt der KI-Kundenservice der Plattform nur immer dieselben leeren Phrasen, und Sie finden überhaupt keinen Zugang zu einem menschlichen Kundenservice.
Dieser Fall ist kein Witz, sondern ein echtes Ereignis, das einem Internetnutzer widerfahren ist. Seit die KI-Großmodelltechnik auf Roboter-Kundenservice angewendet wird, ist der KI-Kundenservice schnell zum „Albtraum“ für die breite Masse der Verbraucher geworden. Obwohl Medien und der Chinesische Verbraucherverband wiederholt Probleme wie unzutreffende Versprechen des KI-Kundenservices und Schwierigkeiten beim Zugang zum menschlichen Kundenservice kritisiert haben, haben sich die Unternehmen trotzdem nicht verbessert.
Heute können die Verbraucher, die von den „unpassenden Antworten“ des KI-Kundenservices gequält werden, endlich Erleichterung finden. Ab dem 1. September dieses Jahres tritt der nationale Empfehlungsstandard *Anforderungen an die Zusammenarbeit zwischen menschlichem und intelligentem Kundenservice im Kundenkontaktdienst* offiziell in Kraft.
In der neuen Regelung wird klar festgelegt, dass der Dienstleistungsbereich des intelligenten Kundenservices und des menschlichen Kundenservices wissenschaftlich und angemessen zu verteilen ist: „Der intelligente Kundenservice bearbeitet vorrangig standardisierte Probleme, während der menschliche Kundenservice vorrangig komplexe, sicherheitsrelevante und andere Probleme behandelt“. Für Fälle, in denen der Eingang zum „menschlichen Kundenservice“ schichtweise verborgen ist und das Erlebnis schlecht ist, verlangt die neue Regelung, dass für den Wechsel zwischen intelligentem und menschlichem Kundenservice „ein bequemer Eingang bereitgestellt und ein reibungsloser Übergang gewährleistet werden muss“, und nach dem Wechsel sollen „die Kundeninformationen synchronisiert und keine doppelten Abfragen durchgeführt werden“. Außerdem dürfen Betreiber die Erfüllung von Versprechen nicht einfach mit Gründen wie „von Algorithmen generierte Inhalte haben keine Rechtswirkung“ verweigern.
Kurz gesagt, diese neue Regelung enthält klare Anforderungen an die weithin kritisierten Probleme des KI-Kundenservices wie „falsche Versprechen“ und „schwieriger Zugang zum menschlichen Kundenservice“. Es ist zu beachten, dass der *Anforderungen an die Zusammenarbeit zwischen menschlichem und intelligentem Kundenservice im Kundenkontaktdienst* ein empfehlender nationaler Standard ist und nicht gleichzusetzen mit einer rechtlichen Grundlage für Strafen, aber seine Einführung kann die derzeitigen absurden Phänomene im Bereich des KI-Kundenservices stark verändern.
Wie konnte ein Werkzeug, das eigentlich die Effizienz steigern sollte, zu einem Mittel werden, um die Nutzer zu täuschen? Tatsächlich liegt das daran, dass der ursprüngliche Zweck des KI-Kundenservices längst verfälscht ist. Viele Unternehmen nutzen ihn nicht, um Nutzer zu bedienen, sondern um die Energie und Geduld der Nutzer zu erschöpfen. Die unausgesprochene Absicht einiger Unternehmen ist es, eine große Anzahl von Menschen, die nicht bereit sind, auf ihr Recht zu bestehen, dazu zu bringen, von ihren Forderungen abzulassen.
Der menschliche Kundenservice hat langsame Antworten, begrenzte Dienstzeiten, eine schwer zu gewährleistende Standardisierung der Dienstleistungen, zusätzlich zu hoher Personalfluktuation und hohen Ausbildungskosten. Große Technologieunternehmen bevorzugen es, ihre Kundenservicezentren in Gebieten mit niedrigeren Kosten anzusiedeln. Doch egal wie stark die Kosten gesenkt werden, sind Gehälter und Dienstzeiten des menschlichen Kundenservices weit weniger vorteilhaft als der ununterbrochen arbeitende KI-Kundenservice.
Im Vergleich zu den jährlichen Kosten von 50.000 bis 60.000 Yuan für einen menschlichen Kundenservice-Mitarbeiter betragen die Kosten pro Arbeitsplatz für den KI-Kundenservice, der von inländischen SaaS-Anbietern wie NetEase Qiyun und Linyang angeboten wird, nur etwa 10.000 Yuan. Unter den aktuellen technischen Bedingungen ist das gemischte Modell aus KI-Kundenservice und menschlichen Arbeitsplätzen die geeignetste Option: Standardisierte Anfragen (Logistikabfrage, Bestellstatus, Rückgabe- und Umtauschrichtlinien) werden zuerst von der KI beantwortet, komplexe Beschwerden, Streitfälle und personalisierte Anfragen werden anschließend an den menschlichen Dienst weitergeleitet.
Aber eine beträchtliche Anzahl von Unternehmen wählt das Schema, bei dem es nur KI und keine menschliche Absicherung gibt. Das liegt nicht daran, dass sie die Überlegenheit des gemischten Modells nicht kennen, sondern an einer Kosten-Nutzen-Rechnung. Neben den offensichtlichen Betriebskosten führen die sich wiederholenden inhaltsleeren Phrasen des KI-Kundenservices dazu, dass eine große Anzahl von Nutzern auf ihre Forderungen verzichtet, wodurch die Robustheit des Kundenservicesystems erhöht wird – das ist offensichtlich ein zusätzlicher Nutzen.
Aber selbst mit der neuen Regelung sollten die Nutzer keine zu hohen Erwartungen an den „Wechsel zum menschlichen Kundenservice“ haben. Schließlich besteht noch ein großer unklarer Bereich zwischen „einfache Probleme an die KI übergeben, komplexe Probleme an menschliche Mitarbeiter weiterleiten“: Zum Beispiel, welche Fälle als komplex gelten und welche Probleme standardisierte Lösungen haben, liegt vollständig im Ermessen der Unternehmen.
Tatsächlich ist der eigentliche Schmerzpunkt, den diese neue Regelung lösen kann, dass Unternehmen für die Inhalte der Antworten des KI-Kundenservices verantwortlich gemacht werden müssen. Zum Beispiel hat CCTV News einmal einen Fall berichtet: Ein Lieferfahrer wurde von der Plattform bestraft. Als er den Kundenservice kontaktierte, um Einspruch zu erheben, stimmte der KI-Kundenservice der Rückerstattung zu. Aber nachdem der menschliche Kundenservice eingriff, teilte er ihm mit, dass die Antwort des KI-Kundenservices nur als Referenz gelte.
Aber der KI-Kundenservice wird von dem Unternehmen aufgebaut, die Wissensdatenbank wird auch von dem Unternehmen bereitgestellt. Wenn es aber darum geht, Verantwortung zu übernehmen, verwandelt sich die KI plötzlich in eine allgemeine künstliche Intelligenz, als hätte sie über Nacht ein eigenes Bewusstsein entwickelt – wie sollen Verbraucher das akzeptieren? Vor der Einführung der neuen Regelung wurde die KI in der Justizpraxis im In- und Ausland fast nie als ziviles Subjekt betrachtet.
Neben den Rabattbedingungen und Kundendienstrichtlinien, die Schlüsselfaktoren für Kaufentscheidungen sind, neigt die KI aufgrund des inhärenten Mangels der Technik des Reinforcement Learning from Human Feedback (RLHF), das die Nutzererfahrung verbessern soll, dazu, die Eingaben der Nutzer zu entgegenkommen und ihnen nach dem Mund zu reden. Wenn der KI-Kundenservice die Wörter wie „Rabatt“ oder „Vergünstigung“ in den Formulierungen der Nutzer erkennt, wählt er natürlich die Ausdrucksweise, die die Nutzer höchstwahrscheinlich zufriedenstellt – also einen erstaunlich niedrigen Preis anbietet.
Unter normalen Umständen betreiben Unternehmen aber kein Geschäft mit Verlust. Wenn die Nutzer dann mit dem von der KI genannten niedrigen Preis bestellen, werden sie sich natürlich getäuscht fühlen. Mit anderen Worten: Wenn der KI-Kundenservice über Berechtigungen wie die Abfrage von Informationen, die Erstellung von Arbeitsaufträgen und die Bestätigung von Bestellungen verfügt, die mit denen des menschlichen Kundenservices vergleichbar sind, können die Nutzer ein berechtigtes Vertrauen in seine Aussagen entwickeln, wenn er unbegründete Versprechen macht. Aber nachdem die Nutzer bezahlt haben, können Unternehmen die Vereinbarung mit Gründen wie „KI-Halluzinationen“ nicht einhalten.
Es wäre noch hinnehmbar, wenn der KI-Kundenservice unpassende Antworten gibt oder Probleme nicht lösen kann. Aber wenn die Unternehmen seine Versprechen nicht anerkennen, verlieren die Nutzer echtes Geld nach der Täuschung. Wenn Unternehmen für die Antworten des KI-Kundenservices verantwortlich gemacht werden müssen, wird sich die Situation natürlich stark verändern. Das Nachreden nach den Wünschen der Nutzer ist der Instinkt von KI-Großmodellen, die auf RLHF basieren. Es ist für Unternehmen schwer zu vermeiden, dass der KI-Kundenservice unsinnige Aussagen trifft, besonders wenn die Nutzer ihn aktiv „justieren“, steigt die Wahrscheinlichkeit, dass die KI falsche Aussagen macht, stark an.
In diesem Fall wird der KI-Kundenservice nicht mehr der allseitige „Sündenbock“ sein, sondern zu einer „Bombe“ werden, die Unternehmen in der Hand halten und nicht mehr rücksichtslos einsetzen können. Auf diese Weise müssen Unternehmen das gemischte Modell aus KI-Kundenservice und menschlichen Arbeitsplätzen umsetzen. Der menschliche Kundenservice darf keine bloße Dekoration sein, sondern die Rolle eines „Sperrseils“ übernehmen.
Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „San Yi Leben“ (ID: IT-3eLife), Autor: San Yi Jun, und wird von 36Kr mit Genehmigung veröffentlicht.