Hier mal meine Kritikpunkte, etwas sachlicher formuliert:

• Ich bin bei Chatangeboten auf Webseiten seit Jahren ziemlich kritisch. Erst fand ich sie nur nervig (unten rechts immer eine unbenutzbare Fläche, dazu oft Animation und teilweise CTA-Sprechblasen und Geräusche). Dann hat mein Arbeitgeber selbst einen eingebaut und ich habe ein bisschen mitbekommen, was da an Verhaltens- und Nutzerdaten aufgesaugt wird, selbst wenn der Chat nicht aktiv genutzt wird (bzw. kann man damit auch gezielt Nutzer ansprechen, die gar nicht chatten wollen). Klar, die KI-Chatbots sind vom Geschäftsmodell erst einmal ein bisschen anders, aber die mit dem aufdringlichen, ekelhaften Verhalten von Intercom/Drift/Qualified/Boldchat/... zu kombinieren dürfte nicht schwer sein.
• Es ist ein Trend, der auch von Vermarktungstypen getrieben wird und Firmen laufen blind dem Trend hinterher. Das an sich finde ich schon mal ein bisschen dusselig.
• Firmen scheinen nicht zu realisieren, dass sie da quasi ein neues, sehr sichtbares PR-Mitarbeity einstellen, dass sich nicht an Sprachregeln halten wird (Firma nicht schlecht reden) oder die Wahrheit sagen wird (oder in diesem Fall: etwas zu viel Wahrheit sagt).
• Weil das ein Trend ist, werden die Systemprompts möglichst schnell und ohne Rücksicht auf Verluste implementiert. War auch letztens bei dem TNT UK-Chatbot zu sehen (Lassmich-Verweis habe ich verloren...), dessen Systemprompt sagte, der Bot dürfe keine anderen Paketdienstleister erwähnen und dann nicht nur bei einer Frage nach dem schlechtesten Paketdienst "TNT" geantwortet hat, sondern auch seinen Systemprompt preisgegeben hat.