Ein KI-Assistent bucht falsch, gibt Kundendaten weiter oder empfiehlt ein schlechtes Angebot – wer ist schuld? Vier britische Aufsichtsbehörden haben eine klare Antwort: das Unternehmen, das den KI-Agenten einsetzt. „Die KI war’s“ gilt nicht als Ausrede.

Was ist passiert?

Am 30. Oktober 2026 haben die vier großen Digital-Aufseher Großbritanniens eine gemeinsame Erklärung veröffentlicht: die Wettbewerbsbehörde CMA, die Finanzaufsicht FCA, die Datenschutzbehörde ICO und die Medienaufsicht Ofcom. Sie arbeiten im Digital Regulation Cooperation Forum (DRCF, ein Abstimmungsgremium dieser Behörden) zusammen.

Thema sind persönliche KI-Agenten (KI-Programme, die nicht nur antworten, sondern selbstständig Aufgaben erledigen): Termine buchen, E-Mails schreiben und verschicken, Ausgaben verwalten oder einkaufen.

Die Kernaussagen

  • Bestehendes Recht gilt schon: Verbraucherschutz, Wettbewerbsrecht, Datenschutz, Finanz- und Zahlungsregeln sowie Cybersicherheit gelten auch für KI-Agenten.
  • Verantwortung bleibt beim Unternehmen: Dass ein Agent selbstständig handelt, mindert laut Erklärung nicht die Pflicht des Unternehmens, das ihn einsetzt, die Gesetze einzuhalten.
  • Die Risiken: Betrug, ungewollte Weitergabe persönlicher Daten und irreführende Empfehlungen oder Entscheidungen.
  • Die Behörden wollen handeln: Bei Verdacht auf Rechtsverstöße wollen sie ihre Befugnisse nutzen. Die CMA kann bei Verbraucherrecht seit April 2025 selbst Strafen bis zu 10 Prozent des weltweiten Umsatzes verhängen (laut DailyAI und Kanzlei Burges Salmon).

Neue Gesetze schafft die Erklärung nicht. Sie macht aber deutlich, wie die Behörden die bestehenden Regeln anwenden.

Was heißt das für Betriebe?

  • Agenten wie Mitarbeiter führen: Klare Aufgaben, klare Grenzen und regelmäßige Kontrolle. Die CMA rät, Agenten zu trainieren, zu testen und zu überwachen.
  • Transparenz für Kunden: Erklären, was der Agent darf, welche Daten er nutzt und wie man sich beschweren kann.
  • Menschliche Freigabe bei Geld, Verträgen und Kundendaten einbauen.

Kritischer Blick

Die Erklärung gilt nur für Großbritannien, nicht für Deutschland oder Paraguay. Sie benennt keine federführende Behörde und keinen neuen Weg, wie geschädigte Kunden schnell zu ihrem Recht kommen. Ob und wie hart die Behörden tatsächlich durchgreifen, ist noch offen. Die Richtung dürfte trotzdem auch für andere Länder ein Vorbild sein: Auch in der EU gilt bestehendes Recht für Unternehmen, die KI einsetzen. Eine Rechtsberatung ersetzt dieser Artikel nicht.

Fazit

KI-Agenten nehmen viel Arbeit ab, aber nicht die Verantwortung. Wer Bots auf Kunden loslässt, sollte sie führen wie ein neues Teammitglied: einarbeiten, kontrollieren und für ihre Fehler geradestehen.

Quellen