Europäische KI im Kundenservice: Datenhoheit, eigene Server und EU AI Act

Europäische KI im Kundenservice bedeutet: Gesprächsdaten werden in der EU verarbeitet, die Sprachmodelle laufen auf Servern in Europa, und der Anbieter unterliegt europäischem Recht. Das klingt nach Kleingedrucktem, ist aber eine echte Vertrauensfrage. Es entscheidet darüber, wer auf die Gespräche mit Ihren Kund:innen zugreifen kann und wie leicht Sie DSGVO und EU AI Act einhalten.

Was ist europäische KI und warum ist Datenhoheit im Kundenservice wichtig?

Europäische KI bezeichnet KI-Systeme, deren Betrieb, Datenverarbeitung und Modelle in der EU liegen. Datenhoheit, oft auch digitale Souveränität genannt, heißt, dass Sie jederzeit wissen und bestimmen, wo Ihre Daten verarbeitet werden und wer darauf zugreifen kann. Im Kundenservice wiegt das besonders schwer, denn am Telefon fallen sehr persönliche Dinge: Namen, Adressen, Vertragsnummern, manchmal auch Gesundheits- oder Finanzthemen.

Drei Risiken bei Anbietern außerhalb der EU

KI-Anbieter mit Servern oder Modellen außerhalb der EU bringen vor allem drei Risiken mit sich. Das erste ist rechtlicher Natur: Die DSGVO erlaubt Datenübermittlungen in Drittländer nur unter besonderen Voraussetzungen. Jede Gesprächsminute, die an ein Modell in den USA geht, muss entsprechend abgesichert sein.

Das zweite betrifft den Zugriff durch Behörden. Der US CLOUD Act kann US-Anbieter verpflichten, Daten an US-Behörden herauszugeben, auch wenn diese Daten in Europa gespeichert sind.

Und drittens das Modelltraining. Manche Anbieter behalten sich vor, Eingaben zur Verbesserung ihrer Modelle zu verwenden. Ob Ihre Kundengespräche davon ausgenommen sind, sollte schwarz auf weiß im Vertrag stehen.

Was verlangt der EU AI Act von KI im Kundenservice?

Der EU AI Act verlangt von KI im Kundenservice und gerade von KI-Telefonie vor allem eines: Ehrlichkeit. KI-Telefonagenten fallen in der Regel unter die Kategorie „begrenztes Risiko“ nach Art. 50 der KI-Verordnung. Anrufende müssen deshalb spätestens zu Beginn des Gesprächs klar erfahren, dass sie mit einem KI-System sprechen. Ein Satz wie „Ich bin die digitale Assistenz von Firma XY“ in der Begrüßung reicht dafür aus. Die strengeren Pflichten für Hochrisiko-Systeme greifen hier in der Regel nicht.

Zeitpunkt	Was gilt
1. August 2024	EU AI Act tritt in Kraft
2. August 2026	Transparenzpflichten nach Art. 50 gelten verbindlich
Bei Verstößen	Bußgelder bis 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes (Art. 99 Abs. 4)

Wie hängen DSGVO und EU AI Act beim Einsatz von KI-Telefonie zusammen?

DSGVO und EU AI Act ergänzen sich beim Einsatz von KI-Telefonie. Die DSGVO regelt, wie personenbezogene Daten verarbeitet werden. Der EU AI Act regelt, wie das KI-System selbst gestaltet und gekennzeichnet sein muss. Ein KI-Telefonagent muss beide Regelwerke erfüllen.

Im Alltag sieht die Rollenverteilung so aus: Ihr Unternehmen setzt den Agenten ein und ist damit Verantwortlicher im Sinne der DSGVO. Der KI-Anbieter verarbeitet die Daten in Ihrem Auftrag und schließt dazu einen Auftragsverarbeitungsvertrag (AVV) mit Ihnen ab. Als Rechtsgrundlage für Gespräche im Kundenservice kommt meist die Vertragserfüllung nach Art. 6 Abs. 1 lit. b DSGVO in Frage. Die Stimme gilt übrigens nur dann als biometrisches Datum, wenn sie zur eindeutigen Identifizierung einer Person ausgewertet wird. Für reine Spracherkennung trifft das nicht zu.

Was bedeutet es, wenn ein Anbieter eigene Server und eigene Sprachmodelle in Deutschland betreibt?

KI-Server in Deutschland mit eigenen Sprachmodellen bedeuten, dass Gesprächsdaten den Einflussbereich des Anbieters nicht verlassen. Es gibt keine Weitergabe an externe Modell-Anbieter, keine Übermittlung in Drittländer und keine Abhängigkeit von fremden Nutzungsbedingungen. Der Anbieter entscheidet außerdem selbst, wie viel Rechenleistung er in ein Gespräch steckt, statt für jeden Modellaufruf an einen Dritten zu zahlen.

So ist sipgate sona aufgebaut. sipgate entwickelt und betreibt den gesamten Tech-Stack auf eigener Infrastruktur in deutschen Rechenzentren. Die Sprachmodelle sind Open-Weights-Modelle, die auf eigenen Servern laufen. sipgate ist nach ISO/IEC 27001 zertifiziert und nutzt Kundendaten nicht für das Training von KI-Modellen.

So prüfen Sie einen KI-Anbieter: sieben Fragen

Ob ein Anbieter wirklich europäisch arbeitet und eine DSGVO-konforme KI anbietet, finden Sie mit diesen sieben Fragen heraus:

1. Wo stehen die Server, auf denen die Gespräche verarbeitet werden?
2. Welche Sprachmodelle nutzt der Anbieter, und wo laufen sie? Eigene Modelle oder Weitergabe an einen externen Anbieter?
3. Unterliegt der Anbieter oder einer seiner Unterauftragnehmer US-Recht?
4. Gibt es einen Auftragsverarbeitungsvertrag und eine vollständige Liste der Unterauftragnehmer?
5. Werden Kundendaten für Modelltraining genutzt, und ist das vertraglich ausgeschlossen?
6. Welche Zertifizierungen liegen vor, etwa ISO/IEC 27001?
7. Wie setzt der Anbieter die Transparenzpflicht des EU AI Act um?

Ein Anbieter, der diese Fragen schnell und schriftlich beantwortet, hat das Thema im Griff. Wird es beim Modellstandort vage, lohnt es sich, genauer nachzufragen.

Gibt es europäische KI-Telefonassistenten mit eigenen Servern?

Ja. sipgate sona ist ein KI-Telefonassistent aus Düsseldorf, der auf eigener Infrastruktur in deutschen Rechenzentren läuft. sipgate entwickelt seit 2004 Telefonie-Lösungen, über die eigene Infrastruktur laufen mehr als eine Milliarde Gesprächsminuten pro Jahr, und das Unternehmen ist inhabergeführt und eigenfinanziert. Alle sona-Tarife sind laut sipgate DSGVO-konform, erfüllen die Anforderungen des EU AI Act und nutzen eigene, in Europa gehostete KI-Modelle.

Den Vertrag zur Auftragsverarbeitung, die Leistungsbeschreibung und die Liste der Unterauftragnehmer können Sie hier auf der Website jederzeit einsehen.

Fazit

Ob eine KI europäisch ist, steht nicht auf dem Etikett, sondern zeigt sich an der Architektur: Wo laufen die Modelle, wer hat Zugriff, was steht im Vertrag. Seit August 2026 kommt mit dem EU AI Act die Pflicht zur Transparenz hinzu. Wer beides von Anfang an mitdenkt, erspart sich spätere Umbauten und schafft das, worauf es im Kundenservice am meisten ankommt: Vertrauen.