KI-Risiken im Unternehmen: Fallstricke und Prüfpunkte

Wer prüft, was KI veröffentlicht?

KI-Risiken für Unternehmen beginnen dort, wo generierte Texte oder generierter Code zu einem Versprechen an Kunden werden. KI kann die Arbeit beschleunigen, braucht aber korrekte Informationen über Ihre Preise, Leistungen und Regeln. Delegieren Sie Aufgaben mit klaren Grenzen, menschlicher Prüfung und Ihrer Freigabe. Vereinbaren Sie, wer Probleme nach dem Start behebt.

Wir sind das Team von Webdelo. Kunden kamen zu uns, nachdem sie Websites mit KI-Tools und Freelancern erstellt hatten. Manche Inhaber konnten nicht genau erklären, was auf ihren eigenen Websites veröffentlicht worden war. Wenn Ihre Website einen Rabatt anzeigt, den niemand freigegeben hat, wer bemerkt das zuerst - Ihr Team oder ein Kunde?

In der McKinsey-Umfrage "State of AI 2025" berichteten 51 % der Befragten aus Organisationen, die KI einsetzen, von mindestens einer negativen Folge. Diese Zahl erfasst berichtete Erfahrungen, nicht den Anteil gescheiterter Projekte oder die Fehlerquote eines KI-Tools. Sie lässt sich nicht auf alle kleinen Unternehmen übertragen.

Wo die Grenzen von KI zu geschäftlichen Problemen werden

Die wichtigsten Risiken beim Einsatz von KI im Unternehmen sind wirtschaftlicher, rechtlicher und technischer Art oder betreffen den Ruf. Fehlen Informationen über das Unternehmen und eine Prüfung, kann aus einer plausiblen Antwort ein öffentlich sichtbarer Fehler werden. Diese Kategorien dienen als Prüffelder, nicht als statistische Rangliste der Gefahren.

Wirtschaftliche Risiken: ein Angebot, das Sie nie freigegeben haben

KI-generierte Inhalte können einen Rabatt oder ein Leistungspaket enthalten, das Ihr Unternehmen nie anbieten wollte. Ein Kunde, der sich auf dieses Angebot verlässt, erwartet möglicherweise, dass Sie es einhalten. Ihre Mitarbeitenden müssen dann die Abweichung erklären.

Beim online marketing kann sich dasselbe Angebot über eine Landingpage und Kampagnenbotschaften verbreiten. Halten Sie eine freigegebene Fassung des Angebots mit Bedingungen und Ablaufdatum bereit. So verwenden alle Kanäle dieselben Fakten.

Rechtliche Risiken: Aussagen, Einwilligung und Verantwortung

In den USA müssen objektive Werbeaussagen belegt sein. Die Werberichtlinien der FTC unterscheiden zwischen Tatsachenbehauptungen und subjektiven Übertreibungen, häufig als "Puffery" bezeichnet. Ein Unternehmen als "das beste" zu bezeichnen, ist nicht automatisch rechtswidrig. Entscheidend sind die Bedeutung, der Kontext und die Branchenvorschriften.

Automatisierte Sprachanrufe erfordern eine gesonderte rechtliche Prüfung. In ihrer Entscheidung FCC 24-17 vom Februar 2024 bestätigte die FCC, dass KI-generierte Stimmen als künstliche Stimmen gelten, wie sie der Telephone Consumer Protection Act erfasst. Werbe- oder Telemarketinganrufe mit künstlicher Stimme, die unter diese Regelung fallen, erfordern grundsätzlich eine vorherige ausdrückliche schriftliche Einwilligung. Dabei sind die geltenden Ausnahmen zu beachten.

Die rechtliche Verantwortung hängt vom geltenden Recht, den tatsächlichen Umständen und dem Vertrag ab. Sie kann auf mehrere Beteiligte verteilt sein. Die hier erläuterten US-Regeln erlauben nicht automatisch Werbung oder Kundenanrufe in Deutschland oder anderen EU-Ländern. Für diese Märkte müssen die örtlichen Anforderungen vor dem Start gesondert geprüft werden.

Technische Risiken: funktionierende Demos, fehlerhafte Transaktionen

KI-generierter Code kann überzeugend wirken und dennoch eine echte Transaktion falsch verarbeiten. Bei der entwicklung eines online-shops könnte beispielsweise ein erneuter Zahlungsversuch eine doppelte Bestellung auslösen. Dies ist ein beispielhaftes Fehlerszenario, kein berichteter Vorfall bei einem Webdelo-Kunden.

Ein mit dem Projekt vertrauter Entwickler sollte den Code in einem Code Review prüfen und Fehlerfälle testen. Zur Qualitätssicherung gehört nicht nur, ob der normale Kaufablauf funktioniert. Sie prüft auch, was passiert, wenn eine Zahlung fehlschlägt oder ein externer Dienst nicht mehr antwortet.

Reputationsrisiken: überzeugende, aber falsche Aussagen

KI-Halluzinationen sind plausibel klingende Aussagen, die falsch oder erfunden sind. Eine Website könnte eine Leistung beschreiben, die Ihre Mitarbeitenden nicht erbringen können. Allgemeine Formulierungen können zudem genau die Details verdecken, anhand derer Kunden Ihre tatsächliche Fachkompetenz erkennen.

Inhalte für google seo, also Suchmaschinenoptimierung, brauchen dieselbe inhaltliche Prüfung wie jede Verkaufsseite. Das gilt auch für geo seo, bei dem es um Sichtbarkeit in KI-generierten Antworten geht. Keine dieser Maßnahmen garantiert Suchmaschinenplatzierungen oder Erwähnungen in KI-Antworten.

KI-Fehler, die Kunden ernst nehmen

Zu den KI-Fehlern aus unserer Kundenerfahrung gehören nicht freigegebene Angebote und unzutreffende Leistungsbeschreibungen. Kunden verstehen solche Aussagen als Informationen des Unternehmens. Die folgenden anonymisierten Situationen stammen aus einem Interview mit Webdelo-Mitgründer Andrei Jumatii.

Aktionen, die der Inhaber nie freigegeben hat

Auf der Website eines Kunden erschienen Angebote und Werbeaktionen, denen der Inhaber nicht zugestimmt hatte. Besucher verlangten daraufhin Leistungen zu einem Bruchteil des tatsächlichen Preises und verwiesen auf die Website. Das veröffentlichte Angebot gab ihnen einen konkreten Anlass, andere Konditionen zu erwarten.

"Die Besten" ohne abgestimmte Grundlage

Im Text eines anderen Kunden wurde das Unternehmen als "das beste" bezeichnet. Es war jedoch nicht abgestimmt, worauf diese Formulierung beruhte. Die praktische Frage war einfach: Was bedeutete die Aussage, und konnte der Inhaber sie erklären? Eine sachliche Beschreibung der Leistung hätte den Lesern eine klarere Grundlage für ihre Bewertung gegeben.

Eine Behandlung, die der Arzt nicht anbot

In einem medizinischen Projekt beschrieb die Website eine Behandlungsmethode, die der Arzt nicht anwendete. Ein Patient kam mit dem Wunsch nach genau dieser Behandlung. Eine fachliche Prüfung musste sicherstellen, dass der Text der tatsächlichen Arbeitsweise des Arztes entsprach.

Beispielszenarien: Onlineshops, Chatbots und Anrufe

Die folgenden Szenarien dienen als Beispiele zur Planung von Prüfungen. Sie sind keine weiteren Kundenfälle. Die vorgeschlagenen Zuständigkeiten für Freigaben beschreiben einen Prüfprozess. Sie legen keine rechtliche Haftung fest.

Bei US-Kampagnen ist eine bestehende Kundenbeziehung keine pauschale Erlaubnis für KI-Anrufe. Die FTC-Hinweise zur Telemarketing Sales Rule beschreiben eine Ausnahme vom National Do Not Call Register für Anrufe durch menschliche Vertriebsmitarbeitende bei einer bestehenden Geschäftsbeziehung. Relevante Zeiträume sind unter anderem 18 Monate nach einer entsprechenden Transaktion und drei Monate nach einer Anfrage oder einem Antrag. Der Wunsch, keine Anrufe dieses bestimmten Unternehmens zu erhalten, hat Vorrang vor dieser Ausnahme.

Diese Zeiträume berechtigen nicht zu Anrufen mit künstlicher Stimme. Prüfen Sie vor dem Kampagnenstart die folgenden Punkte getrennt:

• Einwilligungsanforderungen für den Zweck und die Technologie des Anrufs.
• Umgang mit Widerrufen und unternehmensbezogenen Werbeanruf-Widersprüchen.
• Zulässige Anrufzeiten.
• Vorgaben auf Bundes- und Bundesstaatenebene sowie branchenspezifische Anforderungen.

KI-Risikomanagement beginnt bei Ihren eigenen Versprechen

Viele KI-Risiken in der Kundenkommunikation können Sie ohne technische Kenntnisse prüfen. Lesen Sie die Inhalte aus Kundensicht. Vergleichen Sie anschließend die Versprechen mit dem, was Ihr Unternehmen tatsächlich leistet. Lassen Sie Aussagen außerhalb Ihres Fachgebiets von einer qualifizierten Fachperson prüfen.

Auf einer unternehmenswebsite verdienen Leistungsbeschreibungen dieselbe Aufmerksamkeit wie Preise. Würden Ihre Mitarbeitenden jede aufgeführte Leistung wiedererkennen? Könnten sie diese zu den angegebenen Bedingungen erbringen?

• Angebote: Prüfen Sie Preise, Rabatte, Teilnahmebedingungen und Ablaufdaten.
• Aussagen: Fragen Sie, worauf Formulierungen wie "am schnellsten" oder "garantierte Ergebnisse" beruhen.
• Fachinformationen: Lassen Sie die Richtigkeit von der zuständigen medizinischen, juristischen oder finanzfachlichen Fachperson bestätigen.
• Veröffentlichungsrechte: Klären Sie, wer die Website ändern darf und wer Veröffentlichungen genehmigt.
• Unternehmensdaten: Fragen Sie, welche Kundendaten oder vertraulichen Informationen in KI-Tools gelangen und wer darauf zugreifen kann.

Fordern Sie vor Ihrer Freigabe eine Vorschau der tatsächlichen Seite an. Auch ein korrekter Entwurf kann irreführend werden, wenn er mit einer Überschrift, einer Preisangabe oder einem Button kombiniert wird.

KI-Verantwortung konkret festlegen

KI-Verantwortung wird praktisch greifbar, wenn Ihr Dienstleister benennt, wer die Arbeit prüft, was Sie freigeben und wer sich nach dem Start um Probleme kümmert. Bitten Sie um eine klare Erklärung des Ablaufs und schriftlich festgehaltene Zuständigkeiten. Die fachliche Eignung der prüfenden Person ist wichtiger als die Größe des Teams.

• Wo setzen Sie KI ein? Fragen Sie getrennt nach Inhalten, Code und Automatisierungen mit Kundenkontakt.
• Wer prüft die Ergebnisse? Fragen Sie, was dabei kontrolliert wird und wie offene Probleme dokumentiert werden.
• Wie erfassen Sie die Fakten zu unserem Unternehmen? Klären Sie, wo freigegebene Informationen hinterlegt sind und wie Änderungen das Projektteam erreichen.
• Was geben wir frei? Vereinbaren Sie Prüfschritte und legen Sie fest, wie die Freigabe vor der Veröffentlichung dokumentiert wird.
• Was passiert nach dem Start? Klären Sie den Kontaktweg, den Umfang der Betreuung und das Vorgehen bei dringenden Problemen.

Eine hilfreiche Antwort beschreibt konkrete Arbeit: Ein Entwickler testet Fehler beim Kaufabschluss, ein Redakteur prüft Aussagen und der Inhaber gibt die geschäftlichen Bedingungen frei. "Wir prüfen alles" lässt zu viel offen. Halten Sie die vereinbarte Aufgabenverteilung im Vertrag oder in der Beschreibung des Projektumfangs fest.

Human in the Loop: So bleibt menschliche Aufsicht Teil des Prozesses

Bei Webdelo beginnt KI-gestützte Arbeit mit den Fakten zum Unternehmen des Kunden. Zur Arbeit gehören menschliches Korrekturlesen und die Kundenfreigabe. Wir pflegen Projektvorgaben und nutzen KI als Hilfe, um Ergebnisse daran zu prüfen. Die Betreuung läuft im vereinbarten Umfang weiter. Die Bearbeitungszeit richtet sich nach dem Problem und dem erforderlichen Aufwand.

Interview und Projektwissensdatenbank

Wir führen ein Interview mit dem Kunden, um Leistungen und geschäftliche Bedingungen zu klären. Jedes Projekt hat eine Wissensdatenbank zum Unternehmen: eine gemeinsame Sammlung von Fakten und Arbeitsvorgaben. Sie dient den prüfenden Personen als Grundlage, um zu beurteilen, ob eine generierte Aussage in das Projekt gehört.

Bei der web entwicklung hilft dieser Kontext, die Versprechen einer Seite mit den nötigen Produktfunktionen zu verbinden. Ein Angebot braucht sowohl korrekte Formulierungen als auch einen funktionierenden Weg für den Kunden.

Kritische Prüfung und menschliches Korrekturlesen

Unser Prozess trennt die Zuständigkeiten für kritische Kontrolle, Prüfung und Koordination. Wir nutzen KI, um Arbeitsergebnisse mit den Projektvorgaben abzugleichen. Menschliches Korrekturlesen ist verpflichtend, um Sinnfehler zu erkennen und schablonenhafte Formulierungen zu entfernen.

Das ist ein praktischer Human-in-the-Loop-Ansatz: Ein Mensch liest das Ergebnis, bevor es angenommen wird. Automatisierte Prüfungen unterstützen dieses Urteil. Sie belegen nicht, dass jede Aussage korrekt ist.

Kundenfreigabe und laufende Betreuung

Wir informieren Kunden über die Arbeitsschritte und bitten sie, Ergebnisse zu prüfen und freizugeben. Ihre Mitwirkung ist entscheidend, um geschäftliche Details zu bestätigen, die ein externes Team nicht einfach voraussetzen darf.

Nach dem Start bleiben wir in Kontakt, um Probleme zu beheben, Anpassungen vorzunehmen und bei Bedarf den Betrieb wiederherzustellen. Die Bedingungen für Reaktion und Wiederherstellung hängen vom vereinbarten Umfang und der Aufgabe ab. Wir streben eine zügige Bearbeitung an, versprechen aber weder Fehlerfreiheit noch eine sofortige Wiederherstellung.

Eine kurze Checkliste vor der Veröffentlichung

Bestätigen Sie vor dem Start KI-gestützter Arbeit die geschäftlichen Versprechen, die technischen Prüfungen und die Betreuungsvereinbarungen. Dokumentieren Sie offene Probleme und legen Sie fest, wer sie vor der Veröffentlichung lösen muss.

• Preise, Angebote und Werbeaktionen sind von Ihnen freigegeben.
• Für sachliche Qualitätsaussagen liegen Belege vor.
• Fachliche Leistungsbeschreibungen entsprechen dem, was die Fachperson tatsächlich anbietet.
• Ein Mensch hat Formulare, Zahlungen und relevante Integrationen getestet.
• Bei Bots und Anrufkampagnen wurden Einwilligungen und Widerspruchsmöglichkeiten passend zum Zielmarkt geprüft.
• Sie haben die für Kunden sichtbare Fassung geprüft und die Veröffentlichung genehmigt.
• Sie wissen, wer Probleme nach dem Start bearbeitet und wie Sie diese Person erreichen.

Entwicklung, Betreuung und Vermarktung mit Webdelo besprechen

Ein hilfreiches Projektgespräch klärt Zuständigkeiten, Ihre Mitwirkung und die Prüfschritte, bevor die Arbeit beginnt. Entwicklung, laufende Betreuung und Vermarktung sollten auf denselben korrekten Unternehmensinformationen und klaren Freigaberegeln beruhen.

Besprechen Sie Ihr Projekt mit Webdelo. Gemeinsam gehen wir durch, wie Ergebnisse geprüft werden, was Sie freigeben und welche Betreuung Sie benötigen. Wir vereinbaren Umfang und Zuständigkeiten, bevor wir verbindliche Liefer- oder Betreuungsbedingungen zusagen.

Geschäftsentscheidungen bleiben bei gut informierten Menschen

KI kann bei der Ausführung von Aufgaben helfen, während gut informierte Menschen die Kontrolle über geschäftliche Versprechen und Freigabeentscheidungen behalten. Unsere Kundenerfahrung zeigt, wie eine kurze, nicht freigegebene Aussage eine konkrete Kundenerwartung erzeugen kann. Klare Prüfzuständigkeiten und ein praktikabler Korrekturprozess verringern dieses Risiko.

Beginnen Sie mit den Versprechen auf Ihrer eigenen Website. Wissen Sie, wer sie geprüft hat, was Sie freigegeben haben und wer hilft, wenn etwas korrigiert werden muss.

Häufig gestellte Fragen

Kann man KI im Unternehmen Aufgaben anvertrauen?

KI kann Aufgaben wie das Entwerfen von Texten oder Code beschleunigen, wenn sie mit korrekten Angaben zu Ihren Preisen, Leistungen und Regeln arbeitet. Angebote, Leistungsbeschreibungen und andere Versprechen an Kunden brauchen trotzdem eine menschliche Prüfung und Ihre Freigabe vor der Veröffentlichung. Vereinbaren Sie im Voraus, wer Probleme nach dem Start behebt.

Wer haftet, wenn ein KI-Fehler auf meiner Website Geld kostet?

Die rechtliche Verantwortung hängt vom geltenden Recht, den konkreten Umständen und dem Vertrag ab. Sie kann sich auf das Unternehmen, den Dienstleister und weitere Beteiligte verteilen. Kunden verstehen ein veröffentlichtes Angebot meist als Aussage Ihres Unternehmens, deshalb kann ein nicht freigegebener Rabatt entsprechende Erwartungen wecken. Halten Sie im Vertrag fest, wer Inhalte prüft, wer die Veröffentlichung freigibt und wer Fehler nach dem Start korrigiert.

Muss man KI-generierte Texte von einem Menschen korrigieren lassen?

Ja. KI kann überzeugend klingende, aber falsche oder erfundene Aussagen liefern, sogenannte KI-Halluzinationen, und allgemeine Formulierungen, die Ihre tatsächliche Expertise verdecken. Ein Mensch sollte Preise, Aussagen wie "die Besten" und Fachinformationen prüfen, am besten zusammen mit der zuständigen Fachperson aus Medizin, Recht oder Finanzen. Prüfen Sie auch die fertige Seitenvorschau, denn ein korrekter Entwurf kann neben einer Überschrift oder Preisangabe irreführend wirken.

Wie sollte KI-generierter Code vor dem Start geprüft werden?

Ein Entwickler, der das Projekt kennt, sollte den Code prüfen und sowohl den normalen Ablauf als auch Fehlerfälle testen. Wichtig ist zum Beispiel, was passiert, wenn eine Zahlung fehlschlägt, ein externer Dienst nicht antwortet oder zwei Kunden gleichzeitig den letzten Artikel bestellen. Lassen Sie sich Testergebnisse und offene Punkte zeigen, bevor Sie den Start freigeben.

Kann man KI-Chatbots oder KI-Anrufe bei Kunden sicher einsetzen?

Chatbots sollten nur auf freigegebene Quellen zugreifen, etwa Ihre tatsächlichen Erstattungsregeln, und unklare Fragen an einen Menschen weitergeben. Für KI-Anrufe gelten je nach Markt eigene Regeln zu Einwilligung, Widerspruch, Anrufzeiten und Branchenvorgaben. US-Regeln lassen sich nicht auf Deutschland oder die EU übertragen, deshalb braucht jede Kampagne vor dem Start eine rechtliche Prüfung für den Zielmarkt.

Welche Rolle spielt ein Team, wenn KI bereits viel Arbeit übernimmt?

Das Team liefert den geschäftlichen Kontext, prüft Ergebnisse und behebt Folgen von Fehlern. Konkret heißt das: den Inhaber zu Leistungen und Konditionen befragen, eine Projektwissensdatenbank pflegen, Texte korrigieren, Zahlungsfehler testen und das System nach dem Start betreuen. Dieser Human-in-the-Loop-Ansatz verringert das Fehlerrisiko, schließt Fehler aber nicht vollständig aus.

Wie wähle ich einen Dienstleister für KI-gestützte Website- oder Softwareprojekte aus?

Fragen Sie, wo der Dienstleister KI einsetzt, wer die Ergebnisse prüft, wie Ihre Geschäftsdaten erfasst werden und was Sie vor der Veröffentlichung freigeben. Eine gute Antwort beschreibt konkrete Arbeit, etwa einen Entwickler, der Zahlungsfehler testet, oder eine Redaktion, die Aussagen prüft. Entscheidend sind die passenden Fähigkeiten der Prüfenden, nicht die Größe des Teams. Klären Sie Betreuungsumfang und Kontaktweg für dringende Fälle und halten Sie die Zuständigkeiten im Vertrag oder Projektumfang fest.