Wenn KI aufgrund einer falschen Quellenbehauptungen eine Empfehlung ausspricht.

NINA oder KatWarn?

Wer nach „NINA oder KatWarn“ sucht, erwartet eine valide Entscheidungshilfe. Eine Google-„Übersicht mit KI“ behauptete jedoch, KatWarn funktioniere „nur dort, wo Kommunen oder Bundesländer einen Partnerschaftsvertrag haben“ – und empfahl auf dieser Grundlage NINA.

Das ist falsch: Die KatWarn-App empfängt die behördlichen Warnmeldungen aus dem Modularen Warnsystem des Bundes (MoWaS). Dafür muss die jeweilige Kommune keinen eigenen KatWarn-Vertrag haben.

Hier werden zwei Funktionen durcheinander gebracht:

• Behördliche Warnmeldungen: KatWarn ist ebenso wie NINA an MoWaS angebunden. Der Empfang dieser Meldungen ist deutschlandweit gewährleistet und setzt keinen KatWarn-Vertrag der örtlichen Kommune voraus.
• Zusätzliche Angebote: Behörden, Organisationen, Veranstalter und Unternehmen können KatWarn für eigene Meldungen einsetzen. Hinzu kommen Themen-Abos beispielsweise für Veranstaltungen, Messen oder Produktrückrufe sowie in unterstützten Gebieten Warnungen per SMS und per E-Mail. Die regionale Verfügbarkeit dieses zusätzlichen Services begrenzt nicht den Empfang von MoWaS-Meldungen in der KatWarn-App.

Eine sinnvolle Entscheidungshilfe erklärt solche Unterschiede, statt eine unzutreffende Empfangsbeschränkung zu behaupten.

Als Quelle nannte Google unter anderem einen Artikel, der dieselbe Falschaussage enthielt. Die Betreiber reagierten auf unseren Hinweis umgehend und entfernten ihn. Dafür bedanken wir uns ausdrücklich.

Der Fall zeigt dennoch ein grundsätzliches Problem: KI muss Falschinformationen nicht selbst erfinden. Sie kann fehlerhafte Quellenbehauptungen übernehmen und daraus überzeugend formulierte Empfehlungen ableiten. Eine Quellenangabe garantiert keine fachliche Richtigkeit – sondern kann auch Ursprung der Fehlinformation sein.

• Nicht nur bei Bevölkerungswarnsystemen können solche KI-Empfehlungen Vertrauen und Nutzungsentscheidungen beeinflussen.
• Offen bleibt außerdem, wann eine Korrektur auch die entsprechenden KI-Antworten erreicht.
• Und was passiert, wenn dieser Mechanismus gezielt ausgenutzt wird und Akteure absichtlich Falschinformationen über konkurrierende Angebote veröffentlichen und KI-Suchsysteme daraus vermeintlich neutrale Empfehlungen ableiten?