Kontakt© 2026

KI verstehen / Unerwünschte Umlenkung eines KI-Systems durch eingeschleuste Anweisungen

Prompt Injection

Prompt Injection bezeichnet Eingaben, die das Verhalten eines KI-Systems durch eingeschleuste Anweisungen unerwünscht verändern. Sie können direkt in einer Nutzereingabe oder indirekt in abgerufenen Dokumenten auftreten. Kritisch wird es, wenn fremder Inhalt als handlungsleitende Anweisung behandelt wird und dadurch vorgesehene Grenzen beeinflusst.

Ein hypothetischer Dokumentabschnitt könnte einen Assistenten auffordern, vertrauliche Daten an eine fremde Adresse zu senden. Eine sichere Anwendung begrenzt deshalb Werkzeuge und Datenzugriff, trennt vertrauenswürdige Vorgaben von Quelleninhalten und prüft kritische Aktionen. Die Abwehr wird mit gezielten Testfällen untersucht. Ein einzelner Filter oder System-Prompt bietet dafür keine vollständige Garantie.

Diesen Begriff im Wissensraum öffnen ↗

SugarPool · Datenschutz

Ihre Daten auf dieser Website.

Diese Website verwendet die für ihre Funktionen erforderliche Verarbeitung. Optionale Analyse- und Werbedienste sind derzeit deaktiviert.

Website und Film

Seiten, Schriften und der GEO-Film werden vom SugarPool-Webserver geladen. Der Film startet auf Ihren Klick.

KI-Potenzial-Check

Ihre Antworten bleiben während der Auswertung im Browserfenster. Erst wenn Sie eine persönliche Besprechung anfordern, werden Ihre Angaben an SugarPool gesendet.

Anfragen und externe Angebote

Anfragen bestätigen Sie mit einem Prüfcode per E-Mail. Kalender, Videokonferenz und andere externe Angebote erreichen Sie über einen Link; dort gelten die Hinweise des jeweiligen Anbieters.

Zur Datenschutzerklärung · Impressum