Umso größer der versprochene Rabatt eines Verkäufers, umso eher tendieren die Kaufinteressierten dazu, anfällig für Manipulationen zu werden, wird ihr mühsam erarbeitetes Sicherheitsbewusstsein außer Kraft gesetzt.

Im Gesundheitswesen sind die Risiken nicht abstrakt. Maschinenidentitäten hängen an Systemen, die Operationen planen, Medikamente ausgeben, Ansprüche bearbeiten und hochsensible Daten speichern. Agentische KI kann die nötige Skalierung liefern, doch sie braucht den Menschen, der die klinischen Abläufe hinter der Telemetrie kennt und ein echtes Signal von einer überzeugenden Halluzination unterscheiden kann. Der Mensch im Loop ist damit kein Bremser, sondern die Voraussetzung dafür, dass die Beschleunigung nicht zu einem schnelleren Scheitern führt.

Die Ergebnisse der Studie zeigen, dass 48 Prozent der deutschen Unternehmen bereits autonome KI-Agenten einsetzen, die kaum oder gar nicht kontrolliert werden, während 55 Prozent der Mitarbeiter zugeben, dass sie Angriffe wie Deepfakes wahrscheinlich nicht erkennen könnten.