Artikel über autonome AI-Agenten
Ich habe mal wieder den Motor meiner Homepage getauscht: Aus dem Dinosaurier Docusaurus wurden die Sterne von Astro. Die Migration wurde komplett von Claude Code durchgeführt, ich habe keine einzige Zeile Code schreiben müssen.
In den Marketing-Broschüren klingt es verlockend: Autonome Agenten auf Basis von Large Language Models (LLMs) lesen E-Mails, parsen Webseiten, werten Rechnungen aus und füttern selbstständig das Buchhaltungssystem.
In den Sicherheitsabteilungen herrscht derweil Katerstimmung. Das Problem heißt Prompt Injection – und die bittere Erkenntnis lautet: Dieses Problem wird auf Ebene der Sprachmodelle sehr wahrscheinlich niemals vollständig gelöst werden.
Wer LLMs in betriebliche Software-Architekturen einbindet, muss verstehen, warum das so ist – und warum man ein stochastisches Modell nicht mit deterministischen Sicherheitsaufgaben betrauen darf.
