Intro: Der Fokus 2026 – Autonome Agenten
Der Fokus für KI werden in 2026 die autonomen Agenten sein. Die Entwicklung ist rasant. Hier möchte ich die aktuellen Entwicklungen aufgreifen und einen kleinen Blick in die Rechtslage nehmen.
Ein eigenen Beitrag zu OpenClaw findest du hier: OpenClaw und die Datenabfluss-Spirale
EU AI Act: Kennzeichnungspflicht kommt schneller als erwartet
Was kennzeichnungspflichtig ist
Kennzeichnungspflicht EU kommt für KI-Inhalte – jedenfalls bei Deepfakes und automatisch erstellten Texten. Erfreulich früh, bedenkt man doch die sonstige Reaktionsgeschwindigkeit. Ob das Thema als brisant eingestuft wurde, lässt sich jedoch nicht wirklich prüfen.
Die Frist ist konkret: Ab 2. August 2026 gilt Artikel 50 des EU AI Acts. Anbieter von KI-Systemen, die mit natürlichen Personen interagieren, müssen sicherstellen, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren. Anbieter von KI-Systemen, die synthetische Inhalte erzeugen, müssen diese Inhalte maschinenlesbar als KI-generiert kennzeichnen.
Ein Kundenchat zum Beispiel, bei dem eine reine KI antwortet, ist dann kennzeichnungspflichtig – allerdings nur, wenn der Nutzer nicht bereits explizit weiß, dass er mit KI spricht. Wenn es auf der Website als „KI-Chatbot“ oder „Automatisierter Assistent“ gekennzeichnet ist, entfällt die zusätzliche Kennzeichnungspflicht. Daher habe ich diesen bereits aus meiner gewerblichen Webseite ausgebaut. Eine Analyse der aufgelaufenen wenigen Chats aus der Vergangenheit zeigte auch wenig zielführende Gespräche – die Fragestellungen wurden einfach zu komplex. Hier gibt es nun nur noch das klassische Kontaktformular, welches ausschließlich von einem Menschen beantwortet wird. Auch wenn es etwas länger dauert.
Was nicht kennzeichnungspflichtig ist
Rein redaktionelle Beiträge, die lediglich von einer KI geprüft und formatiert wurden, sind davon nicht betroffen. Entscheidend ist, ob eine inhaltliche Prüfung und menschliche Verantwortung übernommen wurde.
Ebenso Bilder, die keine Deepfakes darstellen. In beiden Fällen dürfte die exakte und scharfe Abgrenzung zukünftig die Gerichte beschäftigen.
Produktbeschreibungen sind ebenfalls nicht kennzeichnungspflichtig.
Der andere Weg: EU-Regulierung vs. USA-Wachstum
Der EU AI Act verfolgt einen anderen Ansatz als die USA – was aber auch nichts Neues sein dürfte. Die EU setzt auf Regulierung, Vertrauen und Transparenz sowie Ethik. Diese Ausrichtung ist den USA fremd, mit Blick auf das Wachstum in diesem Sektor.
Das Dilemma: Planungssicherheit statt Wachstum
In der EU haben vergleichsweise wenige Unternehmen eine KI Roadmap und berichten eher von eingefrorenen oder feststeckenden Entwicklungen aufgrund von Planungsunsicherheit. Dies ist ein gravierender Nachteil.
Allerdings: Dieser Nachteil löst sich nicht durch die Lockerung von Regeln oder dem Nicht-Einführen selbiger. Vielmehr müssten alle Player auf diesem Sektor staatlich reguliert werden – erst recht BigTech. Was jedoch bei den aktuellen politischen Gegebenheiten nicht passieren wird.
Warum autonome Bots kritisch zu sehen sind
Wir befinden uns zwar weder in den Hollywood-Szenarien wie bei Matrix oder Terminator – allerdings ist die Freizügigkeit der autonomen Bots aus OpenClaw und Co. kritisch zu sehen.
Aber hier ist eine wichtige Differenzierung nötig: OpenClaw ist ein Open-Source-Projekt, das auf eigener Hardware läuft. Es ist nicht „wild im Einsatz“ bei Millionen von Nutzern, sondern eher nischig bei technisch versierten Entwicklern. Allerdings: Die Sicherheitsrisiken sind real und erheblich.
Die Hauptrisiken sind:
- Systemzugriff: OpenClaw kann Shell-Befehle ausführen, Dateien lesen und schreiben und Scripts starten. Fehlkonfigurationen oder bösartige Skills können das System kompromittieren.
- Datenexfiltration: KI-Agenten mit Systemzugriff können zu verdeckten Datenabfluss-Kanälen werden, die klassische DLP-Lösungen umgehen.
- Prompt Injection: Wenn OpenClaw nicht vertrauenswürdige Inhalte liest (E-Mails, Webseiten), können versteckte Anweisungen den Agenten manipulieren.
- Supply-Chain-Risiken: Das Skills-Ökosystem erlaubt böswilligen Akteuren, Malware als nützliche Tools zu tarnen.
IBM und Cisco stufen OpenClaw aus Sicherheitsperspektive als „absoluten Alptraum“ ein. Aber: Der Entwickler hat Sicherheit als oberste Priorität auf der Roadmap. OpenClaw ist derzeit nur für technisch versierte Nutzer geeignet, die die Risiken verstehen; wer freilich die weniger Versierten daran hindert, OpenClaw zu nutzen, darf zumindest als gültige Frage eingeworfen werden an dieser Stelle.
Generative Modelle vs. LLMs: Der Unterschied
Generative Modelle (GPTs) sind in der Lage, völlig neue Inhalte zu erschaffen. Reine LLMs können dies nicht.
Zwar sind sämtliche Modelle ohne jede echte kognitive Funktion unterwegs – und den Menschen auch nicht überlegen. Allerdings sei der Vergleich von reinen Chatbots vor 5–7 Jahren zu heutigen Modellen gezeigt: Stumpf programmiert und im Rahmen von klar definierten Workflows mit Triggern und Standard-Antworten bis hin zu dem, was wir aktuell haben.
Explosionsartige Entwicklungen – mit Vorsicht zu genießen
Natürlich sind diese Entwicklungen für die Menschheit ein weiterer wichtiger Schritt. Jedoch sind explosionsartig Entwicklungen immer mit Vorsicht zu genießen.
Sei es nun, dass:
- die KI-Blase irgendwann platzt
- Facebook kollabiert
- oder uns die KI irgendwann überholt – und dabei längst nicht mehr abzuschalten geht, da dezentral organisiert auf Millionen bis Milliarden von Rechnern
All dies wird gewaltige Auswirkungen auf die globale Gesellschaft, Finanzen und Machtgefüge haben.
Wie ich selbst KI in diesem Blog nutze
Die Themen in diesem Blog sind zum Zeitpunkt der Erstellung jeweils mittels KI auf Faktenlage geprüft und in der Lesbarkeit und Struktur überarbeitet. Zum Beispiel: Ich ertappe mich selbst ja ständig bei der Bildung von Bandwurm-Sätzen – ein Thema, welches mich seit der Grundschule verfolgt 😀
Bilder & Textung: Ein Werkzeugwechsel
Sämtliche Bilder in diesem Blog sind ebenfalls per KI erzeugt – witzigerweise mit ganz anderen Tools, als jene, die ich noch anfangs vorgestellt hatte:
- Grok würde ich heute genau so wenig noch zu Rate ziehen wie auch Gemini oder ChatGPT
- Die Recherche und die Faktenchecks nehme ich mit der Leo KI vor
- die finale Zusammenstellung und das Fazit wird mittels lokal laufendem LLM erstellt (Insb. zur Strukturierung und Rechtschreibkorrektur)
- Die Bilder werden in der Regel mit der OpenAI erstellt – ja, ein Cloud basiertes Werkzeug. Die Umstellung auf einen lokales Erzeugen ist bereits in Arbeit.
Die KI-Modelle und Werkzeuge ändern dazu auch häufig ihre Nutzungsbedingungen – die man sich vor Augen halten sollte.
Die Urheberrechts-Grauzone: Wem gehört das generierte Werk?
Zwar ist es aktuell hierzulande nicht möglich, dass ein KI-Tool ein Urheberrecht auf ein erzeugtes Bild haben kann – weil Maschinen per se keine Rechte haben.
Der BGH hat dies geklärt: In seinem Grundsatzbeschluss vom 11. Juni 2024 entschied der Bundesgerichtshof, dass KI-Modelle keine Erfinder sind und dass KI-generierte Werke keinen Urheberrechtsschutz genießen, da ihnen die Fähigkeit zu einer persönlichen geistigen Schöpfung fehlt.
Andererseits erwächst dir als Nutzer dieser Werkzeuge aber auch kein automatisches Urheberrecht an diesen Bildern – da sie schlichtweg von einer KI zusammengebaut wurden.
Kreative Prompts als Ausnahme?
Anders sieht es aus, wenn dein Prompt derart kreativ war, dass ein entsprechend kreatives Werk daraus entsteht – was durchaus eine gewisse Einzigartigkeit besitzt und damit schützenswert ist.
Auch hier gelingt die Abgrenzung erst einmal nicht und wird – siehe oben – die Gerichte beschäftigen.
Dieser Blog als Momentaufnahme – und als Weg
Dies ist nun seit einem halben Jahr der dritte Beitrag über die aktuelle Entwicklung im KI-Sektor und wie es uns beeinflusst. Das alleine zeigt schon, wie unglaublich schnell dieser Bereich voran schreitet. Ein kleiner privater Blog muss sich daher keine Gedanken über Themenmangel machen.
Bitte seht es mir nach, wenn es anfangs andere Aussagen gegeben haben mag und sich der Blog im weiteren Verlauf selbst korrigiert und ergänzt: Einzelne Beiträge sind als eine Art Momentaufnahme zu begreifen. Der Blog als Weg ist das Ziel – wie es auch bei dir sein könnte: Immer weiter führende und kritische Betrachtung, ohne dabei in Verschwörungstheorien abzurutschen.
Daher untermauere ich die aktuelleren Blogs auch mehr und mehr mit Quellverweisen.
Praktisches Beispiel: Produkttexte im eCommerce
Wenn ich mir meinen eigenen Online-Shop ansehe, dann ist auch hier die Entwicklung der KIs deutlich nachvollziehbar: Der Löwenanteil der Produktbeschreibungen ist mittels KI überarbeitet – über einen Zeitraum von mehreren Jahren.
Da eCommerce auch ein schnelllebiges Geschäft ist und sich die Maßgaben, wie ein Produkttext beschaffen sein sollte (damit Google darin einen Mehrwert sieht), fortlaufend ändern – sind die Texte auch sehr unterschiedlich aufgebaut. Ein Update der Machart ist regelrecht blockweise zu erkennen, da die vorhandenen Texte nicht alle 12 Monate überarbeitet werden.
Schon verrückt!
Thinking about…
thinkin‘ bout…
Quellverweise:
Ecovis Unternehmensberatung (2025): „EU AI Act: Kennzeichnungspflicht für KI-generierte Inhalte ab August 2026“ https://de.ecovis.com/unternehmensberatung/eu-ai-act-kennzeichnungspflicht-unternehmen/
Never Code Alone (NCA) (2026): „OpenClaw – Autonomer KI-Agent: Was ist neu, Sicherheitsrisiken, FAQ“ https://nevercodealone.de/de/glossare/ki-tools-2026/openclaw
activeMind AG: „Urheberrecht beim KI-Einsatz“ https://www.activemind.de/magazin/ki-urheberrecht/
Weitere Referenzen:
- Bundesgerichtshof (BGH) Urteil vom 11. Juni 2024 (X ZB 5/22): KI-generierte Werke und Erfinderschutz
- KI-Verordnung (EU) 2024/1689, Artikel 50 (Transparenzpflichten)
- Verbraucherportal Baden-Württemberg: „Das Urheberrecht und die Fallen bei Nutzung von generativer KI“
- EU AI Act Explorer (Future of Life Institute)
