nbluemer shared this post · Mar 24
Joel Kaczmarek

🤖 Alle reden über Claude Code. Aber was passiert rechtlich und sicherheitstechnisch, wenn plötzlich jeder damit seine eigene Software baut?

Mit den beiden YPOG-Rechtsanwälten Dr. Carolin Raspé und Dr. Benedikt Flöter habe ich mir das Thema mal genauer angesehen:

Spoiler:
Das Thema ist größer, als viele denken.

👉 Was gerade passiert: Vibe Coding wird zum Alltag:

  • Mitarbeitende bauen eigene Tools
  • automatisieren Prozesse selbst
  • entwickeln Agenten & Mini-Software

Klingt erst mal nach Fortschritt, aber es entsteht auch ein neuer Wildwuchs im Unternehmen.

🚨 Das eigentliche Risiko:
unkontrollierte Systeme | viele Schnittstellen | unklare Datenflüsse:
➡️ Perfekte Angriffsfläche ➡️ Kaum Übersicht ➡️ Schwer zu steuern

💡 Die 4 Themen, die du im Blick haben musst:

  1. IT-Security: Jede API = potenzielles Einfallstor 
  2. Datenschutz: Sind personenbezogene Daten im Spiel? Dann gelten strenge Regeln.
  3. AI Act: Besonders relevant: Hochrisikosysteme (Deadline im Blick behalten).
  4. IP & Urheberrecht: Ideen sind frei; ihre Umsetzung ist geschützt. Bei KI wird genau diese Grenze unscharf. Wer hat wirklich geschaffen: Mensch oder Maschine?

👉 Was jetzt entscheidend ist:

  • klare Regeln für KI-Nutzung
  • definierte Tools statt Schattenlösungen
  • Schulung der Mitarbeitenden
  • Verantwortung im Management

Aaalso, Freunde der Sonne: KI ist kein Tool-Thema. Es ist ein Betriebssystem-Thema für Unternehmen und die eigentliche Frage ist nicht mehr, ob du KI nutzt, sondern ob du sie auch richtig im Griff hast.

🎧 In der Podcastfolge gehen wir genau das durch: Wo die größten Risiken liegen, welche Leitplanken wirklich relevant sind und wie Unternehmen das Thema sauber aufsetzen. Also unbedingt reinhören: https://lnk.to/dkompakt

❓ Wie geht ihr damit um? Freiraum für alle oder klare Regeln?

29
Martin Runge Du meinst also, dass der aktuelle, wilde KI-Westen mit rauchenden Prozessoren und den schnellsten GPT-Gäulen vielleicht etwas zu schön ist, um "safe" zu sein? Ich finde es noch spannender, wie bereitwillig viele Firmen ihre Unabhängkeit aufgeben, ohne irgendeine Art von Risikobewertung. Und natürlich ist das auch zu enem gewissen Grad nachvollziehbar. Das KI Schlaraffenland ist sehr verlockend und FOMO ist das Gebot der Stunde. Daher vielen Dank, dass ihr euch damit eingehend und fachlich fundiert beschäftigt, welche Stolperfallen es zu beachten gibt. Mar 24
René Peinl Joel Kaczmarek ich lese immer wieder Datenschutz als Argument wenn es um lokale KI oder selbst geschriebene Software geht. Kann mir mal jemand erklären, warum genau der Datenschutz hier eine Rolle spielen sollte? Entweder, das Unternehmen verarbeitet Daten rechtmäßig oder nicht. Mit welcher Software spielt doch überhaupt keine Rolle. Der Zweck ist entscheidend. Mar 24 1 like