Rein beruflich beschäftige ich mich intensiv mit dem Thema KI. Denn, wenn ich zu KI beraten will, muss ich schließlich verstehen, worum es denn da eigentlich geht. Um so erstaunter bin ich, welche Art der Diskussionen zu KI geführt werden. Insbesondere auf LinkedIn. Und als mir dann Gary Marcus am Wochenende noch einen ganz frischen Aufsatz (nebst weiteren, fast genauso frischen) zu den Grenzen von LLM und LRM in den Postkasten spülte, nahm ich das zum Anlass einen kurzen Artikel eben dazu eben auf LinkedIn zu verfassen.

Artikel auf LinkedIn? Ja, weil es hier „eigentlich“ nicht so recht passt. Sind es doch keine rechtlichen Gedanken, mehr allgemeine Denkanstöße zum Thema KI. Doch da mich einerseits meine geneigte Followerschaft an anderen Orten (bluesky) darum bat, den Artikel doch noch einmal außerhalb LinkedIns zu veröffentlichen und andererseits LinkedIn natürlich LinkedIn-Dinge tut und meinen Artikel im Nirvana verschwinden lässt* veröffentliche ich nun meine Gedanken hier auch noch einmal.

_________________________________________________________________________

*Ich könnte einen eigenen Post nur darüber schreiben, warum ich LinkedIn inzwischen für die 8. Vorhölle halte, da es nur noch um füttere den Algorithmus mit  „Wie sehr Dich der Spaziergang mit Hund im Regen beruflich und persönlich vorangebracht hat, hier 10 Punkte“-Engagement-Artikeln geht. Aber… das ist wohl ein anderes Thema. 😀

__________________________________________________________________________

Also, auf geht es.

These:

KI ist eine disruptive Technologie und zeitgleich ein Hype. Klären wir diesen (scheinbaren) Widerspruch, in dem wir endlich die richtigen Fragen stellen und auf Basis der Diskussion derselben weiterarbeiten.

Auf LinkedIn wird das Thema „AI“ hoch und runter quer durch alle Professionen diskutiert. Ich lese interessiert, schmunzelnd, sarkastisch auflachend und sehr oft verwundert mit. Verwundert? Ja, verwundert. Warum? Weil die meisten Diskussionen meines Erachtens völlig am Kern der wichtigsten Fragestellungen in Sachen KI vorbeigehen.

Die Fragen, die auf Linkedin gestellt werden, sind solche wie „Wie lerne ich richtiges Prompten als Anwalt?“, „Wie bringst Du Dein Business mit KI voran?“, „Kann bald mit KI erbrachte (anwaltliche) Leistung noch abgerechnet werden?“ oder „Wie setze ich KI im Recruiting ein?“. All dies suggeriert, KI sei schon so weit fortgeschritten ist, dass mehr oder weniger fehlerfrei Aufgaben, auch komplexerer Art, von dieser übernommen werden könnten und es nur eine Frage, des „Handlings“ sei, wie Unternehmen, Kanzleien, Freiberufler diese gewinnbringend für sich einsetzen können.

Aber die wichtigste Frage, nein die wichtigsten Fragen lauten meines Erachtens „Was ist KI eigentlich? Was kann KI? Wo sind ihre Grenzen?“. Diese Fragen werden viel zu wenig gestellt und schon gar nicht diskutiert. Möchte jemand diese Fragen diskutieren wird er oder sie abgewürgt mit „Du verstehst das nur nicht!“, „Du musst nur richtig prompten!“ und/oder „Du musst nur eine KI mit eigener Datenbasis anlegen und trainieren.“ Was jedoch LLM (Large Language Modells) oder – we all love new hypes!  – LRM (Large Reasoning Modells), d.h, die „neuen Generationen“ von LLM können oder besser nicht können und wo deren Grenzen liegen, wird regelmäßig nicht verstanden oder (bewusst?) nicht hinterfragt. Im Zweifel wird gesagt „Die Entwicklung geht so schnell! Die Probleme der Halluzination oder falschen Ergebnissen werden bald beseitigt sein!“ Ich frage mich immer, auf welcher Datengrundlage die Ausrufer dieser Claims zu diesen kommen.

Liest man Fachaufsätze zum Stand beziehungsweise den „Flaws“ von LLM und insbesondere LRM wird relativ schnell klar, dass der große Hype vor allem auf Illusionen und großen Marketingversprechen und nicht auf irgendwelchen Durchbrüchen in der Entwicklung basiert (verschiedene Quellen und Fachaufsätze am Ende dieses Beitrags). Das Ziel ist, natürlich, der KI das „Denken“, „Argumentation“ also „Thinking“ und „Reasoning“ beizubringen. Und wenn schon das Ziel der AGI, der Artificial General Intelligence, also der Intelligenz einer Maschine mit der Fähigkeit intellektuelle Fragestellungen wie ein Mensch zu verstehen und zu lösen, nicht erreicht wird, dann doch wenigstens ein „LRM“. Also ein LLM, dass mehr kann als statistisch berechnend Wörter aneinander zu reihen. Das Problem: Sie scheitern. Egal wie oft ein „AI Influencer“ Open AI o3 zur AGI hochschreiben möchte (zB. Tyler Cowen). Weder o3 noch Cloud 3.7 noch sonst irgendetwas erfüllt die Heilsversprechen – und es scheint nicht absehbar, dass diese Probleme beseitigt werden können. Nachstehen im Bild ein Auszug aus The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity, der den Stand der Dinge gut zusammenfasst.

Es ist wird Zeit, damit aufzuhören, immer weitere den Hype zu bedienen. Viel hilfreicher, vor allem langfristig, wäre es, sich mit den realen technischen Gegebenheiten und deren Bedeutung für den Anwendungsfall auseinanderzusetzen. Halluzinationen, Bias, alternative Informationen, falsche Ableitungen, zu lange Rechenzeiten. All dies sind Probleme von LLM und LRM. Probleme, die – wohl auf absehbare Zeit – nur sehr bedingt durch Prompting oder eine bessere Datenbasis gelöst werden können.

Dies bedeutet auch zu hinterfragen, ob „KI“ im angedachten Anwendungsfall wirklich weiterhilft oder der gute, alte, klassische Algorithmus das Problem nicht viel effizienter lösen kann. (Ich erinnere freundlich an den Blockchain-Hype. Ja, ja,der der Vergleich hinkt, aber der Gartner Hype Cycle ist auch hier gerade in vollem Schwung.)

Ich würde dazu die Frage stellen wollen: Macht eine KI die Arbeit tatsächlich schneller und besser, wenn erst mühsam der richtige Prompt formuliert werden muss und anschließend die Arbeit auf Halluzinationen, Bias und sonstige Fehler geprüft werden muss? Hilft es etwa dem Anwalt, wenn eine KI den Sachverhalt zusammenfasst, aber leider, leider die streitentscheidende Tatsache nicht aufgenommen hat? Ergo, die Zusammenfassung zwingend noch einmal komplett geprüft werden muss?

Last but not least, nein ich bin kein AI Gegner. Im Gegenteil. Ich halte AI für ein disruptive Technologie, die die Arbeit wieder einmal revolutionieren wird. Repetitive Tätigkeiten und Unterstützungsleistungen, die 0-1 Abwägungen erfordern, können und werden damit zunehmend durch diese Form der KI automatisiert werden (es sei denn, die Rechenleistung ist zu teuer und einfache Algorithmen erledigen dies effizienter). Aber ich halte es für imminent wichtig, realistisch auf diese Technologie zu blicken.

Das gilt im übrigen auch und gerade (!) für die rechtliche Betrachtung von KI.

In diesem Sinne,

vergesst nicht, über die Grenzen von KI nachzudenken!

Lesenswerte (Fach-)Artikel:

• Shojaee, Horton, Mirzadeh, Bengio, Alizadeh, Farajtabar, The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity, https://ml-site.cdn-apple.com/papers/the-illusion-of-thinking.pdf
• Stechly, Valmeekam, Kamhampati, Chain of Thoughtlessness? – An Analysis of CoT in Planning, März 2025, https://arxiv.org/pdf/2405.04776
• Stechly, Valmeekam, Kamhampati, Gundawar, A Systematic Evaluation of the Planning and Scheduling Abilities of the Reasoning Model o1, First Publishing Dezember 2024, https://openreview.net/pdf?id=FkKBxp0FhR
• Marcus, A knockout blow for LLMs?, https://garymarcus.substack.com/p/a-knockout-blow-for-llms

Gestern schrieb ich auf LinkedIn einen kurzen Post zum EU Boundary Programm, welches nun abgeschlossen ist. In der Theorie super gute Nachrichten. Was das EU Boundary Programm genau bedeutet, hat Raphael Köllner in einem der jüngsten Posts ausführlich „zusammengefasst“. Kurz gesagt, bedeutet das EU Boundary Programm, dass nun mehr alle Daten bei/von Diensten wie #M365 in der EU gespeichert und verarbeitet werden. Das ist sehr gut. Allerdings … werden dann wieder doch nicht so ganz alle Daten hier bei uns verarbeitet. Das kann man ganz einfach bei Microsoft unter „Remotezugriff auf in der EU-Datengrenze gespeicherte und verarbeitete Daten“ nachlesen. Dort erläutert Microsoft (sehr verkürzt dargestellt): „Es ist grundsätzlich alles in der EU gespeichert und wird dort verarbeitet, aber im Einzelfall (insb. Security-Issues) müssen wir natürlich doch auf Ihre Daten von außerhalb der USA zugreifen (und können das auch).“.

Dazu schrieb ich dann eben auf LinkedIn weiter das Folgende:

Den ganzen Artikel lesen.

Die Weihnachtsgeschichte im Blog. Tradition seit 2013. Und wie das mit Traditionen so ist, sie müssen fortgeführt werden. Schließlich wären sie sonst keine. Dazu können wir alle wenigstens etwas Beständigkeit in diesen unruhigen Weltenlagen gut gebrauchen.

Unruhige Weltenlage

„Diesen“ unruhigen Weltenlagen? Nun, wenn wir ehrlich sind, ist die Weltenlage immer unruhig. In der bräsigen, langsamen Friedlichkeit Westeuropas, fiel es uns jedoch persönlich nur bedingt auf. Natürlich erreichten uns Nachrichten in den 70ern und 80ern aus Jordanien, Kambodscha, Äthiopien, Bangladesch, Libanon, Angola, Mosambik, Uganda, Vietnam, Afghanistan, Golfkrieg (HUI! Wird etwa das Öl teuerer?!), Sudan, Somalia. Aber ach, das waren doch entweder Bürger- oder Stellvertreterkriege. Und so weit weg. Außerdem hörte man nur um 20.15 Uhr in der Tagesschau oder einmal am Tag in der Tageszeitung davon. Der Kalte Krieg? Ja, gut, der war aber eben kalt. Und halt da (Kuba-Krise mal kurz vergessen). Und dann auch vorbei. Der direkt vor unserer Haustür vorfindliche Jugoslawien-Krieg in den 90er Jahren konnte an dem Eindruck, der Frieden sei nun unumstößlich in Europa eingekehrt,  daran nichts ändern. Kam doch Daddy USA flugs vorbei und machte dem Ganzen ein Ende.

Nach dem kalten Krieg im Taumel der Wiedervereinigung und dem Fall des Sowjet-Imperiums wurde gar das Ende der Geschichte (aka die „Nach-Krieg-Ära“) von Francis Fukuyama ausgerufen, da liberale Demokratien ganz offensichtlich das bessere, sich stets durchsetzende, da beste Staatsystem darstellen würden. [To be fair, er sagt nicht, dass es da nicht noch Rückschläge geben könne.]

Wir wollten das alle glauben. Begriffe wie die „Friedensdivende“ wurden erfunden, um Ausgaben für die Verteidigung auf ein unverantwortliches Maß zurückzustufen. Wer das damals allerdings als unverantwortlich bezeichnete, wurde als „Kriegstreiber!“ bezeichnet. „Sis vis pacem para bellum“ – „Wenn Du den Frieden willst, bereite den Krieg vor“ war komplett vergessen, obwohl uns genau das im Kalten Krieg den Frieden über Jahrzehnte gesichert hatte. Nur hieß es hier „Deterrence“, also Abschreckung durch Atomsprengköpfe und weniger Kampfbereitschaft von Soldaten und Gerät. Dass es nie eine Friedensdivende gab und geben wird, und dies wieder nur eine – leider erfolgreiche – Wortschöpfung von Politkern war, die ebenso an das Ende der Geschichte wie an den ewig zur Seite stehenden Daddy USA glauben wollten, wollte aber auch niemand wahr haben.

Und nun? Tja. Allen voran Putin, aber genauso Musk, Trump und hier in Deutschland die AfD sowie das BSW lachen (letztere beide im Zweifel im Video-Call mit Putin) laut.

Krieg ist wieder vor der Tür seit Russland die Ukraine mit Krieg überzieht.

In den USA regiert Präsident Musk unter Vizepresident Trump. Verschwörungstheoretiker auf allen Regierungspositionen. Europa kann „Good Bye“ zu Daddy Amerika sagen. Und der reichste Mann der Welt, dessen Ziel es schon immer war, die Welt zu beherrschen, kommt diesem Ziel immer näher. Er hat angekündigt Farage im Wahlkampf zu unterstützen und erklärte gerade erst auf seinem eigenen Propagandakanal, dass einzig die AfD Deutschland retten könne. Desinformation und damit (Wahl)Manipulation kommt nun also nicht mehr nur von russischer Trollfarmen, die mit hochgezüchteten Accounts und eigens kreiierten scheinbaren Nachrichtenseiten – ebenfalls leider – sehr erfolgreich Desinformation betreiben und bereits die erste europäische Wahl in Rumänien nachweislich manipuliert haben.

Deutschlands Bräsigkeit

Und Europa? Uneins wie vielleicht noch nie. Deutschland ist von der Bräsigkeit der letzten Jahrzehnte so geprägt, das es einfach nicht aufwacht. Probleme? Die sind woanders in der Welt. Desinformation? Ja, schon, aber nicht bei uns. Wenn wir nicht hingucken, dann wird eine ganz normale Wahl! Hier geht es darum, den Menschen zu verkaufen, dass es einfach immer so weitergeht mit der deutschen Gemütlichkeit. Zumutungen? Aber nein. Wahlgeschenke? Aber ja! Wie das finanziert werden soll? Uns doch egal. So der Tenor von SPD wie insbesondere der CDU. Die CSU arbeitet sich einfach nur an den Grünen ab. Von staatspolitischer Verantwortung für das große Ganze ist nichts, aber auch gar nichts zu sehen. (Von der CLP, der Christian Lindner Partei, vormals FDP, will ich gar nicht erst anfangen.) AfD und BSW sind sich darin einig, dass sie alles besser machen werden als die da oben und sich „alles ändern!!!!“ muss. Konstruktive Ideen oder gar Konzepte und Strategien haben sie natürlich nicht. Aber egal, wer einfache Lösungen verspricht, ist halt bei knapp 20%. Es gibt eine Partei, die nicht nur Ideen, sondern zukunftsgewandte Konzepte hat. Die sagt: „Hey, das wird nicht einfach! Aber wir kriegen das in Deutschland hin!“. Doch das ist die Partei, die per se an allem Schuld ist (fragt die CSU!). Und ich fürchte, die Ehrlichkeit, mit der durchaus von schwierigen Zeiten und Zumutungen geredet wird, wird nicht goutiert werden, die positiven Ausblicke auf unsere Zukunft wollen nicht gesehen werden solange eine Zumutung dabei sein könnte. (Die Zumutungen werden mit Merz „Zurück-in-die-Zukunft-der-50er-Jahre“ und „Olaf-mit-uns-bleibt-alles-wie-es-ist-Scholz“ genauso kommen, nur wird dann keine Konzepte dazu geben, sondern „Das konnte ja keiner ahnen!“).

…aber bevor ich uns jetzt alle in die tiefste Depression rante, sehen wir es doch einmal ein wenig anders.

Deutschland – das Bollwerk der Bräsigkeit als Feste der Demokratie und des Rechtsstaats

Ja, uns steht eine Wahl bevor. Ja, Deutschland ist bräsig. Ja, es könnte viel mehr, viel schneller tun. Ihr wisst schon, deutsche Gründlichkeit, Zeit, Mühlen, langsam, stetig. Und so weiter.  Aber gleich, ob Merz (ziemlich sicher), Habeck (das wäre ein schönes Wunder) oder Scholz (ich glaube es absolut nicht, aber er hat es letztes Mal wider aller Wahrscheinlichkeit geschafft) Kanzler wird. Wir werden einen fest auf dem Boden der Demokratie stehenden Kanzler und eine Regierung erhalten, die mit beiden Beinen auf eben diesem Boden steht. Uns mag die Politik, die gemacht werden wird, nicht gefallen (je nach dem wer gewählt wird, und welche politische Einstellung wir haben). Aber es wird eine demokratische Politik sein.

Der Bundestag (die Legislative) hat just die Gewaltenteilung durch den Schutz Bundesverfassungsgerichts (Judikative) ganz erheblich gestärkt.

Das sind verdammt gute Nachrichten.

Dazu kommt, dass sich Deutschland schon mehrfach am eigenen Schopfe aus der Misere gerissen hat.

So waren wir etwa Anfang der 2000er der kranke Mann Europas und kaum einer hat einen Pfifferling darauf gegeben, dass Deutschland sich wieder berappelt. Da hat einer – Schröder – den Mut gehabt, gegen Widerstände notwendige, rabiate Reformen durchzusetzen, um diesen Zustand zu beenden. (Dass das über das Ziel hinaus geschossen war, ist eine andere Geschichte. Und welche Figur Schröder heute abgibt, darüber decken wir alle den Mantel des Schweigens). Und heute decken wir über 50% unseres Energiebedarfs mit erneuerbaren Energien, obwohl es noch vor ein paar Jahren hieß, das sei alles völlig unmöglich. Der Strompreis ist 2024 im Schnitt auch um 11% gesunken. Es gibt sie weiterhin, die Erfolge und guten Nachrichten.

In der Welt ist auch gar nicht alles schlecht

Das gilt auch, wenn wir weiter nach draußen, weg von Deutschland gucken. In China geht der Benzinverbrauch stark zurück, weil die Leute elektrisch fahren. Indien baut einfach mal das größte erneubare Energiekraftwerk der Welt (sic!) und zwar ein Kraftwerk bestehend aus Solar- und Windkraftwerken.

Als ich in den 80ern aufwuchs, hieß es, es gehe mit dieser Welt noch zu meiner Lebenszeit zu Ende, weil das Schutzschild der Erde zerstört und das Ozonloch innerhalb kürzester Zeit zu groß werde. Dazu würden alle Bäume durch den sauren Regen vernichtet werden. Das waren überhaupt keine rosigen Aussichten. Das beides sind heute keine Probleme mehr.

Wir schaffen das schon! Auch diesmal.

Die Zeiten ändern sich – Zeit für eine Pause

Eigentlich ist alles wie immer. Die Zeiten ändern sich. Wobei – ich habe nachgeschaut. Hier im Blog. Und irgendwie ist tatsächlich eben weniger Bräsigkeit als früher. Während ich bis 2019 von Stress und Hektik durch Zeitverdichtung und Digitalisierung schrieb, schreibe ich seit 2020 davon, dass dazu noch Pandemie Teil 1, Pandemie Teil 2, Kriegsjahr 1 und Kriegsjahr 2 in Europa unsere Resilienz auf eine noch stärkere Probe stellen. Dieses Jahr 2024? Nun ja, Zeitverdichtung, Digitalisierung, Kriegsjahr 3 in Europa und siehe oben.

Ergo, Zeit für eine Pause. Ohne die können wir das alles gar nicht schaffen. Und was eignet sich besser dazu als diese Tage „zwischen den Jahren“ also von Weihnachten bis Silvester, die uns allen, egal ob wir an das fliegende Spaghetti-Monster oder eine sonstige Weltreligion glauben, in Deutschland eben aufgrund der ursprünglich christlichen Prägung ein paar Tage der Ruhe über die Feiertage verschaffen.

Machen Sie die digitalen Endgeräte aus. Essen Sie Kekse. Umgeben Sie sich mit lieben Menschen. Und wenn Sie Dienst haben, dann wünsche ich Ihnen so ruhige Dienste wie möglich und daneben Zeit für Plätzchen und liebe Menschen.

Vielleicht hören Sie dazu den Song „A Change at Christmas (Say It Isn’t So)“ von The Flaming Lips.

It would be a frozen moment just around Christmas
When all of mankind reveals its truest potential
And there is sympathy for the suffering
And there is sympathy for those who are suffering

And the world embraces peace and love and mercy
Instead of power and fear and as sure as I’m standing here
I swear it really does appear that a change comes over us
Yes, some kind of change comes over us

In diesem Sinne,

nehmen Sie sich Zeit für eine Pause. Das wünsche ich Ihnen, haben Sie eine frohe Weihnachtszeit.

Auf Bluesky (ihr wisst schon, dem Twitter ohne Musk, Pornbots und russisch-chinesischen Hetzfarmen) haben die Kolleg*innen Christian Koch und Dr. Miriam Vollmer die Reihe „Wie kann der Berufseinstieg als Rechtsanwältin aussehen?“ initiert. Inzwischen haben sich weitere Kolleg*innen angeschlossen. Auf diese Weise entsteht ein buntes Bild des vielfältigen Berufes und Berufseinstiegs als Anwältin.

Natürlich wollte ich dann auch dazu beitragen und einen „kurzen“ (haha) Thread schreiben. Das ist nicht so ganz gelungen. Es wurde mal wieder länger. Aber da der Thread den Reaktionen nach trotz erheblicher Länge recht lesbar ist und ich vermute, dass der Weg in die Anwaltschaft auch hier die bzw. den eine*n oder anderen jungen mitlesenden Kolleg*in to be interessiert (oder auch einfach meine Leser*innen;) ), schubse ich den Thread vom 04.07.2024 nun einfach auch einmal hier rein.

Viel Spaß beim Lesen!

Den ganzen Artikel lesen.

Der EuGH hatte sich in dem Urteil C-667/21  mit ebenso spannenden wie wichtigen Fragen rund um die Verarbeitung von Gesundheitsdaten durch einen Arbeitgeber, das Verhältnis von Artikel 6 zu Artikel 9 DSGVO und zur Höhe eines Schadensersatzes im Sinne von Art. 82 DSGVO zu befassen.

Insbesondere zu den letzten beiden Fragen wird sich regelmäßig unter Juristen wie bei den Kesselflickern gestritten. (Hat eigentlich schon mal jemand Kesselflicker streiten sehen!?). Das heißt, dieses zunächst so unscheinbare Urteil hat es doch ganz schön in sich.

Genau genommen ging es – vereinfacht ausgedrückt – um folgende Fragen (EuGH, C-667/21 v. 21.12.2023, Rz. 35):

1. Darf ein ein Medizinischer Dienst als Arbeitgeber die Daten seines Beschäftigten zur Erstellung im Rahmen seiner Funktion als Medizinischer Dienst der Krankenkassen nach Art. 9 Abs. 2 h DSGVO verarbeiten?
2. Wenn ja, muss der Arbeitgeber dann besondere Maßnahmen ergreifen und wenn ja welche?
3. Wenn ja, muss dann auch ein Rechtsgrund zur Verarbeitung im Sinne des Art. 6 DSGVO vorhanden sein?
4. Kommt es bei der Bemessung des immateriellen Schadensersatzes darauf an, ob Art. 82 DSGVO eine reine Ausgleichsfunktion oder aber auch eine abschreckende und strafende Funktion hat? Und welche Funktion hat Art. 82 DSGVO?
5. Kommt es bei der Bemessung des immateriellen Schadensersatzes nach Art. 82 DSGVO auf den Grad des Verschuldens des Verantwortlichen Datenverarbeiters an?

Doch der Reihe nach. Zunächst der Sachverhalt und dann – wie immer – rechtslaienverständliche Erläuterungen.

Den ganzen Artikel lesen.