Rechtsanwältinnen und Rechtsanwälte für Demokratie und Menschenrechte

Jan Meyer-Dulheuer und sein*e KI-Ko-Autor*in namens Alex Tanner

Führt uns Künstliche Intelligenz in eine utopische Welt, weil wir durch die Zauberei kaum noch arbeiten müssen? Oder in eine Dystopie, weil die Maschinen drohen, mächtiger zu werden als wir Menschen? Wie auch immer man dazu steht, ist klar: KI ist nicht mehr zu stoppen, die Entwicklungen sind rasant. Eine Einladung zur differenzierten Auseinandersetzung, eine (menschen-)rechtliche Einordnung und praktische Tipps.

Dreißig Jahre nach Aufkommen des Internets erleben wir aktuell wieder ähnlich große Umbrüche: durch die Entwicklung von Künstlicher Intelligenz (KI) – also quasi dem Fließband für Kopfarbeit. KI wird, um es mit marxistischen Begriffen zu beschreiben, die Denk-Manufaktur durch die Denk-Fabrik ersetzen und zwar mit vergleichbaren Auswirkungen auf die Gesellschaft.

Lange hatten Maschinen nicht die Fähigkeit, die menschliche Sprache zu verstehen. Deshalb brauchte es Programmiersprachen. Doch mit regelbasierter Programmierung konnten nur einzelne Aufgaben erledigt werden. Inzwischen haben große Sprachmodelle, sogenannte Large Language Models (LLMs), wie das bekannte ChatGPT-4o von OpenAI, verstehen und sprechen gelernt.¹ Sogar juristische Fachgespräche können grundsätzlich wie mit einem Menschen geführt werden, auch mittels Spracherkennung und -ausgabe. Aber liegt hierin bereits eine künstliche Intelligenz?

Manche sind da skeptisch und sehen LLMs eher als »stochastische Papageien«, die nur mathematisch wahrscheinliche Buchstaben und Wörter aneinanderreihen, ohne eigenes Verständnis.² Es stimmt, KI kann Vorurteile reproduzieren und Machtverhältnisse sowie Diskriminierung verstärken.³ Ein Beispiel: Bis heute ist es nur schwer möglich, mit ChatGPT-4o ein Bild von einem Arzt mit dunklerer Haut umringt von Kindern mit heller Haut zu generieren⁴ – ein Erbe des Kolonialismus und die logische Folge, da die Trainingsdaten der KI aus einer rassistischen Welt stammen.

Kritisch betont wurde, vor allem am Anfang, dass LLMs nicht über menschliche kognitive Sprachkompetenz verfügten und dass ohne Kontrolle und eine KI-Ethik große Gefahren bestehen.⁵ Ein solches Szenario war zum Beispiel ChaosGPT, das plante, die Menschheit mittels Atombomben zu vernichten.⁶ Risiken und Gefahren sehen übrigens nicht nur vernünftige Philosophen oder herrschaftskritische Netzaktivist*innen. Auch Leute wie Donald Trumps Vize J.D. Vance äußerten bereits, dass sie sich fürchteten – vor einer chinesischen, kommunistischen KI.

Andere fordern differenzierte Kritik und diskutieren KI auch als praktischen »Mustersynthesizer«. KI-Systeme könnten durchaus positive Effekte haben, zum Beispiel wenn das KI-System in einer Dusche ein Gespräch über Wasserknappheit und Klimawandel beginnt – so dass Wasser gespart wird, sich das menschliche Verhalten also verbessert. KI kann Menschen auch, statt nur passiv zu konsumieren, dazu bringen, mit ihrer Hilfe sich etwa als Handwerkerin oder Musiker zu probieren⁷. Tatsächlich habe ich selbst mit ChatGPT-4o und Suno AI bereits meine ersten eigenen Songs generiert und auf Youtube veröffentlicht.

Eine existenzielle Frage für die Menschheit

Der Menschheit stellt sich aktuell die vielleicht existenzielle Frage, ob sie KI vehement ablehnen sollte, ob sie durch KI ersetzt wird oder ob sie eine Symbiose mit ihr eingehen sollte. Viel schneller als derartige Diskussionen in den Elfenbeintürmen dieser Welt und unbeeindruckt von allen Rufen zum Einhalt, schreitet die technische Entwicklung voran.

Allein in diesem Jahr wurden verschiedene neue autonome Roboter vorgestellt, die sich mithilfe von KI-Unterstützung in unbekannten Räumen zurechtfinden können⁸, KI wird damit bereits körperlich. Zum Beispiel kommen im Ukraine-Krieg autonome KI-gesteuerte Drohnen zum Einsatz, die per automatischer Zielauswahl Entscheidungen treffen können,⁹ was zahlreiche ethische und rechtliche Fragen aufwirft, etwa zur Verantwortlichkeit für Kriegsverbrechen.

Ungeachtet der Auswirkungen und moralischer Fragen wird in den ersten Anwaltskanzleien bereits KI im Alltag genutzt. Nachdem die Bibliotheksrecherche durch Internet-Suchmaschinen und Datenbanken weitgehend ersetzt wurde, wird nun die manuelle Stichwort-Suchmaschine teilweise durch das automatisierte Suchen und Auswerten von Ergebnissen mit KI ersetzt. Als konkrete KI genutzt werden etwa Perplexity AI, Farfalle, ChatGPT oder auch die neue Google AI-Suche.

Während die frühen Modelle quasi immer den erstbesten Gedanken als Lösung der Aufgabe angenommen haben, kann die Version ChatGPT-4o1 nun zur Lösung von Aufgaben komplexe Gedanken anstellen und verschiedene Ansätze verfolgen. In Mathe, Physik, Chemie und vielen anderen Bereichen erreicht sie schon die Denkleistung der intelligentesten Menschen. Doch was bedeutet das nun für uns Rechtsanwält*innen?

Praktische Tipps: Künstliche Intelligenz in der Kanzlei nutzen

Du gehst unter in Arbeit? Das Kanzlei-Telefon klingelt unentwegt, Dein Kalender läuft über vor Terminen, auf Deinem Schreibtisch stapeln sich die Akten… Wie soll ich das nur schaffen, fragst Du Dich. Dabei gäbe es da ja eine Lösung... Eigentlich siehst Du das skeptisch, aber… vor lauter Überlastung und Verzweiflung probierst du sie eines Tages doch aus: Künstliche Intelligenz. Kann sie Dir Arbeit abnehmen? Und wenn ja: Wie?

Entscheidend ist ein präziser Prompt, also der Befehl, den du der KI gibst, da dieser das Verständnis der Anfrage und damit die Qualität der Antwort durch den Chatbot bestimmt. Hierzu gibt es zahlreiche Videos, Veröffentlichungen und Schulungen zur Nutzung von KI in Anwaltskanzleien. Dort werden teilweise gute Einblicke vermittelt, etwa wie Prompts erstellt werden. Die neuen Werkzeuge sind hilfreich für anfängliche Recherchen oder die Erstellung von Entwürfen. Ein Beispiel für einen Prompt kann etwa sein:

»Du bist erfahrene Rechtsanwältin. Ich bitte um Erledigung der nachfolgenden rechtlichen Aufgaben unter Anwendung deutschen Rechts und unter Zitierung einschlägiger Gesetzesvorschriften sowie Bekanntgabe aktueller Rechtsprechung und Literaturquellen.«

Mein Prompt ist sogar mehrere Seiten lang und ich lade zehn Gesetze hoch, etwa GG, BGB, ZPO, RVG. Zudem kann die ältere Version ChatGPT-o sich nunmehr sogar erinnern. Wichtig ist, die Ergebnisse stets gründlich zu überprüfen. Bei der Erstellung von Prompts muss der Datenschutz gewahrt bleiben, am besten durch vollständige Anonymisierung bei der Eingabe des Sachverhalts. Hierfür gibt es zudem auch Anonymisierungsprogramme, zum Beispiel für die Eingabe in das Chatinterface von OpenAI als Browser-Plugin.

Es sollte immer bedacht werden, klar zu kommunizieren, um möglichst wenig Interpretationsspielraum zu lassen, insbesondere, wenn mit älteren Modellen gearbeitet wird, die nicht vor der Ausgabe nachdenken. Größere Zitierungen innerhalb des Prompts sollten am Anfang und Ende per dreifachem Hashtag (###) anstelle von Anführungszeichen markiert werden, da letztere manchmal im Text vorkommen, was die KI verwirren kann.

Es kann sinnvoll sein, relevante Gesetze hochzuladen, um die KI damit zu trainieren. Bei ChatGPT ist zu beachten, dass es in der europäischen Variante zum Zeitpunkt der Abgabe dieses Artikels noch kein Langzeitgedächtnis außerhalb eines Chats gibt. MS-Copilot ermöglicht zahlreiche Automatisierungen von Arbeitsabläufen, basiert aber auf der unbeliebten Bing-Suche. LLMs übersetzen Texte besser als regelbasierte oder rein stochastische Alternativen. Sie können bald auch als Simultandolmetscher eingesetzt werden, irgendwann vielleicht auch im Rechtswesen. Zahlreiche neue Produkte drängen auf den Markt, so dass es schwierig ist, den Überblick zu behalten – in der schlauen neuen Welt.

Offene Fragen

Während fest steht, dass KI uns in Zukunft viele Tätigkeiten abnehmen wird und einige Berufe verschwinden, kennen wir noch nicht alle, die dadurch neu entstehen werden. Spannend ist die Frage, wie eine kapitalistische Gesellschaft oder Demokratie funktionieren kann, wenn der KI-Bevölkerungsteil weder Lohn erhält, also keine Nachfrage schafft, noch überhaupt Rechtsträger ist. Allgemeine Kriterien, wann und unter welchen Voraussetzungen eine KI selbst Rechtsträger sein kann, sollten dringend erarbeitet werden.

Auch bis zu einer möglichen KI-Rechtsträgerschaft müssen wir uns als Gesellschaft fragen, welche gesellschaftlichen Auswirkungen die Verbreitung humanoider Roboter haben wird, mit denen man emotionale sowie sexuelle Beziehungen eingehen kann.¹⁰ Ob der AI Act oder eine freiwillige Selbstkontrolle, wie es auch versucht wird, bei Großkonzernen ausreichen wird, um sicherzustellen, dass Menschenrechte, Umweltschutz und menschliches Wohlbefinden in den Mittelpunkt der KI-Entwicklung gestellt werden und eine vorurteilsfreie KI-Ethik in die Systeme eingebaut wird, erscheint mir fraglich.

Als nächstes geht es um die Entwicklung von Intelligenz, Selbstbewusstsein und allgemeinem Bewusstsein. Allgemeine Kriterien dafür sind auch bei Menschen nicht definiert. Offen ist daher, wann eine Artificial General Intelligence (AGI) erreicht wäre – eine KI, die intellektuelle Aufgaben auf menschlichem Niveau lösen kann.¹¹ Unklar ist, wie schnell eine KI mit Bewusstsein lernen könnte und ob sie die Menschen in kürzester Zeit weit überflügeln könnte.

In Unkenntnis der letzten Durchbrüche der Forschung ging etwa die Enquete-Kommission zur KI-Technologie – in ihrem Abschlussbericht 2020 zur KI-Ethik noch davon aus, dass »KI spezifische menschliche Fähigkeiten heute und auf mittlere Sicht höchstens simulieren kann«.¹² Der Artificial Intelligence Act der EU behandelt höchstens Grundzüge der aufkommenden Fragen, lässt jedoch einige wichtige Punkte, wie die Rechte von künstlichen Intelligenzen, offen.

EU Artificial Intelligence Act (Künstliche Intelligenz-Verordnung)

Der EU AI Act zielt darauf ab, KI-Systeme sicher und vertrauenswürdig zu machen und soll eine sichere und ethische Nutzung von KI fördern. Das Europäische Parlament hat den Act im März 2024 verabschiedet und dieser ist seit dem 02.08.2024 in Kraft. Die meisten Regelungen finden 24 Monate später Anwendung, während Verbote bestimmter KI-Praktiken bereits nach 6 Monaten und Regelungen für allgemeine KI-Modelle nach 12 Monaten greifen. Hier die wichtigsten Begriffe und Inhalte der Verordnung im Überblick:

Kategorisierung: KI-Systeme werden nach Risikostufen eingeteilt. Hochrisiko-Systeme müssen strenge Anforderungen erfüllen, zum Beispiel in kritischen Infrastrukturen und im Rechtswesen bei der Verarbeitung sensibler vertraulicher Daten und automatisierter Entscheidungsfindung.

Verbotene Praktiken: zum Beispiel Systeme zur sozialen Bewertung und flächendeckende, ungezielte Gesichtserkennung (Ausnahme für Strafverfolgung) sowie Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen.

Transparenzpflichten: Nutzer müssen bei Interaktionen mit KI informiert werden. Bei Deepfakes muss deren Erzeugung durch KI offengelegt werden.

Sanktionen: Die Mitgliedstaaten müssen Sanktionen für Verstöße beschließen. Es drohen hohe Geldstrafen, bis zu 35 Millionen Euro oder 7 Prozent des Jahresumsatzes, gestaffelt nach Unternehmensgröße. Privatpersonen können Verstöße bei nationalen Behörden melden, die von den Mitgliedsstaaten jeweils noch zu schaffen sind, die dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.

Ausgenommene Gebiete: Militärische Anwendungen und bestimmte nationale Sicherheitsanwendungen sind vom AI Act ausgenommen, was Bedenken hinsichtlich der fehlenden Regulierung und Kontrolle dieser Hochrisiko-Technologien bei Militär und Polizei aufwirft.

Unklarheiten bei der Umsetzung: Fraglich ist, ob dem neuen »AI Office« die Überwachung der praktischen Umsetzung und Durchsetzung der Vorschriften durch die Nationalstaaten bei Hochrisiko-KI-Systemen gelingt, etwa in biometrischen Identifikationssystemen, Infrastruktur, Bildung, Arbeitsplatz, Behörden, Rechtspflege und Strafverfolgung.

Jan Meyer-Dulheuer ist Legal-Tech Gründer & Rechts­anwalt für Arbeitsrecht, Miet- und WEG-Recht, Datenschutz und allgemeines Zivilrecht in Berlin bei der Böhm & Meyer-Dulheuer GbR. Diesen Beitrag hat er mithilfe von ChatGPT-4o erstellt, das sich selbst als Co-Autor*in den Namen »Alex Tanner« gegeben hat.

 1     OECD auf Deutsch, 11.03.2024, »Tête-à-Tête mit Hannah Bast | Expertin für künstliche und natürliche Intelligenz«, https://www.youtube.com/watch?v=ulGxQVqpwCY&t=3s
2    Wikipedia, Stand 25.06.2024, https://en.wikipedia.org/wiki/Stochastic_parrot; Emily M. Bender, 13.04.2023, »Stochastic Parrots: A Novel Look at Large Language Models and their limitations«, https://towardsai.net/p/machine-learning/stochastic-parrots-a-novel-look-at-large-language-models-and-their-limitations
3     Danilo Campos, »The average AI criticism has gotten lazy, and that‘s dangerous«, 17.11.2023, https://redeem-tomorrow.com/the-average-ai-criticism-has-gotten-lazy-and-thats-dangerous
4    Carmen Drahl, »AI was asked to create images of Black African docs treating white kids. How‘d it go?«, 06.10.2023, https://www.npr.org/sections/goatsandsoda/2023/10/06/1201840678/ai-was-asked-to-create-images-of-black-african-docs-treating-white-kids-howd-it-
5    countercurrents.org,  »Noam Chromsky speaks on what ChatGPT is really good for.«, 04.05.2023, https://countercurrents.org/2023/05/noam-chomsky-speaks-on-what-chatgpt-is-really-good-for/
6     Quiyuan Huan u.a., 05.04.2024, »Position Paper: Agent AI Towards a Holistic Intelligence«, https://ar5iv.labs.arxiv.org/html/2403.00833
7    Rory Smith, 19.03.2024, »ABB unveils its innovative mobile robot with Visual SLAM AI-technology and AMR Studio Suite«, https://new.abb.com/news/detail/113774/prsrl-abb-unveils-its-innovative-mobile-ro-bot-with-visual-slam-ai-technology-and-amr-studior-suite
8     Yuri Zoria, 20.03.2024, »Ukraine begins using FPV drones with post-target-lock autonomous homing«, https://euromaidanpress.com/2024/03/20/ukraine-begins-using-fpv-drones-with-post-target-lock-autonomous-homing/
9    Kristalina Georgieva, 14.01.2024, »AI Will Transform the Global Economy. Let’s Make Sure It Benefits Humanity.«
10     Patrick Lin, Keith Abney, George A. Bekey, 2014, »Robot Ethics – The Ethical and Social Implications of Robotics«, ISBN: 9780262305440 sowie John Danaher, Neil McArthur, 2018, »Robot Sex – Social and Ethical Implications«, ISBN: 9780262536028
11    Stephen Ornes »The unpredictable abilities emerging from large AI Models«, 16.03.2023, https://www.quantamagazine.org/the-unpredictable-abilities-emerging-from-large-ai-models-20230316/
12     Wikipedia, Stand 25.06.2024, https://en.wikipedia.org/wiki/GPT-3