by Andreas Dormann

ChatGPT – berechtigter Hype oder heiße Luft?

29.12.2022 in Jura & Lehre, Media & More

Kurz vor Jahresende veröffentlichte OpenAI ein neues KI-Chatbot-System namens ChatGPT. Warum es so gehypt wird und was es wirklich kann.

OpenAI und ChatGPT

Zuerst einmal einige Worte zum Unternehmen: OpenAI ist ein Forschungslabor für künstliche Intelligenz (KI), das aus der gewinnorientierten Gesellschaft OpenAI LP und ihrer Muttergesellschaft, der gemeinnützigen OpenAI Inc. besteht. Das Unternehmen betreibt Forschung auf dem Gebiet der KI mit dem erklärten Ziel, freundliche KI zum Nutzen der gesamten Menschheit zu fördern und zu entwickeln. Die Organisation wurde Ende 2015 in San Francisco von Sam Altman, Elon Musk und anderen gegründet, die zusammen eine Milliarde US-Dollar invesitiert haben. Musk trat im Februar 2018 aus dem Vorstand zurück, blieb aber ein Spender. Im Jahr 2019 erhielt OpenAI LP eine Investition von einer Milliarde US-Dollar von Microsoft und Matthew Brown Companies. Der Hauptsitz von OpenAI befindet sich in San Francisco.

Das neueste Sprachmodell von OpenAI, ChatGPT, wurde ausschließlich für Konversationen entwickelt und trainiert. Es wurde am 30. November veröffentlicht und hat seitdem die Tech-Industrie und das Internet im Sturm erobert.

ChatGPT (GPT steht für: Generative Pre-trained Transformer) ist in der Lage, menschliche Sprache zu verstehen und tiefgründige Texte zu verfassen, die man einem Freund schreiben kann. Dieses KI-Chatbot-System wird online eingesetzt, um einen automatisierten Kundendienst-Chat zu simulieren. Das ist ein sehr komplexes Unterfangen, da es viele mögliche Antworten gibt.

Die Anwendung bietet Vorteile, wenn es darum geht, Informationen zu präsentieren und auf Fragen so zu antworten, wie es in einem normalen Gespräch der Fall wäre. Darauf wurde sie durch künstliche Intelligenz und maschinelles Lernen trainiert.

Kommunikation in Gesprächsform

Der Vorläufer GPT-3 hatte mit einer Reihe von Problemen zu kämpfen: Einige Fragen konnten von der KI nicht beantwortet werden, und sie war nicht in der Lage, passende Fakten zu finden. Daher musste der Anwender gelegentlich den Prompt – den Text, der der KI zur Verfügung gestellt wird – ändern. Es waren also mitunter mehrere Versuche erforderlich, der KI die „richtigen“ Stichworte zu geben. Man kennt das so auch von Suchmaschinen.

Viel besser wäre es jedoch, wenn die KI den Anwender einfach fragt, wenn sie etwas nicht versteht, quasi „im Plauderton“, anstatt den Anwender die Anfrage ständig umformulieren zu lassen, damit sie schließlich versteht, wonach gesucht wird, und entsprechend reagieren kann. In diese Richtung wurde nun ChatGPT entwickelt.

Dynamische Reaktion durch Einsatz von Reinforcement Learning

Durch den dialogbasierten Ansatz kann die neue GPT-Option dynamischer interagieren. Es wendet eine Methode an, die als Verstärkungslernen vom menschlichen Lernen bekannt ist.

Bei Spielen wie Schach, Go, Poker und Atari-Spielen sind die Ergebnisse dieser Strategien besonders beachtlich. Für jedes Spiel gibt es vorgegebene Regeln und Belohnungen. Die gibt es in einem Gespräch nicht, weshalb menschliches Feedback in dieser Situation entscheidend ist. 

Dazu wurde einem Modell eine Frage gestellt, einige Antworten aus dem Pool ausgewählt und die Ergebnisse von einem Menschen manuell bewertet.

Diese Bewertungen dienten dann als Trainingsdaten für das Belohnungsmodell. Um den Output des Belohnungsmodells zu maximieren, wird dann ein verfeinertes Sprachmodell mit Hilfe von Reinforcement Learning weiter trainiert, um auf Anfragen nun noch besser antworten zu lernen.

ChatGPT reagiert auf alles

ChatGPT ist ein Chatbot, dem beigebracht wurde, sich auf eine Konversation einzulassen. Das Dialogmodell ermöglicht es ChatGPT laut OpenAI, auf alle Arten von Texten zu reagieren, einschließlich theoretischer Aufsätze, mathematischer Lösungen und Geschichten. Es kann auch Folgefragen beantworten und nach Angaben des Unternehmens auch zugeben, wenn es einen Fehler macht.

Der Quantenphysiker, Wissenschaftsautor und Forscher auf dem Gebiet der Computerprogrammierung, Michael Aaron Nielsen, tweetete:

„Der neue Chatbot von OpenAI ist erstaunlich.  Er halluziniert einige sehr interessante Dinge. Zum Beispiel hat er mir von einem (sehr interessant klingenden!) Buch erzählt, nach dem ich ihn dann gefragt habe. Leider glauben weder Amazon noch Google Scholar oder Google Books, dass das Buch echt ist. Vielleicht sollte es das sein!“

Michael Aaron Nielsen

Die Art, wie Menschen Suchmaschinen nutzen, könnte sich ändern

Indem ChatGPT den Anwendern mehr als nur Links zum Durchblättern bietet, könnte es die Art und Weise, wie Menschen Suchmaschinen nutzen, grundlegend verändern, indem er Antworten auf komplexe Probleme und Fragestellungen liefert. Er wäre damit nicht nur ein guter Begleiter bei der Fehlersuche, sondern könnte auch den Fehler beheben.

Die Nutzung ist kostenlos und basiert auf der Sprachtechnologie GPT-3.5

Am 30. November erhielt die Öffentlichkeit auf der Website von OpenAI Zugang zu dem KI-gesteuerten Chatbot. Obwohl er sich noch in der Forschungsphase befindet, können sich die Nutzer anmelden und ihn kostenlos testen.

ChatGPT verwendet die von OpenAI entwickelte Sprachtechnologie GPT-3.5. Dieses hochentwickelte Modell der künstlichen Intelligenz wurde mit einer großen Menge an Textdaten aus verschiedenen Quellen trainiert.

Elon Musk stoppt den Zugriff von ChatGPT auf Twitter

Als Elon Musk erfuhr, dass OpenAI die Twitter-Datenbank zum Trainieren von ChatGPT verwendet, hat er diese Praxis sofort gestoppt, da OpenAI nunmehr gewinnorientiert sei und schließlich für dieses Wissen bezahlen sollte.

Menschlicher Ersatz

ChatGPT hat bewiesen, dass es in der Lage ist, komplexen Python-Code zu erstellen und Aufsätze auf College-Niveau zu verfassen, was Bedenken aufkommen lässt, dass eine solche Technologie möglicherweise menschliche Arbeitskräfte wie Journalisten oder Programmierer ersetzen könnte.

Jason DeBolt, ein Amazon-Mitarbeiter, twitterte: „Ok, das ist beängstigend. ChatGPT von OpenAI kann Hunderte von Zeilen Python-Code generieren, um mehrteilige Uploads von 100 GB großen Dateien in einen AWS S3-Bucket aus der Phrase „Schreibe Python-Code, um eine Datei in einen AWS S3-Bucket hochzuladen“ durchzuführen.

Einige interessante Fakten zu dieser Technologie

Viele Unternehmen, darunter Microsoft, haben mit Chatbots experimentiert, aber sie hatten nicht viel Erfolg. Laut The Verge brachten Twitter-Nutzer dem Microsoft-Bot Tay in weniger als 24 Stunden frauenfeindliche und rassistische Ausdrücke bei, was schließlich zu dessen Löschung führte.

Tay war ein Bot, der von Microsoft im Jahr 2016 eingeführt wurde. Als BlenderBot 3 von Meta im August veröffentlicht wurde, unternahm das Unternehmen einen kleinen Ausflug in die Chatbot-Arena. Laut Mashable geriet der Bot ebenso wie Tay unter Beschuss, weil er rassistische, antisemitische und irreführende Informationen verbreitete, darunter die Behauptung, Donald Trump habe die Präsidentschaftswahlen 2020 gewonnen.

Um diese Art von Vorfällen zu verhindern, hat OpenAI die Moderation API implementiert, ein KI-basiertes Moderationssystem, das Entwicklern dabei helfen soll, festzustellen, ob Sprache gegen die Inhaltsrichtlinie des Unternehmens verstößt. Damit soll verhindert werden, dass mit ChatGPT schädliche oder ungesetzliche Inhalte kommuniziert werden. OpenAI gibt zu, dass seine Moderation noch Probleme hat und nicht perfekt ist.

Was ist also die Zukunft der KI-Chatbots? Nun, in diesem Zusammenhang twitterte Altman:

„Bald werden Sie in der Lage sein, hilfreiche Assistenten zu haben, die mit Ihnen sprechen, Fragen beantworten und Ratschläge geben, in Echtzeit…“

Sam Altman, CEO von OpenAI

ChatGPT als juristischer Berater?

Einer meiner geschätzten Dozentenkollegen hat ChatGPT kürzlich eine juristische Frage gestellt und umgehend eine Antwort erhalten. Hier der Dialog: 

Ohne nun ausführlich ins juristische Detail zu gehen: Die Antwort ist zumindest teilweise falsch! Und ChatGPT gibt es nicht einmal zu 😉

Spannend ist die Frage, ob und wie es gelingen könnte, ChatGPT  das Abstraktionsprinzip und alle weiteren elementaren Grundsätze des deutschen Zivilrechts beizubringen.

Solange das nicht geschieht, müssen sich Juralehrende nicht allzu viele Sorgen um von ChatGPT geschriebene juristische Hausarbeiten machen. Jedenfalls dann nicht, wenn Studierende auf diese Weise gute Noten erzielen wollen. 

Schlagworte: AI, Chatbots, ChatGPT, KI, Künstliche Intelligenz