Eine neue Form der Mensch-Computer Interaktion

Sprachmodelle, wie ChatGPT, sind in der Tech-Community und der ?ffentlichkeit mittlerweile sehr bekannt. Nutzer:innen interagieren mit solchen Sprachmodellen, indem sie ihre Anweisungen und Fragen in nat¨¹rlicher Sprache formulieren. Daf¨¹r ben?tigen die Nutzenden keine Programmierkenntnisse.

Diese Interaktionen funktionieren in bestimmten F?llen gut und f¨¹hren zu einem gew¨¹nschten Ergebnis. In manchen Situationen versteht das Sprachmodell allerdings den Befehl nicht und die generierte Antwort f?llt unerwartet oder unbefriedigend aus. In einem solchen Fall stellen Nutzer:innen gleich eine weitere Anfrage, um die gew¨¹nschte Antwort zu erhalten. ChatGPT versucht daraufhin die Fehler zu korrigieren und seine Ausgabe anzupassen. Ein Sprachmodell so zu verwenden, ist jedoch unsystematisch, willk¨¹rlich und es kann einige Zeit dauern, bis das angestrebte Resultat die Nutzenden zufriedenstellt.

Um dieses Problem zu l?sen, haben ETH-Forscher nun eine neue Programmiersprache und Open-Source-Plattform namens LMQL (Language Model Query Language) entwickelt. LMQL erlaubt es, die Interaktion mit grossen Sprachmodellen wie ChatGPT zu erweitern und besser zu kontrollieren. LMQL ist eine neue Art des Programmierens und eine neue Form der Interaktion zwischen Computer und Mensch, da Nutzer:innen direkt mit dem Computer interagieren und ihn instruieren.

LMQL ist die erste Sprache, welche die F?higkeiten von nat¨¹rlichen Sprachen und Programmiersprachen kombiniert, um bestm?glich mit grossen Sprachmodellen wie ChatGPT zu kommunizieren. F¨¹r einfache Abfragen reicht es aus, ChatGPT mit nat¨¹rlicher Sprache zu bedienen. F¨¹r komplexere und spezifischere Aufgaben, wie die Erstellung einer Datenbank oder die Analyse von Daten, ist es jedoch unerl?sslich, dem Sprachmodell exakte Anweisungen zu geben. Daher wird der Formalismus von Programmiersprachen ben?tigt, um das Sprachmodell mit formalen Konstrukten genau zu steuern und sicherzustellen, dass Nutzer:innen die gew¨¹nschte Antwort erhalten. Martin Vechev, Professor f¨¹r Computerwissenschaften und einer der Entwickler, pr?zisiert: ?Im Grunde erm?glicht LMQL einen viel gezielteren Weg, um das Resultat zu bekommen, das man m?chte. Durch die Senkung der erforderlichen Interaktionen zwischen User:in und Sprachmodell k?nnen auch die Kosten f¨¹r die Austauschprozesse gesenkt werden. Die Verwendung von LMQL erh?ht die Chancen, die gew¨¹nschte Ausgabe zu erhalten. Manchmal kann sogar erst die Verwendung von LMQL dazu f¨¹hren, ein gew¨¹nschtes Resultat zu erhalten, weil man seine Anfrage dadurch genauer formulieren kann.?

Ein entscheidender Vorteil

Die Datens?tze, mit denen grosse Sprachmodelle trainiert werden und auf denen sie basieren, sind so umfangreich, dass Nutzer:innen nicht mehr kontrollieren und nachvollziehen k?nnen, welche Prozesse sich innerhalb eines Modells abspielen. Aus diesem Grund liefern die Modelle mitunter ungew¨¹nschte oder kontroverse Ergebnisse. Den Forschern zufolge liegt eines der Hauptprobleme darin, dass die User:innen nicht verstehen, warum ein bestimmtes Ergebnis generiert wurde und wie sie dieses unerw¨¹nschte Resultat vermeiden k?nnen.

LMQL erm?glicht es dem Nutzenden Sicherheitseinschr?nkungen zu formulieren. Diese tragen dazu bei, das Modell in die richtige Richtung zu lenken und es von unerw¨¹nschten oder unerwarteten Ergebnissen fernzuhalten. ?Mit LMQL kann man das Sprachmodell so einschr?nken, dass es sich strikt in einem vorgegebenen Rahmen bewegt. Dadurch k?nnen Nutzer:innen besser kontrollieren, wie sich das Sprachmodell verh?lt. Nat¨¹rlich ist es schwierig, unerw¨¹nschte Verhaltensweisen vollst?ndig zu vermeiden, aber LMQL macht einen Schritt in diese Richtung?, sagt Luca Beurer-Kellner, der an der Entwicklung der neuen Programmiersprache mitgearbeitet hat. Die Programmiersprache LMQL erm?glicht es dem Benutzenden beispielsweise bestimmte W?rter auszuschliessen oder hindert das Modell daran, gewisse Argumentationsprozesse zu durchlaufen.

Transparenz ist entscheidend

Viele Unternehmen entwickeln ihre grossen Sprachmodelle hinter verschlossenen T¨¹ren. Dadurch werden die Modelle intransparent. Nutzer:innen k?nnen nicht mehr nachvollziehen, weshalb sie einen bestimmten Output erhalten haben. Um dem entgegenzuwirken, muss die Wissenschaft laut den Forschern Open-Source-Tools wie LMQL entwickeln, die transparent, offen zug?nglich und adaptierbar sind. Marc Fischer, der die neue Programmiersprache mitentwickelt hat, erkl?rt: ?Sowohl f¨¹r die Tech-Community als auch f¨¹r ein technisch nicht versiertes Publikum ist es entscheidend, dass der Quellcode von LMQL offen und frei zur Verf¨¹gung steht, damit die Nutzenden keine weitere Blackbox vor sich haben. Da die Forschung an Sprachmodellen rasant voranschreitet, ist es wichtig, dass LMQL transparent ist und somit eine schnelle Weiterentwicklung erm?glicht.?

Ein Werkzeug auch f¨¹r weniger versierte Nutzer:innen

LMQL ist vom syntaktischen Aufbau her eine deklarative, SQL-?hnliche Programmiersprache, die weniger Fachkenntnisse erfordert, um die gew¨¹nschten Ergebnisse zu erhalten. Sie ist somit ein innovatives Werkzeug f¨¹r Forschende verschiedener Disziplinen. ?Wenn Sie nicht ernsthaft am Programmieren interessiert sind oder keine Zeit dazu haben, weil es nicht zu den Kernbereichen Ihrer T?tigkeit geh?rt, dann macht LMQL die pr?zise Interaktion mit grossen Sprachmodellen leicht verst?ndlich und wesentlich zug?nglicher?, erkl?rt Beurer-Kellner.

Dar¨¹ber hinaus kann LMQL als hilfreiche Grundlage f¨¹r programmiererfahrene Nutzer:innen und Experten dienen, da der Abfrage in nat¨¹rlicher Sprache verschiedene Programmierkonstrukte hinzugef¨¹gt werden k?nnen. Versierte Programmierer:innen k?nnen LMQL als Baustein verwenden und damit ihre eigenen Programme f¨¹r die Interaktion mit grossen Sprachmodellen schreiben.

Das Interesse an LMQL w?chst. Es hat sich bereits eine interdisziplin?re Community rund um die neue Programmiersprache gebildet. Die Forscher sehen LMQL als ein langfristiges Vorhaben an und planen bereits Folgeprojekte und Ver?ffentlichungen weiterer Artikel. Sie wurden ausserdem eingeladen, ihre Arbeit im Juni auf einer der wichtigsten internationalen Konferenzen zum Thema Design und Implementierung von Programmiersprachen zu pr?sentieren.