OpenAI-Proxy – Ein Proxy-Service für den Zugriff auf OpenAI-APIs

Hochschulen möchten ihren Angehörigen den Zugriff auf KI-Modelle ermöglichen, damit diese den verantwortungsvollen Umgang mit KI-Technologien erlernen können. Aufgrund der zunehmenden Bedeutung generativer KI-Modelle in der Arbeitswelt ist die Fähigkeit, diese Modelle zu verstehen und zu nutzen, eine wichtige und Kompetenz für Studierende.

Aufgrund der Datenschutzrichtlinien der Hochschulen und dem Wunsch, die Privatsphäre der Angehörigen zu schützen, dürfen dabei jedoch keine personenbezogenen Daten wie etwa Namen, E-Mail-Adressen oder IP-Adressen an Drittanbieter weitergegeben werden.

Dies stellt eine Herausforderung dar, da viele KI-Modelle, wie etwa die von OpenAI, eine Authentifizierung über einen API-Key erfordern, um auf die Modelle zugreifen zu können.

Lösung durch einen Proxy-Service

Der OpenAI-Proxy ermöglicht den Zugriff auf die OpenAI-APIs, ohne dass personenbezogene Daten an OpenAI weitergegeben werden. Dazu melden sich Angehörige der FH Südwestfalen mit ihrem Hochschul-Account an und können über die URL https://openai.ki.fh-swf.de/api auf die OpenAI-APIs zugreifen. Der Zugriff erfolgt dabei mit einem zentralen API-Key, der von der Hochschule verwaltet wird. Bis auf den Prompt-Text werden keine Daten des Benutzers an OpenAI weitergegeben.

Unter der openai.ki.fh-swf.de ist ein Frontend ähnlich wie bei OpenAI verfügbar, über das die Angehörigen der Hochschule die OpenAI-APIs testen können.

Technische Umsetzung

Der OpenAI-Proxy ist ein Node.js-Service, der auf einem Kubernetes-Cluster der FH Südwestfalen läuft. Der Service nutzt die Authentifizierung über den Hochschul-Account. Ist ein Benutzer eingeloggt, werden alle Anfragen an die OpenAI-APIs mit dem zentralen API-Key der Hochschule weitergeleitet.

Der OpenAI-Proxy ist Open Source, der Quellcode kann auf GitHub eingesehen und heruntergeladen werden.