ChatGPT, DeepL etc.: Wie soll die Verwaltung BL mit künstlicher Intelligenz umgehen?

Das Erscheinen von ChatGPT Ende 2022 hat die Diskussion über den Umgang mit künstlicher Intelligenz (KI) befeuert. Wie beurteilen Pascal Reiniger, Kantonaler Informations-Sicherheitsbeauftragter, und Karin Kisiala, die Vorsteherin der neuen Dienststelle für digitale Information, die Chancen und Risiken von KI für die Verwaltung BL?

Künstliche Intelligenz begegnet uns im Alltag ständig. YouTube empfiehlt Beiträge, die allenfalls auch noch interessieren könnten, bei Google erhalten wir personalisierte Werbung aufgrund der Anfragen, die wir getätigt haben, auf Websites treffen wir auf Tools, womit einfache Anfragen automatisch beantwortet werden können etc. ChatGPT, das auf Wunsch auch lange Texte zu gewünschten Themen erstellt, hat neue Hoffnungen, aber auch Ängste in Bezug auf die Rolle von KI in unserem Leben und in der Zukunft geweckt.

Das Infoheft hat mit einem Fragekatalog an Pascal Reiniger und Karin Kisiala versucht herauszufinden, welche Rolle dieses Tool in der Verwaltung BL spielen wird. Um es gleich vorweg zu nehmen: Die Antworten haben sich weg von ChatGPT hin zur Anwendung von KI generell entwickelt, denn ChatGPT ist ja nur ein weiterer Meilenstein in der Verbreitung von künstlicher Intelligenz in unserem Berufsalltag und im Leben allgemein.

Ein Taschenrechner macht keinen Mathematiker

Pascal Reiniger macht einen interessanten Vergleich: Vor zirka 50 Jahren wurden Taschenrechner für die Allgemeinheit erschwinglich. Das Gerät liefert aber nicht immer das korrekte Resultat. Wenn die Person, welche es bedient, nicht die richtigen Eingaben macht und den mathematischen Prozess dahinter nicht versteht, wird das Resultat auf dem Taschenrechner falsch sein. Genauso verhält es sich auch mit der künstlichen Intelligenz. Man muss das Themengebiet und die Fragestellung verstehen, um die Qualität der Antworten, die eine KI liefert, beurteilen zu können. Im Fall von ChatGPT kann das Resultat durch Wiederholen der Fragestellungen und Feedback verbessert werden. Neben Fachwissen ist also auch eine gewisse Skepsis und Erfahrung im Umgang mit derartigen Tools notwendig.

Auch im Alltag haben wir immer mehr mit KI zu tun und müssen den Umgang damit lernen. Das Wissen von ChatGPT z.B. stammt aus enormen Datensätzen, und durch maschinelles Lernen erkennt das Tool Zusammenhänge und Muster. Wie die Beispiele in diesem Artikel zeigen, liefert KI aber zum Teil nichtssagende und auch falsche Antworten. Kritisches Hinterfragen ist deshalb unabdingbar. Mit klaren und präzisen Fragen können bessere Antworten generiert werden. Je mehr man sich damit beschäftigt und die Tipps und Tricks kennt, desto besser kann man das System auch einsetzen.

Achtung Datenschutz

Als Anwender muss man sich bewusst sein, dass es sich bei den meisten KI-Anwendungen um externe Cloud-Dienstleister handelt und die eingegebenen Daten abgespeichert und für das maschinelle Lernen verwendet werden. Das heisst, dass keine potenziell vertraulichen oder streng vertraulichen Daten des Kantons eingegeben werden dürfen. Das Übersetzungstool DeepL zum Beispiel liefert schnelle und gute Transkriptionen in viele Sprachen – allerdings müssen vertrauliche Informationen vor der Eingabe entfernt und die Texte anonymisiert werden, da man nicht weiss, wohin die Daten gehen und was damit gemacht wird.

Karin Kisiala weist darauf hin, dass die Einsatzmöglichkeiten von KI zu prüfen und interdisziplinär zu diskutieren seien. Es seien auch klare Vorgaben nötig, auf welche Risiken zu achten und was erlaubt und was untersagt ist. Anleitungen und andere Hilfestellungen sollen zeigen, wie diese Systeme eingesetzt werden könnten und wie die Resultate zu beurteilen und zu verwenden sind. Pascal Reiniger sagt, dass bereits Abklärungen laufen, welche KI-Anwendungen wofür und mit welchen Daten verwendet werden dürfen. Klare Vorgaben sind in Arbeit.

Viele Dienstleister bieten auch zahlungspflichtige Versionen an, welche die Daten nicht abspeichern. Damit können die Datenschutzvorgaben der Schweiz und der EU eingehalten werden. Gerade beim Übersetzungstool DeepL wäre dies eine Option.

Der Mensch kann nicht ersetzt werden

Pascal Reiniger sieht das Potenzial für den Einsatz von KI insbesondere darin, sowohl Mitarbeitende als auch Kundinnen und Kunden zu unterstützen. Anstatt sich durch hunderte Zeilen Text durchzulesen, kann ein Chatbot Fragen direkt beantworten oder auf die relevanten Stellen verweisen, und dies rund um die Uhr 7 Tage die Woche. KI kann helfen, repetitive Arbeiten zu automatisieren und Standardfälle immer gleich und richtig abzuwickeln. Damit werden Ressourcen freigesetzt, um sich komplexeren Fragestellungen zu widmen und beispielsweise mehr Zeit für Projektarbeit zu haben.

Die Einsatzmöglichkeiten von KI sind im Moment aber noch eingeschränkt und die Resultate nicht immer über alle Zweifel erhaben. Es ist letztlich auch eine ethische Diskussion, wann und unter welchen Umständen wir einem Algorithmus mehr vertrauen als menschlichem Ermessen. Eine KI basiert rein auf Daten und hat keine Emotionen. Deshalb, meint Karin Kisiala, wird eine KI die Leistungsfähigkeit eines Menschen nie ersetzen können.

Text: Beatrix Meier 


Was ist Künstliche Intelligenz (KI)?

KI ist der Oberbegriff für mehrere Technologien, wie Machine Learning, Large Language Models, neuronale Netze etc. Durch die Kombination dieser Technologien sollen Computersysteme menschliche Fähigkeiten wie Sehen, Hören, Analysieren, Entscheiden und Handeln nachahmen. KI-Systeme lernen autonom mit Hilfe enorm grosser Datenmengen, um Muster zu erkennen und daraus Entscheidungen zu treffen. Das Ziel ist es, dass KI Aufgaben wie Sprachübersetzungen, das Erstellen von Texten, Komponieren von Musik, autonomes Fahren etc. selbständig lösen kann mit einer Qualität wie von menschlichen Experten.

1N73LL1G3NC3  15  7H3  4B1L17Y  70  4D4P7  70  CH4NG3 

Nach ein paar Mal hinschauen können Sie wohl den Zeichensalat oben lesen: „Intelligence is the ability to adapt to change“. DeepL übersetzt diesen Text korrekt mit „Intelligenz ist die Fähigkeit, sich dem Wandel anzupassen“. Wenn man aber den Zeichensalat eingibt, kann das Tool nichts erkennen. Das menschliche Auge und das Hirn sind in der Lage, die falschen Zeichen durch richtige zu ersetzen, zumal sie ja optisch nur leicht verändert sind. Das kann KI, welche jedes Zeichen für bare Münze anschaut, (noch) nicht.

Infoheft Nr. 216 (PDF)

Zurück zum Newsletter

Bild Legende:
Karin Kisiala, Leiterin Dienststelle für digitale Information
Bild Legende:
Pascal Reiniger, kantonaler Informationssicherheitsbeauftragter