Kompetenzen für generative Künstliche Intelligenz
Generative Künstliche Intelligenz (GenKI) wird auch in der öffentlichen Verwaltung zunehmend genutzt und bietet dort in verschiedenen Anwendungskontexten hohes Potenzial: vom Wissensmanagement über die Erstellung von Texten bis hin zur Interaktion mit Bürger:innen. Warum es sinnvoll ist, von Beginn an die Kompetenzen innerhalb der Organisation konsequent mitzudenken, welche Vorteile hierbei ein rollenbezogener Ansatz bietet und welche weiteren Faktoren in Bezug auf Risikoklasse und Systemgestaltung die Kompetenzanforderungen beeinflussen, erläutern Maximilian Kupi und Nicole Opiela im Podcast.<br><br>Publikationen und weitere Inhalte vom ÖFIT finden Sie unter https://www.oeffentliche-it.de/
Top Keywords
- auch 0.059
- dann 0.030
- kann 0.023
- dass 0.022
- genau 0.017
- eine 0.016
- nicht 0.015
- eben 0.015
- sind 0.015
- oder 0.014
- aber 0.013
- quasi 0.013
Transcript
Schnell ein Gedicht zum Geburtstag des Großonkels schreiben, Mona Lisa in einem Video rappen lassen oder einen Podcast komplett ohne Sprecher*innen und Studio erstellen. Das alles kann generative künstliche Intelligenz, vorausgesetzt natürlich, man weiß wie. Auch im öffentlichen Sektor wird schon mit KI gearbeitet, in Projekten aber auch auf Eigeninitiative, weil einzelne Mitarbeitende frei verfügbare KI Werkzeuge einfach nutzen. Wie diese KI Kompetenz systematisch und flächendeckend in den Organisationen verankert werden kann, darum geht es heute bei. Ich bin Franziska Walser und bin heute digital verbunden mit meinen beiden Co Hosts. Das sind Maximilian Kubi, wissenschaftlicher Mitarbeiter am Kompetenzzentrum öffentlicher IT, kurz öFIT, mit dem Schwerpunkt Datenanalyse, KI und digitale Verwaltung. Und ebenfalls zugeschaltet ist Nicole Opiella, Politologin und stellvertretende Leiterin des Kompetenzzentrum Öffentlicher IT. Hallo Nicole, hallo Max. Hallo. Hallo Franziska. So, wir sprechen heute über den Einsatz von KI und die Frage ist ja, wir sind so mittendrin, ne? Ich hab ja grade gesagt, es gibt schon Mitarbeitende, die nutzen das, haben sich das Zeug einfach irgendwie runtergeladen, sich 'n Account gemacht. Kann man das nicht einfach laufen lassen in dem Vertrauen darauf, dass das Arbeit abnimmt und das ist Motivation genug?
Ja, das ist eine spannende Frage. Das ist wahrscheinlich auch der Ansatz, den viele jetzt aktuell fahren werden. Und wir argumentieren in unserem Kompetenz Framework, dass es eben nicht einfach möglich ist, die Sachen laufen zu lassen, sondern dass es sinnvoll ist, den effektiven und sicheren Einsatz von generativer KI auch nachhaltig sicherzustellen in der Organisation, eben die Kompetenzen nicht als nices Add on sozusagen am Schluss zu sehen. Wenn was eingeführt ist, machen wir jetzt noch schnell die Kompetenzen dazu und das schlauen die Mitarbeiterinnen auf, sondern das als essenzielle Grundlage dafür zu sehen. Mhm. Kannst Du's noch mal 'n bisschen mehr erklären? Also so Worst Case, wenn jetzt da sone wilde Nutzung auf eigene Faust erfolgt? Also was könnte da alles schieflaufen? Genau, Worst Case ist son bisschen das, was einem durch den EU AI Act drohen kann, wenn man quasi die Lösungen, die GenKI Lösungen nicht so einsetzt, dass sie quasi regulatorischen Maßgaben
entsprechen. Mhm. Und beispielsweise auch Klassen, ja, ne. Da wird unterteilt Es gibt Risikoklassen, ja. Nutze das zum Beispiel für medizinische Zwecke. Ich nutz das, den Weg nach Hause finden und das sind unterschiedliche Risikoklassen, ne. Genau. Und dann gibt's aber auch noch die die Problematik, dass quasi welche Daten ich damit verwende,
jetzt nicht zwangsläufig nur im EU AI Act, sondern auch GDPR, wie heißt das auf Deutsch? Datenschutz Grundverordnung. Datenschutz Grundverordnung heißt das auf Deutsch, genau. Dass das da auch noch festgelegt ist. Das heißt, wenn Mitarbeiter jetzt plötzlich anfangen, irgendwelche persönlichen Daten in, ich sag's jetzt mal, 'n Chatbot einzugeben, dann wird's auch problematisch. Das heißt, auf jeden Fall ein gewisses Grundverständnis ist auf jeden Fall nötig und eine gewisse Sensibilisierung. Aber wir argumentieren eben, dass es darüber auch hinausgehen muss in der Organisation.
Warum gibt's jetzt dieses Kompetenz Framework, was ihr entwickelt habt, warum muss sich der öffentliche Sektor wirklich spezifisch zu generativer KI positionieren?
Der öffentliche Sektor hat einfach durch seine Aufgaben und durch seine Anwendungsfelder, in denen generative KI zum Einsatz kommen kann, besondere Herausforderungen, weil eben schutzbedürftige Daten verwendet werden oder Entscheidungen getroffen werden, bei denen eben zum Beispiel der EU AI Act oder die Datenschutzgrundverordnung zum Tragen kommen und eben sichergestellt werden muss, dass diese Systeme richtig eingesetzt werden und auf der anderen Seite die Systeme auch entsprechend gestaltet werden, dass sie eben möglichst ausschließen, dass sie nicht konform oder dass sie quasi schadensvoll eingesetzt werden, sozusagen.
Generative KI hat einfach 'n ganz großes Potenzial für den öffentlichen Sektor. Da geht es ja darum, dass ich Inhalte generieren kann, also beispielsweise auch Texte, aber natürlich auch Audio-, Videobilder oder Coachnipsel, aber gerade Text ist ja 'n ganz wesentlicher Anwendungsfall für die öffentliche Verwaltung. Das ist sehr textlastig, da müssen Anträge durchgegeben werden. Da wird auch sehr viel an Text produziert, Entscheidungsvorlagen, Beschlüsse, Bescheide werden erstellt. Es muss auch dieses Wissen, was ich für diese Vermerke mache, die ich brauche, das muss ich auch erst mal aus verschiedenen Dokumenten mir vielleicht zusammensuchen. Ich muss gucken, wer muss beteiligt werden? Das sind alles so kleine Anwendungsfälle, in denen generative KI mich gut unterstützen kann. Das heißt, dieses Potenzial ist im öffentlichen Sektor unglaublich groß und deswegen, ja, wäre es schade, wenn dieses Potenzial dann nicht auch genützt würde, denn der öffentliche Sektor steht ja gerade aus verschiedenen Richtungen unter Druck. Unter anderem, dass viele Mitarbeitende kurz vor der Rente stehen, also Mitarbeitende auch wegfallen. Das ist einfach auch 'n es einfach auch 'n großes Arbeitsaufkommen, gerade in speziellen Bereichen, gibt, wo dann wirklich die Bearbeitungszeiten teilweise sehr lang sind, weil die Mitarbeitenden hier überlastet sind. Und deshalb ist es sinnvoll, da generative KI einzusetzen. Und wenn man Kompetenzen dabei direkt mitdenkt, wenn ich eine Lösung für generative KI einführe, dass ich die Mitarbeitenden und deren Kompetenzen und Schulungen direkt mitdenke, die Mitarbeitenden mitnehme, dann schaffe ich auf Seiten der Mitarbeitenden einfach auch diese Sicherheit, dass sie das anwenden dürfen und wie und dass sie es auch können. Und das ist was ganz anderes als das, was wir am Anfang diskutiert haben. Ich sag einfach mal, hier ist eine Lösung und guckt guckt doch einfach mal, was ihr damit anfangen könnt. Ja. Das kann das kann zum Teil auch sinnvoll sein. Man schmeißt sone Lösung einfach mal in eine Organisation rein und sagt, probiert doch mal aus und und guckt mal, wo's nützlich sein kann und was passiert damit. Dann gibt's vielleicht einige, die darauf tatsächlich auch anspringen und genau, dann kann kann das vielleicht Probleme verursachen, wenn Unternehmensinterner hinterher in ja in irgendwelchen irgendwelchen öffentlichen Servern dann landen und auf der anderen Seite hat man natürlich die Mitarbeitenden, die dann Angst haben, was falsch zu machen und dann gar nicht damit damit arbeiten. Und dem kann man entgegenwirken, indem man einfach ganz feste Guidelines quasi schafft und eben son Kompetenz Framework mitdenkt und entwickelt und dadurch den Mitarbeitenden einfach eine Hilfestellung und Sicherheit an die Hand gibt. Wobei, was ich sagen wollte, so kleine Experimentierräume auch total sinnvoll sein können, einfach mal zu gucken, jetzt hab ich eine Lösung, aber vielleicht fällt mir ja dann ein, ach, bei meiner täglichen Arbeit in dem und dem Bereich könnte sowas vielleicht auch ganz sinnvoll sein, ne? Und und kann ich das mal ausprobieren und und wie kann ich das dann gestalten? Aber erst mal Sicherheit zu schaffen, nicht nur für die Mitarbeitenden, auch für das Unternehmen, dass ich da nicht in datenschutzrechtlich oder in anderer Hinsicht
in irgendwelche Schwierigkeiten hineinlaufe. Ja, also son Rausholen aus der Grauzone. Aber es ist schön, dass Du auch noch mal gesagt hast, wo wirklich die Chancen liegen, weil wir ja jetzt sehr gekommen sind von den Risiken, auch von den juristischen regulatorischen Risiken und es gibt aber eben auch gewaltige Chancen. Welche Einsatzfelder kann man denn da unterscheiden? Also ihr nennt ja in dem Kompetenz Framework 3 Stück, Textgenerierung und Kommunikation ist 1 davon, dann Wissensmanagement und Informationserschließung und Interaktion mit Bürger*innen und Fallbearbeitung. Könntet ihr das noch mal aufschlüsseln, dass man sich auch wirklich was drunter vorstellen kann? Also was für Anwendungen sind denn da denkbar? Oder sind vielleicht auch existieren schon, ne? Es gibt ja auch schon Dinge.
Genau, also bei der Informations, also wie Nicole vorhin schon gesagt hat, das geht eigentlich grundsätzlich oder son bisschen macht der der der Anwendungsfalltext in der Verwaltung natürlich aktuell am meisten Sinn, weil das einfach die größte Menge an Daten sind, die in Verwaltungen verwendet werden. Wie Du grade gesagt hast, zur Informationserschließung und fürs Wissensmanagement gibt's eben die Möglichkeit, aus Dokumenten, die erst mal als Textdokument per se, so dann spricht da von unstrukturierten Daten, die erst mal unstrukturiert sind, quasi strukturierte Daten rauszuziehen. Also gewisse Informationen, die in einem Fließtext, sag ich mal, beispielsweise vorhanden sind mithilfe von generativen KI Modellen,
diese Informationen zu extrahieren und dann in weitere Prozess oder für weitere Entscheidungs- oder Prozessschritte verfügbar zu machen. Das ist quasi die Information so. Ist da son Beispiel dafür? Noch son bisschen theoretisch. Also ich glaube, gibt's nicht in Berlin irgendwie was, was dann aus den parlamentarischen Anfragen
Genau, das wär Modul für parlamentarische Anfragen gibt's in Berlin, ne? Genau, das ist sozusagen sone Mischung zwischen Chatbot und Informationserschließung. Öffentlich verfügbares Beispiel sogar, da kann man als Bürger, Bürgerin in Berlin einfach mal schauen, was die in in Berlin, Moment, ich muss mal ganz kurz gucken, das geht quasi Parlava dieses, genau. Und da geht's vor allem die Hauptausschussvorgänge der Wahlperiode. Also quasi im Prinzip geht's geht's darum, als Bürgerin in Berlin mal zu gucken, was mein Abgeordnetenhaus so entschieden hat. Und dafür wurde 'n Chatbot entwickelt, der dann auf die jeweiligen Ausschussvorgänge dieser Wahlperiode zugreifen kann und dann die Fragen der Bürgerinnen, der Bürger, zum Beispiel, was wurde in Sachen Wohnraum oder in Sachen
Parkplätze.
Parkplätze oder was auch immer So, ja. Genau von Berlin beschlossen. Und dann antwortet der Chatbot auf Basis dieser Daten. Das heißt, er anders als jetzt vielleicht andere öffentliche verfügbare Chatbots, die nicht auf bestimmte Daten trainiert sind, nutzt er nur die Informationen, die er aus diesen Dokumenten ziehen kann. Okay. Man spricht da von sogenannten Chatbots, also. Das heißt, die ziehen wirklich die Informationen, die sie dann für ihre Antworten nutzen, nur aus einem bestimmten Set an
an an Dokumenten und Informationen. Ich erspare mir das dann eben als Bürgerin, mich durch die ganzen Protokolle zu Wühlen von sämtlichen Ausschusssitzungen und so weiter Genau, krieg. Der erschließt es für mich, ne? Genau und krieg's quasi son bisschen
strukturierter aufbereitet, genau. Aber das, was halt wichtig zu wissen ist, ist, dass generative KI oder die Technologie, die hinter generativer KI steckt, auch über Chatbots, das ist so das klassische Beispiel, das einem immer gleich einfällt, aber es geht auch über Chatbots oder kann auch über Chatbots hinausgehen. Und das war das, was ich vorhin meinte. Also quasi generative KI kann auch helfen, eben trotzdem beispielsweise eine Tabelle aus 'nem Text zu machen, ne. Das war das, was ich vorhin meinte. Und das ist das ist das, was in Verwaltungen und in in Verwaltungsprozessen einfach auch sehr, sehr viel Arbeitserleichterung
schaffen. Ja. Okay. Also sowas wie, gut, ich hab's jetzt mehr 'n literarisches Beispiel, aber man könnte sagen, machen wir mal eine Tabelle auf der Suche nach der verlorenen Zeit. Wie oft kommt das Wort Zeit vor und wie ist der Anteil von weiblichen und männlichen Protagonisten?
So was könnte man machen, ne? Ja oder deutlich auch komplexer, also dadurch, dass die Sprachmodelle ja etwas höheres etwas höheres Sprachverständnis haben oder ein höheres Konzeptverständnis als jetzt klassisches, einfach nur Wörter zählen zum Beispiel Das stimmt, das zu einfach. Kann man quasi auch son bisschen schon mehr Informationen, die man als als Leser als Leserin von 'nem Text quasi durch sich erschließen rausziehen würde, kann man quasi auch schon mithilfe von generativer KI dann rausziehen. Ja.
Genau. Also wir haben jetzt gesprochen über Dinge, die es schon gibt. Mhm. Was könntet ihr euch denn für zukünftige Anwendungsfelder vorstellen, die ihr euch eben vorstellen könnt, weil ihr euch mit dem Thema intensiv befasst habt, aber die sich so jemand in der Behörde, für den ist es vielleicht noch total utopisch, dass so was jemals klappen könnte.
Ja, also das ist, da wird's natürlich dann auch schnell kritisch und auch so, dass man sich als Gesellschaft generell überlegen muss, was wollen wir eigentlich von unserem Staat? Ja, weil nicht als was machbar ist, muss ja auch Genau, genau, weil also da ist grade zum Beispiel die große Diskussion darum, wie inwiefern sollten immer Mitarbeiter, Mitarbeiterinnen der Behörde sozusagen den letzten den die letzte Entscheidung tragen, letztendlich die Entscheidung. Man man spricht davon Human oversite, also quasi menschliche Aufsicht in in solchen KI Prozessen weiterhin behalten. Aber wenn man das jetzt mal auf der beiseitelässt und sagt, es gäbe die Möglichkeit, möglichst fehlerfrei oder möglichst so, dass es möglichst eine geringe Fehlerquote hat, die Prozesse so weitgehend zu automatisieren, dann könnte man ganz utopisch gesprochen davon ausgehen, dass der Großteil der Behördeninteraktionen, die Bürgerinnen haben, theoretisch mithilfe von Chatbots automatisiert werden können, weil es geht größtenteils, wie Nicole gesagt hat, Text oder so Informationsaustausch und da kann eben generative KI
ziemlich viel. Genau, also Text und Daten und wir haben ja auch in dem in der Papier haben wir das auch noch mal ganz klar gemacht, dass wir uns generative KI Systeme angucken, die sone Assistenzfunktion haben oder wo es eine Teilautomatisierung geht. Das heißt, da sind auch immer noch mitarbeitende Menschen beteiligt, das nennt man dann Human in the Loop. Also in diesem ganzen Prozess werden zwar Dinge vielleicht vorbereitet, aufbereitet, Texte natürlich können das auch Daten sein, also tatsächlich Zahlen, aber letztlich sind dann sind dann doch immer Mitarbeitende beteiligt und die treffen die Entscheidung, sind dann doch immer Mitarbeitende beteiligt und die treffen die Entscheidung. Aber klar, gerade wenn's wenn's Prozesse geht, wo beispielsweise Bürgerinnen und Bürger einen Anspruch haben, wo sie und wenn man dann noch weiterdenkt, das ist ja schon fast utopisch, wenn wir dann die Registermodernisierung geschafft haben, tatsächlich die Register verknüpft sind und man darauf auch zugreifen kann, dann könnte man sich ja schon denken, keine Ahnung, Elterngeld, dass ich da vielleicht ja doch, muss ich noch sagen, wie lange möchte ich in Elternzeit gehen, aber alles andere, was habe ich denn überhaupt für Ansprüche und was habe ich denn überhaupt verdient, das könnte ja dann alles automatisch passieren und dann könnte ich ja auch von generativer KI einen netten formulierten Bescheid erhalten, dass ich dann 'n Anspruch auf Elterngeld habe.
Ja, das hat mir auch eine eigene Folge dazu, wollte ich an der Stelle Genau. Ergänzen zur Automatisierung von Verwaltungsverfahren und in Österreich wird es schon gemacht, also bei dem Kindergeld, glaube ich, Kindergeld ist, genau, die machen das schon. Also soweit denke ich es nicht und wir haben eine ganze Folge dazu, kann man nachhören.
Genau. Genau und wenn ich da kurz noch ergänzen darf, Nicole, ich glaub, der große Vorteil von generativer KI versus, sagen wir mal, klassischer Automatisierung mithilfe von beispielsweise Eingabeformularen et cetera, die Bürgerinnen ausfüllen müssen, liegt natürlich darin, dass generative KI natürlich sprachlich mit den Bürgerinnen interagieren kann. Und idealerweise, das da gibt's auch schon Beispiele dafür, dass die generative KI, nachdem wie gut das zugrunde liegende Sprachmodell ist, sich auch sprachlich so anpassen kann, dass es für die Bürgerinnen und Bürger einfacher wird, die Behörden Fachsprache, sag ich mal, zu verstehen und auch dann wirklich da vielleicht zu kommunizieren, was tatsächlich die Bedarfe sind. Und damit auch zu 'ner leichteren Verständigung zwischen, sag ich mal, Behördensprech und Bürgerinnensprech.
Also son Thema bei jeder Freiheit, ja. Nicht nur auch Fremdsprache.
Auch fremdsprachlich, also auch Übersetzung ist natürlich auch 'n super Anwendungsfall für generative KI und genau, wenn ich den Deutschen vielleicht nicht so mächtig bin, ist das natürlich auch toll, wenn dann dadurch noch mal Hürden abgebaut werden können im Behördenkontakt Und dieses, dass ich natürlich sprachlich damit interagieren kann, ist natürlich auch für die Verwaltungsmitarbeitenden ganz relevant. Also damit umziehen zu können mit diesen Tools, muss ich eben nicht in der Lage sein, zu programmieren,
sondern ich kann halt einfach natürlich sprachlich irgendwelche Eingaben machen, Fragen stellen et cetera. Ihr zitiert in eurer Veröffentlichung auch eine Unternehmensbefragung vom Statistischen Bundesamt. Da wird fehlendes Wissen mit 71 Prozent als Topgrund dafür genannt, warum KI in Unternehmen nicht genutzt wird. Das ist jetzt eine Untersuchung, die bezieht sich wie gesagt auf Unternehmen. Wenn ihr jetzt schätzen müsstet, wie ist es denn bei der Verwaltung? Ist da der Prozentsatz für vielen das Wissen ähnlich hoch? Ich glaub ja, das lässt sich auf die Verwaltung übertragen,
weil das ist das, was natürlich bei dem, was wir grade, was immer son bisschen durch durchgeklungen ist in dem ganzen Gespräch bis jetzt auch, dass die Verantwortung und das Risiko, das natürlich in der Verwaltung besteht, wenn man solche Systeme einsetzt, über Bürgerbefinden irgendwie zu entscheiden beispielsweise, ist natürlich gegebenenfalls noch mal höher als im Privatsektor, ne. Im Privatsektor geht's quasi auch darum, Datenschutz einzuhalten und so weiter. Aber aber der Rechtsanspruch, dem ein Bürger gegenüber dem Staat hat, ist natürlich 'n ganz anderer und noch mal viel umfänglicher als der, den ein ein Kunde, eine Kundin gegenüber einem Unternehmen hat. Deswegen glaub ich sogar, dass die Zahlen im öffentlichen Sektor vielleicht sogar eher in der Richtung, also eher höher liegen. Ja, weil man auch mehr Wissen braucht sozusagen. Deswegen Weil man mehr Wissen braucht und mehr mehr Unsicherheit hat und mehr sichergehen muss, dass das auch wirklich alles korrekt und nach rechtlichen Vorschriften funktioniert. Und da werden wir wahrscheinlich jetzt dann gleich noch drauf eingehen. Das kommt halt braucht nicht nur Wissen bei den Nutzerinnen, sondern eben auch bei den Techniker Technikerinnen und bei den Entscheiderinnen. Ja. Und ihr habt's ja also Kompetenz Framework genannt und nicht Wissens Framework.
Mhm. Also dieser Kompetenzbegriff ist ja mehr, als was man sich jetzt so unmittelbar vorstellt und was man vielleicht in Fortbildungen vermitteln könnte. Es ist eben mehr als Wissen,
ne? Genau, also Kompetenz, da orientieren wir uns an der OECD. Da wird eigentlich gesagt, Kompetenz ermöglicht es, eine Aufgabe oder Aktivität in einem spezifischen Kontext erfolgreich zu erledigen. Also es geht quasi einen konkreten Nutzen 1 Kompetenz für eine bestimmte Aufgabe. Und was das aber bedeutet, ist, dass es eben über das Wissen hinausgeht, weil erfolgreich irgendwas bewältigen zu können, brauch ich nicht nur das Wissen, sondern ich muss es auch dieses Wissen auch anwenden können und ich brauch und das ist auch im im Kontext von generativer KI sehr wichtig, das Mindset dahinter, also die Haltung, beispielsweise offen, aber kritisch mit solchen Systemen umgehen zu können.
Okay, dann Das heißt, das könnte auch total individuell und charakterabhängig auch sein, oder? Also je nachdem, welcher Mensch da vor einem sitzt, der braucht vielleicht andere Kompetenzfelder, die bei ihm entwickelt werden müssten.
Genau, ja, das kann charakterabhängig sein, wobei da würde ich sagen, grade im im im Bereich von Mindset wird's natürlich dann son bisschen auch schwierig dann zu sagen, so inwiefern können wir das tatsächlich beeinflussen? Wir versuchen in unserem Kompetenz Framework Framework sozusagen den Idealzustand, was wir sehen und was wir auch aus der Literatur gefunden haben, was wichtig ist. Aber individuell können natürlich bestimmte Bereiche unter ausgeprägt sein oder über ausgeprägt sein und die muss man dann entsprechend anpassen. Ja, weil ich kann durch die organisationalen
Regeln, auch durch die Organisationskultur, kann ich natürlich dieses diesen Mindset auch 'n bisschen beeinflussen. Also beim Mindset geht's ja auch beispielsweise Offenheit, Experimentierfreude. Das kann ich ja auch 'n bisschen vorleben und auch psychologische Sicherheit schaffen beispielsweise, damit meine Mitarbeitenden dann auch in der Lage sind, vielleicht diese Experimentierfreude auch auszuleben. Auf der anderen Seite kann ich durch die Organisationskultur auch eher dazu beitragen, dass eben vielleicht keine so große Offenheit herrscht. Also ich kann Es ist natürlich schon auch definitiv individuell beeinflusst, aber durch die organisationalen Regeln und die Organisationskultur, also wie's dann gelebt wird, kann man das durchaus beeinflussen.
Ja, okay. Jetzt ist ja Kompetenzerwerb nichts Neues, ne? Wir leben in 1 Welt des lebenslangen Lernens. Mitarbeitende haben vielleicht gerade gelernt, wie man Dinge in die Cloud hochlädt, wie man aus der Cloud arbeitet oder irgendwas. Aber was ist denn grundsätzlich anders an der Einführung der Nutzung von generativer KI im Vergleich zur Einführung, sagen wir mal, jetzt einen neuen Softwarelösung? Es ist ja schon 'n ganz anderer Ansatz, oder?
Ja, generative KI auf Basis von großen Sprachmodellen, die wir sprechen da von offenen Systemen oder die eine offenen Nutzung zulassen, ne, also wo ich quasi theoretisch alles damit machen könnte. Da ist natürlich die nötigen Kompetenzen dafür, dann auch nur diese Systeme dann oder diese Systeme dann entsprechend anzuwenden, deutlich höher als, sag ich mal, in 'ner Software, die mir nur eine Eingabe von bestimmten Informationen ermöglicht und diese auch nur auf eine bestimmte Art verarbeitet.
Mhm. Diese Mensch Maschine Interaktion ist auch irgendwie anders, ne? Ich finde, es fühlt sich anders an, dass man irgendwie nicht so klar ist, okay, bist Du jetzt der Experte, bin ich der Experte? Also irgendwie fühlt sich's 'n bisschen gleichberechtigter an als bei so
Sachen, die so eindeutig einfach Werkzeuge zur Arbeit sind. Genau, also je nachdem, wie frei und offen ich sie nutzen kann, werden dadurch natürlich auch höhere Anforderungen daran gestellt, was ich dann mit den Ergebnissen mache. Also dass ich auch in der Lage bin, diesen Output, den ich dann da habe, Zusammenfassung, Empfehlungen, Klassifizierung, Sonstiges, auch kritisch bewerten zu können und mir auch bewusst zu sein, ja, also auf den ersten Blick kann diese Lösung sehr, sehr viel, aber es gibt halt auch gewisse Grenzen im Umgang mit generativer KI, die mir da bewusst sein müssen. Genau, ich kann das 'n bisschen eingrenzen durch durch solche Rex, wie Max eben schon gesagt hatte, aber dass zum Beispiel es auch sein kann, dass da irgendwas halluziniert wird, was vielleicht sich eigentlich nicht so ergeben hat aus aus den Informationen, die zugrunde lagen. Also dass ich auch in der Lage bin, eben, dass ich die zugrunde lagen. Also dass ich auch in der Lage bin, eben diesen Output damit verantwortungsvoll umzugehen und den auch Und die Qualität einschätzen zu können und auch zu wissen, wie kann ich damit umgehen? Wo muss ich vielleicht genau hingucken und inwieweit kann mir das tatsächlich weiterhelfen? Also, das ist schon eine höhere Anforderung, als wenn ich jetzt ein ein Programm nutze.
Ja und muss vielleicht auch anders vermittelt werden dann letztendlich ins Unternehmen, also in die Behörde rein. Es muss anders vermittelt werden und das muss auch, also darin
liegt dann sozusagen die Kehrseite dieser natürlich sprachlichen Interaktion mit solchen Systemen, weil das natürlich erst mal überzeugend klingt oder überzeugend klingen kann, was da rauskommt. Und das heißt, dass die Mitarbeiterinnen dann nicht der Versuchung verfallen, das dann einfach so direkt zu übernehmen und zu sagen, ja, das wird schon passen, die Maschine hat das so gesagt, sondern dass es eben auch 'n Bewusstsein dafür gibt, wie kommt denn die Maschine überhaupt zu dem Ergebnis und wie hat vielleicht auch das, was ich vorher mit der Maschine besprochen hab in dem gleichen Chat beispielsweise, Einfluss darauf eventuell und hab ich vielleicht die Maschine durch meine Eingaben auch in eine bestimmte Richtung gelenkt oder muss ich sie in eine bestimmte Richtung lenken? Man spricht da dann, es gibt da auch so schon Ansätze, die dann quasi von Metathinking sprechen, also nicht mehr quasi von vom ganz konkreten am Anwendungsfall oder an an der konkreten Fragestellung, sondern eigentlich mehr, wie gehe ich sone Fragestellung ganz generell eigentlich an und wie wie versuche ich in sonem Prozess, vielleicht mit 'ner generativen KI, auf eine Lösung zu kommen? Also es wird quasi die Kompetenzen gehen son Stück weit auf eine höhere Ebene vielleicht sogar. Ja, okay.
Klingt anspruchsvoll. Inwieweit kann denn dieses Kompetenz Framework dabei helfen? Also als ihr das erarbeitet habt, was habt ihr euch da vorgestellt? Für wen kann das hilfreich sein? Wie kann man's nutzen?
Es richtet sich vor allem an die Personen, die damit befasst sind, zu entscheiden, ob und wie KI eingesetzt wird in der Organisation und an die Personen, die eben mit dem Kompetenzaufbau in der Organisation befasst sind, nämlich genau in diesem Zuge dann auch zu überlegen, was für eine Lösung haben wir denn hier? Genau, was hat die beispielsweise für eine Risikoklasse? Was hat die für einen Anwendungsfall? Was soll damit überhaupt gemacht werden können, was vielleicht auch gerade nicht? Und was bedeutet das dann auch im gleichen Schritt für die Kompetenzen für die Mitarbeitenden der Organisation? Also es soll sone Orientierung geben, sone Hilfestellung, dass einfach da sich einen Überblick zu verschaffen und zu überlegen, wie wollen wir es machen? Was braucht es dafür?
Genau, es ist quasi Es geht 'n ganzheitlichen Blick auf dieses Thema. Wenn wir generative KI in der Verwaltung einsetzen wollen, haben wir nämlich eigentlich 2 Stellschrauben, wenn man so sagen will, den effektiven und sicheren Einsatz sicherzustellen. Einerseits die Gestaltung des Systems und andererseits die Anwendung 1 Systems. Und bei der Gestaltung des Systems geht's dann darum, die Entscheiderinnen und die Technikerinnen, die über solche Systeme entscheiden, über den Einsatz entscheiden und den auch dann bereitstellen oder die Systeme implementieren, dass die eben über die ganzen Grenzen, Möglichkeiten Bescheid wissen, wie ich solche Systeme am besten implementieren kann. Und auf der Nutzung des Systems geht's natürlich die Nutzer und die Nutzerinnen, die dann Die auch Bürger*innen sein können am Die auch Bürger*innen sein können, wobei wir da son bisschen mit unserem Kompetenz Framework natürlich uns primär auf die gehöreninternen Mitarbeiterinnen, beispielsweise Fachexpertin, Fachbearbeiterinnen et cetera fokussieren, weil die Bürgerinnen und Bürger, die werden bestimmt auch die die generative KI Kompetenzen sind, auf der Seite auch zu schulen, aber das geht son bisschen über das hinaus, was eine Behörde intern leisten kann, natürlich. Okay.
Das noch mal deutlich zu sagen, es muss nicht in 1 Behörde jeder alles können. Also es müssen nicht alle Beamtinnen im gleichen Maß zur KI Experten werden.
Genau, einfach nur Kompetenzen zu Schulen ganz generell für alle in 1 Organisation macht wenig Sinn, sondern die Kompetenzschulung muss immer mit 1 konkreten Gen KI Lösung einhergehen. Also wir wissen, wir haben eine Anwendung und dann an der Anwendung vermitteln wir An der Anwendung vermitteln, genau. Und da haben wir wir unterscheiden auch noch mal vom über Also es gibt Basiskompetenzen, da sagen wir, okay, das ist das sind quasi Grundverständnis zu generativer KI und Datenverarbeitung und so weiter. Das ist gut, wenn das alle wissen, auch das, was wir anfangs besprochen haben, auch die Potenziale zu sehen in der Organisation, ne. Dafür braucht's gewisse Basiskompetenzen. Die haben wir auch aufgeführt in unserem Framework, aber alles, was über diese Basiskompetenzen hinausgeht, sagen wir, macht nur Sinn, wenn man's mit Blick auf eine spezifische generative KI Lösung schult. Also wenn ich quasi eine Idee hab, wie soll diese wie soll diese Lösung aussehen ungefähr und von wem soll sie genutzt werden? Erst dann macht's Sinn quasi, gezielt zu schulen, weil dann weiß ich, was fürn Freiheitsgrad, also wie offen ist ist das System gestaltet? Was kann der Nutzer, die Nutzerin mit dem System machen? Und weiß auch das Risiko, das quasi in diesem Anwendungskontext
bestehen kann. Mhm. Okay. Kannst Du noch einmal die Basiskenntnisse so ausführen kurz? Also ich nehm an, Datenschutz gehört da dazu, Wissen und Barrierefreiheit, solche Sachen, ne, sind da drin. Also, genau, es geht
primär geht's darum, quasi erst mal digitale Bedienkompetenz, also sich überhaupt mit digitalen Anwendungen zurechtzufinden. Datenkompetenz sind erst mal die ganz grundlegenden Sachen, die unabhängig von generativer KI sind und dann die generativen, KI bezogenen Kompetenzen. Da geht's darum, eben zu wissen, was wofür kann ich generative KI einsetzen und wofür gegebenenfalls nicht? Also von Texterstellung, Bildgenerierung, Übersetzungen, Transkriptionen und so weiter und das Wissen über die Funktionsweise. Also wie wird das eigentlich gemacht? Wie funktioniert son generatives KI System ganz generell? Also jetzt nicht im Detail, sondern einfach nur 'n Grundverständnis davon zu haben, dass der Output eben auf Basis statistischer Kenntnisse sozusagen aus gewissen Trainingsdaten Ja. Erzeugt wird.
Und wenn Du jetzt, mir leuchtet das total ein, dass es Sinn macht, das am praktischen Beispiel dann zu entwickeln, die einzelnen Kompetenzen, aber ist es nicht auch 'n Stück weit sone Henne Ei Geschichte, dass Leute, die ja gar nicht wissen, so richtig, was man damit machen kann, sich dann Sachen ausdenken müssen, mit denen man dann die Kompetenzen schult? Also weißt Du, was ich meine? Also wie kommt man überhaupt die Anwendungen, ne, wenn jetzt Genau, genau, genau. Kompetenzen noch nicht so flächendeckend da sind? Genau, also deswegen sagen wir ja, diese Basiskompetenzen
sind sollen genau diesen diesen diesen Problemen vorbeugen, dass wir quasi sagen, eine dieses gewisse Grundverständnis muss da sein und dann gehen wir quasi von den Basiskompetenzen, die idealerweise möglichst breit geschult werden, eben die Potenziale auch in der Organisation aufzudecken. Mhm. Wenn's dann darüber hinausgeht, geht's dann quasi in die Entscheiderinnenkompetenzen, die dann konkreter wissen, okay, was was sind jetzt beispielsweise die strategischen Voraussetzungen, die Risiken, betriebswirtschaftlichen Gesichtspunkte und so weiter, um's dann auch konkret in Projekten umsetzen zu können. Die Techniker, die dann die technische Seite betreuen und zum Schluss dann auch die Nutzerinnen, die dann quasi diese Systeme anwenden.
Und jetzt mal also von der Idee dieses Kompetenz Frameworks zurück in die Praxis. Also diese Basiskompetenzen, wo ihr sagt, das ist so der erste Schritt und die Grundlage, wie weit ist das denn? Also ist da schon der Lernprozess in Gang gekommen in den Behörden?
Teilweise ja, weil in den Basiskompetenzen stecken natürlich auch Digitalkompetenzen ganz allgemein drin und die werden auch schon vermittelt. Inwiefern generative KI Kompetenzen, also spezifisch auf generative KI und beispielsweise die Nutzungsmöglichkeiten und die Grenzen und so weiter, da ist es vermutlich, wir haben da keine belastbaren Daten, aber vermutlich sehr unterschiedlich. Da gibt's einige Behörden, die da sehr weit sind, die ja auch gewisse Systeme auch schon einsetzen und andere Behörden, die da eben noch ganz am Anfang stehen. Und Max hat es ja gesagt, also Behörden, die
solche Systeme schon einsetzen, müssen eigentlich auch schon weiter vorne sein, was die Kompetenzen angeht, weil die KI Verordnung eben genau auch das festlegt. Also Organisationen, die generative KI einsetzen, müssen auch dafür sorgen, dass die Mitarbeitenden über den entsprechenden Kompetenzbedarf verfügen. Also das ist tatsächlich in der KI Verordnung auch festgelegt.
Und vielleicht, wenn ich auch noch eine Sache kurz ergänzen darf bei dem Thema Schulungen, weil was häufig vorkommt, ist natürlich, dass 'n risikobasierter Schulungsansatz gefahren wird, wo quasi auf die Datenschutz und sonstigen Risiken aufmerksam gemacht wird. Und das ist alles auch gut so und auch wichtig, aber man sollte nicht vergessen, eben auch die Chancen auch entsprechend zu schulen und die Mitarbeiterinnen auch quasi in den die Möglichkeiten von diesen Technologien auch aufzuzeigen und die die positiven Anwendungsfälle auch entsprechend zu schulen. Also nicht nur quasi 'n risikobasierter Ansatz, sondern auch den bisschen mehr ausbalancieren mit 'nem eher chancenbasierten
Ansatz. Ja. Und vielleicht auch geht's Raum, oder? Also ich erinnere mich, als ich das erste Mal versucht hab, zum Beispiel eine Präsentation zu prompten und es hat definitiv viel, viel länger gedauert, als wenn ich das selber gemacht hätte. Also es geht ja auch 'n bisschen dieses, worüber wir hier oft sprechen, so Fehlerfreundlichkeit, Zeit, Raum, ne, das ist ja auch wichtig, wahrscheinlich. Genau, ausprobieren, experimentieren, ja. Ja, okay. Wir haben jetzt grad über die verschiedenen Rollen gesprochen, also dass eben nicht jeder alles wissen muss und dass es gut ist, am konkreten Anwendungsfall zu arbeiten. Jetzt gibt's ja auch verschiedene Systeme und die bringen auch verschiedene Freiheitsgrade mit sich. Max, kannst Du das noch mal erklären? Was ist überhaupt son Freiheitsgrad und warum ist das wichtig, eben auf das System auch noch mal zu gucken, weil das Auswirkungen auf die Kompetenzen hat?
Genau, 'n Freiheitsgrad, den Begriff verwenden wir so, dass wir damit versuchen zum Reisen, wie viel Freiheit ein System den Nutzenden gibt in der Interaktion. Also beispielsweise kann ich frei wählen, was ich diesem System an Informationen reingebe? Kann ich die Funktion frei wählen? Und dann kann man quasi grundsätzlich 3 Systeme, man kann 4 unterscheiden, aber wir machen die 3 Haupt 3 Hauptarten. Einmal quasi eine vorgegebene Nutzung, wo ich quasi weder Input noch Funktion frei wählen kann, eine geführte Nutzung, wo ich den Input zwar frei wählen kann, aber das System beispielsweise eine Übersetzung, die immer einfach nur Deutsch und Englisch übersetzt, da kann ich zwar den Input, den Text, den ich reingebe, immer anders auswählen, aber im Prinzip die Funktion ist vorgegeben. Und dann letztendlich die offenen Nutzung, das sind quasi klassische, was wir jetzt heute unter Chatbots, also große Sprach unter großen Chatbots, die auf großen Sprachmodellen basieren, verstehen. Da kann ich sowohl frei wählen, was ich dem System an Informationen reingebe, als auch welche, was ich mit diesen Informationen machen will, ne, und und welche welche Funktion ich quasi von dem System haben möchte. Und je nachdem, wie dieser Freiheitsgrad ausgestaltet ist, also ob er quasi den Nutzerinnen eine höhere Freiheit gibt bei 'ner offenen Nutzung oder eine ganz geringe Freiheit bei 'ner vorgegebenen oder sehr geführten Nutzung oder geführten Nutzung, verschieben sich die Kompetenzanforderungen. Also 'n 'n Nutzer muss natürlich mehr Kompetenzen haben bei Systemen, die komplett offen gestaltet sind und weniger, wenn diese Systeme eine vorgegebene oder eine geführte Nutzung haben. In dem Fall ist es aber wichtig, dass dieses System die die die die Kompetenzen, die dann nicht bei den Nutzerinnen liegen müssen zwangsläufig, die müssen ja irgendwo anders liegen, weil das System muss ja trotzdem sozusagen wissen, was es was es was es tun darf, was es tun kann und so weiter und was es tun soll. Und die Kompetenzen, die dafür nötig sind, das zu entscheiden, müssen dann eben nicht bei den Nutzerinnen liegen, sondern bei den Technikerinnen und bei den Entscheiderinnen. Ja, bei den beiden Ebenen drüber sozusagen, ne, würde man sagen Genau. Oder die, die vorherkommen. Wie vorher, genau. Ja. Genau. Okay. Das Also bei der das da das hatte ich ja vorhin auch schon, glaub ich, versucht, so kurz anzureißen bei der Gestaltung des Systems, ne. Also diese 2 Stellschrauben, einmal Gestaltung des System, einmal Nutzung des Systems. Und wenn ich die Kompetenzen eben bei der Nutzung des Systems möglichst gering halten will, brauche ich entsprechend höhere Kompetenzen bei der Gestaltung des Systems. Genau und was da noch einen Einfluss auf den jeweiligen Kompetenzbedarf
hat, ist die Risikoklasse. Die haben wir eben auch einmal ganz kurz angesprochen, weil je höher die entsprechende Risikoklasse, desto größer sind auch die Anforderungen, die sich aus der europäischen KI Verordnung ergeben, beispielsweise in Bezug auf Haftung oder auch auf menschlicher Aufsicht und das heißt, diese systemspezifischen Kompetenzen, das sind dann Kompetenzen im Bereich Ethik, Recht und Standards, also Rechtsvorschriften, technische Normen, Datenschutz, aber beispielsweise auch Nachhaltigkeit und auch die Fachkompetenz. Da steigen die Anforderungen, je höher die Risikoklasse und das betrifft dann die systemspezifischen Komponenten, also die, die ich gerade genannt habe, für die jeweiligen Rollen, also für Nutzerinnen, Entscheiderinnen und Technikerinnen.
Ja und dafür ist eben das Kompetenz Framework sehr nützlich, weil man dann einfach mal diese ganzen Variablen so aufgeschlüsselt sieht, ne? Was sind alles Einflussfaktoren
auf welche Kompetenzen brauche ich? Genau, man weiß einfach, was muss ich im Blick behalten? Was muss ich mir bewusst machen, wenn ich eben überlege generativer KI einzuführen?
Wir sind jetzt schon ziemlich am Ende der Folge und ich wollte dich aber noch mal ganz konkret fragen. Also für alle Leute, die jetzt Lust haben, loszulegen mit diesem Kompetenz Framework und ansetzen wollen, da wo wir gesagt haben, dass man eben ansetzen sollte bei den Basiskompetenzen. Wie bringt man das denn in Gang?
Na, das Allerwichtigste beim In Gangbringen ist, dass die Schwelle zum In Gangbringen möglichst niedrig ist. Das bedeutet, Angebote schaffen in der Organisation, sich sehr einfach mit diesen mit dem mit mit dieser Technologie auseinanderzusetzen. Also entweder durch beispielsweise eine Kaffeepause, durch 'n ein Mittagessen, wo diese Systeme eben nebenbei mal erklärt werden und die die Möglichkeiten und und Risiken bei der Nutzung aufgezeigt werden. Also das heißt, möglichst möglichst niedrigschwellig Also nicht gleich son fünftägiges Seminar ansetzen, sondern Genau, nicht gleich Nein, klar. Mit dem mit dem mit der Kanone auch Spatzen schießen, sondern da geht's erst mal darum, wie der Name sagt, die ganz grundlegenden Basis möglichst breit zu verankern. Und natürlich ist es da dann die Frage, inwiefern kann man so was verpflichtend machen? Idealerweise wär's, dass solche Veranstaltungen verpflichtend sind, eben sicherzustellen, dass möglichst alle und nicht nur die, die die Lust haben oder die die sich dafür interessieren bei solchen Veranstaltungen dabei sind, also quasi auch remote. Also es gibt ja auch ganz viele wunderbare Onlinematerialien
schon Ja, also man muss nicht das Rad neu erfinden. Es gibt Dinge, die sind schon da, ne? Könnt ihr da irgendwas empfehlen?
Genau, also es geht ja erst mal darum, bei den Basiskompetenzen auch son bisschen die Denkräume aufzumachen und erst mal den Blick son bisschen zu weiten dafür, was was ist auch generative KI, nicht nur, aber auch das und überhaupt, wo könnte ich die vielleicht überhaupt in meiner Organisation, in meiner alltäglichen Arbeit einsetzen und das eben möglichst niedrigschwellig und möglichst nutzer*innenzentriert zu gestalten, also vielleicht auch so verschiedene Learning Nuggets anzubieten. Max hat da gerade schon 'n paar genannt, die Datenlabore des Bundes machen da schon relativ viel, die haben dann auch Tutorials, die haben irgendwelche Hilfestellungen oder Leitfäden, die man nutzen kann, sich mal einfach, vielleicht auch nur in 5 Minuten, einfach son bisschen mal damit auseinanderzusetzen und da son bisschen reinzuarbeiten. Und wer schon relativ viel macht, auch für die gesamte Bundesverwaltung beispielsweise, ist das BMZ, also die haben Webinare, wo es verschiedene Datenthemen geht. KI und auch generative KI spielt dann natürlich auch eine Rolle und die steht allen Mitarbeitenden in der Bundesverwaltung stehen die offen und die werden hinterher auch beispielsweise über Youtube bereitgestellt, das heißt auch von anderen Verwaltungsebenen, Länder oder Kommunen oder auch interessierte Bürger*innen können sich diese Tutorials angucken und sich 'n bisschen aufschlauen zu generativer KI.
Mehr Input, mehr Kompetenz zu diesem Thema gibt's online unter öfid Punkt d e mit o e geschrieben. Und nächsten Monat gibt's natürlich wieder eine neue Folge von We Start digital, dann wieder mit meinem Kollegen Philipp 1. Alle unsere früheren Podcasts, zum Beispiel auch den zum Thema Automatisierung des Verwaltungsverfahrens findet ihr auf den gängigen Podcastplattformen, auf Apple Podcasts, auf Spotify und auf vielen weiteren Portalen. Da könnt ihr digital auch abonnieren. Ich bin Franziska Walser, ich danke euch fürs Zuhören. Bis zum nächsten Mal.
