Felix Schmitt (00:01)
Die KI übernimmt ab morgen die Verwaltung. Dieser Hoffnung geben sich so manche Politikerinnen und Politiker hin. Klappt aber nicht ganz. Ganz real sind aber die Erfahrungen der Stadt Nettetal, die seit ein paar Jahren nicht nur mit KI experimentieren, sondern echten Fortschritt erzielen. In ehrlicher Handarbeit. Und genau darum geht es heute.

Herzlich willkommen zu Folge 58 meines Podcasts zur kommunalen Digitalisierung. Mein Name ist Felix Schmidt. Ich bin dein Moderator und Begleiter auf dem Weg in die kommunale Digitalisierung.

Von künstlicher Intelligenz versprechen sich viele Menschen eine Lösung für den Fachkräftemangel in der Kommunalverwaltung, für langsame Prozesse und komplizierte Sachverhalte. Das Potenzial zu erkennen, ist einfach, es zu heben, aber ungleich schwieriger, gerade für Kommunalverwaltung. Ich habe mit dem IT-Leiter der Stadt Nettetal aus Nordrhein-Westfalen gesprochen. Torsten Rode hat sich organisatorisch und technisch viele Gedanken gemacht und diese auch erfolgreich umgesetzt.

Vor allem hat er aber die Brille der Bürgerinnen und Bürger aufgezogen und Lösungen live gebracht, die echten Nutzen erzeugen. Was Nettetal gebaut hat, wie sie vorgegangen sind und was sie noch vorhaben, das ist heute Thema in dieser Episode.

Felix Schmitt (01:40)
Hallo Thorsten, ich grüße dich.

Thorsten Rode (01:43)
Felix, alles gut?

Felix Schmitt (01:45)
Ja, und es wird hoffentlich noch besser, denn wir sprechen ja heute über das Thema, was im Moment jede Bürgermeisterin, jeden Bürgermeister auch umtreibt, das Thema künstliche Intelligenz und nicht ohne Grund mit dir aus Nettetal. Thorsten, KI ist ja, wissen wir, das neue Allheilmittel in der Verwaltung, auch in der Kommunalverwaltung. Vor allem soll es ja fehlendes Personal ersetzen.

Hat das bei euch in Nettetal geklappt? Bist du jetzt wirklich ganz allein im Rathaus?

Thorsten Rode (02:21)
Ich bin zumindest ganz alleine hier im Podcast. Ganz alleine im Rathaus bin ich nicht. Schlussendlich muss man sagen, dass KI definitiv nicht das Allheimittel ist, sondern KI ist ein Baustein von ganz ganz vielen, die wir bei uns einsetzen. Ja, das ist ein ganz ganz spannendes Umfeld und wir sind auch bei uns in Nettetal ein großer Freund davon, KI nur da einzusetzen, wo es wirklich

notwendig ist und wo es wirklich hilft. Dementsprechend hilft es schon dabei, ein bisschen zu entlasten. Dadurch wird aber kein Mitarbeiter irgendwo aus der Verwaltung rausgeschmissen, sondern man muss schon irgendwo sagen, geht es dann irgendwann darum, wenn die Geburtenstaaten-Jahrgänge uns in den nächsten fünf, sechs, sieben Jahren verlassen, dass wir Entscheidungen treffen Stellen vielleicht.

nicht mehr nachzubesetzen, weil wir das Fachpersonal auf dem Markt irgendwo nicht mehr bekommen. Und das ist, glaube ich, der Ansatz, weswegen man sich auch jetzt ganz dringend auf den Weg machen muss, ⁓ alle Möglichkeiten auszuschöpfen, sich darauf vorzubereiten.

Felix Schmitt (03:29)
Viele Verwaltungen stehen ja noch am Anfang dieser Strecke. Also, die müssen sich noch auf den Weg machen oder haben gerade mal so die … Sie sehen nicht die Zielflagge, sondern stehen immer noch ganz am Anfang. Einer winkt und man soll loslaufen. Aber die meisten wissen ja noch gar nicht, welche Richtung. Also, womit sollen sie starten? ihr seid ja schon bisschen früher losgelaufen. Ihr habt euch ja im Prinzip mit Chat-GPT

Thorsten Rode (03:48)
Ahem.

Felix Schmitt (03:58)
Als das erste Large-Language-Model auf den Markt kam und dann ja vor allem auch viele, das private ja auch kennengelernt habt, haben ja sehr schnell und sehr zügig auf den Weg gemacht. Bevor wir da drüber sprechen, was ihr am Anfang gemacht habt, du hast ja ein Thema auch gerade angesprochen, demografischer Wandel, also Herausforderung, wie können wir jetzt eigentlich zukünftig unsere Aufgaben noch erledigen, wenn einfach real Personal fehlt, heute schon und zukünftig immer mehr.

Ihr habt euch, als ihr angefangen habt mit KI auch erstmal zu experimentieren, ja auch da schon mit diesen Herausforderungen herumgeschlagen. Wie ist denn bei euch in Nettetal in der Verwaltung damals die Lage gewesen? War damals das Thema Fachkräftemangel im Bereich der Verwaltung bei den Prozessen, in den Fachverfahren, bei den Sachbearbeitungen, war das damals schon Thema oder?

Ihr habt es antizipiert und ihr wisst, wir müssen uns jetzt darum kümmern.

Thorsten Rode (05:04)
Schlussendlich ist ja gerade dieses Thema Fachkräftemangel, demografischer Wandel mittlerweile kann man es ja schon fast gar nicht mehr hören, weil es ja jahrelang eigentlich schon immer wieder wiederholt wurde und man immer wieder hingegangen ist und darauf hingewiesen hat. Also es schon so, dass es durchaus präsent war. Auf der anderen Seite sind wir bei uns in Netzthal durchaus auch eine Kommune, die proaktiv irgendwo gerne tätig ist und sich aus

Ja, den Dingen, die sich ergeben aus den Dingen, die ja man irgendwo auf Sicht schon erkennen kann, versucht ja nicht nur Probleme zu sehen, sondern auch proaktiv Lösungen zu finden und dementsprechend ja, was so ein bisschen.

Ja, vielleicht beides. Auf der einen Seite war es halt da, auf der anderen Seite sind wir dann halt hingegangen und haben uns auch proaktiv in die Richtung entwickelt und haben geschaut, wie wir KI hier gewinnbringend einsetzen können.

Felix Schmitt (06:03)
Ich habe gerade schon so bisschen gespoilert. Ihr habt ja im Prinzip mit dem ersten prominenten Large-Language-Model, mit ChatCPT, ja dann ja auch angefangen in der Verwaltung auch zu experimentieren. Und eines der ersten Ergebnisse war ja dann im Prinzip ein externer Chatbot, mit dem ihr dann auch nach außen den Bürgerinnen und Bürgern so ein bisschen gezeigt habt, was in NetTotal schon geht. Was habt ihr denn damals auf die Beine gestellt? Und wann genau war das?

Thorsten Rode (06:32)
Also

schlussendlich ist es so, dass ChatGPT Jahr 2022 zum Jahresende irgendwann rausgekommen ist. Und das war gerade so die Phase, wo wir unsere Webseite auch tutti komplett neu gestaltet haben. Da ist dann in dieser Phase dieser Neugestaltung ein Startup auf uns zugekommen und hat gesagt, wir haben hier so einen coolen Chatbot entwickelt, der ist komplett generative KI. Wollte euch den nicht mal anschauen.

Das Thema Chatbot war bei uns sowieso schon grundsätzlich positiv belegt und wir haben gesagt, ja klar schauen wir uns an. Und diese Startup ist dann mehr oder weniger gekommen und wir haben eine Videokonferenz gemacht, haben gedacht, die kommen jetzt hier mit einer Powerpoint-Präsentation und schlussendlich war es dann so, dass die sich ganz kurz vorgestellt haben und gesagt haben, hier ist euer Gen.ai Chatbot, wir haben den auf eurer Webseite angelernt, probiert ihn aus. Dann haben wir uns alle angeguckt

und haben den ausprobiert und haben direkt sofort erkannt, was für ein riesen Potenzial da drin steckt, wenn wir dieses Ding sowohl für unsere Bürger als auch für uns irgendwo ein Stück weit einsetzen. Und das passt da eigentlich auch genau in dieses Projekt rein. Denn unsere Webseite haben wir damals so oder so schon zumindest so konzipiert und angefangen, dass wir gesagt haben, wir wollen den Bürger in den

Fokus rücken, ins Zentrum rücken und wollen möglichst gut das Angebot für den Bürger schaffen. Und da passte dieser Chatbot einfach super toll rein, weil der die Fragen relativ einfach und sprachlich sauber, super gut aufbereitet hat und ganz schnell die Informationen geliefert hat, die man eigentlich sonst innerhalb von so einer Webseite relativ lange auch sucht. Und das war eins von den Dingen, wo wir sofort überzeugt waren und wir sind in 2023 einer der

aller ersten Städte in Deutschland gewesen, … die überhaupt auf einen reinen Gen.ai-Chatbot gesetzt haben. Dann von einem Start-up, … was auch null Kunden vorher hatte. Wir waren der erste Kunde, wir sind Referenzkunde und wir haben gesagt, wir gehen da auch wirklich all in. Ist auch nicht so normal an der Stelle, … aber das zeigt auf der anderen Seite auch, wie überzeugend dann das Ergebnis war, was uns da präsentiert wurde.

Felix Schmitt (08:55)
Du hast jetzt ein paar Punkte auch genannt. Hätte ich jetzt bei vielen anderen Verwaltungen, egal Bundes-, Landes-, Kommunalverwaltungen gesagt, da sind ja jetzt so viele Red Flags, das kann man doch eigentlich gar nicht machen. Also Chatbot an sich ist ja ein alter Hut. Gibt’s ja in vielen Verwaltungen schon seit vielen Jahren. Sie sind oft sehr fürchterlich. Und sie können ja im Prinzip das Einzige, können Stichworte erkennen und können dann bestenfalls einen Link irgendwo hin liefern. Generative Chatbots …

sind neu. Und ich glaube, eine der ersten Sachen, die man ja auch sieht, ist erst mal Kontrollverlust. Also die Antworten halt. Das ist egal, was für eine Frage man stellt. Die stellt eine Antwort, die vorher keiner aus der Verwaltung geprüft hat. Kontrollverlust. Das zweite ein Start-up, ohne irgendeinen Kunden vorher gehabt zu haben. Und das Ganze dann auch direkt den Bürgerinnen und Bürgern zur Verfügung gestellt.

Ich kann mir vorstellen, es gibt in Deutschland wahrscheinlich nicht viele Kommunalverwaltungen, die gesagt hätten, okay, das machen wir jetzt mal als Erstes. Wie ist das bei euch dazu gekommen, dass ihr einerseits gesagt habt, okay, wir machen das, und was hatte das auch gerade so in Richtung Politik, Richtung Kommunalpolitik, Verwaltungsleitung? Gab es darüber Diskussionen? Oder haben die gesagt, ey, klar, machen wir, gucken wir mal, was da rumkommt?

Thorsten Rode (10:15)
Ganz ehrlich, ganz viele Diskussionen sind da nicht aufgekommen, denn wir waren mitten im Relaunch. Wir hatten ein Relaunch-Team. In dem Relaunch-Team habe ich auch mitgesessen und wir haben uns das angeschaut und haben gesagt, ja, wir machen das. Also vom Prinzip her hat das Relaunch-Team entschieden, das ist eine super gute Ergänzung. Wir haben es dann einmal dem Bürgermeister vorgelegt, haben gesagt, das und das und das packen wir damit rein. Der hat einmal genickt und dann haben wir gesagt, so, los geht’s. Dann sind wir natürlich noch hingegangen und haben

mit dem Anbieter noch ein paar Verfeinerungen, ein Weiterentwicklungen mit dazu genommen, wo wir dann gesagt haben, das wäre noch schön, wenn das da wäre, so eine direkte Verlinkung, Quellen, woher die Antworten kommen, ⁓ auch zu validieren, ob die auch richtig sind. Und viele solche kleine Feinheiten haben wir dann mit denen noch mal zusammen entwickelt und haben es dann einfach online genommen. Und viele Diskussionen gab es nicht. Alle waren erst mal überrascht.

dass

das Ding wirklich da war und wirklich so richtig tolle Ergebnisse lieferte. Und das ist eigentlich auch das, was wir schon bei den Vorstellungen vorab gesehen haben, dass es da eigentlich überhaupt keinen Vertun gab, das Ding einzusetzen. Das musste eingesetzt werden, weil das einfach ein Riesensprung, das ist auch nochmal ein Riesensprung in Richtung Bürgerfreundlichkeit.

Felix Schmitt (11:41)
Andere, eine andere Red Flag in vielen Verwaltungen auch nochmal beim Thema KI. Wir haben es ganz am Anfang angesprochen, ist ja, was passiert eigentlich, wenn wir KI haben? Also sitzt dann der Thorsten wirklich alleine irgendwann im Rathaus und der Rest ist automatisiert durch die KI. Das sind ja Befürchtungen, die viele Kolleginnen und Kollegen vor allem auf Ebenen der Sachbearbeitung ja nicht nur beim Thema KI haben, sondern ganz generell, wenn es darum geht, Prozesse zu automatisieren, zu digitalisieren.

Dann kriegt man in der Verwaltung auf einmal so einen Weilenstein vor die Nase gesetzt. Auf einmal gibt es da so einen richtig guten Chatbot. Und vielleicht sieht man dann ja auch, was da passt, was für Potenzial auch drinsteckt und was das vielleicht auch für den eigenen Arbeitsplatz bedeutet. Wie seid ihr denn mit den Kolleginnen und Kollegen umgegangen? Habt ihr denen einfach einen Link geschickt und gesagt, hier ist der Chatbot?

Guck mal, was passiert. Oder gab es auch die Möglichkeit, sich selber in der Verwaltung mit dem Thema KI auseinanderzusetzen?

Thorsten Rode (12:45)
zum Anfang, also als wir den Chatbot an sich auf die Webseite gesetzt haben, haben die Mitarbeitenden es natürlich erfahren, bevor es live gesetzt wurde und bevor es an die Presse dann noch rausging. Aber schlussendlich ist es ja im Prinzip ist es ja nur ein Tool, was die Websuche vereinfacht und zwar richtig gut.

Da sind wir jetzt nicht hingegangen und haben zu dem Zeitpunkt schon gesagt, wir müssen jetzt noch jede Möglichkeit eröffnen und so weiter und so fort. Sondern wir haben einfach gesagt, wir machen jetzt einfach, wir gucken einfach was passiert und das war eins von den besten Entscheidungen, die wir damals hätten treffen können. Denn schlussendlich ist der Punkt, wenn da einmal was Neues ist und

Die Leute gehen neugierig drauf, schauen sich das an, sehen selber die Potenziale. Ist das eigentlich eins von den Geschichten, wo man sagen kann, das treibt so eine neue Technik mehr nach vorne, als wenn ich im Vorhinein hingehe und die alles testen lasse und dann fängt intern an so ein bisschen

bisschen Ressentiment sich dagegen zu entwickeln und so weiter und so fort. So war es eigentlich super gut, weil die Leute direkt gesehen haben, das ist live und die auch direkt gesehen haben, welche riesen Potenziale darin sind und dass das Ding eigentlich den Arbeitsalltag auch wesentlich einfacher macht. Denn schlussendlich, was ist passiert, als wir das Ding eingesetzt haben? Wir haben ungefähr und das hält sich bis heute die Waage.

10 Anfragen pro Tag beim Chatbot, die kommen alle nicht mehr in der Verwaltung an. Das sind alles Anfragen, im großen Teil auch nach den Öffnungszeiten der Stadtverwaltungen liegen, also abends auf dem Sofa. Das ist bürgerfreundlich. Und den Leuten wird geholfen und die kriegen eine sehr gute Antwort mit sehr guten Informationen. Und das hilft auch dabei, dass zum Beispiel Anträge oder bestimmte Dinge auch besser bei uns in der Verwaltung ankommen. Also es hat…

verschiedene positive Dinge, dass wir es so gemacht haben, wie wir es gemacht haben und das hat aus meiner Sicht zumindest auch dazu beigetragen, dass das Ding sehr sehr gut eingeschlagen ist bei uns.

Felix Schmitt (15:11)
KI kann man Bereich Bürgerservice einsetzen. Das hast du ja gerade auch beschrieben, auch was für Auswirkungen oder was für Möglichkeiten auch drin stecken. Die meisten Kolleginnen und Kollegen denken bei KI aber eher erst mal an den Einsatz in der Verwaltung, also für interne Prozesse, für die Arbeit an eigenen Vorhaben. Was habt ihr denn den Kolleginnen und Kollegen dort am Anfang zur Verfügung gestellt oder habt ihr das bisher, das Thema KI, wirklich rein nach außen?

betrachtet.

Thorsten Rode (15:42)
Bis zu dem Zeitpunkt, wo der Chatbot da war, haben wir es rein nach außen betrachtet und sind dann hingegangen, weil wir die riesen Potenziale gesehen haben und haben uns eben auch erst mal umgeschaut, wo geht denn sowas überhaupt? Also wo kann man überhaupt schon, bei welcher Stadtverwaltung oder in welcher Region oder wo kann man überhaupt schon intern mit solchen KI-Werkzeugen arbeiten und wo ist es ja so ins rechte Licht gerückt, dass man sagen kann,

Das passiert auch im dienstlichen Kontext und damals war Wien eigentlich der Vorreiter diesbezüglich und wir haben dann Kontakt aufgenommen zum Sintra Wimberger in Wien und haben uns von dem einfach mal zeigen lassen, pass mal auf, was geht denn intern? Ja, also was geht überhaupt intern? Was macht ihr schon intern? Und Wien war damals und ist heute auch eigentlich noch ja die Stadt,

Am weitesten war beim KI-Einsatz und das war eine super tolle Erfahrung und wir sind sowas von dankbar, dass der uns da auf die Reise mitgenommen hat und uns als kleines nettetal das große Wien mal gezeigt hat und mal gezeigt hat wie es dort läuft und was man dort alles schon auf den Weg gebracht hat. Das war eine ganz tolle Geschichte und daraus hat sich dann für uns auch ganz ganz vieles weiterentwickelt.

Felix Schmitt (17:08)
Ihr habt ja dann auch angefangen, die Kolleginnen und Kollegen auch mit Wissen auch zu stärken und habt dann auch eine eigene Plattform für den Einsatz von KI in der Verwaltung auch aufgebaut. Das heißt, Prinzip könnten heute bei euch alle Kolleginnen und Kollegen auch mit eigenen Large Language Models auch arbeiten.

Thorsten Rode (17:33)
Ich sage mal jaein. Also grundsätzlich ist es so, dass wir als erstes hingegangen sind und haben bei uns einen KI-Kompass ins Leben gerufen. Der KI-Kompass ist für uns das Regelwerk, wo eben die wichtigsten Regeln drinstehen. Da haben wir uns auch ganz nah an Wien orientiert. Das, was für Wien gilt mit, ich glaube, 80.000 Mitarbeitenden, kann für eine Stadtverwaltung wie Nettetal mit

400 Mitarbeitenden am PC und 570 Mitarbeitenden insgesamt nicht falsch sein. Wien ist dann relativ… ja relativ… also nicht den typisch deutschen Weg gegangen, wo man sagt, wir brauchen jetzt hier erstmal eine Dienstanweisung, sondern die haben gesagt, wir machen ein Kompass, also eher so ein loses Werk und haben es über die Verwaltung gestöbt und haben gesagt, wir holen das Thema KI erstmal.

aus einem Schattendasein raus und bringen es ins Licht und sagen so hier ist euer Kompass haltet euch an den Kompass und dann könnt ihr nutzen. Das ist das erste was wir auch gemacht haben, wo wir gesagt haben so hier ist euer Kompass haltet euch an den Kompass das könnt ihr gerne nutzen und haben dann gesagt im Internet gibt es den und den Dienst wir haben zum Beispiel was heute auch noch sehr gut funktioniert diesen Duck Duck Go Chat

den Leuten an die Hand gegeben, denen auch mal zu zeigen, es gibt viele verschiedene Modelle auch, es gibt nicht nur Chat-GPT, man kann zwischen den Modellen wechseln und haben das erstmals nicht gerückt und sind dann im zweiten Step hingegangen und haben auch das gemacht, was Wien gemacht hat, aber auf eine andere Art und Weise. Wir haben ein eigenes Portal auf die Beine gestellt. Ich habe einen alten Server bei uns im Serverraum gehabt, den haben wir eigentlich ausgemustert und

Ja, dem haben wir einfach zwei Grafikkarten mal spendiert. Haben gesagt, laufen ist ja kein Problem. Packen wir mal zwei Grafikkarten rein und dann bauen wir mal ein eigenes Portal auf mit eigenen Modellen. Und das haben wir dann, weil wir eben nicht die Möglichkeiten hatten, wie Wien es hatte, die es dann, glaube ich, in der Azure Cloud irgendwo gemacht haben, sondern wir haben es bei uns dann lokal gemacht und haben, ich meine, es waren 16, 17.000 Euro in die Hand genommen und auf Open Source

Basis alles aufgebaut, uns dann da weiter aufzustellen. Sind dann soweit gewesen, dass wir das Ganze für uns im Bereich IT erstmal intern soweit getestet haben, dass wir gesagt haben, wir haben in erstem Grunen einen richtig guten Wurf und sind von da aus hingegangen und haben gesagt, wir suchen erstmal Better Tester innerhalb der Verwaltung, diese Better Tester auszubilden und im Prinzip das Wissen.

aus den Abteilungen zu bekommen, dann auch eine Einschätzung zu bekommen, ist das was wir gemacht haben überhaupt richtig. Ist es genau das was wir innerhalb der Verwaltung brauchen oder ist es das nicht? Wir sind dann hingegangen und haben unsere Beta Tester ein Stück weit geschult und haben die auf die Umgebung losgelassen. Da gibt es auch noch die eine oder andere Verbesserung, die diesbezüglich gekommen ist und wir haben

im Prinzip jetzt ein ganz tolles Open Source Portal mit eigenen Large Language Modellen, das wir nutzen können, wo im Moment ja roundabout 40 Leute, 40, 50 Leute von den 400 drauf arbeiten. Denn wir haben gesagt, auch hier an der Stelle Stopp, denn bei den Beta Testern ist uns was aufgefallen.

Wir haben ein super tolles Regelwerk. Wir haben eine passende Technik. Aber wir müssen die Leute auch richtig ausbilden. Und das haben wir bei den Better-Testern sehr gut gemerkt, dass wir die Leute eben auf verschiedenen Stufen abholen müssen. Das, was wir hier machen mit KI, ist eine Geschichte. Wir führen eine Technik ein. ist, ja ich will nicht sagen, dass das once in a lifetime, aber

Das passiert nur alle vielleicht Jahrzehnte mal, dass man so eine Technik an die Hand bekommt, die man wirklich von neu lernen muss, aber die in der Zukunft so wichtig sein wird, dass man ohne gar nicht mehr geht. vielleicht kann sich der ein oder andere noch erinnern, wie er früher gegoogelt hat oder Sachen. Also heute sagt man ja schon, gegoogelt hat. Ja, aber früher wussten die Leute ja teilweise gar nicht, wie man richtig sucht. Und

Das ist mittlerweile in Fleisch und Blut übergegangen. Das ist jetzt wie viel Jahre her und im Prinzip kann man es damit sehr gut vergleichen. Wir brauchen also das richtige Handwerkzeug, das auch bedienen zu können. Das ist uns relativ schnell klar geworden, dass wir da ganz, ganz viele verschiedene Ebenen von Leuten haben und die Leute dann eben auch den verschiedenen Ebenen auch genau abholen müssen,

das Ganze wirklich in der Verwaltung vernünftig verankern zu können.

Felix Schmitt (22:38)
Du

hast ja gerade Weiterbildung der Kolleginnen und Kollegen ja schon mal angesprochen. Auf der einen Seite gibt es die gesetzliche Anforderung mit dem EU AI Act. Die ist zugegebenermaßen schnell erfüllt. Das ist jetzt nicht so eine ganz große Herausforderung. Aber wenn man mit einer neuen Technologie arbeiten will, so hast du es ja auch gerade gesagt, geht es ja deutlich darüber hinaus.

Ich weiß, jeder, der hier zuhört, weiß ja wahrscheinlich auch, die Kollegen, Kollegen, die in der Verwaltung arbeiten, die wahrscheinlich auch Zielgruppe für solche KI-Lösungen sind, ist ja jetzt nicht so, dass die den ganzen Tag Freizeit hätten. Wie habt ihr die denn motiviert, an so einer Weiterbildung auch teilzunehmen? Und wie habt ihr sie denn organisiert? Was steht denn auch am Ende von so einer Weiterbildung?

Thorsten Rode (23:28)
Schlussendlich ist es so, dass wir, und da knüpfe ich nochmal da an, wo wir vorhin im Prinzip waren, wir haben einmal gesagt, wir machen mal einen Stopp mit unseren Beta-Tester, mit unseren 40, 50 Leuten, weil wir eben genau das organisieren müssen. Und das, was wir da erkannt haben, müssen wir einmal so aufsetzen, dass wir es so in die Verwaltung tragen, dass es nachhaltig ist, dass es vernünftig laufen kann. Das ist das, was jetzt fertig ist. Wir haben bei uns

Wir setzen da auf ja auf einen Methoden-Mix, der so aussieht, dass wir auf der einen Seite natürlich On-Premise-Schulungen haben, beziehungsweise vielleicht auch über Videokonferenzen geht es auch, wo wir das Ganze in einem Schwimmabzeichen-Prinzip den Mitarbeitenden mitgeben, sage ich mal. Man kann sich das, also dieses Schwimmabzeichen ist eins von den Geschichten,

Die zeigt eigentlich ganz gut die Synonyme Schwimmen und KI, wo es darum geht. Es gibt Leute, die können schon schwimmen. Die haben vielleicht auch die Fähigkeiten, ein Bronzerabzeichen zu machen und die muss sich weiterbilden in Richtung Silber. Und es gibt eben Leute, die können noch überhaupt gar nicht schwimmen und die brauchen ein Seepferdchen. Und das Seepferdchen darf eigentlich auch nicht

ja so hoch sein von den Anforderungen, dass ich da irgendwas versperre, sondern das Seepferdchen ist jetzt bei uns der Punkt, wo ich sage jemand, der unseren KI-Kompass, unsere Richtlinien verstanden hat, der bekommt nach einem Multiple Choice Test ein KI-Seepferdchen und wird dann in Zukunft, ich weiß nicht ob wir es ab nächsten Monat dann genau in Kraft setzen.

wir dann in Zukunft die Möglichkeit haben, den bestandenen Seepferdchen auf unsere Umgebung zu kommen und da alle weiteren Möglichkeiten zu bekommen. Dann werden wir in Richtung Bronx weiter ausbilden, wo es vertiefende Kenntnisse gibt, in Richtung KI Silber weiter ausbilden, wo es noch weitere Techniken dann dazu gibt und in Richtung Gold, wo wir dann eigentlich dann auch schon dahingehen, wo wir sagen

Da geht es dann schon fast darum, wie kann ich eigene Arbeitsschritte auch automatisieren und in Richtung Agenten zumindest arbeiten. Das ist das, was wir machen. Hinzu kommt Video Blended Learning. Hinzu kommt, dass wir Wikis aufbauen. Hinzu kommt, dass wir mit News arbeiten und uns auf Internet.

Wir wollen eine Prompt-Bibliothek machen. Wir wollen, was wir auch schon ausprobiert haben, ein Prompt Together wie in Wien, wo einmal im Monat die Leute, die Lust haben, zusammenkommen in einer Videokonferenz, ihre Probleme mitbringen können und man sich gegenseitig helfen kann, ⁓ den besten Prompt zu finden, ein Problem zu lösen, dass man da auch wirklich eine andere Kultur schafft. Insgesamt ein KI-Café soll entstehen.

wo wirklich auch einmal im Monat entweder ich oder mein Kollege uns einfach in den Raum setzen mit drei Karten Kaffee und da kann irgendjemand ganz ungezwungen ohne, ja, ohne irgendeine Anmeldung kommen, sich bei einem Kaffee mit uns hinsetzen und über die Dinge einfach sprechen, weil ich glaube, wir brauchen ganz ganz viele Zugangskanäle, ganz viele Angebote, die man schaffen muss und was wir auch ganz dringend brauchen und das haben wir zum Glück, ein Führungskommitment.

dass die Führungsebene an der Stelle auch sagt, so und dafür müssen eben auch Freiräume da sein. So und nur in so einem Umfeld kann das gelingen und in dem anderen gelingt es eher schwerlich, würde ich sagen.

Felix Schmitt (27:25)
Wir haben jetzt schon viel drüber gesprochen, wie ihr das macht, also wie ihr es eingeführt habt, wie ihr es auch organisiert habt mit eigenen Open-Source-Modellen. Ihr habt aber, glaube ich, ja auch noch ChatGPT optional ja auch noch im Einsatz. Es stellt sich ja auch die Frage, erst mal, wann nutzt man was? Aber bevor wir da drauf kommen, noch eine Frage, vielleicht noch relevanter ist aus meiner Sicht. Neben dem Wie, was macht ihr eigentlich?

mit der KI, also für welche Use Cases setzt ihr denn heute welche Modelle auch ein und wie habt ihr diese Use Cases auch identifiziert in der Verwaltung? Ich nehme an, das war jetzt ja wahrscheinlich kein Rundschreiben, wo jeder was eintragen konnte. Wie habt ihr das gemacht?

Thorsten Rode (28:13)
Schlussendlich ist es so, dass die Leute, die im Moment jetzt damit arbeiten, relativ frei sind, das zu tun. Die meisten benutzen es, um Ideen zu bekommen, um sich schreiben zu verbessern, um Zusammenfassungen von großen Texten oder Dateien zu machen. Wir im Bereich IT benutzen insbesondere die Cloud-Variante, um uns beim Thema Coding

Problemlösungen helfen zu lassen. Es gibt also viele verschiedene Standardanwendungen, da sind. Die Benutzenden sind eigentlich diejenigen, die am besten wissen, was sie für Probleme haben, was sie für Pain Points haben und wie sie die am besten erkennen. Und der Punkt ist, wie bekommt man die dazu, dass es bei denen Klick macht und die wirklich auch erkennen können. Das ist eins von den Dingen, das ist eine repetitive Tätigkeit. Da kann mir

KI an der Stelle in dieser Art und Weise helfen und das auch umsetzen. Und das ist eben der Punkt, wo es dann im nächsten Step drauf ankommt. Wir haben jetzt ja die nächste Stufe gezündet vom EU-EAEG. Wir müssen ja eigentlich unsere ganzen KI-Systeme ja zumindest mal katalogisieren. Wir müssen die

Wir müssen hingehen und die in Klassen einteilen und so weiter und so fort und das ist der Punkt wo es nachher wieder zusammengeführt wird, wo wir dann sagen wenn du echte Anwendungsfälle hast dann müssen wir die ja auch wieder kategorisieren und katalogisieren und da bekommen wir eigentlich ganz genau wieder hin das was der Benutzer auf der einen Seite macht wieder zusammenzuführen mit dem

was in der Gesamtorganisation eigentlich passiert. Und das ist ein sehr, schönes Werkzeug, es zu machen. dafür kann man, also man kann über den EU-RI ganz, ganz viel schimpfen und man kann sagen, alles Mist und so weiter. Viele Dinge, die da drin stehen, haben aber auch schon Sinn. Und ich glaube, dass das, was da jetzt als nächste Stufe gekommen ist, eigentlich auch wirklich super sinnvoll ist. Denn es geht dann und das muss man sich auch mal

grundsätzlich bedenken, auch darum, dass wir den Leuten ein Werkzeug an die Hand geben, mit dem die Dinge erledigen können. Das muss doch aber auch so gestaltet sein, dass A, immer das gleiche oder bestenfalls immer das gleiche oder richtige Ergebnis rauskommt. Und was passiert, wenn das Ding auf einmal kaputt ist? Wenn ich auf einmal irgendein anderes Modell benutze und das funktioniert nicht mehr?

oder ich tausche eine andere Komponente aus, dann brauche ich spätestens Leute, die genau wissen, was zu tun ist und auch genau wissen, wie die Dinge konzipiert sind, nämlich wahrscheinlich erfahrene IT-Leute, die das Ganze dann auch nochmal so fixen können, damit die Leute wieder vernünftig arbeiten können. Je schneller wir in den Bereich reinkommen, dass wir ohne KI nicht mehr arbeiten können, desto mehr brauchen wir auch.

Ich will nicht sagen die Kontrolle darüber, aber zumindest auch das Wissen darüber im Bereich von IT oder wo auch immer, wie wir dann Probleme lösen, wenn sie auftauchen. Und dieser Katalog, den wir da erstellen, ist eigentlich genau das Werkzeug, was wir brauchen, anhand an dem wir vernünftig dokumentieren können, an dem wir vernünftig arbeiten können.

Das ist eigentlich das Instrument, es dann nachher darum geht.

Felix Schmitt (32:05)
Du hattest ganz am Anfang ja auch schon mal die KI-Agents oder mögliche KI-Agents ja auch angesprochen. Das ist ja im Prinzip genau der Schritt, von dem du jetzt gesagt hast, da müssen wir uns organisatorisch, müssen wir uns technisch darauf vorbereiten. Denn wenn die mal laufen, wenn sie zuverlässig sind und dann gehen sie kaputt oder irgendwas funktioniert nicht mehr, dann hat man ein Problem. Wie bereitet ihr euch

auf diesen Wandel hinvor, dass ihr in der Lage seid, erstens solche Agents auch anzulegen. Denn auch das erfordert ja erst mal sowohl ein technisches Wissen, aber eben ja auch vor allem ein prozessuales Wissen. Also das können ja eigentlich nur die Sachbearbeitung selber auch beantworten, wie so ein Agent funktionieren soll. Wie bereitet ihr euch da drauf vor? Oder steht das noch so ein Stück weit auch in der Zukunft, eure Arbeit?

Thorsten Rode (33:03)
Es steht auf der einen Seite ein Stück weit in der Zukunft. der anderen Seite haben wir sowas erstellt wie eine Prozesslandkarte, die auch gewichtet ist, sodass wir sehen können, was sind eben Prozesse, wo es am meisten Sinn macht, irgendwas zu automatisieren. Auf der anderen Seite ist es dann auch so, dass wir unsere eigenen Mitarbeitenden im Bereich IT Service dann auch so weiterbilden können und müssen, dass eben die Grundsätze von einer

professionellen IT in solchen Agenten schlussendlich auch irgendwo stattfinden muss. Das muss auch angereichert werden für den Bereich KI und da müssen wir unsere IT Leute ausbilden und diese ausgebildeten IT Leute müssen dann mit den Sachbearbeiten zusammen genau solche Agenten entwickeln und live stellen.

die vernünftig dokumentieren. Wir müssen über Rechte und Rollen sprechen, über ganz, ganz viele Dinge, die sehr, wichtig sind, die wir so im normalen IT-Betrieb auch haben. Das geht eigentlich grundsätzlich nur im Zusammenspiel und relativ häufig hört man ja sowas wie Demokratisierung der Arbeit und demnächst kann das alles jeder Sachbearbeitende selber von diesem

Ich sage mal, People Engineering ohne einen erfahrenen IT-Mitarbeitenden daran oder dabei, der das Ganze vernünftig aufsetzt und dokumentiert und im Notfall auch eingreifen kann, wenn es nicht mehr funktioniert, wird das Ganze schlussendlich im professionellen Umfeld vor die Wand laufen. Und das ist ganz wichtig, dass wir auch das so tun und auch unsere eigenen Mitarbeitenden dementsprechend darauf trimmen und schulen.

Felix Schmitt (34:59)
Dann lass uns vielleicht noch einmal zum Schluss kurz ein einen Blick auch nochmal nach vorne werfen. Ihr habt hier neben dem Chatbot auf der Homepage, inzwischen, oder seid ihr ja dran, noch weitere Anwendungen, KI-Anwendungen zu etablieren, die entweder nach innen oder auch nach außen wirken. Ja, auch auf der Homepage habe ich mitbekommen.

Was habt ihr denn jetzt noch umgesetzt, was man entweder in der Verwaltung oder nach draußen sehen kann oder wo du sagst, ja, das kriegt man jetzt relativ schnell auch mit, dass wir hier mit KI etwas verändern, was auch eine Auswirkung auf den Alltag hat.

Thorsten Rode (35:37)
Das Projekt, ich am meisten stolz darauf bin aus den letzten Monaten ist schlussendlich, dass wir unsere Webseite und danach haben wir ganz ganz lange gesucht per KI und Knopfdruck sofort in einfache Sprache umwandeln können. Heißt, Webseite bei uns, wenn man die aufmacht, jede Unterseite

Unter der Überschrift gibt es immer einen Button, heißt einfache Sprache. Da kann man draufklicken. wenn man da draufklickt, dann geht eine KI hin und erzeugt automatisiert den ganzen Text in einfacher Sprache. Und für mich ist das eins von den Dingen, wo ich sage, das ist absolut demokratierelevant. Wir holen ganz ganz viele Bürgerinnen und Bürger, die verwaltungsdeutsch nicht verstehen.

sehr, nah wieder an uns heran, schließt eine ganz große Lücke, damit die Leute uns auch verstehen. Ich glaube eins von den Dingen, wenn man die Bürgerinnen und Bürger fragt, was sind die top drei Dinge, die dich an Verwaltung nervt, da fällt auch immer wieder Behördendeutsch oder ich verstehe das nicht und das ist eins von den Dingen, wenn …

Bürgerschaft auch wirklich vernünftig partizipieren möchte von den Angeboten von der Stadtverwaltung von dem was eine Stadtverwaltung macht dann muss das auch verstehen und dieses Ich drück mal auf den Knopf und mir wird das einfach erklärt ist eins von den Dingen das kann KI super gut kann KI wirklich super super gut Wir haben immer eine Lösung gesucht wo wir selber keine Schritte noch zusätzlich machen müssen und

Das bringt den Bürger so nah an die Verwaltung ran und an das Verständnis, was Verwaltung macht. Das ist eins von den Projekten, wo ich sage, ja, das muss eigentlich auch Standard werden in Deutschland, ⁓ da in die richtige Richtung unterwegs zu sein. Wir waren jetzt diesmal nicht der erste Kunde, der es live gesetzt hat. Wir waren diesmal der zweite. Es war ganz knapp. Auch da waren wir wieder ganz früh dran. Aber

Das sind Geschichten, da merkt ja auch ein Bürger sofort wofür KI und das merkt er beim Chatbot auch wirklich auch in der Schnittstelle von Kommune oder vom öffentlichen Dienst in Richtung Bürger echt eine ganz tolle Leistung erbringen kann und das nimmt auch bei uns in den Verwaltungen unheimlich viel Arbeit ab.

weil bestimmte Dinge auch nicht mehr so tief erklärt werden müssen, weil man sich vorab sehr gut informieren kann. Und das sind dann so Synergieeffekte, wo diese Technik echt total viel Sinn macht. Dass man so als ein Beispiel wäre. Ich könnte jetzt noch zwei, drei andere nennen, aber das ist für mich wirklich das herausragende Beispiel, wo ich sage, wer dafür keine KI einsetzt, dem kann man leider nicht helfen.

Felix Schmitt (38:48)
Also wir können alles, was man noch sehen kann, in die Show Notes packen. Dann kann man sich das auch noch anschauen. hab zum Ende noch eine Frage. Ihr habt jetzt, oder ich fang mal anders an. glaub, wer sich jeden Tag mit dem Thema Transformation in der Verwaltung beschäftigt, für den ist das Thema KI inzwischen absoluter Alltag geworden. Auf der Ebene Chatchapity, Gemini, Claude oder was auch immer.

Thorsten Rode (38:52)
Ja.

Felix Schmitt (39:14)
Das ist, glaube ich, Neues. Aber man darf sich ja nicht verwechseln damit, dass das in den Verwaltungen an sich nicht der Fall ist. Also da stehen viele ja immer noch am Anfang. Viele kennen es maximal aus ihrem Privatbereich, dass KI auf einmal irgendwas kann, was es vorher so noch nicht gab. Und genau da stehen und da sehen sich ja auch viele Verwaltungen, egal welcher Größenordnung.

Jetzt seid ihr eine der Verwaltungen und du als IT-Leiter ja mit vorne weg, die jetzt bisschen mehr Erfahrung schon haben als andere, was würdest du deiner Verwaltung, die gerade dort steht, die Beschäftigten wissen, da ist was, da kann man was machen, aber wir wissen jetzt auch nicht, womit man anfangen soll. Was würdest du denen raten, wie man davor geht? Kümmert man sich erst die Technik, erst die Use-Cases, erst die Weiterbildung? Wie sollte man davor gehen, damit man auch Ergebnisse erzielen?

Thorsten Rode (40:14)
Das allererstes kümmert man sich die Grundlagen. Das ist genau das, was wir auch gemacht haben und die Grundlage für alles ist erstmal eine Richtlinie und ob diese Richtlinie ein KI-Kompass wie bei uns oder in Wien ist, vollkommen… ist oder ob das jetzt eine Dienstanweisung ist, ist eigentlich vollkommen egal. Das ist der Punkt, an dem ich erstmal KI aus dem Schattendasein heraushole, aus dieser Schatten-KI und die jetzt Licht bringe.

Und dann fängt man ganz einfach an und versucht relativ einfache Lösungen an die Mitarbeitenden zu bringen. Man muss einfach mal machen. Das ist eins von den Dingen, die sind super wichtig. Man muss für die nächsten Jahre auch Haushaltsmittel diesbezüglich einplanen, denn das ist nicht, ja, es ist nicht umsonst. Auch wenn es manchmal so aussieht, das ist eigentlich kein günstiges Geschäft.

Und man fängt am besten einfach mal damit an, die Leute ein bisschen experimentieren zu lassen, ein bisschen vorsichtig zu sein, überall da natürlich, wo keine personenbezogene Daten im Spiel sind und dann von den ersten Erfahrungen zu lernen. Und der letzte Punkt, der dann auch wichtig ist, sich mit Leuten vernetzen. Man ist nie alleine irgendwo auf der Welt.

Man sieht das jetzt auch. Ich bin relativ offen beim Teilen von irgendwelchen Sachen. Vernetzt euch mit den Leuten, setzt euch mit denen in Kontakt, tauscht euch mit denen aus, sagt offen, was funktioniert gut, was funktioniert nicht gut. Und wenn man damit erst mal anfängt, ist man eigentlich sehr, gut auf dem Weg. Der einzige Punkt, der dann auch wirklich wichtig ist, man muss auch wirklich anfangen und nicht einfach nur darüber reden und immer alles kaputt reden, sondern anfangen.

machen und dann läuft das schon irgendwo seinen Weg.

Felix Schmitt (42:09)
Was ich nur empfehlen kann, Thorsten ist auf LinkedIn auch sehr aktiv, sich dort auch mit ihm zu vernetzen. Da teilt er ja auch viel von seinem Wissen, was er heute auch gemacht hat in unserem Podcast. Lieber Thorsten, vielen Dank, dass du da gewesen bist. Ich kann mir sehr gut vorstellen, das waren viele wertvolle Tipps, die Kolleginnen und Kollegen auch sehr dankbar aufgenommen haben. Vielen Dank, dass du dabei gewesen bist. in deinen nächsten Schritten in Nettetal viel Erfolg.

Und ich schon gespannt, wann es dann wirklich so weit ist, dass es dann irgendwann heißt, Thorsten allein zu Hause.

Thorsten Rode (42:45)
Erstmal vielen Dank, dass ich hier sein durfte. Allein zu Hause wird hoffentlich nie vorkommen.

Felix Schmitt (42:55)
So, das war’s für heute. Dank und bis zum nächsten Mal.