KI im Amt – High Tech mit sensiblen Sozialdaten?

Die öffentliche Verwaltung in Deutschland setzt in zunehmendem Maße algorithmische Entscheidungssysteme ein, die auf Künstlicher Intelligenz (KI) basieren. Die großen Potentiale von KI, die mit der Verwaltung in Verbindung gebracht werden, gehen aber auch mit potentiellen Risiken einher, vor allem im Bereich der Sozialversicherungsbehörden, also zum Beispiel in den Agenturen für Arbeit oder der Rentenversicherung. Das wird Mareike Sirman-Winkler in ihrem Vortrag auf Basis empirischer Fallbeispiele veranschaulichen. Die Einführung von KI im Sozialstaat ist nicht trivial, es gibt eine Reihe von sektorspezifischen Herausforderungen. Welche Rolle spielt beispielsweise die Akzeptanz der Nutzer*innen bei der Einführung solcher Systeme? Zum Schluss wird Mareike noch auf die jüngsten Entwicklungen eingehen und darstellen, vor welche Fragen generative KI (wie ChatGPT) die öffentliche Verwaltung stellt.