Künstliche Intelligenz (KI) ist seit über einem Jahr in aller Munde. Doch ist sie eine Chance oder ein Risiko? Wird sie traditionelle Berufe ersetzen und unser Verständnis des öffentlichen Raumes neugestalten? Für das Swiss Center for Augmented Intelligence (SCAI) haben diese jüngsten Entwicklungen das Potenzial, unsere Gesellschaften positiv und nachhaltig zu beeinflussen. Allerdings gibt es keine Garantie. Es ist entscheidend, die menschliche Dimension in die verschiedenen KI-Anwendungen zu integrieren, um sicherzustellen, dass sie wirklich dem Menschen dienen und nicht dessen Wohlergehen bedrohen. Dies ist der Grund für die Augmented Intelligence, die dem SCAI-Projekt zugrunde liegt.
In diesem Artikel – verfasst von Dr. Simon Ruffieux, wissenschaftlicher Mitarbeiter von SCAI – wird beschrieben, wie das im Fall der Stadt von morgen aussehen könnte. Ein weiterer Input des SCAI zu KI in der Stadtentwicklung folgt am 12. Dezember im Rahmen des Events «AI for Purpose: Künstliche Intelligenz und die smarte Stadt». Prof. Dr. Mascha Kurpicz-Briki spricht über Potenziale und Risiken von Sprachmodellen.
Städte: Der Raum des Lebens
Wir gehen gerne davon aus, dass die Stadt von morgen eine intelligente Stadt sein wird – eine Smart City – in der vernetzte Dienstleistungen und Infrastrukturen agil mit den Bedürfnissen der Menschen interagieren. Schon heute sind Systeme zur Entscheidungsunterstützung im Einsatz, die auf künstlicher Intelligenz basieren. Diese Umgebungen sind komplex, realistisch und beinhalten Anwendungskontexte sowie potenzielle Nutzende mit sehr unterschiedlichen Profilen. Die Städte der Zukunft spielen daher eine wichtige Rolle als Lernort für die Entwicklung von nachhaltigen und ethischen KI-gestützten Lösungen und deren praktische Anwendung. Ein solches Umfeld erfordert zudem einen interdisziplinären Ansatz, der es ermöglicht, alle Komponenten dieser komplexen Systeme zu berücksichtigen: Demografie, Stadtplanung, Psychologie, Recht, Ökologie etc.
Das Projekt VeloPredict wurde vom HumanTech-Institut in Zusammenarbeit mit dem Unternehmen Intermobility SA entwickelt. Letztere hat inzwischen mit PubliBike SA fusioniert, um das grösste Bike-Sharing-Netzwerk der Schweiz zu schaffen. Das Projekt ist ein interessantes Beispiel, um die Funktionen, welche die Städte und ihre Dienstleistungen beim Erlernen und Entwickeln von KI-basierten Dienstleistungen haben, aufzuzeigen. Im Rahmen des Projekts wurden Algorithmen entwickelt, die den Bedarf jeder einzelnen Station eines Fahrradnetzes vorhersagen. Ziel ist es, die Wege des Wartungspersonals zu optimieren, welches die Fahrräder zwischen den Stationen verteilen. Dieses Projekt, welches derzeit in mehreren Schweizer Städten eingesetzt wird, erforderte zahlreiche Iterationen, darunter auch Feldtests, bevor es seine aktuelle Version erreichte. Obwohl die Entwicklung des kompletten Systems und die Optimierung der Algorithmen einen bedeutenden Teil der Projektarbeit ausmachte, war die Umsetzung in die Praxis fast ebenso arbeitsintensiv. Die Rahmenbedingungen für die Nutzung des Systems, seine Auswirkungen und die Notwendigkeit, die Mitarbeitenden zu schulen und ihnen beizubringen, einem System zu vertrauen, das oft nur spärliche Erklärungen liefert und manchmal ihren beruflichen Gewohnheiten widerspricht, erforderten viel Experimentierarbeit.
Der öffentliche Sektor: Ein Modell für die Entwicklung bewährter Praktiken
Wenn man den Fokus erweitert, kommt dem öffentlichen Sektor und den Verwaltungen im Allgemeinen eine wichtige Rolle zu, wenn es darum geht, einen gesunden, verantwortungsbewussten und wünschenswerten Einsatz von KI zu erreichen. In den letzten Jahren wurden die verschiedenen Schweizer Behörden dazu angehalten, ihre digitale Transformation zu vollziehen. Dieser „Run“ auf die Digitalisierung geht manchmal mit innovativen Entscheidungen einher, die darauf abzielen, bestimmte Aufgaben zu optimieren, ohne deren Tragweite und die damit verbundenen potenziellen Risiken vollständig zu erfassen. Der von der NGO AlgorithmWatch erstellte Automatisierungsatlas zeigt die zahlreichen Bereiche auf, in denen diese Werkzeuge in der Schweiz eingesetzt werden: Vorhersage der Rückfallquote einer verurteilten Person, die Kreditwürdigkeit einer Person oder auch eine Vorauswahl für eine vakante Stelle mittels Bewerbungsunterlagen. Dies sind nur einige Beispiele von Algorithmen, oftmals auch intransparent, welche als Entscheidungshilfe verwendet werden und Einzelne direkt beeinflussen.
Dieser Atlas veranschaulicht somit den Kern des Problems: Diese Systeme wirken sich auf unsere Grundrechte aus und sind den betroffenen Personen oft unbekannt. Die Verwaltungen haben manchmal selbst Schwierigkeiten, alle Systeme zu identifizieren, welche Entscheidungsalgorithmen beinhalten. Darüber hinaus werden die Verwaltungen mit dem bevorstehenden Inkrafttreten von Gesetzen zur Entwicklung und Nutzung von KI de facto gezwungen sein, sich an die Vorschriften zu halten. Wir halten es daher für äusserst wichtig, dass der öffentliche Sektor so schnell wie möglich damit beginnt, seine Praktiken im Umgang mit KI aufzulisten und zu dokumentieren, sofern dieser Prozess nicht bereits im Gange ist. Es ist auch wichtig, dass unabhängige technische Prüfungen der verwendeten Werkzeuge durchgeführt werden, um ihre Fähigkeiten, aber auch ihre potenziellen Schwächen in Bezug auf Verzerrungen, Wahrheitsgehalt und Nachhaltigkeit, zu beleuchten. Die Förderung dieser Transparenz und eine gründliche Arbeit an einer unabhängigen Bewertung der verwendeten Werkzeuge würde es ermöglichen, ein Beispiel für gute Praktiken bei der Verwendung von KIs zu geben und Standards zu setzen. Diese Prüfungen würden es den Behörden ermöglichen, sich der Schwächen solcher Werkzeuge bewusst zu werden und die Entscheidungen, die aus ihnen hervorgehen, kritisch zu hinterfragen.
SCAI: Unterstützung für die digitale Transformation
In diesem Zusammenhang bietet sich SCAI mit seinem Netzwerk von Expert:innen als Unterstützung für den öffentlichen und politischen Sektor an, um eine sicherere und transparentere digitale Transformation zu erreichen.
Im Rahmen der Veranstaltung «AI for Purpose: Künstliche Intelligenz und die smarte Stadt» wird unsere Kollegin Mascha Kurpicz-Briki, Professorin an der Berner Fachhochschule und Mitglied des wissenschaftlichen Komitees von SCAI, das Potenzial und die Risiken von Sprachmodellen vorstellen, die in unserer Gesellschaft immer wichtiger werden. Es ist wahrscheinlich, dass solche Modelle, zum Beispiel in Form von Chatbots, immer häufiger auch in der Verwaltung eingesetzt werden.
SCAI – Ein Schweizer Kompetenzzentrum für Augemented Intelligence
SCAI – Swiss Center for Augmented Intelligence ist ein nationales Kompetenzzentrum zur Entwicklung und Implementierung von Augmented Intelligence. SCAI ist eine Initiative der Hauptstadtregion Schweiz. SCAI wurde 2023 als Verein gegründet und richtet seine Aktivitäten auf drei strategische Schwerpunkte aus: Ein interdisziplinäres, wissenschaftliches Exzellenzzentrum, eine unabhängige nationale Referenzinstitution zur Augmented Intelligence und ein Pol «Innovation & Partnership» für die gemeinsame Entwicklung von Projekten mit Unternehmen und öffentlicher Hand.
Titelbild: SCAI
