Wir beantragen in die Drucksache 17/2021 folgendes aufzunehmen:
- die Einrichtung eines gelosten Bürger*innenrats zum Thema Ethik in der Forschung zur Künstlichen Intelligenz (KI-Forschung) und deren Anwendung in den unterschiedlichsten gesellschaftlichen Bereichen;
- die Einsetzung eines Fachbeirats bestehend aus Vertreter*innen zivilgesellschaftlicher Organisationen, beteiligter Universitäten und Forschungseinrichtungen, um ethische Fragen, die sich aus der Forschung zu Künstlicher Intelligenz und Anwendung von KI stellen, öffentlich zu diskutieren.
- Die Sitzungen sowohl des Bürger*innen-Rats wie auch des Fachbeirats erfolgen öffentlich, werden live gestreamt und aufgezeichnet, um größtmögliche Transparenz herzustellen.
Begründung:
Mit der Forschung und Anwendung von Künstlicher Intelligenz (KI) erfolgen zentrale Weichenstellungen für unser künftiges Privat- und Berufsleben, für Wirtschafts- und Finanzhandeln ebenso wie für polizeiliches und militärisches Handeln. Es gibt Erfahrungen, dass von Algorithmen gestützte Prozesse der Entscheidungsfindung soziale Ungleichheit und Diskriminierung verschärfen. So gibt es in den USA bereits krasse Fälle diskriminierender Vorauslese von Bewerberinnen bei Stellenbesetzungen. Viele weitere gesellschaftliche Implikationen sind noch gar nicht absehbar. Es ist unabdingbar, einen breiten gesellschaftlichen Diskurs zu führen und auch Grenzen der KI-Forschung wie Anwendung zu setzen.
Die Öffentlichkeit hätte ein Recht darauf und geradezu auch die Pflicht gehabt, diese Diskussion im Vorfeld des jetzt vorliegenden Beschlusses zu führen. Doch die Beschlussvorlage wurde derart kurzfristig und unter Zeitdruck vorgelegt, dass sich der Eindruck aufdrängt, dass eine öffentliche Diskussion im Vorfeld gar nicht erwünscht war. Die Einsetzung von Bürger*innen-Rat und Fachbeirat hätte also bereits im Vorfeld der Gemeinderatsdrucksache 17/21 stattfinden müssen. Diese Chance besteht jetzt nicht mehr. Damit die Öffentlichkeit die Chance hat, den Prozess zu verfolgen, beantragen wir die Beteiligung zivilgesellschaftlicher Initiativen, Hochschul- und Forschungseinrichtungen über die Institutionalisierung von öffentlich tagendem Bürger*innen-Rat und Fachbeirat. Diese Sitzungen sind live zu streamen und aufzuzeichnen, um ein Minimum an politischer und gesellschaftlicher Kontrolle zu ermöglichen.
Zwar zeigt die betreffende Drucksache, dass auch Ethikeinrichtungen aus der Wissenschaft bei diesem Projekt beteiligt sind – was aber bis heute fehlt, ist eine relevante öffentliche Diskussion über die gesellschaftlichen Folgen zu diesem sehr wichtigen Themenkomplex von Gegenwart und Zukunft. Welche positiven Erwartungen verspricht man sich über Künstliche Intelligenz und welche Folgen drohen, wenn zunehmend Algorithmen über unser Leben bestimmen?
Hier sind zugleich sehr verschiedene Bereiche/Aspekte betroffen, die nur teilweise nach Science Fiction klingen und mehr und mehr in Reichweite geraten:
- Training von Künstlicher Intelligenz (KI): diese erfolgt oft mit großen Datenmengen, die auch personenbezogene Daten enthalten können und damit wichtige Datenschutzfragen aufwerfen. Nur teilweise kann ein solches Vorgehen von Wissenschaftsausnahmen in der Datenschutzgrundverordnung (DS-GVO) gedeckt werden.
- militärische Aspekte: der Trend ist auch international klar erkennbar, dass militärische Systeme immer autarker agieren sollen (v.a. bei Drohnen), wobei KI eine entscheidende Rolle spielt. Zum einen muss der duale Nutzungsaspekt selbst bei formalem Ausschluss militärischer Anwendungen beachtet werden, zum anderen muss einem gefährlichen Eigenleben solcher Systeme ein Riegel vorgeschoben werden.
- auch wenn es noch immer umstritten ist, wie weit sich KI-Systeme überhaupt oder in absehbarer Zeit hinsichtlich Intelligenz entwickeln lassen, gab es doch in jüngerer Zeit bedeutende Fortschritte wie Googles Alpha-Zero, das bei allen Strategiespielen (Schach, Go usw.) für Menschen bereits absolut unschlagbar ist (insbesondere auch für Weltmeister) und völlig selbstständig nur mit den Regeln seine Spielstärke maximiert. Daher muss diese Entwicklung genau im Auge behalten werden.
- sollten sich höhere kognitive Leistungen (vgl. 3.) erreichen lassen, dann eröffnen sich Perspektiven, die letztlich zu einer Art superintelligenten KI mit einem Potenzial wie Skynet in Terminator führen und unmittelbar den Bestand der Menschheit bedrohen können.
- ein älteres, aber immer noch beeindruckendes Beispiel sind die Phalanx-Geschütze an Bord von NATO-Kriegsschiffen. Diese werden als letztes Mittel eingesetzt, um anfliegende Anti-Schiffsraketen im letzten Moment vor dem Einschlag abzuschießen. Weil diese Aufgabe zeitlich und steuerungsseitig Menschen weit überfordert, arbeiten diese vollautomatisch und nehmen daher jedes von ihrer Ortung erfasste Flugobjekt unterschiedslos unter Feuer (also wenn die einsetzende Seite nicht aufpasst, auch eigene Hubschrauber oder Flugzeuge) s.a. https://de.wikipedia.org/wiki/Phalanx_CIWS.
- wie der wissenschaftliche Umweltbeirat der Bundesregierung bereits berichtet hatte, kann eine planlose bzw. unbedachte Entwicklung von Digitalisierungstechniken zu einem dramatischen Anstieg des Energieverbrauchs führen, der ebenfalls bei solchen Entwicklungen zu beachten ist, weil er die Einhaltung ausreichender Klimaziele unterminieren kann.
