International Data Corp. schätzt, dass im Jahr 2022 weltweit 118 Milliarden US-Dollar für den Kauf von Hardware, Software und Datendiensten für künstliche Intelligenz ausgegeben wurden. IDC hat prognostiziert, dass sich diese Zahl bis 2026 auf 300 Milliarden US-Dollar nahezu verdreifachen wird. Die öffentlichen Beschaffungssysteme sind jedoch nicht auf die Herausforderungen bei der Beschaffung von KI-Systemen vorbereitet, die neue Risiken für die Bürger mit sich bringen.

Um dieser Herausforderung zu begegnen, hat die IEEE Standards Association einen bahnbrechenden Standard für die KI-Beschaffung eingeführt. Der Standard, der sich in der Entwicklung befindet, kann Regierungsbehörden dabei helfen, mehr Verantwortung bei der Beschaffung von KI zu übernehmen, die dem öffentlichen Interesse dient.

Regierungen nutzen heute KI und automatisierte Entscheidungssysteme, um von Menschen getroffene Entscheidungen zu unterstützen oder zu ersetzen. Die Urteile der ADM-Systeme können sich auf den Zugang der Bürger zu Bildung, Beschäftigung, Gesundheitsversorgung, Sozialdiensten und mehr auswirken.

Die vielschichtige Komplexität von KI-Systemen und die Datensätze, auf denen sie basieren, stellen für die Beschaffungsverantwortlichen eine Herausforderung dar, da sie die Systeme, die sie kaufen und einsetzen, selten verstehen. Die überwiegende Mehrheit der öffentlichen Beschaffungsmodelle weltweit muss ihre Beschaffungsprozesse und Gesetze noch an die Komplexität der Systeme anpassen.

Um Regierungsbehörden dabei zu unterstützen, die öffentlich genutzte Technologie besser zu verwalten, genehmigte die IEEE Standards Association im Jahr 2021 die Entwicklung eines neuen soziotechnischen Standards, des IEEE P3119 Standard for the Procurement of AI and Automated Decision Systems. Der Standard wurde von den Ergebnissen des Berichts „AI and Procurement: A Primer“ des New York University Center for Responsible AI inspiriert.

Der neue, freiwillige Standard soll dazu beitragen, KI-Beschaffungsansätze durch Due-Diligence-Prozesse zu stärken, um sicherzustellen, dass Agenturen die Arten von KI-Diensten und -Tools, die sie erwerben, kritisch bewerten. Der Standard kann Behörden eine Methode an die Hand geben, um von KI-Anbietern Transparenz über die damit verbundenen Risiken zu verlangen.

IEEE P3119 kann Regierungen auch dabei helfen, ihre Beschaffungsmacht zur Gestaltung des Marktes zu nutzen – was die Nachfrage nach verantwortungsvolleren KI-Lösungen erhöhen könnte.

Eine Anleitung

Der Standard soll Regierungsbehörden dabei helfen, ihre Anforderungen an die KI-Beschaffung zu stärken. Zusätzlich zu den bestehenden Vorschriften bietet es ergänzende Anleitungen, die auf eine Vielzahl von Prozessen angewendet werden können, einschließlich der Vorausschreibung und der Vertragsüberwachung.

Bestehende KI-Beschaffungsrichtlinien wie die des US Government Accountability Office, des Weltwirtschaftsforums und der Ford Foundation decken KI-Kenntnisse, Best Practices und Warnsignale für die Überprüfung von Technologieanbietern ab. Der IEEE P3119-Standard geht noch einen Schritt weiter und bietet beispielsweise Hinweise zur Bestimmung, ob ein Problem eine KI-Lösung erfordert. Es kann auch dabei helfen, die Risikotoleranz einer Agentur zu ermitteln, die Antworten eines Anbieters auf Fragen zu KI zu bewerten, eine kuratierte KI-spezifische Vertragssprache zu empfehlen und eine KI-Lösung anhand mehrerer Kriterien zu bewerten.

IEEE entwickelt derzeit einen solchen KI-Beschaffungsleitfaden, der über Prinzipien und Best Practices hinaus detaillierte Prozessempfehlungen umfasst. IEEE P3119 befasst sich ausdrücklich mit der technischen Komplexität der meisten KI-Modelle und den potenziellen Risiken für die Gesellschaft und berücksichtigt gleichzeitig die Skalierbarkeit der Systeme für den Einsatz in viel größeren Bevölkerungsgruppen.

Die Diskussionen in der Standardarbeitsgruppe konzentrierten sich auf Möglichkeiten zur Identifizierung und Bewertung von KI-Risiken, wie Risiken im Rahmen von Beschaffungsanforderungen gemindert werden können und wie durch KI-spezifische Best Practices für Ausschreibungen und Verträge bei Anbietern Transparenz über die KI-Governance geschaffen werden kann.

Die IEEE P3119-Prozesse sollen bestehende Beschaffungsanforderungen ergänzen und optimieren. Das Hauptziel des Standards besteht darin, Regierungsbehörden und KI-Anbietern Möglichkeiten zu bieten, ihre Beschaffungspraktiken und eingeholten Vorschläge anzupassen, um den Nutzen der KI zu maximieren und gleichzeitig die Risiken zu minimieren.

Der Standard soll Teil der Phase der „Aufforderung zur Einreichung von Vorschlägen“ werden und in Ausschreibungen integriert werden, um die Messlatte für die KI-Beschaffung höher zu legen, sodass das öffentliche Interesse und die Bürgerrechte der Bürger proaktiv geschützt werden.

Die Umsetzung des Standards in die Praxis könnte jedoch für einige Regierungen, die mit historischen Regulierungssystemen und begrenzten institutionellen Kapazitäten zu kämpfen haben, eine Herausforderung darstellen.

In einem zukünftigen Artikel wird die Notwendigkeit beschrieben, den Standard anhand bestehender Vorschriften, sogenannter Regulatory Sandboxes, zu testen.

By rb8jg

Leave a Reply

Your email address will not be published. Required fields are marked *