Deshalb braucht es eine Mensch-Maschine-Charta

KI beschleunigt die Industrie massiv, doch mit dem Tempo wächst das Risiko unkontrollierter Entscheidungen. Ein neues Gedankenmodell soll diese Lücke schliessen: die Mensch-Maschine-Charta.

Technologische Revolutionen erkennt man selten an der Geschwindigkeit der Maschinen, sondern an der Verantwortung, die sie plötzlich verlangen. KI markiert genau einen solchen Moment. Sie verändert nicht nur, wie Produkte entwickelt werden, sondern auch, wie Entscheidungen entstehen.

Der CEO von Dassault Systèmes, Pascal Daloz, formulierte diese Entwicklung an der 3DExperience World in Houston nüchtern: «AI is not a replacement. It’s a multiplier.» KI ersetzt den Menschen nicht, sie verstärkt seine Fähigkeiten. Doch ein Verstärker kennt keine Moral. Er verstärkt alles: Wissen und Kreativität ebenso wie Irrtümer und blinde Flecken.

Wenn Wissen verschwindet

Parallel zu dieser technologischen Beschleunigung steht die Industrie vor einer anderen Herausforderung: einem strukturellen Wissensverlust. In vielen Branchen verlassen Berufserfahrene die Unternehmen, weil sie in den Ruhestand gehen. Mit ihnen verschwindet nicht nur das Know-how, sondern vor allem das intuitive Verständnis für Zusammenhänge, Risiken und Nebenwirkungen technischer Entscheidungen.

Genau hier soll KI helfen. Virtuelle Companions, Simulationen und generative Systeme können Wissen strukturieren, Muster erkennen und komplexe Zusammenhänge sichtbar machen. Sie können helfen, schneller zu lernen und bessere Entscheidungen zu treffen. Doch gerade diese Beschleunigung verändert das Risiko. Wenn Entscheidungen schneller getroffen werden, wenn Simulationen immer komplexere Systeme steuern und wenn KI Modelle erzeugt, die ganze Entwicklungsprozesse prägen, dann kann ein Fehler plötzlich weitreichende Folgen haben.

Technologie braucht Verantwortung

Technologische Systeme entstehen selten aus böser Absicht. Sie entstehen meist aus hochspezialisierten Teams, die ein konkretes Problem lösen wollen. Doch gerade dabei können blinde Flecken entstehen.

In der Welt der technologischen Visionen gehört Pablo Holman zu jenen Stimmen, die Fortschritt nicht nur als technische, sondern als gesellschaftliche Aufgabe begreifen. Der Entwickler und Zukunftsdenker hat in seiner Arbeit immer wieder betont, dass Innovation mehr ist als die Entwicklung neuer Werkzeuge. Wer Technologien erschafft, gestaltet damit auch die Bedingungen, unter denen Menschen leben, arbeiten und entscheiden.

Wenn KI beginnt, industrielle Prozesse zu beschleunigen, Wissen zu strukturieren und Entscheidungen vorzubereiten, stellt sich deshalb zwangsläufig die Frage nach den Prinzipien, die diese Systeme leiten sollen. Genau hier entsteht der Gedanke einer Mensch-Maschine-Charta.

Empathische KI als Spiegel

In diesem Modell würde KI nicht zum Richter über menschliche Entscheidungen werden. Ihre Aufgabe bestünde darin, mögliche Folgen zu analysieren und auf Risiken hinzuweisen. Denkbar wäre dafür eine empathische KI, die nicht nur auf Daten und Optimierungsalgorithmen trainiert ist, sondern auf Formen emotionaler Intelligenz. Solche Systeme würden lernen, soziale und menschliche Konsequenzen mitzudenken.

Sie könnten erkennen, wenn eine technische Entscheidung unbeabsichtigte Diskriminierung auslöst, gesellschaftliche Ungleichheiten verstärkt oder Risiken für Gesundheit und Lebensqualität entstehen. In solchen Fällen würde die KI nicht entscheiden, sie würde warnen. Damit solche Systeme funktionieren, braucht es Menschen, die sie verstehen, trainieren und begleiten. Die Maschine wird dabei zu einem Werkzeug, das hilft, Entscheidungen aus einer anderen Perspektive zu betrachten.

Gemeinsames Versprechen

Die Mensch-Maschine-Charta ist kein fertiges politisches Programm. Sie ist zunächst nur ein Gedanke. Denn je stärker KI menschliche Fähigkeiten verstärkt, desto grösser wird die Verantwortung für ihre Folgen. Maschinen können schneller rechnen, präziser simulieren und komplexere Systeme analysieren. Aber sie wissen nicht, was ein Mensch als gerecht, würdevoll oder verantwortbar empfindet.

Man wird in einigen Jahrzehnten zurückblicken und feststellen: Die grösste Herausforderung der KI-Revolution bestand nicht darin, Maschinen intelligenter zu machen, sondern sicherzustellen, dass ihre Intelligenz dem Menschen dient. Eine Mensch-Maschine-Charta wäre ein möglicher Anfang. Nicht als Gesetz und auch nicht als technisches Protokoll, sondern als gemeinsames Versprechen von Menschen und Maschinen, dass Fortschritt nur dann Fortschritt ist, wenn er das Leben verbessert. Der Rest ist Rechenleistung.