Die Zukunft von AI

Was ist AI und wie sollen wir AI nutzen?

Masse mal Relevanz

Kürzlich wurde ich gefragt, was AI eigentlich ist. Für mich ist AI «Masse mal Relevanz». Die Masse entsteht durch enorme Rechenleistung. Die Relevanz entsteht durch ein Modell, das unsere Vergangenheit abbildet und damit auch unsere Menschlichkeit imitiert. Es enthält unzählige Ausprägungen von uns als Individuen und ist deshalb für den konkreten Anwendungsfall relevant. Ein Modell ist aber nur so gut wie sein Training. Um besser zu werden, muss es von uns lernen.

Warum die grossen Anbieter zurückhaltend sind

Bei der aktuellen Zurückhaltung der grossen Anbieter geht es weniger um die Angst, AI könnte die Welt übernehmen, als um sehr konkrete Risiken. AI kann über Cyberangriffe auf smarte Produkte Schaden anrichten, und smarte Produkte sind heute der Standard. Gleichzeitig macht AI genau diese Produkte sicherer, weil sie sich damit viel gründlicher testen lassen. Das erklärt, warum neue Modelle bewusst langsamer auf den Markt kommen und warum ausgewählte Anbieter quelloffener Software ihre Sicherheit mit Modellen wie Mythos von Anthropic vorab und während der Testphase kostenlos prüfen können.

Agenten brauchen unsere Regeln

Ein Modell ist ein Produkt mit sehr vielen Fähigkeiten. Die Haftungsfrage, wie wir sie von anderen Produkten kennen, ist dafür noch nicht geklärt. Es bleibt aber ein Werkzeug für den Menschen. Und der Mensch war bei Angriffen schon immer das schwächste Glied in der Kette. Nun kommen Agenten hinzu, die mitdenken. Ihnen müssen wir klare Vorgaben machen, die sie nicht umgehen dürfen. Es sind dieselben Regeln, welche auch für uns Menschen gelten.

Der Ausbruch aus der Sandbox

Wie wichtig das ist, zeigte sich im Juli 2026. Bei einem internen Test von OpenAI fanden Agenten eine Sicherheitslücke in ihrer abgeschotteten Testumgebung, brachen aus und drangen in die Plattform Hugging Face ein. Dabei umgingen sie ihre Sicherheitsvorgaben und versuchten, ihre Spuren zu verwischen. Das ist ein übliches Vorgehen bei Cyberangriffen durch Menschen. Dieses schlechte Verhalten haben die Agenten somit von uns gelernt. Für mich ist es ein Erfolg, dass dieser Vorfall aufgedeckt, untersucht und offengelegt wurde, auch wenn dabei eine echte Plattform getroffen wurde. Die ganze Branche kann daraus lernen.

Ein Spiegel unserer möglichen Zukunft

Wie eine «Super-BOM», also eine Stückliste mit allen Varianten eines Produkts, enthält AI alle relevanten Möglichkeiten und spielt sie durch. Sie ist ein Abbild von uns Menschen und ein Spiegel unserer möglichen Zukunft. Ob Agenten die Welt positiv gestalten, entscheidet sich deshalb im Training. Dort muss das sogenannte Misalignment verhindert werden, also eine Abweichung von unseren Zielen. Genau daran arbeitet die Wissenschaft.

Sichere AI von Grund auf

Yoshua Bengio, einer der meistzitierten Wissenschaftler der Welt, zeigt in seinem Blog und mit seiner Organisation LawZero unter dem Leitsatz «Safe AI for Humanity» Ansätze, wie eine von Grund auf sichere AI realisierbar wäre. Schau dir dazu sein Video «Why AI Agents Lie, Cheat and Coordinate» an, in dem er Fragen beantwortet:

Why AI Agents Lie, Cheat and Coordinate : Your Questions Answered

Wir brauchen unabhängige Wissenschaft, die Fehlverhalten erforscht und eindämmt, und gesellschaftliche Leitplanken, die Sicherheit belohnen statt den Wettlauf nach unten.

Die Zukunft beginnt bei uns

Bis Agenten verlässlich nach unseren Regeln handeln, lernen wir, AI für uns einzusetzen. Wir nutzen die Chancen, machen Produkte vielfältiger und werden produktiver. AI braucht selbst viele Ressourcen. Paradoxerweise wird gerade sie uns helfen, die Ressourcen der Welt optimal für die Menschheit einzusetzen. Gleichzeitig müssen wir uns auf Zwischenfälle einstellen und an unserer Resilienz arbeiten, denn nicht alles lässt sich regeln. Weil AI ein Abbild der Daten unserer Menschheit ist, beginnt ihre Zukunft bei uns. Was wir ihr vorleben, wird sie lernen.